[DEV] 释放GIL锁后，优化推理过程中显存占用

[pengcheng888]

目标版本
main

功能描述
简单描述新功能的需求
释放GIL锁后，优化推理过程中显存占用，能够支持更大的压测。