大模型推理展示

支持 7-70B 参数大模型轻量化推理部署，低延迟、高吞吐，为企业提供私有化大模型能力，含零样本快速创建