大模型

大模型推理展示

支持 7-70B 参数大模型轻量化推理部署,低延迟、高吞吐,为企业提供私有化大模型能力,含零样本快速创建