近日，软通动力与一头部大模型厂商在北京签署智算服务协议。根据协议，软通动力将为该模型厂商提供基于北京壹号词元工厂的Token推理服务，涵盖大模型推理加速、高性能算力集群适配及行业AI应用落地等场景，共同推动智能体时代从模型到Token服务的产业闭环。模型厂商将其大模型推理服务部署于北京壹号词元工厂，依托软通动力全栈观测体系和智能调度能力，获得标准化、可SLA保障的Token推理服务。软通动力提供弹性可扩展的Token产能，支撑其面向企业及开发者的规模化推理需求。双方协同优化高性能算力集群上的推理性能。
真灼平台 >
公司 >
正文
微信扫码 > 右上角点击 > 分享