阿里云真武超节点适配Qwen3.8,2.4万亿参数大模型上线百炼平台

2026/07/23 14:58阅读量 2

阿里真武M890超节点成功适配2.4万亿参数的Qwen3.8旗舰模型,成为国内首个运行超2万亿参数大模型的超节点。该实例通过64张真武M890芯片实现800GB/s互联,显存达9TB,并在百炼平台提供推理服务,Agentic场景下推理性能最高提升1.5倍。

7月23日,阿里真武M890超节点已成功适配旗舰模型Qwen3.8(参数规模2.4万亿),并上线阿里云百炼平台提供推理服务,成为国内首个成功运行超2万亿参数大模型的超节点。

普通AI集群因通信带宽局限,难以满足高吞吐、低延迟需求。真武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4多种数据精度。通过ICN Switch 1.0互联芯片,64张真武M890实现800GB/s高速互联,显存规模达9TB,单实例即可支撑2万亿参数MoE模型的专家并行。

阿里从芯片到云平台层面与Qwen模型进行了全链路优化。实测显示,通过算子优化和软硬件协同,该超节点实例在Agentic推理场景中最多可实现1.5倍的推理性能提升。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。