摩尔线程展示万卡集群训练成果:国产芯片可训出前沿MoE-236B模型

2026/07/22 12:29阅读量 2

2026世界人工智能大会期间,摩尔线程公布多项国产芯片训练成果:236B参数的MoE模型在万卡级集群上完成全流程训练,有效时长超90%,与国际GPU对比训练误差控制在万分之六内;与北大合作的5D世界模型EvoPhys-World在全球排行榜连续37天第一;智源研究院具身大脑模型也基于其千卡集群完成训练。

事件概述

在2026世界人工智能大会(WAIC)上,摩尔线程披露了基于国产芯片的大规模训练成绩,涵盖万卡级集群、千卡集群及异构推理方案,展示国产算力在训练前沿模型方面的能力。

核心信息

  • MoE-236B模型训练:该模型基于25T+语料,在摩尔线程国产万卡级集群上完成从预训练到长窗口训练的完整流程,有效训练时长占比超过90%。
  • 高精度对齐:摩尔线程强调模型在不同GPU平台间迁移时结果对齐能力。在DeepSeek类MoE模型上与国际主流GPU对比训练,前3万步平均相对误差控制在万分之六以内;在500B至5T不同规模数据实验中,下游Benchmark评测得分与参考平台基本一致,部分指标更高。
  • 5D世界模型EvoPhys-World:与北京大学EvoPhys团队合作,基于MTT S5000全栈原生训练,在WorldScore“世界生成”维度连续37天排名第一。这是首次由中国科学家在中国算力设备上完成的原创世界模型。
  • 具身智能模型:北京智源研究院的RoboBrain 2.5具身大脑模型,基于FlagOS-Robo框架,依托MTT S5000千卡智算集群完成全流程训练,首次验证国产算力集群在具身智能大模型训练中的高可用性与效率。
  • PD分离异构推理方案:将Prefill计算放在S5000上,Decode计算放在国际主流GPU上,异构分池部署。整体吞吐量较原有方案提升近2倍,即“3台S5000+2台国际主流GPU≈9台国际主流GPU”。其中KV Cache调度优化下缓存命中率可达90%,相当于节省90%算力。
  • 产业生态加速:国产大模型发布后硬件适配周期从数月缩短至“发布即适配”,部分大模型厂商在模型规划阶段就与摩尔线程同步“共研”。

值得关注

摩尔线程创始人张建中将AI产业拆分为模型训练工厂、词元生产工厂、智能体生产工厂三类,三者共用同一套全功能GPU架构。在具身智能领域,当前世界模型路线参数跨度大,需要端侧10亿级参数模型配合云端千亿级模型协同。摩尔线程正基于自有万卡级集群持续进行万亿参数模型训练验证,但未公布具体进展。谈及算力供应,摩尔线程高级副总裁董龙飞表示中国GPU或算力企业远未发展至“供过于求”。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。