商汤大装置实现国产算力正毛利:异构混合推理将Token产出提升2.5倍
2026/07/19 14:56阅读量 3
商汤大装置在WAIC 2026上宣布国产芯片相关业务毛利率转正,日均Token处理量预计7月底达2.42万亿,年底目标10万亿。其核心方案是异构混合推理,将Prefill与Decode分离,一块高端芯片带动约30块国产芯片协同工作,使单位成本Token产出提升2.5倍。商汤坚持端到端自营模式,并联合近20家生态伙伴共建国产AI基础设施生态。
事件概述
商汤大装置在WAIC 2026期间举办的AI基础设施论坛上公布,其国产芯片相关业务已实现正毛利,成为业内少数能靠国产算力盈利的服务商。预计到2026年7月末,日均Token处理量将从年初的4000亿增长至2.42万亿,年底目标冲击10万亿,约为年初的25倍。多家国内头部模型厂商已成为商汤客户。
核心技术:异构混合推理
- 方案:将模型推理的Prefill(预填充)和Decode(解码)阶段分离。Decode阶段对显存和带宽要求高,由高端芯片(如国际主流芯片)负责;Prefill阶段对算力吞吐要求高,由数量更多的国产芯片承担。一块高端芯片可带动约30块国产芯片协同工作,效果接近单独使用高端资源。
- 适配范围:前后适配超过20款不同厂商的国产芯片,其中六七款已能稳定实现商业化盈利。
- 优化效果:主流国产芯片MFU(模型算力利用率)提升85%-152%,单位成本Token产出提升2.5倍。在AI4S蛋白质预测场景中,融合算子优化使整体预测耗时减少75%;AIGC视频生成场景中,多卡并行加速比达93%。
商业模式:端到端全包与生态合作
- 自营模式:商汤大装置采用“自己建机房、自购硬件、自研调度系统、直接对接客户”的一体化路径,从2018年起持续投入跨团队协作,涵盖编译器、算子、框架、服务等多层技术适配。
- 算电协同:发布“算电协同Agent”,通过模型预测算力任务耗电特征,结合峰谷电价和储能设施调节用电节奏,推出新指标TPW(Tokens per Watt),使单位电力成本Token产出提升约80%。
- 生态共建:联合寒武纪、沐曦股份、中科海光、华为昇腾、摩尔线程等近20家厂商发起国产AI基础设施生态共建计划。依托“银河计划”规划建设1个Token运营中心、5个万卡级国产智算集群、围绕10个核心技术方向联合创新,并赋能200家AI初创组织。
- 科研合作:与上海人工智能实验室、北京中关村学院等5家机构启动科学发现平台战略合作,涵盖联合实验室、重大科研项目协同、算力底座建设等方向。
- 太空算力:签约国星宇航,探索星地协同计算。预计2026年“商汤号”算力卫星首发组网,2030年建成天地一体化AI算力星座,面向应急救灾、远洋船舶等弱网络环境。
市场背景与判断
- 窗口红利:2025年以来Agent应用爆发,算力需求同比增5-10倍,但主流高端算力供给几乎未增长。大厂优先保内部业务,第三方溢出需求无人承接,为商汤提供了特殊市场窗口。
- 可持续性:商汤认为窗口期可能随供给增加而收窄,但其沉淀的端到端整合方法论可跨场景复用(推理、电力、太空算力等)。随着具身智能、世界模型、科学计算等新场景涌现,单一芯片难以满足所有需求,“组合调度”能力将为商汤留下长期发展空间。
