浪潮信息发布Agent基础设施新品：单柜4万Agent+多模型协同

事件概述

浪潮信息在2026开放计算大会上发布两款AI基础设施新品，分别面向海量Agent规模化运行与多模型协同推理。据IDC数据，2025年中国AI Agent企业级市场规模约190亿元，预计2025-2028年复合增长率超过110%。Gartner预测2026年将有40%的企业应用集成任务型AI Agent。

产品一：CPU原生液冷整机柜服务器

• 规格：单柜最大支持384颗CPU（基于开放OCM架构，兼容x86和ARM），可支撑4万+Agent协同运行，规模是此前“企千虾”方案的40倍。
• 散热：采用原生液冷方案，覆盖CPU、内存、网卡、光模块、SSD等所有发热部件。无线缆设计，支持热维护，整机柜运维效率提升100%以上。
• 设计：2U超薄节点内嵌16颗CPU，内存、网卡等直接平铺于主板，由整块冷板统一散热。

产品二：多模融合API与元脑SD200超节点企业版

• 多模融合API：在元脑企智EPAI平台上线。同一任务由多个候选模型独立生成答案，再由评审融合模型整合输出。简单任务直接路由给单模型，复杂长链路任务触发多模型协同。在DRACO测试中得分为53.9%，高于候选池内任一单模型。
• 元脑SD200超节点企业版：Scale Up计算域从64卡减至16卡，万亿参数模型首Token延迟降低40%以上，为中小企业提供更低成本的万亿模型生产环境。
• 性能提升：元脑SD200超节点（原版）token生成时间已压缩至4.77毫秒（国内首个跑进5毫秒的方案），首Token延迟降低35%。优化技术包括多Token预测（解码阶段一次生成多个候选Token）、W4A8精度方案（MoE模块从BF16降至INT8）、JIT即时编译（动态生成GPU内核）。目前已适配Kimi K2.6、DeepSeek V4、GLM 5.2、MiniMax M3等主流开源模型。

竞争趋势

Agent时代基础设施竞争重点从单模型支持能力转向系统级协同能力。CPU、GPU与软件平台三者需紧密协同：CPU承载Agent实例与工具调用，GPU负责模型推理与Token生成，软件平台负责任务编排与资源调度。