AI算力瓶颈转移：互连技术成决定集群效率的关键变量

事件概述

当前AI算力发展的主要矛盾已从单颗芯片的峰值性能转向集群间的互连效率。尽管芯片产能有所缓解，但数据中心中集群跑不满的现象普遍存在。中国信通院数据显示，大规模分布式训练中网络通信耗时占比达30%-50%，华为副总裁王雷指出国内Token实际流通效率仅60%，剩余40%因丢包、时延抖动和数据损耗被消耗。众星微副总经理宁佐林表示，集群真正释放的算力大部分不超过50%，意味着超过一半的算力投资处于低效运转。

核心信息

1. 互连层级的重要性凸显

• 市场规模增长：AI数据中心网络市场规模预计从2025年的103.1亿美元增长至2026年的128亿美元，复合年增长率24.2%。Marvell将互连列为未来数据中心投资中增速最快的方向。
• 价值占比提升：以英伟达GB300和VR200为例，互连芯片在整体价值中占比约8%-9%，且其价值上升斜率高于整机。估算国内互连芯片年市场规模约1000亿元量级。
• 技术分层明确：
  • Die-to-Die：采用UCIe协议。
  • 服务器内部：PCIe、CXL、NVLink、UALink。
  • Scale-out层面（机架/集群）：IB、RoCE、UEC等协议竞争。

2. 800G时代的挑战与突破

• 必要性：网络通信成本虽仅占部署成本的8%-10%，却决定90%的GPU训练效率。MoE架构和长上下文推高了All-to-All通信和KV-Cache搬运需求。800G端口可将链路数量减半，同时压缩时延、成本和功耗。
• 三大技术关卡：
  • SerDes：依赖112Gbps PAM4调制，需严格控制PCB通道损耗和串扰。
  • 功耗：传统可插拔光模块功耗约30W，占设备总功耗40%以上；共封装光学（CPO）方案可将全通道功耗降至9W，整机功耗降至三分之一。
  • 平台匹配：需搭配PCIe Gen6平台以避免主机侧带宽瓶颈。

3. 互连智能化与集成化趋势

• 协议硬件化：将拥塞控制、多路径选择、选择性重传等软件逻辑固化到芯片中，实现实时预判而非事后调度，适应微秒级同步需求。
• 形态集成化：如众星微将PCIe Switch集成进网卡，减少一颗独立芯片，缩短链路，降低插损和时延，改善信号质量。
• 定制化与本地化服务：国产互连芯片正从“可用”走向“好用”，通过深入客户特定场景（如存储机柜定制HBA卡+Expander芯片），提供国际厂商难以做到的快速响应和定制开发，实现性能与稳定性的平替。

值得关注

• 面效比与功耗：用户选型标准从单一带宽转向“面效比”（单个网络平面承载算力卡数）和功耗。下一代交换芯片功耗目标约为2000瓦，散热成为系统级关键问题。
• 未来演进路径：DPU产品逐步卸载CPU的网络、存储和安全处理；SerDes向224G、448G演进；光电融合成为大带宽时代标配。
• 生态竞争：英伟达依靠NVLink/NVSwitch/IB构建封闭生态；国内厂商需依托PCIe/CXL/UCIe/UALink等开放标准，通过互连优势弥补GPU代差，支撑更多节点协同。