AI互联从百美元迈向数千美元：铜光边界重构与Token成本博弈

事件概述

在2026年CIOE中国光博会期间，AI基础设施中的高速互联环节热度显著升温。以Astera Labs为代表的互联解决方案提供商指出，随着GPU数量从几颗扩展至成百上千颗，传统的互联架构已无法支撑系统需求。互联技术不再仅仅是数据传输通道，而是直接影响整套AI基础设施的性能和单位Token成本的关键因素。

核心信息

1. 互联挑战的三大变量：速率、规模与功耗

• 速率翻倍：PCIe单通道速率从早期的8 GT/s提升至如今的64 GT/s，数据传输速度每年翻倍。
• 规模扩张：AI系统从早期4-8颗GPU扩展至数十乃至上百颗，对通信延迟、内存一致性和处理器同步提出更高要求。
• 功耗约束：系统规模扩大导致互联本身功耗增加，成为新的限制因素。

2. 铜光边界重构：从距离导向到速率与密度导向

• 打破惯性思维：过去“短距用铜、长距用光”的逻辑正在改变。决定机架内部连接方式的核心变量变为传输速率和GPU规模。
• 技术分界点：
  • 200G/lane：铜互联仍具优势。
  • 400G/lane及以上：光互联开始进入机架内部，以应对高密度连接和散热压力。
• 长期路径预测：NPO（近封装光学）预计于2027年前后进入scale-up部署；CPO（共封装光学）的大规模部署可能在2029-2030年后。

3. 价值量上移：从Retimer到Scale-up交换

• 单机价值提升：Astera Labs每颗加速器对应的产品价值量经历显著增长：
  • 早期Aries PCIe Retimer阶段：<100美元。
  • 加入交换芯片和内存后：数百美元。
  • Scale-up交换阶段：数千美元。
• 收入结构变化：Scorpio系列（scale-up交换产品线）提前至2026年第三季度成为最大收入来源，而非原计划的第四季度。

4. 成本逻辑：Token成本成为最终衡量指标

• Scale-up vs Scale-out：扩大scale-up域可以减少数据频繁经过scale-out网络（需经过网卡、以太网或InfiniBand交换机），从而降低额外延迟和系统复杂度。
• 优化目标：借助光互联扩大scale-up规模，有助于进一步优化整套系统的单位Token成本。下一代AI系统中，铜和光并非简单替代，而是根据场景互补。

5. 市场分化：北美标准化与亚洲定制化

• 北美市场：由亚马逊、微软、Google、Meta及OpenAI等主导，客户更强调标准化、供应链复用及代际兼容性。
• 中国市场：参与者更多元（包括字节跳动、阿里及大量创业公司），推进速度快，应用场景广泛，对供应商响应速度和快速落地能力要求更高，倾向于尝试不同技术方案。
• 接口标准化趋势：尽管系统内部架构日益定制，但外部连接接口仍将保持开放标准，以适配多样化的处理器和工作负载。

6. 资本开支与推理市场

• 资本开支趋稳：超大规模云厂商的AI数据中心建设投入未来几年将趋于稳定，互联厂商的增长逻辑从依赖新建数据中心转向提高单颗加速器的价值量。
• 推理市场机遇：推理工作负载更看重内存和低延迟，且市场参与者分散、系统形态多样，为互联技术提供了新的增长空间。