NVIDIA 携手电信巨头构建分布式 AI 网格，重塑推理基础设施

事件概述

随着原生 AI 应用向更多用户、代理和设备扩展，电信网络正成为分发 AI 的新前沿。在 GTC 2026 上，美国和亚洲的主要运营商展示了这一转变：他们正在利用现有的网络足迹构建AI 网格（AI Grids）——即地理分布且互联的 AI 基础设施，旨在将 AI 推理推向更靠近用户、设备和数据的位置，从而优化响应速度和每 Token 成本。

核心事实与数据

• 基础设施规模：全球电信运营商拥有约 10 万个分布式网络数据中心（涵盖区域枢纽、移动交换局和中心局），具备超过 100 吉瓦的潜在新增 AI 算力储备。
• 技术路径：
  • 现有站点升级：部分运营商直接点亮现有的有线边缘站点作为可商业化的 AI 网格。
  • AI-RAN 集成：另一部分运营商利用 AI-RAN 技术，将 AI 完全集成到无线接入网中，在同一网格上运行工作负载和边缘推理。
• 关键性能指标：
  • Personal AI：通过在小语言模型靠近用户端运行，实现端到端延迟低于 500 毫秒，Token 成本降低 50% 以上。
  • Linker Vision：在分布式边缘处理数千路摄像头流，交通事故检测速度提升 10 倍，灾难响应速度提升 15 倍，不安全人群行为警报时间缩短至分钟级。
  • Decart：在网络边缘运行 Lucy 模型，实现低于 12 毫秒的网络延迟，支持交互式视频流。

主要运营商布局

• AT&T：与 Cisco 和 NVIDIA 合作构建 IoT AI 网格。通过在专用 IoT 核心运行 AI，支持公共安全等关键任务应用，确保敏感信息在边缘受控，并结合零信任安全架构。
• Comcast：将其低延迟宽带覆盖转化为 AI 网格，与 NVIDIA、Decart、Personal AI 及 HPE 合作。验证了在需求高峰期间，其网格仍能保持对话代理、互动媒体和 GeForce NOW 云游戏的经济性和响应速度，吞吐量显著提升。
• Spectrum：拥有超过 1,000 个边缘数据中心和数百兆瓦容量，距离 5 亿设备不到 10 毫秒。初期部署专注于利用光纤网络和嵌入式 GPU 进行高分辨率图形渲染。
• Akamai：在全球 4,400 多个边缘位置扩展 Akamai Inference Cloud，部署数千张 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU。其编排平台能根据请求匹配最佳计算层级，优化游戏、金融和零售等领域的 Token 经济。
• Indosat Ooredoo Hutchison：在印度尼西亚连接主权 AI 工厂与分布式边缘及 AI-RAN 站点，构建本地化 AI 网格。运行基于印尼语的 Sahabat-AI 平台，为当地开发者和初创企业提供合规、快速且文化相关的 AI 服务。
• T-Mobile：与 NVIDIA 合作探索边缘 AI 应用，使用 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 演示分布式网络位置如何支持新兴的 AI-RAN 和边缘推理用例。

生态与应用案例

• 参考设计：NVIDIA 发布了AI 网格参考设计，定义了包括加速计算、网络及软件平台在内的构建模块，用于跨分布式站点部署和编排 AI。
• 合作伙伴：Cisco、HPE 等全栈合作伙伴基于 NVIDIA RTX PRO 6000 Blackwell Server Edition 提供解决方案；Armada、Rafay 和 Spectro Cloud 等公司正在构建 AI 网格控制平面，以无缝编排跨分布式 AI 基础设施的工作负载。
• 应用场景：
  • 智慧城市：Linker Vision、Levatas、Vaidio、Archetype AI 和 Serve Robotics 等开发者正在网格上试点智能城市、工业和零售应用，连接摄像头、配送机器人和城市级代理。
  • 实时交互：Personal AI 利用 NVIDIA Riva 驱动人类级对话代理；Decart 重新定义超个性化分布式媒体，实现即时适应观众的视频流。

行业影响

物理 AI（Physical AI）正在加速从集中式智能向网络边缘分布式决策的转变。电信运营商和分布式云提供商正通过此架构重新定义其在 AI 价值链中的角色，将网络边缘转变为统一智能层，能够运行、扩展并商业化 AI 工作负载。