智能体AI引发CPU需求激增：从工具调用到分词瓶颈，市场面临缺货涨价

事件概述

在AI热潮中，图形处理器（GPU）长期占据算力核心地位，而中央处理器（CPU）因并行化程度不足被视为“局外人”。然而，随着**智能体AI（Agentic AI）**系统的崛起，这一格局正在改变。智能体系统允许模型自主生成子智能体并调用API，这些操作高度依赖CPU处理串行任务，导致CPU资源紧张。亚马逊网络服务（AWS）已出现CPU服务器排队等待时间激增的情况，英特尔服务器CPU库存告急，整个行业正迎来CPU需求的新一轮爆发。

核心信息

1. 智能体AI架构重塑算力需求

• 工具调用依赖CPU：大语言模型（LLM）的推理过程主要在GPU上执行，但工具调用（如访问互联网、读写文件、调用软件）、结果解析、代码执行及API交互等逻辑控制任务均由CPU负责。
• 指数级增长的工作负载：一个智能体可生成数百个子智能体，每个子智能体又可能发起新的工具调用。这种递归式的任务生成使得CPU负载呈指数级增长。
• 安全护栏机制：为确保智能体行为合规，系统需运行小型模型或规则引擎进行语法检查、日志分析及意图识别。由于这些任务规模小且对延迟敏感，通常由CPU承担而非GPU。

2. 技术瓶颈：分词与长序列处理

• 分词任务的串行特性：**分词（Tokenization）**是将文本转换为整数型词元ID的关键步骤，属于分支繁多、依赖数据的串行字符串操作，难以像矩阵运算那样大规模并行化。
• 重分词带来的压力：智能体每次工具调用返回结果后，都需要将新内容与原有上下文合并并重新分词。例如，在一个10万词元的上下文中新增1000个词元，分词器必须对全部序列重新处理。
• 首词元时延（TTFT）优化：佐治亚理工学院的研究表明，在长序列测试场景下，增加CPU核心数量可将首词元时延降低至原来的1/7。随着智能体AI推动上下文长度增至50万甚至100万词元，CPU瓶颈问题愈发严峻。

3. 市场现状：供应短缺与厂商动向

• 英特尔（Intel）：其服务器CPU目前已无对外可售余量，至少到2026年底前不再向新客户供货。为优先保障高利润的服务器业务，英特尔甚至削减了客户端CPU产能。
• 超威半导体（AMD）：受需求驱动，已将服务器CPU的预测出货量翻倍。
• 其他厂商布局：
  • ARM与高通发布了专为加速智能体AI设计的新型CPU。
  • 英伟达（NVIDIA）重点发展基于ARM架构的CPU项目Vera，作为其Vera Rubin平台的一部分，旨在应对智能体AI的计算需求。

值得关注

• 供需失衡风险：正如此前GPU和内存市场经历的那样，CPU市场可能出现大范围缺货与价格上涨。分析师指出，CPU已成为智能体AI系统的核心组成部分，需求激增是明确的信号。
• 调度优化潜力：虽然硬件瓶颈明显，但通过改进CPU与GPU之间的任务调度优化（如英特尔提出的方案），可在持续负载下将端到端延迟降低最多44%（降至原来的5/9）。这表明软件层面的协同优化也是缓解瓶颈的重要途径。
• 未来趋势：随着智能体系统复杂度的提升和上下文长度的无限延伸，CPU在AI基础设施中的战略地位将进一步巩固，从“辅助角色”转变为“关键瓶颈节点”，进而影响整个AI产业链的投资重心与供应链策略。