OpenAI首款自研芯片Jalapeño跑分揭晓：能效与延迟双超英伟达，开启“为模型造芯片”新范式

事件概述

2026年8月25日，在Hot Chips大会上，OpenAI硬件负责人Richard Ho公布了其首款自研推理芯片Jalapeño的首份公开跑分。该芯片由OpenAI负责架构设计，博通（Broadcom）参与实现及网络连接，Celestica负责板卡与机架集成。测试结果显示，在SemiAnalysis的InferenceX基准测试中，Jalapeño在关键指标上超越了当前最先进的英伟达（NVIDIA）Blackwell系统。

核心性能数据

OpenAI使用SemiAnalysis的公开基准工具，在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款大模型上与英伟达系统进行对测。主要结论如下：

• 能效优势显著：在三款模型上，Jalapeño的峰值每瓦吞吐量是英伟达系统的1.5至1.9倍。这意味着在同等功耗下，Jalapeño能处理近一倍的AI任务。
• 低延迟表现突出：在运行DeepSeek R1时，Jalapeño的单用户生成速度最高约为700 token/s，而英伟达GB300仅为约169 token/s，速度差距达4.9倍，用户等待时间缩短近四分之三。
• 高并发能力：在固定交互速度（100 token/s/用户）下，运行万亿参数模型Kimi K2.5时，Jalapeño的吞吐量是英伟达GB300的9倍以上，即同等服务质量下可接待9倍的用户需求。

技术架构与设计哲学

Jalapeño的设计核心在于解决大模型推理中的“数据搬运”瓶颈，其技术特点包括：

1. 内存与计算切片化：将计算核心与HBM4内存切成对应的“切片”，每个核心拥有低延迟直达通道，减少数据远程调用开销。单封装内存带宽约15.4TB/s。
2. 统一加速器架构：Prefill（处理输入）和Decode（生成Token）由同一颗加速器完成，而非像英伟达Rubin那样拆分专用芯片。这种设计旨在适应不断变化的流量构成（如聊天、Agent等），避免资源闲置。
3. 极速研发周期：从初始设计到流片仅耗时9个月，远快于行业常规的18-24个月。这得益于AI辅助设计工具（如Codex和GPT-Astra）在Kernel编写和模型移植中的应用，部分模块效率提升1.5至1.8倍。

行业影响与未来展望

• 范式转变：Jalapeño的出现标志着AI算力领域从“为芯片选模型”转向“为模型造芯片”。头部模型厂商开始通过自研芯片直接优化自家模型的性能与成本结构。
• 潜在商业模式：尽管OpenAI尚未公开表态，但其支持竞争对手私有架构（如DeepSeek的MLA机制）底层代码的行为，暗示了其可能通过降低每Token成本，未来以类似云服务的方式向外出售推理算力的野心。
• 竞争格局变化：与此同时，英伟达发布Vera Rubin系统，苹果推出M6芯片，分别代表了通用系统、端侧制程和垂直专用三条不同的AI算力发展路径。OpenAI的入局使得AI算力市场从单一主导走向多方博弈。

局限性与注意事项

需注意的是，此次跑分主要由OpenAI提供数据，SemiAnalysis仅进行现场见证。测试场景主要集中在约8k输入、1k输出的单轮推理，对于长上下文或多轮交互的Agent任务，目前尚无公开数据支撑。此外，Jalapeño计划于2026年底进行极小规模部署，大规模商用预计要到2027年。