前 OpenAI 研究员推出「哑巴」模型 Jev：以毫秒级结构化决策挑战大模型范式

事件概述

前 OpenAI 研究员、ChatGPT 共同发明者 Diogo Almeida 在潜行两年后，通过其新公司 TypeSafe AI 发布了名为 Jev 的全新模型。该模型获得 4000 万美元融资，其核心特征是完全不具备自然语言生成能力（即“哑巴”模型），仅输出严格遵循预定义 Schema 的结构化数据。这一产品被视为对当前以大语言模型（LLM）为主导的技术范式的一次挑战，旨在为 AI Agent 提供极速、低成本的执行层支持。

核心信息与技术特性

• 架构创新：纯粹的「系统一」模型

  • Jev 并非传统的文本自回归模型，不进行逐字 Token 生成。所有决策在一次单向并行计算中同时产出，类似于人类思维中的直觉反应（System One）。
  • 这种架构彻底消除了结构化输出中的格式幻觉，确保输出始终符合开发者定义的规范，无需复杂的提示词工程来约束 JSON 格式。

• 性能与成本优势

  • 速度：端到端延迟仅为 70 到 500 毫秒，比目前前沿大模型快 40 到 200 倍。
  • 成本：输入成本为每 100 万 token 0.042 美元，输出免费。单次结构化决策平均成本约 0.0004 美元。相比之下，调用 GPT-5.6 Terra 的费用约为其 76 倍，Claude Opus 5 则高出数百倍。
  • 实测表现：在射击游戏 Doom 测试中，Jev 能以每秒约 10 次的频率做出即时操作判断，推理成本每小时约 7 美元。

• 应用场景：填补 AI Agent 的执行摩擦

  • 当前 AI Agent 面临的主要瓶颈并非逻辑不够聪明，而是执行过程中的“摩擦”过大。频繁调用千亿参数大模型处理微小决策（如工单分类、API 选择、合规初筛）会导致延迟累积和成本失控。
  • Jev 定位为 Agent 架构中的前置反射弧，负责处理脏活累活和毫秒级决策，而将宏观规划和高难度思考留给昂贵的大模型（系统二）。TypeSafe 内部数据显示，在企业工作流中，Jev 准确率达 67.8%，几乎持平 GPT-5.6 Terra 的 67.9%。

值得关注的问题与挑战

尽管 Jev 在速度和成本上表现惊艳，但其背后仍存在显著争议和风险：

1. 可解释性缺失（黑盒问题）

   • Jev 仅输出选项和概率，无法像传统思维链模型那样阐述决策理由。在金融、医疗、法律等强监管领域，缺乏审计能力的决策机制可能直接触碰合规红线。

2. 技术细节封闭与评估偏见

   • TypeSafe 宣称采用了名为 RLCD（基于校准决策的强化学习）的新训练方法取代 RLHF，但未披露具体的奖励函数设计、网络架构及数学方法论。
   • 基准测试均由 TypeSafe 内部完成，无第三方独立复现。更关键的是，其“真值标准”参考答案由竞争对手的下一代模型（GPT-6 Astra 和 Claude Fable 5.1）的平均输出生成，这种自证闭环带有强烈的公关色彩，可信度存疑。

3. 商业模式可持续性

   • 极低的定价策略被质疑为利用 4000 万美元融资进行价格战。目前 Jev 处于小范围邀请内测阶段，在高并发真实企业流量下，能否维持超低延迟的同时实现收支平衡尚待观察。

行业意义

Jev 的出现标志着 AI 应用架构可能从“全链路 LLM 驱动”向“分层协同”演进。通过将快速、廉价的结构化决策与慢速、昂贵的逻辑推理分离，有望真正推动 AI Agent 进入大规模工业化落地阶段。然而，其在合规性、技术透明度及商业验证上的不足，仍需时间检验。