前OpenAI研究员推出专用判断模型Jev：以极低成本和毫秒级延迟解决Agent中间环节浪费
2026/09/21 21:04阅读量 3
前OpenAI研究员迪奥戈·阿尔梅达推出新模型Jev，主动放弃文本生成能力，专注于分类、打分和路由等“判断”任务。该模型在特定场景下速度比GPT-4o快约200倍，成本降至1/400，有效解决了AI Agent系统中大量中间步骤调用通用大模型导致的延迟高和成本浪费问题。随着Agent从概念走向实际部署，Jev的精准定位填补了市场空白，揭示了需求匹配优于能力全能的产品逻辑。
事件概述
前OpenAI研究员、InstructGPT论文共同作者迪奥戈·阿尔梅达（Diogo Almeida）推出了新模型Jev。该模型由DCVC领投4000万美元种子轮融资，估值约2亿美元。Jev的核心创新在于主动剥离大模型的文本生成能力，专门用于执行“判断”任务（如选择类别、打分、是/否判定），旨在解决AI Agent系统在非语言输出场景下的资源错配问题。
核心性能与数据
- 速度与延迟：在同类分类判断任务中，Jev的延迟可压缩至几十毫秒，相比GPT-4o所需的几秒，速度提升近200倍。
- 成本控制：由于无需生成文本，每次调用的算力消耗极小，官方数据显示其成本仅为传统通用模型的1/400。
- 实测案例：
- 浏览器Agent：在机票搜索场景中，通过Jev处理中间判断步骤，整个流程从几分钟缩短至7秒。
- 上下文压缩：在处理128万token的长文本时，Jev筛选后仅保留8.6万token，压缩率达93%且未丢失关键信息。
- 批量处理：777次分类判断的总成本约为0.25美分（约合人民币不到两分钱）。
市场背景与行业启示
- 时机契合：过去一年，AI Agent从概念验证转向大规模生产部署。例如，Anthropic内部数据显示，其研发流程中被Agent主导的任务占比在半年内从1%飙升至26%。大量中间判断环节若仍使用全功能大模型，会导致极高的账单和延迟。
- 产品逻辑反思：Jev的成功揭示了当前AI应用中的一个普遍错配——用具备复杂语言能力的模型去执行简单的逻辑判断。这提示开发者，在Agent架构设计中，应将需求精准匹配置于追求模型全能之上，针对不需要语言输出的中间步骤采用专用轻量模型，以实现效率与成本的最优化。