OpenAI 发布 Decisions API：基于 GPT-6 Luna 实现低延迟、低成本的结构化决策
2026/10/23 03:00阅读量 2
OpenAI 正式推出 Decisions API，该接口基于 GPT-6 Luna 模型构建，旨在为应用程序和智能体提供快速、聚焦且低成本的决策能力。相比通过 Responses API 调用 GPT-6 Luna，Decisions API 在处理文本、图像及结构化输入时速度提升高达 10 倍，且仅对输入 Token 收费，显著降低了大规模工作流中的延迟与成本。目前该 API 已支持原生 GPT-Live 集成，适用于实时语音交互、文档分类、风险评分等多种场景。
事件概述
OpenAI 宣布 Decisions API 正式全面可用（General Availability）。该 API 专为解决应用和工作流中频繁发生的简单但累积效应显著的决策问题而设计，如输入分类、请求路由或下一步动作选择。通过专门优化 GPT-6 Luna 模型以处理具有边界答案的问题，Decisions API 能够在毫秒级时间内返回结构化结果，从而提升应用的响应速度和交互体验。
核心性能与技术特性
- 速度与效率：相比通过标准 Responses API 使用 GPT-6 Luna，Decisions API 的处理速度最高提升 10 倍。在早期测试中，部分客户实现了 p95 延迟降低至 280ms 以下，或将决策时间从 1.4s 缩短至 0.13s。
- 成本优势：API 仅对输入 Token 收费，无输出 Token 费用。基础价格为每百万输入 Token $0.10，缓存后的输入 Token 价格降至每百万 $0.01。这使得在高频决策场景中大幅降低成本成为可能。
- 模型基础：底层依托 GPT-6 Luna 模型，专注于快速推理而非长篇生成。
- 功能增强：
- 支持原生 GPT-Live 集成，用于构建实时语音体验。
- 引入提示词缓存（Prompt Caching）机制，针对重复使用的上下文进行优化。
- 支持美国（US）和欧盟（EU）地区的推理驻留，满足数据合规需求。
- 单次请求最多可包含 400 个问题（此前限制为 200 个）。
- 支持原生 JSON 输入及在指令中包含图像。
支持的决策类型
Decisions API 提供三种标准化的回答类型，以适应不同的业务逻辑：
| 类型 | 用途 | 主要返回值 |
|---|---|---|
| predicate (谓词) | 估算条件为真的概率（例如：产品是否有可见损坏）。 | probability：0 到 1 之间的数值，表示条件为真的估计概率。 |
| choice (选择) | 从预定义的选项中选择一个（例如：代理应继续、重试还是要求澄清）。 | choice：用户提供的值之一，同时附带概率和置信度信息。 |
| score (评分) | 根据有序量表对输入进行评级（例如：损坏的严重程度）。 | score：级别索引的概率加权平均值。 |
典型应用场景与客户案例
多家企业已在实际业务中部署 Decisions API，主要涵盖以下领域：
-
内部工作流优化：
- Box：利用该 API 分类商业文档并路由至下一步骤。在 30 份保险证书案例评估中，路由选择速度提升约 5 倍，准确率与 Responses API 相当，并将低置信度案例转交人工审核。
- Datadog：在执行自主修复操作前，对代理生成的 rshell 命令进行风险评分。相比其他前沿模型，p95 延迟快 40 倍，使决策能够嵌入修复行动的热路径中。
- Ramp：将 AI 成本归因于具体工作的速度提升 4 倍，成本降低 30%，且未牺牲准确性。
- Sierra：在实时客户对话编排中选择下一步动作，p95 延迟低于 280ms，每次调用速度快 3 倍，成本低 90%。
- Speak：在语言学习应用中，将下一次动作的等待时间减少超过 90%（从 1.4s 降至 0.13s），显著提升互动性。
-
实时语音交互 (GPT-Live 集成)：
- 通过与 GPT-Live 的原生集成，应用可以在实时对话中快速做出决策。例如，客服代理可根据用户话语决定是追问、路由还是升级问题；虚拟形象可根据用户情绪调整面部表情（如中性、开心、悲伤、关切等），创造更自然的互动体验。
定价与可用性
- 价格：$0.10 / 百万输入 Token；缓存后输入 $0.01 / 百万 Token。
- 区域：支持 US 和 EU 地区处理。
- 数据保留：符合条件的客户可使用“零数据保留”（Zero Data Retention）选项。
- 开发资源：开发者可通过 Decisions Playground 进行测试，或参考官方开发者指南开始构建第一个决策流程。