别再让 AI 写长篇了：OpenAI 出了个「只做判断」的 Decisions API

2026 年 10 月 22 日，OpenAI 宣布 Decisions API 正式可用（Generally Available）。它搭载的是 GPT‑6 Luna，专长不是写长文，而是回答「有边界的问题」：这件事是不是真的？该分给哪个部门？严重程度打几分？

对普通人来说，这听起来很像「又一个聊天接口」。但对做产品、客服、风控、智能体编排的人来说，差别很大：判断要快、要便宜、答案格式要固定，而不是再生成一段散文。

本文按官方文档和公告，把 Decisions API 讲清楚：它是干什么的、三种题型怎么用、和普通对话接口差在哪，以及你怎么动手试第一道题。

为什么需要「只做判断」的接口？

智能体和应用每天都在做很多小决策：

• 用户这句话是退款、修故障，还是查物流？
• 这张产品图看起来有没有磕损？
• 这条客服工单该不该升级给人工？
• 智能体下一步该继续执行、重试，还是先问清楚？

这些事单独看都不难，但一放大到线上流量，延迟和费用就会叠起来。OpenAI 在产品公告里写得很直白：应用和智能体在工作流里会做大量小决策，单个决策简单，规模化后延迟和成本会累积。

于是他们把 Luna 的能力聚焦在「答案有边界」的问题上，通过专门的 Decisions 端点来做近实时判断。官方宣称：相对用 Responses API 调用同一款 GPT‑6 Luna，Decisions 最高可快约 10 倍。

它正式可用时多了什么？

公开测试（public beta）之后，正式版又补了几块对工程很实用的能力（据 OpenAI 开发者文档）：

• 提示缓存（prompt caching）：共用上下文可复用，缓存命中更便宜。
• 原生 JSON 输入：结构化数据不用先转成字符串。
• 问题说明里可带图片：同一张证据图，多道题各自对照。
• 单次请求最多 400 道题（测试期是 200）。
• 与 GPT‑Live 原生集成：语音会话中途也能触发判断。
• 美国、欧盟等地的推理驻留（inference residency）等数据控制选项。

定价上，官方公告写明：未缓存输入约 每百万 token 0.10 美元；缓存命中输入约 0.01 美元；只按输入计费，不收输出 token 费。适合「高频、短答案」的场景。

三种题型：概率、选择、打分

请求结构很固定，三块：

1. model：目前文档写明仅支持 gpt-6-luna
2. input：共用证据（文本、图片、JSON、甚至对话与工具调用历史）
3. questions：你要问的题（可多道）

题型只有三种：

官方给了一个很直观的客服分流例子：用户说「我被扣了两次款」，choice 题让模型在 billing / technical / shipping / other 里选部门，示例返回里 billing 概率约 0.95。

另一个例子是看图：给产品照片发一道 predicate，问「有没有裂纹、撕裂或凹陷？忽略阴影和包装损伤」，返回损坏概率；你再按阈值决定是自动通过、还是丢给人工复核。

动手：用 curl 做第一道「分流」

下面这段请求体来自官方开发者指南的投诉分流示例（可直接对照文档改写）。把 $OPENAI_API_KEY 换成你自己的密钥：

curl https://api.openai.com/v1/decisions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "input": "I was charged twice for my order.",
    "questions": [{
      "type": "choice",
      "name": "department",
      "instructions": "Which department should handle this complaint?",
      "choices": [
        {"value": "billing", "description": "Payments, invoices, and refunds."},
        {"value": "technical", "description": "Problems using the product."},
        {"value": "shipping", "description": "Delivery and tracking."},
        {"value": "other", "description": "Requests outside these categories."}
      ]
    }]
  }'

返回里重点看 answers[0].choice 和各选项概率。真正执行动作的是你的业务代码：模型只负责判断，不负责直接退款或改单。

Python 侧官方 SDK 也有对等写法，大致是 client.decisions.create(...)，然后按 answer.type 分支处理 predicate / choice / score / refusal。

和「聊天接口」到底怎么选？

可以记一条经验法则：

• 答案必须落在你定的选项/分档里 → 优先 Decisions
• 要生成一段解释、一份表单字段、或要调工具并拼参数 → 仍用 Responses（配合 Structured Outputs / function calling）

文档也明确说了：当你需要按自己的 JSON schema 抽出字段、写说明，或让模型发起带参数的工具调用时，应继续用 Responses；Decisions 负责「类型化的判断结果」。

另外几个实操建议：

1. 选项要互斥、含义清楚；最好留一个 other 兜底，方便进人工队列。
2. 用自家标注样例定阈值，不要迷信单一概率数字；假阳性和假阴性的代价通常不对称。
3. 共用长上下文就用缓存：把说明书、政策文档放在共享 input 前缀，题目每次变；前缀至少约 1024 token 才容易命中缓存。
4. 依赖前一题结果时，分两次请求；同一次请求里的多题是「并行评同一份证据」，不是链式推理。

真实团队怎么用？（官方披露）

OpenAI 公告里引用了几家早期用户（均为对方自述的评测结果，不是你本地的保证）：

• Box：结合 Box Extract，做保单类文档分类与路由；约 30 个案例上，路由选择约快 5 倍，准确率与 Responses 相当。
• Datadog：给智能体生成的远程 shell 命令打风险分再执行；称相对可用的前沿模型，p95 约快 40 倍。
• Ramp：把 AI 费用归因到具体工作；称比 GPT‑6 Luna 约快 4 倍、便宜约 30%。
• Sierra：在实时客服编排里选下一步动作；称 p95 低于 280 ms。
• Speak：语言学习场景结合 GPT‑Live，下一步动作时延从约 1.4 秒降到约 0.13 秒。

这些数字适合当「量级参考」，落地时仍要用你自己的流量重测。

普通人能从中得到什么？

即便你不写代码，也可以从 Decisions API 的设计里读出行业趋势：

1. AI 正在从「会聊天」走向「会做闸口」：先判断，再行动。
2. 贵的是胡写胡猜，便宜的是短答案：产品会越来越把「写长文」和「做判断」拆开。
3. 安全与可控：固定选项 + 概率阈值，比让模型自由发挥更容易审计。

同一周（约 10 月 23 日），多家媒体还报道 OpenAI 因安全风险，宣布前沿模型训练将更多依赖缓存/模拟互联网，而不是放任模型在真实公网训练——这和「线上判断接口要可控」其实是同一条主线：能力越强，边界越要写清楚。

小结

• Decisions API 已于 2026-10-22 正式可用，模型为 GPT‑6 Luna。
• 三种题型：predicate / choice / score，端点是 POST /v1/decisions。
• 适合高频分类、路由、打分；不适合代替「写长文」或复杂工具编排。
• 定价按输入计费、不收输出；可结合提示缓存进一步降本。

想试的话：先打开官方 Decisions Playground，用一句真实客服话术跑一道 choice，再把阈值接到你现有的分流逻辑里——往往比再套一层「请你用 JSON 回答」的提示词更稳。

参考来源

1. OpenAI 产品公告：Build more responsive apps with the Decisions API（2026-10-22）
2. OpenAI 开发者文档：Decisions
3. OpenAI API Changelog：2026-10-22 Decisions API GA with gpt-6-luna
4. TechCrunch：OpenAI 表示将不再用实时公网训练前沿模型（2026-10-23）https://techcrunch.com/2026/10/23/openai-says-it-will-no-longer-train-its-ai-models-on-the-live-internet-citing-significant-risks/