OpenAI 决策 API 全面开放:只按输入收费,输出不收钱,每百万 token 0.10 美元
这条不是”又多了个接口”,是计费方式变了:判断类调用第一次做到只按输入长度收钱。
价格(官方原文口径)
| 项目 | Decisions API | Responses API 调 Luna |
|---|---|---|
| 输入 | 0.10 美元 / 百万 token | 0.10 美元 / 百万 token |
| 缓存输入 | 0.01 美元 / 百万 token | 走标准缓存价 |
| 输出 | 0 美元 | 0.50 美元 / 百万 token |
| 速度 | 官方称最高快 10 倍 | 基线 |
官方原话是 You only pay for input tokens: there are no output-token charges. 缓存写入(30 分钟与 12 小时两档)另按定价页计费,区域处理和长上下文可能加价。
它到底干什么
请求分三段:model(只能填 gpt-6-luna)、input(共享的事实,可以是文本、图片或原生 JSON)、questions(要判定什么)。三类问题:
- predicate —— 这个条件成立的概率是多少,返回 0 到 1
- choice —— 从你给的选项里挑一个,返回选中值,附带各选项概率与置信度
- score —— 按你定义的有序等级打分,返回等级索引的概率加权平均
公测之后加的东西:原生 GPT-Live 集成(语音会话里随转写增量触发判断)、复用上下文的 prompt 缓存、美国和欧盟推理驻留、原生 JSON 输入、问题指令里可以带图,单次请求问题数从 200 提到 400。
客户自己报的数字(都在官方页面上,不是我编的)
Box 说路由选择快约 5 倍、准确率不变;Datadog 说 p95 快 40 倍(他们用它给 agent 生成的 shell 命令打风险分);Ramp 说比 Luna 快 4 倍、成本低 30%;Sierra 说 p95 低于 280 毫秒、每通调用成本低 90%;Speak 说到下一步动作的时间从 1.4 秒降到 0.13 秒。
对我有什么用
一人公司手里最贵的那类调用,往往不是”帮我写一段”,而是同一个判断跑几万次:工单该转给谁、这条评论要不要人工过一遍、这份材料属于哪一类、agent 下一步该继续还是重试。这类活以前塞在通用接口里,你为它生成的每一个 token 付钱,而你要的根本不是那段文字。
换成 Decisions API 之后,账单上输出那一整列直接归零。以 Luna 的 0.50 美元输出价算,一个每次吐 100 token 的判断,光输出就是每百万次调用 50 美元——现在这部分没有了。
400 个问题塞进一次请求是另一个省钱点:同一份证据(比如一张图、一段长文本)要对 400 个维度下判断,输入只算一次。共享前缀再叠上 0.01 美元的缓存价,成本结构跟按次调用完全不是一回事。
泼冷水
- 概率不是校准过的置信度。 它返回的是 Luna 的 token 分布,不是统计意义上校准过的概率。要做”选最可能的那一项”没问题,要拿 0.85 当准确率写进报表就不对了——想要可信的置信度,得自己攒标注集、自己对账。
- 只能跑 gpt-6-luna。 换不了模型,也就意味着它的能力上限被这个最小号模型锁死了。需要多步推理、或者问题之间有依赖关系的场景,官方自己的说法是走 Responses API。
- 缓存写入另收费。 30 分钟和 12 小时两档 cached write 不在 0.10 美元里,短任务别为了省 0.09 美元去开长时缓存。
- 区域处理有溢价。 欧盟驻留不是白送的,价格以官方定价页为准。
- “快 10 倍”是官方口径。 客户给的数字从 3 倍到 40 倍不等,跨度大得像是测量方式不同。真要上,先拿你自己的数据跑一遍 p95 再说。
具体建议
- 把现有 agent 里所有”返回 yes/no 或枚举值”的调用列出来,这些就是搬迁名单。分类、路由、打分、是否重试,全在里面。
- 先把共享的固定前缀(系统说明、类目定义、评分量表)挪到请求最前面并保持字节不变,去吃 0.01 美元的缓存价。
- 能在一次请求里问完的问题别拆成多次。上限 400,比多数人以为的高得多。
- 输出别再让它写解释。需要解释的那一小部分走 Responses API,其余的走 Decisions。
- 先在 Playground(
platform.openai.com/decisions)拿你自己的样本试,别照搬官方示例的判断阈值。
原文与定价细节:https://openai.com/index/decisions-api/ (开发者指南 https://developers.openai.com/api/docs/guides/decisions)