Jev 不写一句话,只做判断题:一个给程序用的 AI 决策模型火了
一个人维护产品时,大量代码其实在做同一件事:读一段输入,判断它属于哪一类、该交给谁、要不要放行。过去这种判断点大多塞给大模型——它先吐几百字,你再用正则和 try-except 把那个”是”或”否”抠出来。一道判断题,走了一趟造句流程。
9 月 15 日,旧金山创业公司 TypeSafe AI 发布了一个叫 Jev 的模型,干的就是把这趟流程砍掉。它不聊天、不写代码、不写文章,连自由文本接口都没有。你给它一段状态(文本、JSON 都行)和一组事先定好的问题,它一次性并行返回带置信度的结构化答案。创始人 Diogo Almeida 是前 OpenAI 研究员、InstructGPT/RLHF 论文作者之一;TypeSafe 2024 年成立,2026 年 9 月走出 stealth,据报道拿了 4000 万美元种子轮(DCVC 领投)。
上线不到一周,X 上相关帖子堆到几百条,Vercel 在 9 月 18 日披露:Jev 接入 AI Gateway 后 24 小时内,约 13% 的付费团队已经在使用,是 Gateway 历史上采用最快的新模型之一。
它到底是什么
TypeSafe 把它叫「System One Model」,借的是卡尼曼《思考,快与慢》里 System 1 的概念:快、直觉、直接的判断,对应传统大模型那种逐 token 慢思考的 System 2。一句话定位:
非结构化状态进,有类型的概率决策出。
Jev 只回答三种题:
- Choice(选择):从你预设的选项里挑一个,最多 255 个。返回概率分布 + 置信度。
- Score(打分):在有序标尺上给分(如 1-5 愤怒值)。
- Noul(是非):返回”为真”的概率,0 到 1。
所有问题在一次前向计算里并行完成,没有自回归生成。带来的直接好处是不会类型错误、不会输出选项之外的东西——你规定类型只能是 A/B/C,它不会突然返回 D,也不会吐出一段坏掉的 JSON。TypeSafe 管这个叫”零幻觉”,但要打个折:它只保证不越界,在合法选项里选错照样会发生。
训练方法叫 RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习),目标是让置信度像靠谱的天气预报——说 80% 把握时,统计上真的大约对 80%。这件事做成了,工程上才有意义:你可以放心写分流逻辑,高把握自动过,低把握转人工或转大模型。
为什么突然刷屏
核心就两条:便宜、快。
- 定价:$0.042 / 百万输入 token,输出免费。作为对比,前沿大模型输入普遍 $0.20 起,输出还要贵约 5 倍。
- 端到端延迟:70-500ms。TypeSafe 自家工作流评测给出最高 193.6 倍更快、444.6 倍更便宜的数字,但这些评测由厂商设计、对 Jev 有利,应理解为特定 System One 负载下的结果,不是”全面强几百倍”。
它抓的是 Agent 里最常见也最被忽略的一环:判断。一个 AI 设计平台收到”帮我做 6 张小红书咖啡品牌图”,Jev 可以负责几十个微决策——这是设计任务吗(99%)、归哪个领域(品牌视觉 81%)、调哪个 Skill(87%)、要不要参考图(否 93%)、结果符合品牌视觉吗(0.89)。真正做创意和出图的还是图像模型。所以理解 Jev 最好的方式不是”又一个 GPT 对手”,而是”AI 里终于有了专门负责 if/else 的模型”。
跟大模型不是替代关系
它和 GPT / Claude 们是分工,不是竞争:
| 维度 | 大模型 | Jev |
|---|---|---|
| 核心任务 | 生成(文字/代码/JSON) | 决策(分类/选择/打分) |
| 擅长 | 对话、创作、推理 | 路由、判断、实时质检 |
| 相对短板 | 慢、贵、可能跑偏 | 不生成、不解释、长推理弱 |
未来更可能的 Agent 形态:用户请求 → 大模型理解规划 → Jev 判断下一步调哪个工具 → 工具执行 → Jev 检查结果是否合格 → 大模型生成最终回答。Jev 处在中间层,做高速 if/else。
能用在哪
已经跑出来的真实用法:
- 客服分单:读工单+订单历史,一次给出部门、情绪、是否紧急,代码按阈值路由。
- 内容审核 / 风控:对违规或风险内容做快速筛查。
- Agent 工具路由:LangChain 发布第二天就上了 TypeSafeClassifier,把”下一步调哪个工具”从大模型手里接走。
- 结果质检:Vercel 在 AI SDK 7 的 evaluate 里集成它,做合规审核和事实一致性打分。
- 实时决策:有人拿它在 Monad 链上每 300ms 做一次买卖判断并真实成交;官方用结构化游戏状态(非画面)玩 Doom,约每秒 10 次判断,一小时成本约 $7。
上手要多少钱、怎么接
- 官方通道:去 typesafe.ai 排队拿 API Key,有人反馈填完问卷几小时就过。注册送的免费额度约 $5,按每次决策约 $0.0004 算能跑 1.25 万次。
- 不想排队:OpenRouter 注册后直接调
typesafe/jev;Vercel AI Gateway 和 Cloudflare Workers AI 也都上了,价格与官方一致。 - 代码:官方有 Python / JS SDK。注意 SDK 读
TYPESAFE_API_KEY,而给 Claude Code / Codex 用的代码评审插件读JEV_API_KEY,是两个变量,别混。
一个最小例子(Python SDK):
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
client = TypeSafeClient() # 默认 jev-latest
ticket = "我连了 3 天 Stripe 一直失败,正在丢单,急!"
resp = client.system_one(
state=ticket,
questions={
"department": Choice(
instructions="该转给哪个团队?",
criteria={"billing": "支付/退款/账单", "technical": "故障/接入问题", "sales": "价格/升级"},
),
"is_urgent": Noul(instructions="是否表达紧急性?"),
},
)
# 直接进业务代码,不用解析 JSON
if resp.answers["is_urgent"].noul > 0.8:
escalate_to_oncall()
elif resp.answers["department"].confidence < 0.6:
send_to_human_queue()
别急着上生产
热度起来后,“快 200 倍""永不犯错""LLM 要被取代”满天飞。有人正经跑了两组实测,结论比宣传冷静:
- 中文偏弱:TypeSafe 官方文档自己写明了,CJK(中日韩)语言支持但准确率不如英文。海外社区共识更直接——中文判断目前还是国产模型(DeepSeek、Qwen、GLM)更强。你看到的”28 秒 428 条”是英文任务。
- 对轻量模型不占便宜:@servasyy_ai 用 100 条中文资讯 × 3 道题(300 个判断)对比 Qwen 3.8 Flash,Jev 准确率 94.7% 对 93.0%,两边各花约 $0.003,基本打平。官方”便宜 40-400 倍”比的是前沿大模型。
- 赢在没有长尾:上海实测中位数约 0.7 秒(慢于官方 0.1 秒口径),但最慢一次只有 1.5 秒;对照 Qwen Flash 最慢一次 32 秒。对卡在主链路上的判断点,可预测比平均快更值钱。
- 硬伤:数数、精确算术、日期推算不靠谱;长链条多跳推理明显下滑;提示词注入依然有效——涉及退款、资金、删库这类高风险动作,底层硬编码权限拦截该留还得留。
对一人公司意味着什么
一句话:如果你产品里有一个卡在主链路上、每天要跑几十万次的小判断(分类、路由、审核、质检),现在值得去试一把——把那个大模型调用换成 Jev,按置信度设门控阈值,高把握自动过、低把握转人工或转大模型。
但今天上手大概率会被它的中文判断气到,而且样本还太薄、官方通道还在排队、第三方网关不是服务承诺。我的看法和那位实测作者一样:再等等。不过方向是确定的——“给人用的模型”和”给机器用的模型”正在分家,Jev 只是这个趋势的第一个爆款,而且是个英文版的。中文这块牌桌上还没人坐稳。
原文:https://typesafe.ai/blog/introducing-system-one-models-and-jev