Mercury 3:扩散模型做到 100 万上下文、每秒 1068 token,首发价每百万 0.10 美元进
扩散语言模型这条路终于走到了”能拿来干活”的规模。
它是什么
主流大模型是一个 token 一个 token 往外吐,下一个要等上一个。扩散模型反过来:先起一份完整草稿,再并行地改几遍。这是它快的原理,也是过去它被认为只能做代码补全这类简单活的原因——大家不信这条路能放大。
Mercury 3 就是这个疑问的答案,或者说是 Inception 给出的答案:比 Mercury 1 大 40 倍以上,官方说标准基准上的智能水平大约翻了 3 倍,速度仍然保持在每秒 1000 token 以上(具体数字 1068,在常见的 NVIDIA GPU 上)。
几项硬指标:
- 速度:1068 token/秒
- 上下文:100 万 token(上一代 Mercury 2.5 是 26 万)
- 参数:未披露,只说比 Mercury 1 大 40 倍以上
- 官方称质量对齐或超过 GPT-6 Luna、Claude Haiku 5.5 这一档”速度优先”的前沿模型
价格
| 项 | 每 100 万 token |
|---|---|
| 输入(列表价) | 0.20 美元 |
| 输出(列表价) | 0.70 美元 |
| 输入(首发五折) | 0.10 美元 |
| 输出(首发五折) | 0.35 美元 |
| 缓存输入 | 在输入价基础上再减 90% |
官方没说折扣到什么时候。缓存价格打到这个程度,意味着长流程 agent 反复读同一段上下文的成本几乎可以忽略。
渠道:Inception API、Baseten、OpenRouter、Vercel,OpenAI API 兼容——换 base_url 那种改法,不用重写代码。企业版另给专属容量、自动扩缩、合规控制和数据留存配置。
今天能做什么
如果你的产品里有一层是”用户在那儿等着”的——实时问答、语音助手、浏览器 agent 的每一步、agent 循环里的中间判断——延迟不是体验问题,是能不能成立的问题。Mercury 3 属于应该进你候选清单的那一类。
具体动作:把你延迟最敏感的那条链路挑出来,用 100 万上下文那个档跑一遍你自己的样本(不是 benchmark),记录 P50 和 P95 的生成时间,再和你现在用的模型比。折扣期内做这件事的成本可以忽略。
RevisionDojo 的 CTO 在通稿里的说法是这样的:提示、批改答案和定义现在大约 1 秒返回,质量和之前跑的模型持平或更好,而且是”直接替换现有栈”。这类”drop-in swap”的说法要打折听,但至少说明接口层没什么坑。
泼冷水
第一,所有对比都是 Inception 自己跑的。“对齐或超过 GPT-6 Luna 和 Haiku 5.5”这句话没有第三方验证,通稿里也没给具体 benchmark 分数。它不是假的,是未经证实的。
第二,参数规模不披露。这意味着你无法判断这次”智能翻 3 倍”到底是架构功劳还是单纯堆料。而”智能翻 3 倍”这个说法本身也是厂方自评。
第三,没有开源权重。只有 API。你今天测出来的价格,明天可能变。
第四,扩散模型的失败模式可能不一样。并行改草稿这件事,在需要严格逐步推理的任务上表现如何,公开信息里没有。别把”快”直接等同于”可以替换主模型”——先放在执行层,判断层先别动。
具体建议
- 只在”等得起就不能忍”的那一层替换,别全量切。速度型模型最常见的失败是把一个需要慢思考的任务也变快了,答案跟着变浅。
- 用缓存价。100 万上下文 + 缓存一折,是这类模型最划算的用法:把长文档、工具定义、少样本样例固定成前缀,让它反复读。
- 自己跑 100 到 200 条样本,并且用你的验收标准打分。厂商 benchmark 不可复用,这条对任何新模型都成立。
- 记下折扣开始和结束的日期。五折和原价之间的差价,足以让一个跑量的 agent 产品从赚到亏。
原文:https://www.aol.com/articles/inception-launches-mercury-3-setting-164800000.html