同样的活,账单少了 67%:Vercel 没降价,是把 agent 的上下文重新做了一遍

2026-10-28 成本AgentVercel上下文工程

这条公告最容易读错:Vercel 没有给 Agent 打折。涨价跌价一个都没动,计费还是「模型厂商的推理价 + 每百万 token 0.25 美元的平台费」。降 67% 的是分母——每次会话消耗的 token 少了。

它列了四个改动,每一个都能搬到自己的 agent 上。

一、把常见工作流写成 CLI skills

Vercel 重写了 CLI 的 skills,让 agent 在常见工作流上有更明确的指引,出错时也知道怎么恢复。关键是他们自己点出来的一句:别的 agent 用了同一批 skills 也一起受益。技能不是某一个产品的私有优化,它是一层可复用的说明书。

二、增量管理上下文

会话越长,上下文越容易失控。他们改成随对话推进增量维护,点名了 Slack 里那种拉很长的线程。这一点最值得抄:多数自建 agent 的做法是每轮把完整历史重新发一遍,聊到第 30 轮,第 1 轮的内容还在按全价计费。

三、提高 prompt 缓存命中

让更多可复用的上下文跨轮留在缓存里。缓存输入通常是标准输入的一个零头,命中率每提高 10 个百分点,账单的感受比换模型明显。

四、规划与写码更省 token

改的是给 agent 的指引,让它用更少的 token 完成同样的规划和改代码。

对你意味着什么

假设你的 agent 每天跑 200 次会话,平均每次 4 万输入 token(含历史)+ 3000 输出。一个月按 22 个工作日算:

  • 现在的写法:输入 1760 万 token,缓存没命中,按每百万 1 美元的便宜模型算约 17.6 美元;输出 132 万 token 按 5 美元算约 6.6 美元。一个月不到 25 美元,看着不多。
  • 但如果你的模型是每百万输入 3 美元、输出 15 美元那一档,同样的量就是 52.8 + 19.8 ≈ 72 美元。再乘上”重试两轮”,成本翻倍。
  • 砍掉三分之二的输入 token,省下的就是上面那个数字的 2/3。这也是为什么 Vercel 能降 67% 却不用动价格——浪费本来就在 token 里。

泼冷水

  • 67% 是官方给的平均值,没有分场景数据,也没有公开每次会话的 token 中位数。你的负载如果本来就是短会话、少历史,省不到这么多。
  • 省 token 不等于省时间。增量上下文管理如果做成”摘要压缩”,可能丢掉前面对齐过的字段名、schema、报错原文,然后你花更多轮次去补。这类损失不会出现在账单上,会出现在返工里。
  • 这四条都是”工程优化”,没有一条是配置开关。想拿到收益得改代码,不是改一个参数。
  • 平台费按每百万 token 收 0.25 美元,说明这类 agent 平台的商业模式是”推理原价 + 抽成”,token 越省,平台抽成也越少——他们肯做这件事,是因为省下来的 token 比抽成更值钱(留住客户)。

具体建议

  1. 先量一次基线:跑 20 次典型会话,记录每次的输入 token、缓存命中 token、输出 token、轮数。没有这个数,任何”优化”都无法验收。
  2. 把系统提示、工具定义、输出 schema、几个示例全部前置且一个字都不改,让前缀稳定命中缓存。这一项通常最省事、见效最快。
  3. 历史不要全量重发。保留最近 N 轮原文 + 之前的结构化摘要(含已确认的字段、已排除的方案),摘要由代码生成,别让模型自己总结自己。
  4. 把重复出现的多步流程写成 skill 文件,而不是每次在提示词里重述。判断标准很简单:同一段指引你复制超过 3 次,就该抽出去。
  5. 验收看两个数:每任务 token 数降了多少、任务成功率掉了没有。只降 token 不保成功率,等于把成本转移给了返工。

原文:https://vercel.com/changelog/vercel-agent-sessions-now-cost-67-percent-less

原文出处 · 事实以此为准
Vercel 官方 Changelog · Agent 会话成本下降 67%
阅读原文 ↗