星火 X2.6 把涉敏的活分给端侧 4B,云端限时 0.9 元输入、3.6 元输出
这次发布真正值钱的不是参数,是它给了你一条把成本搬到本地的路径。
三个数字
- 云端 X2.6:输入 0.9 元/百万 token,缓存命中 0.08 元,输出 3.6 元(限时 6 折;按折扣反推折前输出约 6 元)
- 上一代 X2.5:限时 3 折,输入 0.96 元、输出 3.6 元,缓存命中 0.14 元(折前输出约 12 元)
- 端侧 X2.6-4B:开源,推理限时免费
缓存命中 0.08 元是这里最该看的一格。它只有输入价的十一分之一,意味着稳定前缀的复用在讯飞这边的折扣力度比多数家都狠。一个每天跑固定系统提示词 + 固定知识库的批处理,账单里的大头应该落在这一格上,而不是 0.9 元那格。
端云一体到底在分流什么
架构上不是”小模型和大模型二选一”,是按任务路由:轻量、高频、涉敏的走纯端侧;复杂推理、长上下文、多 agent 编排走云端;中间一层是端侧先做预处理或脱敏、云端审核修订后回传。
现场演示的两个场景很能说明意图:邮件汇总、合同敏感信息脱敏在端侧完成,云端只负责复核。演示里被识别并替换的字段是公司名称、法定代表人、银行账号、开户行、商务金额——这几类字段本来就是你最不敢往公有云发的。
刘庆峰给的分工判断是未来 60% 应用在端侧完成、30% 端云协同、10% 需要云端大模型。讯飞同时说端侧能独立完成的比例已经从 12.8% 升到 40% 以上,但没讲这个比例的统计口径。
泼冷水
第一,60/30/10 是预判,不是实测。它是董事长在发布会上的判断,没有公开的方法论,也没有第三方在你这类业务上验证过。别拿它当容量规划的依据。
第二,“限时”两个字不会提醒你到期。X2.6 是 6 折、X2.5 是 3 折,两者的当前促销输出价都是 3.6 元,看起来一样,折前却差了一倍(约 6 元对约 12 元)。折扣结束后 X2.6 反而比现在贵不少,报价给客户时按折前算更稳。
第三,1M 上下文不等于读懂 300 页 PDF。旧版星火在长文里被反复指出”中间遗忘”,窗口拉长是进步,但长文理解和窗口长度是两件事,先拿你自己的文档跑一遍再迁移。
第四,端侧 4B 免费指的是推理定价,不是零成本。你得自己部署、自己扛显存和运维,还要接受 4B 在复杂任务上做不了主。它能替掉的是那批高频、重复、涉敏的预处理,不是你的主模型。
第五,“全国产算力训练”是训练侧的事。它决定的是供应链风险,不等于你这次调用的推理延迟和稳定性会比别家好。
具体建议
- 先把手上那批”不敢发出去”的活列出来:合同脱敏、客户名单清洗、含个人信息的文本预处理。这些是端侧 4B 的候选,跑通一批就能把云端账单压下来一截。
- 把系统提示词和固定上下文做成稳定前缀,去吃 0.08 元那格。改动提示词模板就是在放弃这个折扣。
- 报价与预算都按折前价写。6 折到期那天不会有任何通知。
- 别急着整体迁移。先用你自己的 20 条真实任务在 X2.6 和现在的主力模型上各跑一遍,比的是完成率和每任务成本,不是单价比。