Ante:一个 15MB 的 Rust 二进制,把编程 Agent 跑在本地离线

2026-09-16 开源编程离线本地推理

Antigma Labs 发了 Ante,一个活在终端里的自包含编程 Agent。整个东西是一个约 15MB 的 Rust 二进制,零运行时依赖,把 Grep、git 和本地推理引擎全塞进同一个进程。用法和 Claude Code / Codex 一样,但没有它们的依赖链和模型绑定。

它最戳一个人公司的点:

  • 完全离线。 内置一个锁版本的 llama.cpp,指给一个本地 GGUF 文件,整个循环就在你机器上跑——没有 API key、没有账号、没有网。数据不出设备。
  • 零厂商锁定。 12+ 家模型随意切,想换就换,不需要账号。对「不想被某家 API 绑定、又想本地可控」的人,这是底线能力。
  • 轻到能跑几千个。 官方在同一批 20 个并发 Docker 任务里测,峰值内存约为 Claude Code 的 1/7,平均 CPU 约 1/9,磁盘 I/O 约 1/5。Agent 要「以千计」才有意义,前提是单个足够便宜。
  • 公开可审计的评测。 Terminal-Bench 2.1 持续跑,最新一轮用开源的 DeepSeek V4 Flash 跑到 82.7%,每个结果都钉死到可下载的构建版本。

它背后有个有意思的哲学:关心的是 harness(编排框架)而不是模型,提示词属于用户。一个 settings 文件就能定义整个 Agent,连 system prompt 都能换。这和「把模型当英雄、把提示词藏起来」的做法正好相反。

几个要泼的冷水:

  • 还是 alpha preview。 macOS / Linux 能用,Windows 建议 WSL;核心 harness 目前是预编译二进制,完整开源进展记在 issue 里,没全放出来。
  • 它解决的是「轻量、可验证、跑得起的执行层」,不是「最强推理」。硬骨头还是交给更大的模型。
  • 离线模式需要你自己准备 GGUF,9B 的 Q4 是体验底线。

我的建议:如果你想找一个本地、离线、能替代日常改代码/审查 diff 的轻量 Agent,先 curl 装一下,用 offline 模式配个 9B Q4 试几轮 routine 编辑。一个人跑自动化,最爽的不是「最强」,是「随时能跑、数据在自己机器、不按量计费」。

原文出处 · 事实以此为准
GitHub · AntigmaLabs/ante-preview
阅读原文 ↗