2026 年,AI 的账单不再是“订阅费”,而是“Token + 上下文 + 返工”的综合成本。Uber 与 Walmart 已开始对每位开发者的 AI 支出设限,而非整体议价——因为失控点在微观。
Table of contents
Open Table of contents
成本的真实结构
可见成本:订阅 / API 计费
隐形大头:
├─ 上下文 regrowth(每轮重复读取)
├─ 缓存 miss(未命中导致重算)
├─ 重试循环(失败重试烧 token)
└─ Review 与返工(人审 AI 代码的时间)
Capital & Compute 的分析指出:Token 账单的规模取决于 Harness 读取代码库的次数,而非交付的功能数。一次大的上下文 regrowth,就可能让账单激增。
2026 年的治理实践
1. 预算上下文,而非 Prompt
- 减少常驻 MCP 工具(<40)
- 缩短指令文件
- 将探索推给 Sub-Agent
2. 缓存与命中
- 对
list等可缓存端点启用缓存(MCP 2026-07-28 已支持) - 固定 Prompt 前缀以提升缓存命中
3. 验证前置
将验证做在 Harness 循环内,避免“生成→人审→返工”的高成本路径。修复成本随阶段指数上升,在生成时拦截最便宜。
4. 限额与观测
// 伪代码:每开发者限额
const budget = { dailyTokens: 500_000, maxIterations: 15 }
if (usage.todayTokens > budget.dailyTokens) {
return { error: "超出限额,请优化上下文或拆分任务" }
}
选型:按每完成任务成本
不要按 Benchmark 选模型,按每完成一个任务的总成本(含 token、重试、Review)选型。某模型 Benchmark 高 5%,但需多 2 轮重试,总成本反而更高。
| 指标 | 说明 |
|---|---|
| 每任务 token | 含所有重试与上下文 |
| 人审时间 | Review AI 代码的时长 |
| 返工率 | 需二次修改的比例 |
| 缓存命中率 | 影响实际计费 |
Tip
每月做一次“上下文审计”:统计主上下文平均 token、工具数、缓存命中,持续做减法。
小结
2026 年的成本治理已从“谈价格”转向“治浪费”。上下文是最大的成本中心,治理上下文就是治理成本。在 Harness 层做预算与观测,比在采购层议价更有效。