AI API 按量计费怎么算？余额、Token、缓存和异常消耗排查

AI API 成本控制的关键，不是只看某个模型“贵不贵”，而是理解每一次请求如何产生费用：调用哪个模型、输入多少 Token、输出多少 Token、是否使用缓存、有没有异常重试，以及这笔消耗最终从哪个账户余额里扣除。

先分清四层概念

• 账户余额：充值后进入账户，用于后续 API 调用扣费。
• 模型价格：不同模型的输入、输出、缓存创建、缓存读取价格可能不同。
• 调用记录：记录模型、时间、Token、状态、费用和归属 Key。
• 余额变化：用于核对充值、扣费、退款和异常处理。

一个简单估算公式

单次费用 =
  输入 Token 数 / 1,000,000 * 输入单价
+ 输出 Token 数 / 1,000,000 * 输出单价
+ 缓存创建 Token 数 / 1,000,000 * 缓存创建单价
+ 缓存读取 Token 数 / 1,000,000 * 缓存读取单价

为什么账单会突然变高

• 上下文越来越长：把完整历史、日志或文档反复放进请求里。
• Agent 循环调用：一次用户请求触发几十次模型调用。
• 失败重试太激进：429 或 5xx 后没有退避，短时间内放大消耗。
• 模型切换：从低成本模型切到更强模型，但没有同步调整任务策略。
• Key 泄露：异常时间段、异常模型或陌生项目突然出现调用。

降低成本的实操方法

• 把任务分层：简单分类、改写、摘要先用更轻量模型，复杂推理再用强模型。
• 控制上下文：只传本轮任务需要的信息，不把全部历史无差别带入。
• 复用缓存：对系统提示词、长文档和固定背景资料使用缓存能力。
• 设置限额：给测试 Key、脚本 Key、Agent Key 设置低一点的上限。
• 按 Key 看用量：用 Key 备注定位哪个项目正在消耗。

异常费用排查顺序

• 先看时间段：费用从什么时候开始异常。
• 再看 Key：是哪一个项目、环境或工具在调用。
• 再看模型：是否切到了更高单价或更长上下文模型。
• 再看请求类型：是否流式、工具调用或 Agent 循环导致多次请求。
• 最后处理：停用异常 Key、降低限额、导出记录并联系 控制台的“支持与反馈”入口。

团队使用建议

• 每个项目一个 Key，每个环境一个 Key。
• 每周固定检查一次余额变化和高消耗模型。
• 上线前为定时任务和 Agent 加最大步数、最大 Token 和预算阈值。
• 把费用异常处理写进值班或运维文档。