AI计费为什么让人困惑
很多人第一次看到大模型的账单都会愣住:明明只问了一句话,怎么费用忽高忽低?同样的提示词,这次几分钱,下次就翻倍。这种「看不懂的账单」背后,藏着一套和我们日常订阅软件完全不同的计费逻辑——按用量计费,而不是按时间。
困惑的根源主要有三个:一是计费单位 Token 对大多数人来说是个新概念;二是「输入」和「输出」要分开算钱,单价还不一样;三是「缓存命中」这种隐藏的折扣机制,没人主动告诉你。这篇视频就是要把这三件事一次性讲清楚。
- 计费单位是 Token,不是字、不是次数、也不是分钟
- 输入 Token 和输出 Token 价格不同,输出通常贵 3~5 倍
- 命中缓存的部分会大幅打折,是省成本的关键开关
- 不同模型厂商计价方式差异大,跨厂商对比要看单价而不是总价
Token是什么
Token 是大模型处理文本的最小单位。可以把它理解成「模型的字符切片」——它不等于一个汉字,也不等于一个英文单词,而是模型用分词器把文本切开后的一段片段。一个 Token 可能是一个完整的词,也可能只是半个汉字。
中文场景下,一个汉字通常对应 1~2 个 Token;英文里一个常见单词大约是 1 个 Token。这也是为什么同样长度的中英文,中文消耗的 Token 往往更多——分词方式决定了成本。
- 英文单词:常见词约 1 Token,如 "apple" ≈ 1 Token
- 中文字符:常见字约 1~2 Token,如"计费"可能被切成 2 Token
- 标点与空格:也会被计入,不要忽略
- 代码:缩进、符号都会增加 Token 数量
估算小窍门
中文大约按「字数 × 1.5」估算 Token 量;英文按「单词数 × 1.3」估算。写 prompt 时心里有这个换算,就能粗略预判单次请求的成本量级。
输入Token与输出Token
这是 AI 计费最核心的一条分界线。输入 Token(Input Token)是你发给模型的内容,包括系统提示、历史对话、当前问题;输出 Token(Output Token)是模型生成给你的回答。这两者单价不同,输出通常比输入贵 3~5 倍。
为什么输出更贵?因为输入只是「读取」,模型做的是一次前向计算;而输出是「逐个生成」,每多生成一个 Token 就要多跑一次前向计算,算力消耗呈线性增长。所以同样 1000 Token,输入可能只要几分钱,输出却要几毛钱。
- 输入 Token:提示词、上下文、系统消息、工具调用结果都算在内
- 输出 Token:模型实际生成的回答文本
- 单价差异:输出通常是输入的 3~5 倍,部分模型可达 6 倍以上
- 隐藏成本:长上下文会让输入 Token 快速膨胀,是超支的常见原因
一句话记住:你写得多花得少,模型说得多花得多。控制输出长度,比精简输入更省钱。
缓存命中:省钱的关键
如果说前面三条是「明规则」,那缓存命中就是 AI 计费里最大的「暗福利」。当你的请求中有一部分内容和之前请求完全一致时,模型厂商会复用已计算的结果,这部分只按很低的折扣价收费,通常是输入单价的 10%~50%,部分厂商甚至直接免费。
典型场景是多轮对话:每轮都把完整历史发回去,其实前面那些轮次的内容在第一次就已经计算过了。带缓存的模型会把这些重复内容识别出来,按缓存价收费,省下的可能是 80% 以上的输入费用。
- 缓存只对输入 Token 生效,输出 Token 不参与缓存
- 命中条件通常是「前缀完全一致」,从第一个 Token 开始连续匹配
- 缓存有时效性,一般几分钟到几小时不等,过期需重新计算
- 不同厂商缓存折扣差异巨大:有的 5 折,有的低至 1 折甚至免费
缓存命中的实操技巧
把稳定的指令、知识库、示例放在 prompt 最前面,把会变化的问题放在最后。这样前缀能稳定命中缓存,长对话和多轮调用下成本能降一个数量级。这是优化 AI 成本最立竿见影的一招。
各大模型计费对比
不同厂商的计费结构差异很大,不能只看「每百万 Token 多少钱」这一个数字。要把输入价、输出价、缓存折扣三个维度放在一起看,才能选出最适合自己场景的模型。下面是主流厂商的大致档位(仅供量级参考,实际价格以官方为准)。
- 第一梯队:闭源旗舰模型,输入约 $2~3 / 百万 Token,输出 $10~15
- 第二梯队:闭源标准模型,输入约 $0.15~0.5,输出 $0.6~2
- 开源模型:API 转售价通常最低,部分厂商输入低于 $0.1
- 缓存折扣:从无缓存到 1 折不等,长对话场景下差距拉大到数倍
如何优化AI使用成本
看懂计费机制之后,优化就有章可循了。核心思路是四件事:压输入、控输出、用缓存、选对模型。下面是实践中最有效的几条具体做法。
- 压输入:精简 system prompt,去掉冗余示例,长文本先做摘要再喂模型
- 控输出:明确要求「简短回答」「只给结论」,避免模型长篇大论
- 用缓存:稳定内容前置,让前缀命中缓存,多轮对话能省 50%~90%
- 选对模型:简单任务用轻量模型,复杂任务再上旗舰,不要一上来就顶配
- 批处理:能离线处理的请求用 Batch API,通常再打 5 折
- 监控:每次请求记录输入/输出/缓存三项 Token 数,才能定位超支点
最容易被忽视的一招
很多人不知道,把 prompt 里的「请详细解释」改成「用 3 句话回答」,可能让单次成本下降 70% 以上。输出 Token 是最贵的部分,限制输出长度是性价比最高的优化,没有之一。
原视频
这篇文字版是对原动画视频的整理与扩展。动画里把 Token 切分、输入输出计费、缓存命中的全过程都用可视化方式演了一遍,配合文字版理解会更透彻。建议先看视频建立直觉,再回来对照本文的清单做实操。