一句对话背后,input / cached input / output 三个数字在独立计费。能读懂这张账单的人,才能跟得上 AI 时代的成本真相。
!封面
一开始很难注意到的事
很多 AI 工具的用户把"我用了多少 token"当成一个整体数字在看。但当你打开一份详细的额度账单,会看到一个从来没想过的细节:
一次最普通的对话,里面同时在按三种不同的价格计费。
第一种:你发给模型的提示词里的"字",按 input 价算。
第二种:模型从它的缓存里调出的"上下文",按 cached input 价算——比第一种便宜一个数量级。
第三种:模型生成的回答里的"字",按 output 价算——通常比第一种贵几倍。
三种价格在同一次对话里同时运行,但他们彼此独立。
这不是技术噱头,是商业设计
为什么模型公司要把价格分成三层?因为这三层的"成本"和"价值"在内部是不一样的。
input:你发的那段话,每字都得让模型读一遍。读的成本对模型公司来说是真实的算力。
cached input:模型在某个对话窗口里,已经"读过"了一些上下文。这部分读过的内容下次再用到时不需要重新读,模型公司把它存起来,你再问相关问题时直接拿走用。这种"复用"的成本远低于重新读,所以这个价格最低——大约是 input 的十分之一。
output:模型生成回答时,每个字都得"想"出来再写出。这种"想 + 写"的成本是最高的,所以 output 价格最贵——大约是 input 的六倍。
一层便宜的(cache),一层的(input),一贵一平缓(output)——这个 0.1 : 1 : 6 的价格比例,是当前主流商业模型的默认结构。
一个具体的账单例子
假设你和模型做一次 30 轮的对话,每轮你发 500 字、模型回 1000 字。
第一轮:
- input:500 字,按 input 价
- cached input:0(这是首次,没有缓存)
- output:1000 字,按 output 价
接下来的 29 轮(如果你每次都把上一轮的内容附在提示里):
- input:500 字新发 + 1500 字历史上下文的引用——但模型实际上是以 cached input 来读这 1500 字的,因为这部分"读过"了
- cached input:约 1450 字(模型会算个差量,不重复计费的部分)
- output:1000 字,按 output 价
如果 output 价格是每百万字 30 美元,input 是每百万字 5 美元,cached input 是每百万字 0.5 美元,这 30 轮对话的总账单大致是:
- input 部分:约 $0.05
- cached input 部分:约 $0.04
- output 部分:约 $0.90
- 总账单:约 $1.00
注意——output 占总账单的 90%。剩下的两个加起来不到 10%。
这就是为什么"让模型少说话"是一种成本优化。
为什么这个细节对用户重要
知道这张账单结构后,用户能做的优化至少有 5 种:
优化 1:让模型"少说话"——短的回复比长的便宜。
要模型"用三句话总结"而不是"详细展开"。Output 越短,账单越低。
优化 2:复用对话上下文。
不要每次新开对话,重复把背景内容贴一遍。把同一个项目的对话延续下去,cached input 的比例会越来越高。
优化 3:把重复的提示词放成模板。
每次都要在提示词里贴的"项目说明"——把它设置成 system message,模型会一直缓存这部分,单价最低。
优化 4:区分"问"和"写"。
纯问题(例:"这是什么?")用便宜模型即可;要求模型"写一份完整的方案"——用贵模型。
优化 5:监控自己的 output 比例。
如果你的账单里 output 占比超过 70%,要么任务本身就是要模型的生成能力,要么你提问方式可以更精确一些。
看不到这层的几个常见误区
第一个误区:以为"我用的 AI 越便宜,性价比就越高"。
实际不是。同样一个问题,强模型一次搞定 vs 弱模型重试 5 次——后者的账单可能多 10 倍。原因在另外的文章里专门讲。
第二个误区:不知道"上下文里有缓存"这件事。
很多人以为每次对话的"历史"都是 input 重新计算。事实上越来越多的模型实现了"自动缓存"——你前面贴过的文件、说明、对话历史,下次再发时是按 cached 价算的。如果不主动断对话、不主动重新开窗,缓存比例会持续上升。
第三个误区:output 的成本曲线不是线性的。
一般场景下,模型生成 1000 字和 2000 字的成本接近 2 倍。但 agent 场景里,模型"边想边干"的时候每一步都可能触发工具调用——这部分成本不是简单的字数倍增。后面另写文章讲这个。
一句话把这件事接到一起
AI 时代的成本真相不在"我用了多少 token"的总数里,而在"这三种价格分别占多少比例"的结构里。
能读懂自己 AI 账单结构的人,会比只看总数的人更会花钱。这种能力不会因为 AI 越来越强大而消失——它会越来越重要。
作者简介: 陈石律师,浙江海泰律师事务所副主任、高级合伙人、房地产与建设工程部主任,宁波市律师协会副秘书长、第七届宁波仲裁委员会仲裁员,聚焦建筑房地产、投融资、并购重组及商事争议解决。曾获多家法律媒体与专业机构认可,荣登 LegalOne 2025 中国区建工及房地产实务先锋 45 强、律新社 2025 年度管理合伙人 20 佳(华东),入选《商法》The A-List 法律精英,获评 ALB China 区域市场十五佳长三角地区律师新星,并获律新社 2024 年度并购领域品牌之星。长期为万科、华润置地、信达地产、保利置业、招商蛇口、中海地产等企业提供法律服务,承办"首宗百亿地王""长春第一高楼""台州第一高楼"等代表性项目,累计服务项目投资额超千亿。近年来持续推动 AI 与法律实务融合,强调以结构化方法打通技术逻辑、法律判断与商业场景;著有《赋能法律人:AI 底层思维与应用范式》,并在多地开展相关主题讲座与分享。四明山法师 AI 夜校(legalAGI.cn)发起人。