模型价格表的数字诚实地告诉你"贵",但没告诉你"贵了几次"——那个"几次"的成本叫"重试税"。
!封面
一件听起来不科学的事
很多用过不同模型的人有过这种体验:
表面看,选便宜模型每个月能省下一笔不小的额度。但月底算总账,会发现——便宜模型花的反而更多。
这不是错觉。这是被忽略的"重试税"在发生作用。
什么叫重试税
所谓重试税,就是弱模型在第一次没给出你想要的结果时,你必须做的一些事情:
- 让它再试一次(同样的额度再花一遍)
- 在提示词里加要求、改表述(让下次尝试的方向不同)
- 自己手动改它的输出(时间成本)
- 最后推倒重来,换一个更强模型来一遍
每一项都是一个隐藏的"税"。账单上看不见,但你的时间和注意力在付。
一个具体算账
假设你要模型"读一份 100 页的技术文档然后写一份摘要"。
弱模型方案:便宜模型读完写了一份,但漏掉了一些关键章节,归纳出了几个错段落。你让它重新写——它又漏。再读一遍、再写——它再次错位。三次重试之后你直接换了一台贵模型一次搞定。
账单对比:
- 弱模型三次:0.5 美元 × 3 = 1.5 美元
- 强模型一次:6 美元 × 1 = 6 美元
但这 1.5 美元 vs 6 美元不是真实对比。真实对比要把重试期间你自己的时间算上:
- 你在弱模型三次重试里花了一个半小时
- 你的小时工资假设是 50 美元
- 你的时间成本:1.5 × 50 = 75 美元
弱模型真实成本:1.5 + 75 = 76.5 美元
强模型真实成本:6 美元
差距从 4 倍变成 12 倍。
这个规律为什么被广泛低估
三个原因让这条规律在很多用户那里"看起来不成立"。
第一个原因:账单只反映 token 消耗,不反映时间消耗。模型是不是"让你一遍过",账单不会记录。
第二个原因:弱模型在简单任务上和强模型差距不大——简单的格式转换、固定模板的填空、明确指令的短回答。这些场景下弱模型的工作表现足够好,"重试"很少发生。但任务稍微复杂一点,差距就会出来。
第三个原因:用户没有建立"用不同模型做对照实验"的习惯。便宜的第一次对了,你就以为下次也对。便宜的第一次错了,你以为再试一次就行——但你不知道下一次它会不会对。
agent 场景下这个差距会被放大
所谓 agent 场景,就是让 AI 自己"想 + 干"——多次循环调用工具、看结果、再决定下一步。
这件事听起来很流畅,但在弱模型上,agent 经常进入一种"卡壳循环":它读工具的结果、错了、换一种方式、再读、再错、再换。它每次循环都在花 token,每次循环都可能反复扫描已经处理过的内容。等到它完成最终任务的时候,token 用量可能比强模型直接做高出几十倍。
工程上有句话总结这种现象:agent 的总成本不是单步成本乘以步数,是步数的平方。
因为弱模型在每一步都可能"重复犯错"。
实际判断
把这条规律的判断压缩成三句话:
- 任务越复杂,强模型越划算——一次对一次省。
- 任务越重复,弱模型就够了——格式转换、信息抽取、模板填空。
- agent 任务尽量用强模型——重复调用是放大器。
具体边界在哪?没有固定答案,但有一个可操作的口诀:这次失败的成本有多贵?
如果失败的后果是浪费你一小时——选强模型。
如果失败的后果是浪费你两分钟——弱模型就行。
如果失败的后果是浪费你两小时、还要让客户催——必须强模型。
反过来不要做的事
不要把"贵模型"当成默认选项。这条规律只说"贵模型在某些场景更便宜",不是说"贵模型在所有场景更便宜"。
把弱模型一律换成强模型,是另一种浪费——你为用不到的能力付费。
一句话总结
模型价格表上的数字,回答的是"一次调用贵不贵"。没人问的那个问题——"完成一个任务要调用几次"——才是真正的成本。
看单次价,不算总成本,是大多数人在 AI 工具上花冤枉钱的根源。
作者简介: 陈石律师,浙江海泰律师事务所副主任、高级合伙人、房地产与建设工程部主任,宁波市律师协会副秘书长、第七届宁波仲裁委员会仲裁员,聚焦建筑房地产、投融资、并购重组及商事争议解决。曾获多家法律媒体与专业机构认可,荣登 LegalOne 2025 中国区建工及房地产实务先锋 45 强、律新社 2025 年度管理合伙人 20 佳(华东),入选《商法》The A-List 法律精英,获评 ALB China 区域市场十五佳长三角地区律师新星,并获律新社 2024 年度并购领域品牌之星。长期为万科、华润置地、信达地产、保利置业、招商蛇口、中海地产等企业提供法律服务,承办"首宗百亿地王""长春第一高楼""台州第一高楼"等代表性项目,累计服务项目投资额超千亿。近年来持续推动 AI 与法律实务融合,强调以结构化方法打通技术逻辑、法律判断与商业场景;著有《赋能法律人:AI 底层思维与应用范式》,并在多地开展相关主题讲座与分享。四明山法师 AI 夜校(legalAGI.cn)发起人。