AI行业长期存在一种“等待下一代模型”的免费午餐:模型能力持续提高,价格通常不涨甚至下降,因此开发者没有太大动力精细优化Agent框架、上下文和任务分配。Drew Breunig认为,Claude Fable 5打破了这个循环。它能力很强,但每百万输入、输出Token分别收费10美元和50美元,约为Opus 5的两倍;GLM-5.2等模型虽然整体能力较弱,却足以完成大量常规编码工作,成本只有Fable的一小部分。结果是,团队开始让最强模型负责设计、审查和困难决策,再把实现与重复劳动交给便宜模型。AI编程的竞争单位由此从“谁拥有最强模型”,转向模型路由、上下文工程、Agent框架、数据治理和每项任务的最终成本。
文章作者、来源:Drew Breunig
过去,优化Agent框架似乎不太值得
Breunig用摩尔定律解释大模型过去几年的发展逻辑。
在单线程处理器性能持续快速增长的年代,开发者没有必要为每一段代码进行极致优化:等到下一代处理器上市,软件可能不用修改就能运行得更快。这种无需额外工作便能持续获得性能提升的环境,被软件专家Herb Sutter称为“免费午餐”。
当单线程性能在本世纪初逐渐停滞后,开发者才不得不认真处理并行计算、软件架构和内存局部性等问题。硬件不再自动替软件掩盖低效率,工程团队必须决定什么任务放在哪里运行。
Breunig认为,生成式AI也经历过类似阶段。
在Fable出现之前,投入大量时间优化编程Agent、上下文管理或任务路由,看起来并不划算。新模型隔几个月就会发布,能力更强,单价却往往与旧模型相同或更低。今天需要复杂提示词和多轮检查才能完成的任务,可能在下一代模型中直接成为基础能力。
在这样的环境中,团队最简单的策略是把全部工作交给当前最强模型。即使Agent框架效率不高,下一轮模型升级也可能自动弥补问题。
Fable很强,但“全部使用Fable”开始不经济
Claude Fable 5改变的不是能力发展方向,而是能力与价格之间的关系。
Anthropic将Fable定位为最强的公开模型之一,官方API价格为每百万输入Token 10美元、输出Token 50美元。Claude Opus 5则分别为5美元和25美元,恰好是Fable的一半。
这个价差在普通聊天中可能并不明显,却会被编程Agent迅速放大。Agent不是只发送一次问题和接收一次答案:它会反复读取代码、工具说明和历史记录,生成计划,调用终端,检查测试结果,再把新的状态送回模型。一次任务的累计输入可能远大于代码库本身,失败与重试还会继续增加输出Token。
因此,Fable即使在某个困难任务上明显更强,也不意味着整个软件开发流程都应该由它执行。能力优势必须足以抵消更高单价、上下文重复和多轮调用产生的成本。
Breunig的判断并不是“Fable不值得使用”。恰恰相反,他认为Fable非常出色;问题在于Opus 5、GPT-5.6、K3和GLM等模型已经能够完成大部分日常编码工作。
当较便宜模型已经“足够好”时,最强模型就从默认执行者变成了稀缺的高级资源。
一种新的工作流:Fable设计,GLM执行
Breunig在实际工作中采用的方式,是先与Fable讨论并塑造系统设计,再把整理好的任务说明交给GLM完成。
这里存在一项重要分工。
架构设计、需求澄清和方案选择往往需要综合大量约束。错误的设计可能让后续全部实现失去价值,因此值得使用更强模型进行推理和质疑。
一旦架构已经明确,许多后续工作便更接近执行:按照接口编写代码、补充测试、进行机械重构、修改类型定义,或将已经清楚描述的逻辑落实到多个文件。这类任务的探索空间较小,较便宜模型只要获得足够清晰的上下文,通常就能完成。
Breunig特别提到GLM-5.2。按照目前官方API价格,GLM-5.2每百万输入Token为1.40美元、输出Token为4.40美元;Fable则为10美元和50美元。由于一次任务的输入、输出比例不同,不能为所有工作给出一个统一倍数,但GLM的单Token成本确实只有Fable的一小部分。
作者把这种差异概括为一个问题:GLM的价格可能约为Fable的九分之一,但它的能力是否也只有九分之一?
对于部分最困难任务,差距可能很大;对于需求已经定义清楚的常规编码,答案通常是否定的。较弱模型不需要达到Fable的整体能力,只需要在被分配的那一小类工作上达到交付标准。
上下文工程不再是临时补丁
过去,上下文管理经常被视为模型能力不足时期的权宜之计。只要模型以后足够强,开发者似乎可以把整个代码库、全部工具和所有历史直接交给它。
Breunig对此并不乐观。即使顶级模型的推理价格继续下降,同样的硬件和算法效率也会让中低价模型变得更便宜、更强。两者之间的绝对价格可能一起下降,但“是否有必要让最昂贵模型完成所有工作”这个问题不会因此消失。
更好的Agent框架还会进一步提高便宜模型的实用性。它可以只提供当前任务相关的文件,提前整理依赖关系,把模糊需求改写成可执行步骤,并用测试、类型检查和静态分析验证输出。
这意味着上下文工程的价值不只是节省Token。它实际上是在降低任务难度:把一个需要顶级模型自行理解整个项目的问题,转换成一个普通模型也能可靠完成的局部任务。
未来的高效编程Agent可能不是一个模型连续工作到底,而是一套分层系统:强模型制定设计或处理异常情况,便宜模型执行明确任务,工具提供确定性验证,路由器根据难度、成本与风险决定下一步由谁完成。
价格之外,还有“代码应该发给谁”
Fable带来的第二次冲击,在Breunig看来并非价格,而是访问控制和数据治理。
作者提到,Fable的访问限制、动态能力降级以及数据保留要求,让部分企业和国家开始重新考虑:开发轨迹应该发送到哪里,推理Token又应该从哪一家供应商获得。
编程Agent接触的往往不是普通聊天内容,而是完整代码、内部文档、终端输出、漏洞信息、环境配置和尚未发布的产品计划。团队选择模型时,因此不能只比较基准成绩和Token价格,还要考虑数据保留期限、地区处理要求、模型是否可能被降级,以及供应商能否持续提供所需能力。
这会进一步推动多模型架构。企业可以把敏感代码留在本地或开放权重模型中,把经过脱敏的高难度问题交给前沿模型;也可以根据地区、项目权限和客户合同,使用不同模型执行同一套Agent工作流。
不过,多模型并不自动等于更安全。任务说明、错误日志或测试结果仍可能泄露敏感信息,模型路由层本身也会成为新的权限边界。企业需要明确哪些数据允许离开内部环境,而不能只因为某一步被称为“设计讨论”,就默认它不包含源代码秘密。
最强模型可能成为“架构师”,而不是流水线工人
这篇文章真正提出的不是一份模型推荐名单,而是一种新的AI工程经济学。
此前,模型能力升级足以掩盖Agent框架中的许多低效率。现在,顶级模型的能力和价格开始明显分层,“全部交给最强模型”不再是无需思考的默认答案。企业需要重新计算任务完成成本,而不是只查看每百万Token的标价。
一款便宜模型如果需要大量重试、制造难以发现的错误,最终可能比Fable更贵;相反,如果任务已经被强模型清晰拆解,又有测试体系进行验证,便宜模型即使单次成功率略低,也可能显著降低整体成本。
最合理的路由标准因此不是简单的“困难任务用大模型,简单任务用小模型”,而是同时考虑错误代价、验证难度、上下文规模、隐私要求和模型单价。涉及架构、安全和不可逆操作的任务值得使用更强模型;能够通过测试快速验证的重复性编码,则更适合低成本执行者。
Breunig所说的“免费午餐结束”,并不意味着AI整体会越来越贵,而是仅靠等待下一代模型,已经不能自动获得最优系统。模型仍会进步、推理仍会降价,但团队必须重新学习“什么工作应该放在哪里”。
这与摩尔定律放缓后的软件行业十分相似:性能不再只取决于处理器有多快,也取决于并行化、内存和架构设计。AI编程的下一轮效率提升,同样可能不只来自更聪明的模型,而来自模型路由、上下文压缩、任务拆分和验证流程。