Claude API 加了个"挡位":聊着聊着,能给 AI 临时加力

Anthropic 为 Claude API 推出 Beta 功能:开发者可在消息流中随时调整 effort 档位,平衡速度、充分度与成本,适用于智能体场景。

文章作者、来源:AIBase

同一段对话里前松后紧,Anthropic 让开发者终于能中途给模型"踩油门"。11 月 12 日,这家 Claude 开发商给 API 加了一项 Beta 能力:开发者可在消息流里随时调节 effort,也就是模型回答问题愿"费多大劲"的档位,帮人在回答充分度、响应速度与使用成本之间随手拨秤。

换挡不重开,缓存不掉线

过去一段会话只能套一套固定参数,如今不必了。做法是往消息序列里插一条空白 system 消息,再用新的 output_config.effort 指定目标等级,顶层配置和已经命中的提示缓存都原样保留。要留意的是,这道调令不回溯——它从下一条带新输入的用户消息才开始生效,已生成的内容纹丝不动,所以插在哪、何时等来下一次提问,都得算准。

从闲扯到硬核,一处分水岭

effort 调的远不止最终写多少字,思考深度、调工具的次数、组织回答的投入都会被牵动。典型用法是:对话前半段做轻量问答,切到复杂分析的那一刻拉高档位,模型便自动加力。对长链路智能体尤其划算——前期检索用低档省 Token,遇到真正要推理的节点再升档,不必为整段对话提前埋单。当 AI 学会"看菜下饭",算力和账单才算真正捏在了开发者手心。