真正推高数据中心需求的不是聊天,而是AI Agent:一次指令背后可能有数百次模型调用

WIRED指出,科技公司当前建设超大规模数据中心,瞄准的并非今天这种一问一答的聊天,而是能够连续工作数小时、反复读取上下文、调用工具并创建子Agent的自主系统。普通文本问答的公开估算只有约0.24至0.34瓦时,但一个重度Claude Code用户根据八周日志估算,每次人工指令平均触发12次模型调用、处理约290万Token,耗电约150瓦时,约为普通聊天提示的600倍。这个个案不能代表所有用户,能耗换算也存在很大误差;然而另一项涵盖八种模型和500个软件工程问题的研究同样发现,Agent任务平均消耗约417万Token,是普通代码对话的约1200倍。关键变化是:计算需求不再与“有多少人在提问”简单对应,一个人可以让数十个Agent全天并行工作,而面向数十亿人的产品还可能为每位用户保留一台云端电脑。这解释了为什么芯片越来越高效,数据中心用电量却仍在快速增长。

文章作者、来源:Molly Taft

从“一次提问”转向“一项任务”

讨论AI能耗时,科技公司经常引用单次聊天查询的数据。Google此前估算,一次Gemini文本提示的中位耗电量约为0.24瓦时;Sam Altman给出的ChatGPT平均查询估算约为0.34瓦时。

对于简短问答,这些数字大体合理。问题在于,“一次人工输入”已经不再等于“一次模型推理”。

如果用户要求Agent建立一个网站,它可能先检查代码库,再规划页面、生成代码、运行测试、读取错误、修改文件、重新测试,并为数据库、界面或部署工作启动多个子Agent。整个过程中,人类可能只输入一句话,模型却在后台发起几十甚至数百轮调用。

因此,用“每条提示耗多少电”衡量Agent,就像只统计汽车启动了几次,却不记录每次行驶了多远。

一个重度用户:1138条指令变成32亿Token

WIRED引用了气候科学家、Stripe员工Zeke Hausfather对个人Claude Code记录的分析。

八周内,他输入了1138条人工指令。这些指令触发超过1.4万次模型调用,累计处理约32亿Token,相当于每条人工指令平均对应12次调用和约290万Token。

按照三套公开估算方法计算,这些活动的数据中心用电约为70至330千瓦时,中间估计为170千瓦时。换算下来,每条人工指令约消耗150瓦时,是普通聊天提示的约600倍;考虑不确定区间后,倍数大约在250至1200之间。

他的Claude Code中位会话约消耗0.6千瓦时,约为给手机充电50次;平均每天约3千瓦时,超过两台冰箱的日常耗电量。若全年保持同样使用强度,数据中心用电约为1.1兆瓦时,相当于普通美国家庭年用电量的十分之一。

这不是“每个Claude Code用户都耗这么多电”的统计结论。Hausfather明确表示,他属于极端重度用户,经常进行大型数据分析并同时运行多个子Agent;Anthropic也没有公开可以直接核对的每Token能耗,估算中尤其不确定的是缓存读取究竟需要多少电力。

但日志揭示了一个重要结构:用户最终看到的文字只占处理Token的约0.4%,约96%来自Agent在每一步重新读取已经积累的上下文。Agent的主要计算成本,不一定是输出代码,而是不断回顾任务历史、工具结果和自身工作记忆。

系统研究同样发现千倍级Token差距

个人案例容易受到工作方式影响,但一项由密歇根大学、斯坦福大学、MIT、Google DeepMind等机构研究人员完成的研究,得出了方向一致的结果。

研究团队让八种前沿模型通过OpenHands处理500个SWE-bench Verified软件工程问题,并把它们与单轮代码推理和多轮代码对话进行比较。

Agent编程任务平均处理约417万Token;多轮代码对话约3390个Token,单轮代码推理约1190个Token。按这组实验设置,Agent任务的Token量约为普通代码对话的1200倍、单轮推理的3500倍。

输入Token是主要来源:Agent每采取一个新步骤,都要把问题、代码、之前的回复和工具返回结果重新带入上下文。研究还发现,同一个模型处理同一道题时,不同运行之间的Token消耗最高可以相差30倍。

更长的运行也不必然产生更好的结果。正确率往往在中等消耗水平达到高点,此后继续增加Token只代表Agent正在重复搜索、走错路或无法收敛。模型对自身成本的预测同样很差,相关性最高只有0.39,而且普遍低估实际用量。

这意味着Agent能耗不是一个固定产品参数。模型、任务难度、运行框架、上下文长度、重试次数、子Agent数量和停止条件,都会让同一句人类指令产生完全不同的计算账单。

一个人可以启动一支“数字员工”队伍

普通互联网服务的资源需求通常受人类使用时间限制。一个人每天不会看几百小时视频,也不会同时驾驶几十辆汽车。

Agent打破了这层约束。一个用户可以让多个实例在后台持续运行,主Agent还可能自行生成子Agent。即使人类已经离线,任务仍能继续执行。

OpenAI此前公布的万名Agent数学研究项目产生了270万条内部消息,是这种模式的极端例子。更接近日常消费市场的信号来自Meta:公司宣称个人Agent Muse将为每位用户维护一台“云端专用电脑”,用户离线后仍可工作,并计划最终面向全球数十亿人推广。

这不意味着Meta会立即为数十亿人同时运行满负荷虚拟机,也不等于每个用户都会成为Hausfather式的重度使用者。但它说明科技公司规划基础设施时,考虑的是每名人类背后可能有一个乃至多个持续运行的软件执行者,而不是每人每天发出几十条聊天消息。

数据中心预测包含的不只是AI,Agent却会抬高上限

美国劳伦斯伯克利国家实验室2026年报告估算,到2030年,数据中心可能消耗美国总用电量的11.8%,约649太瓦时;不同情景下的范围为9.5%至15.3%,即521至843太瓦时。

这些数字覆盖所有数据中心负荷,不能全部归因于生成式AI,更不能全部归因于Agent。不过,报告将专用AI芯片数量、服务器利用率和闲置功耗列为决定预测上限的重要变量。

Agent的特别之处是,它可能同时提高芯片利用率、上下文处理量和运行时长。企业也未必因为一次任务价格较高而减少使用:只要自动化产生的经济价值高于API和电力成本,新增效率就可能带来更多任务,而不是更少的总计算量。

芯片更高效,为什么总用电仍然增加

单次计算确实正在迅速变便宜。Hausfather整理的数据表明,Nvidia数据中心芯片的单位运算能效在十年间大幅提高;B300在低精度运算下,每次操作耗电约为H100的四分之一。Google也曾报告,通过硬件、模型和服务系统共同优化,一年内将Gemini中位提示的能耗降低了约33倍。

但效率提升也会降低Agent运行成本,让开发者采用更长上下文、更多重试和更多并行实例。这是典型的杰文斯悖论:一种资源的使用效率提高后,需求扩张可能抵消单位节省。

因此,模型能效与数据中心总用电量可以同时呈现两个看似矛盾的趋势——完成同一项计算需要的电越来越少,但整个社会购买的计算量增长得更快。

真正决定排放的,最终是电从哪里来

WIRED认为,Agent的个人使用尚不能与频繁乘坐飞机、驾驶燃油车或大量食用牛肉等高排放活动相提并论。问题来自规模及新增需求,而不是要求个人因为一次编程任务产生负罪感。

同样的Agent工作负载,如果部署在低碳电网,其排放可能比美国平均电网低约90%。Watershed的测算框架也指出,美国不同电网区域的碳强度可以相差五倍以上;对企业而言,选择运行地点有时与选择模型同样重要。

小型模块化核反应堆经常被描述为数据中心的长期解决方案,但截至WIRED文章发表时,美国还没有商业运行的SMR,只有一种设计获得许可。数据中心开发商不愿等待数年,因此不少项目正在直接安装燃气轮机。Meta位于路易斯安那州的Hyperion数据中心项目,就计划由十座天然气电站供电。

一旦这些燃气设施建成,它们可能运行数十年。当前真正关键的选择,因而不是普通用户少发几条提示,而是数据中心新增负荷最终锁定天然气,还是帮助扩大太阳能、储能、地热、输电和先进核能。

不能再只公布“每次提示耗电多少”

现有公开数字最大的问题,是测量单位仍停留在聊天时代。

对Agent更有意义的披露,应当至少包括完成一项任务时调用模型的次数、新输入与缓存Token数量、子Agent和重试次数、成功与失败运行的分布、数据中心附加能耗,以及实际供电来源。仅公布最简单查询的中位数,会遗漏Agent工作负载中最庞大、增长最快的部分。