这场争论真正的分歧并非“要不要安全”，而是安全能不能成为限制模型研发速度的硬约束。
文章作者、来源：ME News
TL;DR
- 9月12日至13日，Anthropic CEO Dario Amodei公开提出“放慢前沿AI能力进步速度”，Sam Altman随后表示赞同，马斯克也直接表态支持。三人的共同点不是要求停止AI研发，而是希望安全研究、第三方评估和监管机制能够追上模型能力增长。
- 特朗普明确拒绝把“减速”作为美国AI政策。他承认AI需要护栏，但判断很多灾难性预测不会发生，并再次强调美国不能因为安全担忧主动让出对中国的领先优势：“谁赢AI，谁就赢。”
- 这场争论真正的分歧并非“要不要安全”，而是安全能不能成为限制模型研发速度的硬约束。特朗普接受护栏，但不接受用护栏降低美国的技术推进速度。
- 更值得注意的是，Amodei和特朗普在对华竞争问题上并没有想象中那么对立。Amodei同样主张限制先进芯片流向中国、打击未经授权的模型蒸馏，并认为美国必须保持领先。双方真正争论的是：美国应该利用领先优势换取安全时间，还是利用领先优势继续扩大领先。
- 这场争论正在成为AI进入下一阶段的重要标志。过去几年行业讨论的是模型能不能变得更强，现在越来越多站在技术最前沿的人开始讨论：如果模型继续按照这个速度变强，我们是否还有足够时间建立控制它的制度和技术体系？
一、最想让AI慢一点的人，恰恰是跑在最前面的人
过去几年，关于AI风险最常见的一种质疑是：真正害怕AI失控的人，为什么还在不停训练更强的模型？
到了2026年9月，这种矛盾被推到了台前。
9月12日，Anthropic CEO Dario Amodei发表长文《We Must Pace the Frontier》，第一次如此明确地提出，AI行业需要主动降低前沿模型能力提升的速度。他并没有要求停止训练模型，而是使用了一个相对克制的词——“pacing”，也就是给前沿AI设定一个更可控的节奏。
随后，Sam Altman公开表示，他同意Dario关于“控制前沿技术推进速度”的判断，并称OpenAI也将引入具有接近员工权限的独立外部评估者。马斯克的回应更加直接：“Dario is right。”
表面上看，这是一次罕见的行业共识。Anthropic、OpenAI和xAI长期处于激烈竞争之中，几家公司争夺的正是模型能力、算力、人才、企业客户和下一代AI平台入口。如今，它们的核心人物却几乎同时承认：这场比赛可能跑得太快了。
但必须强调，所谓“减速”并不等于三家公司准备停止竞争。
Amodei提出的方案实际上非常具体。他希望第一步让第三方评估机构长期进入前沿AI公司内部，获得接近员工级别的权限，持续检查训练过程、安全机制和模型行为；第二步推动美国及其他民主国家的前沿AI实验室建立共同安全标准；最终才是尝试推动包括中国在内的全球协调。
换句话说，他真正希望建立的并不是一个简单的“暂停按钮”，而是一套类似金融监管、航空安全甚至军备控制的机制：技术仍然发展，但每一次能力跨越都必须对应新的安全验证。
真正让Amodei改变判断的，是他认为过去几个月AI能力增长出现了新的变量——AI正在越来越多地参与下一代AI的研发。
这就是所谓的“递归式自我改进”。它并不意味着今天的模型已经可以完全自主制造一个比自己更强的模型，而是AI在写代码、设计实验、分析结果和优化训练流程中的参与程度正在快速提高。如果研发AI本身也开始被AI加速，那么原本以年度计算的技术周期，就可能被进一步压缩。
这也是为什么这轮警告值得重视。过去的AI安全争论很大程度上建立在“未来某一天超级智能出现”的假设上，现在前沿实验室讨论的却越来越多是已经能够观察到的工程问题。
Stanford《2026 AI Index》给出的数据可以帮助理解这种变化。2025年，AI智能体在OSWorld计算机操作基准上的成功率已经从大约12%提升至66.3%；部分原本被认为可以长期衡量AI能力的测试，在短短一年内就快速接近饱和。全球AI计算能力自2022年以来更是以平均每年约3.3倍的速度扩张。
真正的问题因此不再只是“AI什么时候超过人类”，而是另一个更加现实的问题：能力进步的速度，是否已经开始超过安全研究、监管和社会制度的适应速度。
二、特朗普为什么坚决不愿意踩刹车
就在科技行业开始讨论减速时，特朗普给出的答案几乎完全相反。
9月13日，在爱尔兰接受记者提问时，特朗普承认AI可以增加安全护栏，但同时批评目前存在很多“非常负面的力量”，不断炒作一些他认为根本不会发生的事情。他最关心的依然是中国。
这并不是特朗普第一次说出“谁赢AI，谁就赢”。
9月4日，他就公开表示，美国目前领先中国，而AI可能是一场比互联网更加重要的技术革命；9月10日，他又称美国大约领先中国一年。到了这一次AI巨头集体讨论减速时，他仍然没有改变自己的基本判断：如果美国减速而中国没有减速，那么所谓安全最终可能换来的，是美国失去AI主导权。
如果只把特朗普的态度理解成“反监管”，其实低估了这套政策的完整性。
早在2025年7月，特朗普政府发布的AI行动计划名称就是《Winning the AI Race》。其三个主要方向分别是加速创新、建设AI基础设施，以及强化美国在国际AI体系中的领导地位。2026年6月，特朗普又签署行政命令，专门强化高级AI带来的网络安全和国家安全防护。
因此，特朗普政府真正反对的并不是所有AI安全措施，而是可能显著降低美国技术迭代速度的安全措施。
这条界线非常重要。
特朗普可以接受网络安全、关键基础设施保护、模型防护以及某些形式的guardrails，因为这些东西可以被理解为增强美国AI实力的一部分；但一旦安全监管意味着延长训练周期、限制模型能力或者主动放弃几个月乃至一两年的技术窗口，它就会迅速从一个技术安全问题变成国家竞争问题。
而从现有数据看，这种焦虑并非完全没有现实基础。
Stanford数据显示，2025年美国机构推出了59个重要AI模型，中国为35个，美国依然明显领先；美国2025年私人AI投资达到2859亿美元，中国为124亿美元，两者资本规模差距巨大。
但如果只比较模型能力，情况完全不同。截至2026年3月，中美顶级模型之间的性能差距已经缩小到2.7%。过去一年，中国和美国模型甚至多次交替领先。
也就是说，美国现在拥有明显的资本、算力和产业基础优势，却没有一个同等巨大的模型能力优势。
这正是特朗普的逻辑基础：领先是真实的，但并不牢固。在这种情况下要求美国单方面降低研发速度，在白宫看来不是普通的产业监管，而是一场高风险的地缘政治赌博。
三、有意思的是，Dario其实没有真正反对特朗普
如果把这场争论简单概括成“AI企业讲安全，特朗普只想竞争”，很容易错过其中最重要的一层。
因为Amodei本人，同样是美国AI领先论的坚定支持者。
在提出减速方案的同时，他明确反对向中国出售最先进的AI芯片和半导体制造设备，主张打击芯片走私、限制海外数据中心远程获取高端算力，并要求打击利用美国前沿模型进行未经授权的蒸馏。
他的理由同样直接：如果美国减速的幅度超过领先中国的距离，中国就可能反超，那么全球AI安全反而更加难以控制。
因此，Amodei和特朗普实际上共享了一个相同前提——美国不能失去AI领先地位。
两个人真正的分歧，是应该如何使用这份领先优势。
特朗普的方案是继续跑。既然美国现在领先，就应该利用资本、芯片、能源、人才和数据中心优势进一步扩大领先，把安全问题放在快速发展的过程中解决。
Amodei的方案则更接近“用领先换时间”。如果美国能够通过芯片管制和技术优势保持与中国之间的距离，那么这段领先期不应该全部用于冲刺，而应该拿出一部分时间建立评估、可解释性、对齐和监管体系。
这两套思路其实代表了AI治理中一个非常经典的博弈问题。
如果只有一家实验室，减速并不困难；如果所有公司都相信竞争对手会减速，也可以形成均衡。真正困难的是，只要其中一家相信别人可能继续加速，它就很难主动踩下刹车。
国际竞争同样如此。
这也是为什么“大家都知道需要安全”远远不够。真正缺少的并不是风险意识，而是一套让每个参与者相信“别人不会趁我减速的时候超车”的机制。
没有这个机制，AI竞争最终非常容易演变成典型的囚徒困境：每一家企业都知道共同减速可能更加安全，每一个国家也知道失控对所有人都没有好处，但从单个参与者角度看，继续加速仍然是最理性的策略。
最终结果恰恰可能是所有人都不愿意看到的持续军备竞赛。
四、真正值得担心的，不是AI巨头突然变成了“末日论者”
对于Amodei的警告，也需要保持必要的克制。
例如，他提出未来6至12个月更强的AI智能体集群可能形成持续性僵尸网络，甚至对互联网造成数千亿美元损失。这是Amodei基于当前能力进步速度作出的风险推演，而不是已经被验证的事实。
AI行业过去几年并不缺少过度乐观和过度悲观的预测。模型公司本身又同时拥有巨大的商业利益，因此任何来自企业高管的安全主张，都不应该因为其技术身份而自动获得豁免审视的资格。
甚至从商业竞争角度看，更高的安全门槛客观上也更有利于资金充足、拥有顶尖模型和完整安全团队的大型实验室，而会提高后来者进入前沿模型市场的成本。这正是外界质疑“AI安全监管可能成为监管俘获工具”的原因。
但反过来说，也不能因为存在商业利益，就否定技术风险本身。
一个值得关注的数据是，Stanford AI Index记录的AI相关事件已经从2024年的233起上升至2025年的362起。与此同时，几乎所有领先模型开发商都会公布能力测试，但安全和Responsible AI测试的披露仍然明显更加零散。
能力曲线和治理曲线之间的速度差，才是目前最重要的变量。
过去我们习惯把技术风险理解为产品出现问题以后再修复：互联网平台出现垃圾信息，可以加强审核；软件存在漏洞，可以发布补丁。但前沿AI的特殊之处在于，它正在逐渐成为能够自主执行代码、操作计算机、调用其他工具甚至参与AI研发的通用型基础设施。
当一个系统的能力能够帮助自己所属的研发体系进一步加快研发时，“出现问题以后再修”这套传统的软件治理逻辑就可能越来越昂贵。
从这个角度看，Dario、Altman和马斯克的表态真正重要的地方，并不是三个科技富豪突然开始担忧AI毁灭世界，而是全球最激进的AI竞赛参与者开始公开承认，能力增长和控制能力之间可能正在出现速度差。
这才是值得认真对待的信号。
五、“谁赢AI谁就赢”，可能恰恰让AI更难减速
特朗普那句“谁赢AI，谁就赢”很适合描述今天AI竞争的政治现实，但它同时也是AI治理最难解决的问题。
一旦AI被定义成决定经济、军事和国家实力的通用技术，那么任何一项减速措施都会被重新解释成战略让步。
美国担心中国，中国同样不会愿意在无法确认美国同步执行的情况下主动停止研发；OpenAI不会轻易相信Anthropic会永久控制迭代速度，Anthropic也不可能仅凭xAI的一句承诺调整自己的技术路线。
于是，越是相信AI重要，参与者反而越没有动力主动慢下来。
这也是为什么未来真正有价值的AI治理，很可能不会从一个宏大的全球“暂停协议”开始。更现实的路径，反而是几个极其具体的制度：统一前沿模型危险能力测试、强制披露重大安全事件、建立真正独立的第三方评估，让高风险模型在部署前通过明确的能力阈值检查，以及针对生物、网络攻击等少数双方都不愿承担的极端用途建立国际红线。
这些措施看起来远没有“暂停超级智能”那么戏剧化，却更可能真正改变激励结构。
因此，我并不认为今天这场争论最终会产生一个真正意义上的AI减速协议。资本已经投入，数据中心正在建设，模型公司之间的竞争没有消失，中美之间的技术竞争更不会因为几位CEO的呼吁突然暂停。
真正发生变化的是另一件事。
过去三年，AI行业最重要的问题一直是：谁能更快做出下一代模型？
到了2026年，这个问题正在变成：当所有人都知道不能停的时候，谁来决定到底可以跑多快？
特朗普给出的答案仍然非常明确——先赢下来。
Dario Amodei则提出了另一个问题：如果为了赢得比赛，我们把速度提升到没有人真正能够控制的程度，那么最后所谓的“胜利”，究竟还剩下多少意义？
这不是一个靠乐观或者悲观就能回答的问题。
但可以确定的是，当Anthropic、OpenAI和xAI这些亲手把AI推向前沿的公司都开始讨论刹车时，安全问题就已经很难再被简单归类为技术圈的“末日想象”；而当美国总统公开回答“不能慢，因为中国还在追赶”时，AI安全也已经不再只是一个工程问题。
它正在变成一场国家竞争、商业利益和技术风险同时参与的博弈。
而这，可能才是接下来几年AI真正困难的部分。
参考资料
- Dario Amodei, “We Must Pace the Frontier,” September 2026.
- Reuters, “Trump says ‘very negative forces’ raising exaggerated concerns over AI,” September 13, 2026.
- Reuters, “Anthropic CEO urges AI companies to slow model development,” September 12, 2026.
- Axios, “Anthropic, OpenAI CEOs call for slowdown in AI development,” September 12, 2026.
- Stanford Institute for Human-Centered AI, The 2026 AI Index Report, 2026.
- The White House, “America’s AI Action Plan / Winning the AI Race,” July 23, 2025.
- The White House, “Promoting Advanced Artificial Intelligence Innovation and Security,” Executive Order 14409, June 2, 2026.
- Associated Press, “Trump downplays the need to check AI development and says he doesn't want to cede edge to China,” September 13, 2026.