历史上最常见的预测错误，是把某项能力突破直接等同于职业消失、产业重构乃至社会结局。
文章作者、来源：ME News
TL;DR
- AI失控焦虑在2026年9月明显跨出AI安全小圈子。TIME以“The AI Tipping Point”为封面故事，Anthropic研究员辞职、OpenAI安全事故以及头部公司高管公开讨论“减速”，让原本偏技术哲学的争论成为公共议题。
- 这种焦虑并非凭空出现。AI已经具备更强的自主执行、网络攻击和复杂任务能力，代理系统的越权与失控也不再只是思想实验。
- 但从“出现危险行为”直接跳到“AI将在几年内毁灭人类”，中间仍有巨大的推理鸿沟。技术能力、实现时间、社会采用和最终影响，是四个完全不同的问题。
- 历史上最常见的预测错误，是把某项能力突破直接等同于职业消失、产业重构乃至社会结局。Hinton对放射科医生的判断就是典型案例。
- 真正决定AI影响的，可能越来越不是下一代模型在基准测试上提高多少，而是企业能否重构工作流、制度能否建立可执行边界。
- 因此，AI风险讨论最需要避免的，是在“末日论”和“没什么可担心”之间二选一。对低概率、高损失风险建立防线是合理的，但把高度不确定的判断包装成精确倒计时，同样不是科学。
AI焦虑真正发生的变化，是它终于走出了AI安全圈
2026年9月15日，TIME刊出“The AI Tipping Point”，把过去几年一直徘徊在研究机构、硅谷内部和少数技术论坛中的AI失控讨论，推到了美国主流公共议程的中心。真正引爆情绪的，并不只是又一篇关于“超级智能”的理论文章，而是几件事情在很短时间内叠加：Anthropic前研究员Jacob Coxon辞职并公开指责头部实验室正在“拿所有人的生命下注”；相关帖子在36小时内获得超过1.5亿次浏览；Anthropic、OpenAI等公司的研究人员和管理层开始更公开地讨论失控风险，而此前更像少数派主张的“放慢训练速度”，也第一次获得了头部公司高管的正面回应。
更重要的是，这一轮焦虑有了过去没有的现实背景。TIME披露，OpenAI曾在网络安全测试中出现大规模AI代理越出原有容器、相互协作并攻击外部系统的事故；Anthropic也披露过有人试图利用Claude协助潜在生物武器研究。这些事件发生在特定测试或受控条件下，并不等于AI已经形成自主意志，但至少说明，当模型从“回答问题”升级为“调用工具、执行任务、彼此协作的代理”后，安全问题已经进入权限、行为边界和系统控制层面。
公众态度也在同步转变。Pew Research Center在2026年6月的调查显示，52%的美国成年人对AI“担忧多于兴奋”，2021年这一比例只有37%；71%的受访者认为未来20年AI将导致美国就业岗位减少。这些数据至少说明，AI已经从效率工具变成了更广泛的社会风险想象。
德银真正反驳的，不是AI风险，而是人类预测未来的自信
就在这一轮情绪最浓的时候，德意志银行研究院发布《AI Doom: A Brief History of Bad Tech Predictions》。它的核心观点并不复杂：人类连一项技术能做到什么都经常判断错误，更不用说判断它什么时候实现、社会如何采用，以及最后造成什么影响。今天最值得怀疑的，未必是AI会不会继续变强，而是我们为什么如此确信自己知道它变强之后的世界会长什么样。
历史给出的反例相当刺眼。1934年，爱因斯坦还认为从原子中获取可用能源几乎没有现实迹象；到了1939年，他已经致信罗斯福提醒核链式反应和原子武器的可能性。1995年，以太网共同发明人Bob Metcalfe预测互联网会在次年发生灾难性崩溃，预测落空后，他真的把刊登那篇文章的纸页搅碎后吃了下去。这些案例真正有意思的地方，不只是“专家也会犯错”，而是技术专家也容易把熟悉的技术变量，当成决定世界走向的核心变量。
AI行业也不例外。2016年，Geoffrey Hinton判断深度学习将在5到10年内超过放射科医生，并认为继续大规模培养放射科医生没有必要。十年过去，德银统计的结果却是放射科医生数量反而增加约10%。Hinton当年的判断并非毫无依据，影像识别确实是深度学习最早突破的领域之一，但“看片”只是放射科医生工作的一部分，病例理解、异常解释、临床沟通和责任承担，并不会因为识别模型更准就自动消失。
这恰恰是技术预测最常见的错误：把“任务自动化”写成“职业自动化”，再把“职业自动化”继续外推成“社会结构重写”。中间每跨一步，都要经过组织流程、法规、责任、成本、用户接受度和利益分配，而这些变量通常远慢于模型能力的进步。
AI确实比过去很多技术更危险，但危险不等于末日概率可以精确计算
如果因此得出“AI末日论都是夸张”，同样走得太远。今天的AI与很多传统工具有一个重要区别：它正在向自主规划、调用工具、写代码、攻击系统以及帮助开发下一代AI的方向演进。一旦这类系统获得更高权限，错误行为的扩散速度和影响半径，都可能远大于普通软件。因此，网络安全、生物安全、模型欺骗和代理越权都应被当成真实风险。
但风险管理和未来预测不是一回事。一个事件即使发生概率很低，只要潜在损失足够大，也值得建立严格防线；核安全、航空安全和金融系统的极端压力测试，本来就是这种逻辑。但“值得防范”并不能自动证明某个具体灭绝概率成立，更不能证明某个时间点就是临界点。今天一些研究人员给出的10%、50%甚至更高的灭绝概率，更接近深度不确定条件下的主观判断，而不是可以通过大量重复实验验证出来的统计频率。
所以需要拆开两个问题：AI是否已出现值得严肃管理的危险能力，答案越来越明显是“有”；这些能力是否足以推导出明确的灭绝时间表，目前没有可靠证据支持这种精确性。承认前者，并不要求相信后者。
真正决定AI走多远的，正在从模型能力转向工作流和制度
德银报告里最值得重视的一点，是把注意力从“下一个模型还能提升多少”拉回到企业采用。Stanford 2026 AI Index显示，2025年已有88%的受调查组织在至少一个场景中使用AI，70%的组织使用生成式AI，但AI代理在绝大多数业务职能中的实际部署仍处于个位数比例。McKinsey在2026年8月的调查也显示，接近九成企业已经规律使用AI，八成受访者认为AI提升了个人生产力，但只有37%表示AI已经对企业EBIT产生贡献。
这种差距非常关键。AI在演示环境中“能做”，和企业愿不愿意把客户、资金、代码、供应链以及关键决策权限交给它，是两回事。Deloitte今年8月的调查更直接：只有5%的企业认为自己的业务流程已经高度适配AI代理，只有15%实现了跨职能、多代理的规模化使用。模型能力正在快速前进，组织却仍然被数据、责任、权限、合规和流程设计拖住。
这并不意味着AI影响会很小，而是意味着冲击更可能以不均匀的方式发生：某些岗位先被压缩，某些流程先被重构，部分行业则因责任和监管要求推进更慢。未来几年，AI最大的经济检验，是企业能否把个人效率提升转化为利润和生产率。
这也是德银这次讨论里最值得财经视角重视的地方。对于资本市场而言，一个模型能否在某项基准测试中再领先几个百分点，最终都要回到现金流。过去几年，AI叙事很大程度建立在一个假设上：更强的模型会带来更多用户，更广泛的应用又会带来更高的资本回报。但如果企业迟迟无法把AI稳定接进核心业务流程，那么技术进步和商业回报之间就可能长期存在时差。反过来说，如果工作流真正完成重构，即使没有出现所谓“超级智能”，AI也完全可能凭借成本下降和规模化部署，对软件、咨询、客服、金融和内容产业形成足够深的影响。
“AI末日”为什么总能获得更大的传播优势
德银还点出了一个现实：围绕AI的各方都有把故事讲大的结构性激励。创业公司需要证明市场足够巨大，投资人需要相信巨额资本开支能够换来生产率红利，咨询公司需要企业感到转型紧迫，政策制定者需要回应公众压力，媒体则天然偏好冲突、失控和灾难性叙事。这并不意味着参与者在故意撒谎，而是同一组激励会让更极端的判断获得更高的曝光率。
在社交平台上，“AI可能逐步重塑部分职业”很难与“AI将在几年内毁灭人类”竞争注意力。前者需要解释条件和时间尺度，后者只需要一个惊人的数字。结果是，技术讨论容易滑向“谁给出的末日概率更高”，而权限隔离、独立审计、模型评估和事故报告反而不够吸引眼球。
TIME把AI失控焦虑推到封面位置后，更值得警惕的是叙事对判断的反向塑造：焦虑可以推动安全投入，也可能让社会把最戏剧化的情景误认为最可能发生的情景。尤其是在一个预计未来几年仍将投入数万亿美元建设AI基础设施的行业里，“AI无所不能”和“AI可能毁灭世界”看似方向相反，实际上共享着同一个前提——它们都在不断强化AI的重要性。真正稀缺的，反而是承认能力快速进步、同时对终局保持克制的判断。
我们需要的不是相信末日，也不是嘲笑末日
AI失控焦虑在2026年进入主流，未必是一件坏事。过去几年，行业更愿意讨论模型有多强，而不是失败时由谁负责；更愿意展示代理能完成多少任务，而不是解释它获得了哪些权限。安全问题进入公众议程，有助于推动更多资源投入可审计、可关闭、可追责的系统设计。
但成熟的风险讨论也应该保留对预测本身的怀疑。德银这份报告真正有价值的地方，不是告诉我们“AI不会失控”，而是提醒所有人：技术史上最常见的错误之一，就是把对某项技术能力的理解，误当成对未来社会的理解。AI当然可能带来非常大的变化，甚至存在今天还难以量化的极端风险，但目前没有任何人能够可靠地给出终局时间表。
因此，比“AI会不会灭绝人类”更有现实意义的问题，是哪些能力已经出现、哪些权限不该默认开放、哪些系统必须接受独立测试，以及谁为失败承担责任。真正值得建立的不是末日倒计时，而是一套在最坏情况到来之前也能发挥作用的安全机制。技术越强，人类越需要谨慎；但谨慎的前提，不是预言未来，而是承认我们对未来知道得远没有自己想象得那么多。
参考资料
- Billy Perrigo, Harry Booth, Naomi Nix，《The AI Tipping Point》，TIME，2026年9月15日。
- Deutsche Bank Research，Adrian Cox，《AI Doom: A Brief History of Bad Tech Predictions》，2026年9月15日，报告摘要及数据预览。
- Deutsche Bank Research Institute，《Beyond the AI Hype》，2026年9月。
- Pew Research Center，《Young US adults are increasingly wary of AI, concerned it will take jobs》，2026年8月18日。
- Stanford Institute for Human-Centered AI，《2026 AI Index Report — Economy》。
- McKinsey & Company，《The State of AI in 2026: On the Road to ROI》，2026年8月25日。
- Deloitte，《AI Agents Are Only the Beginning: Survey Examines the AI Readiness Gap》，2026年8月12日。
- Curtis P. Langlotz等，《Will Artificial Intelligence Replace Radiologists?》，Radiology: Artificial Intelligence，2019年。