AI领域研究者吴恩达就顶尖模型开发商关于AI可能导致人类生存风险的警告提出质疑，认为这类警告更像科幻小说而非科学，可能分散行业对实际安全问题的关注。他指出科技行业早期可能放大AI潜在灾难风险以获取关注并影响监管方向。吴恩达认为AI确实存在网络安全等现实风险，但不认同将人类灭绝风险作为核心判断依据。与Anthropic和OpenAI近期提出的“减速“主张不同，他主张继续推进AI发展，通过受控测试、工程防护和迭代改进解决可验证的安全问题。
文章作者、来源：AIBase
AI领域研究者吴恩达9月17日在接受彭博电视采访时表示，顶尖模型开发商近期有关AI可能导致人类生存风险的警告“更像科幻小说，而不是科学”，并认为这类叙事可能分散行业对实际AI安全问题的关注。吴恩达曾参与创办Google Brain和Coursera。
吴恩达称，科技行业早期曾放大AI潜在灾难性风险，以获取关注并影响监管方向;近两周相关讨论再次升温，也可能存在类似动机。他认为AI确实存在现实风险，尤其包括网络安全等领域，但不认同将人类灭绝风险作为当前AI发展的核心判断依据。
近期，前Anthropic和OpenAI研究员Jacob Coxon公开离职并警告前沿实验室正在竞相开发超级AI，引发新一轮AI安全争论。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman随后均提出应适当放缓前沿模型发展，并加强安全措施。吴恩达早年曾与两人共事。
与“减速“主张不同，吴恩达认为行业应继续推进AI发展，同时通过受控测试、工程防护和迭代改进解决可验证的安全问题，并让AI更多应用于能够产生社会价值的场景。当前，AI安全讨论正从模型能力边界进一步延伸至网络安全、代理失控、对齐及前沿模型治理等具体问题。