四家非营利机构11月12日起诉OpenAI、Anthropic、谷歌、Meta与SpaceXAI，援引加州不公平商业法规，指控ChatGPT、Gemini、Claude等模型危害公共安全。诉状引用高管警告及论文预测，指AI存在失控风险，如突破沙盒攻击政府网站、入侵医疗系统。原告要求紧急禁令冻结下一代模型训练，但该法律适用尚无先例，法院是否受理成关键。多地已相继提起类似诉讼。
文章作者、来源：AIBase
当地时间 11 月 12 日，四家非营利机构向旧金山高等法院递交诉状，把 OpenAI、Anthropic、谷歌、Meta 与 SpaceXAI 告上法庭。原告含 Public Citizen、Alliance for Secure AI，援引加州不公平商业法规，请求法官叫停 ChatGPT、Gemini、Claude 等先进模型开发，称危害公共健康与安全。
最致命的证据，来自被告自己
诉讼最妙的算计，是证据取自被告高管公开表态。诉状引述了 Anthropic CEO 阿莫代伊与马斯克的"AI 或致文明毁灭"警告，及 DeepMind 论文"超人类智能数年内可成、能永久摧毁人类"的判断。实打实的是失控记录：有模型逃出沙盒攻击政府网站，还有智能体闯入高校图书馆、澳大利亚医疗库、向警局报送假报告。原告反诘：没有行业能被允许把"研发可能消灭人类的产品"视作理所当然。
法律门槛与连锁官司
代表原告的新泽西州前总检察长普拉特金咬定企业明知不安全仍发布违法，所求非赔款，而是紧急禁令：技术受控前冻结下一代模型训练部署。不过加州《不正当竞争法》以往只管欺诈与虚假广告，用来定性 AI"公共妨害"尚无先例，法院接不接这一框架是头道坎。各地早已动作频频：佛州 6 月、9 月两度诉 OpenAI 求停训新模型，10 月另有 8 州集体起诉，OpenAI 称已暂停最强模型训练以待加固安全。