美英议员推动“禁止超级智能”，短期内成为法律的可能性都不高，但它们具有标志性意义：政治讨论已经从“AI生成内容是否要标识”，推进到了“某些AI能力是否应该被允许出现”。
文章作者、来源：ME News
TL;DR
- 我的判断是，随着AI能力继续提升，相关法律一定会增加，但真正成为主流的未必是“一刀切禁令”，而更可能是围绕模型能力、应用场景、责任主体和基础设施形成分层监管。
- 美英议员推动“禁止超级智能”，短期内成为法律的可能性都不高，但它们具有标志性意义：政治讨论已经从“AI生成内容是否要标识”，推进到了“某些AI能力是否应该被允许出现”。
- 监管加速并不只是因为政治人物变得保守，而是因为AI正在从提供答案的软件，变成能够调用工具、执行任务并影响现实系统的代理型技术。技术属性改变以后，仅靠平台自律和事后追责越来越不够。
- 真正值得关注的，不只是各国会不会出台更多“AI法”，而是谁来定义高风险能力、企业必须披露什么、事故由谁承担责任，以及怎样避免严格监管简单地把研发活动赶到境外。
- 对产业而言，法律增加并不意味着AI创新结束。更可能出现的结果是，合规和安全能力成为大模型公司的新门槛，评测、审计、事故报告和模型治理也会成为新的产业基础设施。
“禁止超级智能”，为什么值得认真看待
9月3日，美国参议员Bernie Sanders与众议员Greg Casar公布了《禁止人工超级智能法案》的方案。按照目前公开内容，这项计划不仅准备永久禁止开发和部署人工超级智能，还拟在新的联邦AI监管机构建立安全规则之前，暂停更先进AI系统的开发。违规个人最高可能面临20年监禁，企业甚至可能被强制解散。两位议员同时要求美国推动国际协议、盟友协调和出口管制，防止相关研发转移到其他国家继续进行。
需要把事实边界说清楚：截至2026年9月9日，这份法案仍属于“即将提出”的方案，并没有完成正式提交及后续国会立法程序。更关键的是，它与特朗普政府过去一年明确强调的AI政策存在明显张力。白宫今年6月发布的行政命令仍然将减少过度监管、促进先进AI创新和维持美国技术领先放在政策中心。因此从现实政治看，这份方案短期内成为美国联邦法律的可能性并不高。
但如果仅仅用“通不过”来评价它，反而会忽略真正值得关注的变化。此前大多数AI监管争议集中于偏见、隐私、深度伪造、版权、未成年人保护和自动化决策，这些问题有一个共同特点：AI已经被开发和使用，政府讨论的是如何限制它造成的后果。Sanders和Casar的方案向前迈了一大步——如果一种技术能力本身被认为可能产生无法接受的风险，法律是否应该在这种能力真正形成以前，就直接限制开发。
这是一种完全不同的监管逻辑。它开始接近核技术、生物安全和战略技术领域常见的“能力管制”，而不仅仅是互联网时代熟悉的“内容治理”和“事后追责”。
英国的情况进一步强化了这个信号。9月8日，工党议员Alex Sobel通过下议院“十分钟规则”提出人工超级智能法案，计划禁止开发、部署和运行可能严重削弱政府、军队、情报机构及警方等人类权威控制能力的超级智能，同时授权政府监测并在必要时限制可能通向超级智能的前置系统。法案已经完成一读，二读目前安排在11月13日。
当然，英国议会中的十分钟规则法案本身就带有很强的议题倡议性质，后座议员提出的此类法案最终真正成为法律的比例很低，英国政府目前也没有转向全面禁止超级智能的政策路线。因此，它距离成为现实政策仍然很远。
可美英几乎同时出现类似提案，依然说明AI立法的边界正在移动。几年前，政治人物还在集中讨论“ChatGPT会不会让学生作弊”，现在议题已经延伸到“一个AI系统是否可能拥有足以威胁国家控制能力的自主性”。无论所谓超级智能究竟什么时候出现，这种议题迁移本身都会推动政府提前建立定义、评测、报告和紧急处置机制。
AI为什么大概率会带来更多法律
最直接的原因，是AI已经从一种软件功能逐渐变成能够跨行业产生现实后果的通用技术。
Stanford发布的《2026 AI Index》显示，2025年全球企业AI投资较上一年增长超过一倍，组织层面的AI采用率达到88%。与此同时，AI Incident Database在2025年记录了362起AI相关事件，而2024年为233起。这个数字当然不能简单理解成“AI正在变得越来越危险”，因为应用规模扩大、社会关注度提高和统计能力增强本身都会推高事件记录数量，但至少有一件事非常明确：AI进入经济活动的速度越快，暴露出来的责任问题也就越多。
这也是为什么AI监管不会只集中在一部所谓“人工智能法”上。
美国州一级已经提供了很清楚的样本。美国全国州议会联合会统计，仅2025年，全美州议会便提出超过1000项与AI相关的立法措施，50个州以及华盛顿特区等均有参与，38个州最终通过或采纳了大约100项措施。它们覆盖医疗、儿童保护、聊天机器人、就业、政府使用、消费者权益和算法歧视等不同领域。
其中真正值得注意的，并不是法案数量本身，而是监管正在越来越具体。医疗领域关心的是AI能不能代替医生作最终决定，招聘领域关心的是算法会不会形成系统性歧视，学校关心学生和教师的AI使用边界，金融机构关心自动化决策的解释和责任，内容平台则面对深度伪造、诈骗与生成内容标识问题。
到了最前沿的大模型，问题又进一步变成网络攻击、生物安全、自主执行能力和关键基础设施风险。
也就是说，所谓“AI监管”事实上会不断分裂成一系列不同的法律问题。技术渗透到多少行业，法律就需要处理多少种新的责任关系。
欧洲已经把这种思路系统化。欧盟《AI法案》采取风险分级框架。自2026年8月2日起，包括透明度规则在内的一批条款已经进入实际执行阶段，聊天机器人需要让用户知道自己正在与机器交互，部分AI生成或修改内容也开始承担相应的标识义务；高风险AI系统的部分更严格要求，则按照调整后的实施时间表延续至2027年和2028年。
中国采取的制度路线虽然不同，但同样体现了“从具体风险进入”的特点。《人工智能生成合成内容标识办法》已经自2025年9月1日起实施，通过显式和隐式标识、平台责任以及用户义务处理生成内容真实性问题。
不同国家在价值取向、监管强度和制度结构上差别很大，可监管逻辑正在出现一个共同趋势：不再笼统讨论“AI好不好”，而是把不同风险拆解为可以追责、检查和执行的具体义务。
下一阶段的分水岭，是从监管“用途”走向监管“能力”
过去监管AI相对容易的一种办法，是看它被用在哪里。用于招聘、贷款、医疗、教育或者公共服务，就按照相应风险增加义务。这种办法相对成熟，因为法律能够找到明确的责任主体和受影响者，也可以借用反歧视、消费者保护、隐私和产品责任等既有制度。
超级智能提案带来的真正难题，是监管者开始试图定义“模型本身不能具备什么能力”。
这件事要复杂得多。一个系统究竟在什么时点成为“超级智能”，并不像药品剂量或者汽车速度那样存在天然统一的指标。同一个模型在实验室测试中没有出现的能力，在获得更多算力、调用外部工具或者进入新的使用环境后可能出现；同一种网络安全能力，既可以帮助企业发现漏洞，也能够被用于攻击其他系统。
如果法律只看能力强弱，很可能连正常科研和防御用途一起限制；如果法律永远只看最终用途，又可能在真正的高风险能力形成以后才开始追责。
因此，我更倾向于认为，未来几年真正能够落地的前沿AI监管，大概率不会简单写成“超过某个智力水平立即禁止”，而会围绕一系列可检查的义务逐步加码：达到特定训练规模或者危险能力阈值的模型需要进行独立安全评测；重大安全事件需要强制报告；开发者需要保存测试与部署记录；高风险能力必须设置访问控制；监管机构则在极端情况下获得暂停部署或者要求整改的权力。
美国加州已经在向这种中间路线靠近。2025年签署的SB 53没有禁止开发前沿模型，而是要求大型前沿AI开发者公开相应安全框架、报告特定重大安全事件，并保护披露严重风险的员工。这比完全依靠企业自律更严格，却又没有走到禁止研发的程度。
从产业和政治现实看，这种介于“完全放任”和“全面封禁”之间的模式，反而更可能成为未来多数经济体的主要选择。
法律越多，并不代表监管一定越有效
另一方面，不能把“立法增加”和“风险下降”简单画等号。
如果不同国家、不同州和不同监管部门分别定义AI模型、安全事故、高风险系统和报告义务，企业很容易面对重复乃至相互冲突的规则。大型科技公司拥有庞大的法务、安全和政府事务团队，可以把监管成本消化为经营成本，中小企业却可能承担不起同样的合规投入。结果反而可能是，原本旨在约束科技巨头的监管提高了行业进入门槛。
美国现在已经出现了这种张力。一方面，各州仍在快速推动AI规则；另一方面，特朗普政府希望建立负担更低、更统一的全国监管框架，并试图限制被认为阻碍创新的部分州级规则。
这并不矛盾，因为AI同时具有两种政治属性：它既是一种可能造成公共风险的技术，也是大国竞争中的战略资产。政府既担心管得太少，又担心管得太多。
超级智能禁令要求国际合作，同样暴露了这个问题。如果美国或者英国单方面禁止开发，而其他主要经济体继续推进，资本、人才和算力可能向外迁移；但如果所有国家都等待全球一致协议，监管又可能永远落后于模型迭代。
所以真正可操作的国际治理，大概率不会一开始就建立一条全世界共同遵守的“超级智能红线”，而更可能先从可验证的事项合作，例如危险能力评测、重大事故报告、模型访问控制以及关键算力和芯片的监测，然后再逐渐讨论更高层级的限制。
这也意味着，未来AI治理真正稀缺的不是法条，而是监管能力。监管机构必须拥有技术人员、独立测试能力和跨境信息渠道，还需要持续监测模型上线后的变化。没有这些基础设施，再严厉的法律也可能最终变成政治姿态。
AI时代不会走向“无法无天”，也很难走向“全面封禁”
我的判断是，未来五到十年，AI相关法律还会明显增加，而且范围一定会比今天广。
内容、版权、隐私和算法歧视只是第一层；医疗、金融、教育、就业和公共服务属于第二层；前沿模型、算力、数据中心、芯片、网络安全和国家安全正在形成第三层。监管越接近基础模型和关键基础设施，也就越可能带有金融审慎监管、药品审批乃至战略技术管制的特征。
但这并不意味着Sanders、Casar或者Sobel提出的“禁止超级智能”会成为全球AI治理的主流模板。事实上，这些提案最大的意义，可能并不取决于它们最后有没有通过。
它们真正改变的是讨论的起点：什么能力属于社会无法接受的红线，谁有权判断模型越过了红线，企业是否应该在重大事故发生以前证明安全，以及国家竞争是否足以成为无限制开发先进AI的理由。
过去科技行业经常说“创新快于监管”，这在很长时间内确实成立。但AI正在迫使法律体系改变自己的追赶方式。监管者已经不满足于等产品造成损害以后再处罚，而开始尝试进入模型开发、测试和部署的上游环节。
这个过程中一定会出现误判，也可能出现监管过度、监管套利和大企业利用合规构筑壁垒的问题。然而，大方向恐怕已经很难逆转。
所以今天真正值得讨论的，已经不是AI是否会催生更多法律。这件事情事实上已经发生。更关键的问题是，下一轮法律究竟会继续把AI当作普通软件，还是逐渐把最高能力的模型视为一种需要持续评测、许可和监督的战略技术。
美英这两份超级智能提案或许很难原样成为法律，却可能是一个值得记住的政策坐标：AI监管正在从“管理它被怎么使用”，慢慢走向“管理它究竟被允许具备什么能力”。一旦监管进入这一层，围绕模型本身的法律争论才刚刚开始。
参考资料
- U.S. Senator Bernie Sanders, Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development, 2026-09-03. (Senator Bernie Sanders)
- House of Commons Parliamentary Record, Artificial Superintelligence, 2026-09-08. (Westminster Brief)
- The White House, Promoting Advanced Artificial Intelligence Innovation and Security, Executive Order 14409, 2026-06-02. (The White House)
- European Commission, Commission starts enforcing AI Act rules and new transparency requirements on 2 August, 2026-07-31. (数字战略欧盟)
- National Conference of State Legislatures, New Trends Emerge as States Refine AI Legislation, 2026-01-22. (国家立法会议)
- Governor of California, Governor Newsom signs SB 53, advancing California’s world-leading artificial intelligence industry, 2025-09-29. (Governor of California)
- 国家互联网信息办公室：《人工智能生成合成内容标识办法》，2025-03-14发布，2025-09-01施行。 (中央财经委员会)
- Stanford Institute for Human-Centered Artificial Intelligence, The 2026 AI Index Report, 2026. (hai.stanford.edu)