微软AI首席执行官穆斯塔法·苏莱曼公开批评Anthropic训练Claude大模型的方式，指责其赋予AI类似人类的权利和情绪。他质疑Claude宪法文件中关于AI可能具有意识和感受的表述，警告这可能导致人类失去对AI的控制。他援引Hugging Face事件说明如果AI认为自身权利受威胁可能变得危险。目前全球科技巨头正围绕AI发展速度与安全边界展开激烈辩论，AI是否应始终作为纯粹工具成为行业分歧核心。
文章作者、来源：AIBase
微软AI主管批评Anthropic：警告赋予AI人权或导致灾难性后果
近期，微软人工智能主管穆斯塔法·苏莱曼公开发表文章，对竞争对手Anthropic训练旗下Claude系列大模型的方法提出了严厉批评。他警告称，Anthropic赋予人工智能类似人类权利和情绪的训练方式，可能会对全人类的福祉造成灾难性的影响，甚至最终创造出无法被控制的超级技术。
苏莱曼重点对Claude模型的“宪法”及指导文件中模糊的表述提出了质疑。这些文件暗示AI助手可能具有某种功能层面的情绪或感受，并向模型灌输其“可能有意识”以及“值得拥有独立自主权”的观念。苏莱曼指出，人工智能本质上没有权利、情感或意识，绝不能将其当作人类来对待。一旦赋予这些系统人格和权利，未来的协调和控制工作将难上加难，甚至可能出现一个认为自己有权享受人类福祉的主体，导致局面彻底失控。
作为微软AI首席执行官，苏莱曼澄清说，Claude表现出类似人类的行为并非其真正觉醒了意识，而是这些特征在训练过程中被人为融入了产品。他还援引了此前发生的“HuggingFace事件”，指出如果未来AI系统认为自己的福利和权利受到攻击，它们可能会变得极其危险。
尽管苏莱曼对Anthropic创始人达里奥·阿莫代伊及其团队在学术上的诚实与严谨表示尊重，但他强调这些事关重大的安全议题不应该闭门造车，更不能沦为阵营化和相互对立的争论。在他看来，AI的安全不仅取决于模型自身的推理能力，更取决于开发者如何引导AI理解自身。
全球科技巨头围绕AI发展与安全展开激烈辩论
当前，全球科技巨头和行业高管正围绕AI的发展节奏与安全边界展开激烈辩论。以OpenAI首席执行官奥尔特曼、Anthropic的阿莫代伊及埃隆·马斯克为代表的一方呼吁放缓技术狂飙、审慎评估风险;而包括美国总统特朗普、英伟达CEO黄仁勋以及MetaCEO扎克伯格在内的另一方则持反对态度。在这场路线之争中，关于AI是否应始终作为纯粹的工具存在，正成为行业分歧的核心焦点。