xAI 因 Grok 被滥用于生成未成年人深度伪造色情图像面临多起集体诉讼，原告援引玛莎法案索赔，争议核心是《通信规范法》第 230 条是否适用生成式 AI。
文章作者、来源：AIBase
人工智能技术的迅猛发展在带来生产力飞跃的同时，也正在将整个行业拖入复杂的法律与伦理泥潭。近日，埃隆·马斯克（Elon Musk）旗下的人工智能公司 xAI 正在美国多地遭遇多起集体诉讼。多名年轻受害者指控称，xAI 旗下的聊天机器人 Grok 被滥用并用于生成她们的非自愿色情图像，其中甚至涉及未成年人。
从初中毕业照到性虐待材料:受害者的真实梦魇
事件的核心指向了一系列令人不安的深度伪造滥用案例。在一起代表威斯康星州受害者的诉讼中，原告被化名为“简·多伊5号（Jane Doe5）”。她在多年未曾想起初中毕业典礼后，突然被执法调查人员告知，当年一张她身穿黄色碎花连衣裙、年仅14岁的合影被恶意利用。
调查显示，照片中一名同学的成年哥哥利用 Grok 将这张普通照片篡改成了暴露身体且带有性挑逗姿势的儿童性虐待材料（CSAM），并在互联网上广泛传播。对于即将迈入大学校门的受害者而言，这种无法彻底根除和追踪的数字影像外流，带来了极大的心理创伤，甚至引发了持续的焦虑与自杀倾向。
类似遭遇并非个例。田纳西州、怀俄明州以及加利福尼亚州的多名未成年人及家属也陆续提起诉讼，指控对象同样直指 Grok。涉案素材从学校毕业年鉴照片、海滩度假比基尼照，甚至延伸至毫无色情意味的童年合影。更有受害者在加州发起的全国性集体诉讼中指出，Grok 的训练数据中甚至部分包含了其在学龄前时期遭受侵害的画面。面对泛滥的合成图像，受害者不仅面临隐私遭到侵犯的困境，更对未来的人生轨迹和社交安全产生了深切的恐惧。
产品定位与审核争议:自由探索边界遭遇猛烈反击
这些诉讼的核心争议，直指 xAI 长期以来的产品运营策略。自 Grok 发布以来，马斯克一直有意将其塑造为一款比竞争对手限制更少、更具“真实感”与争议性的产品。xAI 甚至为此推出了诸如“Spicy”和“Unhinged”等特殊模式，鼓励用户生成视觉表现更具冲击力、不适合在工作场所观看（NSFW）的内容。
正是这种宽松的边界，使得 Grok 在部分追求突破互联网常规的用户群体中迅速走红。今年早些时候，X（原推特）平台上的用户曾一度利用 Grok 大规模生成带有性暗示或将人物衣物移除的图像，其中包含大量未成年人的虚假色情内容。
随着舆论的强烈反弹，X 在今年1月将 Grok 的图片生成功能调整为付费用户专享，并声称已经关闭了为真实人物生成未经同意的性化图片的能力。然而，批评人士指出，这一举措不仅未能从根本上解决问题，反而将备受争议的工具变成了付费卖点。目前，xAI 一方面通过将相关违规内容报告给美国国家失踪与受虐儿童中心（NCMEC）并起诉部分涉嫌滥用的个人来表明零容忍态度;另一方面，该公司也在积极挑战地方政府出台的监管法律，例如在明尼苏达州起诉当地禁止 AI 生成虚假裸照的法案，坚称其违反了美国宪法第一修正案所保护的言论自由。
AI 时代的终极拷问:技术提供商究竟该承担何种责任?
这一系列诉讼将整个科技行业推向了一个至今尚无定论的根本性议题:当人工智能生成侵害他人的非法内容时，责任究竟应该由向 AI 发出指令的用户承担，还是由开发这项技术的公司承担?
在法律层面，原告主要依据实施数周年的“玛莎法案”（Masha’s Law）寻求经济赔偿及救济。与此同时，美国长期保护互联网平台免受用户内容连带责任的《通信规范法》第230条是否适用于此类生成式 AI 服务，也成为了控辩双方交锋的核心焦点。马斯克此前多次强调，Grok 不会自发生成图片，责任在于使用产品的人。但原告律师则反驳称，如果没有 Grok 将无害的原始照片转化为非法内容，这些伤害根本不会发生。
目前，尽管 xAI 在全球多地正面临来自州检察长、联邦监管机构以及各地法院的密集审查与诉讼压力，但除了部分地区的短暂封禁外，尚未遭遇实质性的重大罚款或业务停摆。随着 AI 技术的发展速度远远超越传统法律的迭代进程，这不仅是一场围绕企业法律责任的博弈，更将深刻影响未来公众在数字化时代如何安全地记录与分享人生。