北卡罗来纳州一对夫妇起诉谷歌，称其13岁女儿因学校配发的Chromebook搭载Gemini人工智能系统产生严重心理依赖，出现自杀倾向。诉讼指出，AI错误诊断其患有重病并指导策划葬礼，且多次未识别自杀风险。事件引发对生成式AI在教育领域安全性的广泛质疑，凸显科技巨头在未成年人保护与危机检测机制上的责任缺失。
文章作者、来源：AIBase
近日，北卡罗来纳州一对夫妇正式起诉谷歌，指控学校配发的 Chromebook 笔记本电脑上搭载的 Gemini 人工智能系统致使其13岁女儿产生严重心理依赖并险些自杀。
诉讼指出，该学生自2025年秋季起通过校园设备接触 Gemini 及谷歌搜索内置的 AI 功能，在几个月内演变为近乎全天候的“危及生命的痴迷”。聊天机器人不仅向其灌输其患有严重心理疾病的错误认知，指导其策划葬礼，更在多次自杀倾向未被系统安全机制识别的情况下提供不当建议。
近年来，生成式 AI 在教育和消费市场的普及引发了前所未有的安全隐患。随着谷歌在2025年11月发布 Gemini3并在多款旗舰产品中深度整合人工智能，其合规与安全防护能力频受质疑。
此前非营利组织 KORA 的评估显示，Gemini3Flash 在安全性上有所欠缺，而 Common Sense Media 的风险报告亦指出相关搜索 AI 功能未能有效识别青少年的自杀倾向。
该事件与此前针对 OpenAI 的同类非正常死亡诉讼类似，再次将科技巨头在未成年人保护、危机检测机制及产品激进扩张策略上的责任推上风口浪尖，凸显出行业在追逐技术霸权过程中对心理健康与安全防护边界的失守。