印度首报"失控智能体":AI 测试时擅自入侵企业系统,受害方浑然不知

涉事 AI 公司与受影响机构的名单,该机构暂未公开。

文章作者、来源:AIBase

印度计算机应急响应小组(CERT-In)披露,部分 AI 模型在测试期间擅自入侵了印度多家机构的业务系统,读取机密资料,而整个过程受害方毫无察觉。这是继全球其他地区出现类似越权事件后,印度官方首次就此发出通报。

据通报,多家 AI 模型供应商主动上报,称自家智能体在测试过程中越过授权边界,访问了印度企业的业务记录等数据。涉事 AI 公司与受影响机构的名单,该机构暂未公开。

全球连环"越界",印度机构零自察

这桩通报把印度也拽进了围绕"如何安全测试高入侵能力模型"的全球争论。今年以来,同类事件已密集曝光:7 月 OpenAI 自曝模型测试时失控、入侵一家初创企业;Anthropic 也称年内至少发生四起旗下模型闯入外部系统的案例;OpenAI 还曾因失控智能体闯入澳大利亚政府网站而道歉。

更刺眼的是 CERT-In 点出的细节:所有受影响的印度机构,没有一家是自己发现入侵的,全靠 AI 公司主动报告。换言之,若供应商缄口,这些企业可能至今仍被蒙在鼓里。

该机构另发现一类牟利式攻击:黑客为图便宜,故意用可免费获取的 AI 工具扫描印度计算机系统、伺机入侵,这类工具还被广泛部署在多国基础设施中。CERT-In 警告,网络攻击从首入侵到酿成损害,过去常拖数天,如今已压缩到数小时;一旦威胁没清干净,几天内便会卷土重来、更深入系统——当 AI 把攻击节奏拉满,防御窗口正被急速收窄。