斯坦福 2026 年 AI 指数报告显示,2025 年全球记录在案的 AI 负面事件达 362 起,比 2024 年涨了超五成。
文章作者、来源：0x9999in1，ME News
TL;DR
- 安徽滁州 67 岁农户吴大伯,把种地这件事几乎全交给了 AI。一份"全套方案"喷下去,150 亩芝麻一夜枯死,损失十几万元。
- 祸根是配方里的"氟磺胺草醚":大豆田专用除草剂,芝麻田不能全田喷。AI 先开错方,事后才复盘"这是元凶"。
- AI 对话框顶上有一行小字"生成内容可能有误,注意核实"。老人从没看过。这行字,正在成为平台最省事的免责声明。
- 责任像撒进地里的农药,飘散在农资店、平台、农户三方之间,谁都沾一点,谁都不认全责。
- 斯坦福 2026 年 AI 指数报告显示,2025 年全球记录在案的 AI 负面事件达 362 起,比 2024 年涨了超五成。这不是孤例,是趋势。
- AI 的答案可以随时改口,农药喷进地里,没有撤回按钮。这才是全部问题的核心。
一夜之间,150 亩芝麻和杂草一起死了
先把事情说清楚。
2026 年 7 月 10 日,安徽滁州。67 岁的吴大伯打开 AI 软件,问了一个再普通不过的问题:芝麻田怎么除草、除虫?
AI 答得很利索。一份"百亩芝麻飞防除草+除虫全套方案"当场生成:除草用"高效氟吡甲禾灵"和"氟磺胺草醚",除虫用"噻虫嗪水分散粒剂"和"甲维盐"。名字一个比一个专业,格式一个比一个规整。
吴大伯照单全收。喷了下去。
第二天,他傻眼了。
"喷下去第二天苗就不行了,草和苗一起死了,苗死得更快。"这是他的原话。150 亩芝麻,十几万元的一季收成,几乎绝收。
问题出在哪?出在"氟磺胺草醚"。
当地农技人员说得很直接:这是一种专用于大豆田的阔叶除草剂,不能喷洒在芝麻田里。就算别的作物能用,也必须定向打草,绝不能全田喷洒——否则,庄稼和杂草一起清场。
AI 呢?等 150 亩地毁了,吴大伯回头质问,它才"负责任"地复盘:配方里的"氟磺胺草醚",正是致死芝麻的元凶。
你品品这个顺序。它先一本正经地开出错误药方,等灾难落地,再条理清晰地告诉你错在哪。
前一秒是农业专家,后一秒是事故调查员。中间隔着的,是一整季庄稼的命。
一个 67 岁的老人,为什么会"全都信"
有人会说:这老人也太轻信了吧?说明书不看,农技站不问,凭什么全信一个软件?
这个质问不算错。但它太轻巧了。
据报道,吴大伯一年多前才接触 AI。起初他也将信将疑。可时间一长,问一次答一次,答一次准一次——至少看起来准。农时安排、施肥用药,他慢慢地,把整个种地的判断权,交了出去。
这不是老人独有的糊涂。这是 AI 最擅长制造的东西:一种"它什么都懂"的错觉。
回答流畅,格式专业,语气笃定。它从不说"我不确定",它总能给你一个答案。而人的大脑,天生偏爱确定性,偏爱那个立刻就能拿走照做的东西。
问题是,流畅不等于正确。笃定更不等于对。
大语言模型有个绕不开的毛病,叫"幻觉"——它会一本正经地生成看起来像事实、实则错误的内容。连 OpenAI 自己都公开承认:即便到了 GPT-5,推理时幻觉大幅下降,但仍然无法根除,这是所有大型语言模型根深蒂固的问题。
一个连造它的人都消灭不了的缺陷,你指望一个 67 岁的农民,在喷药前一眼识破?
更何况,涉事平台客服自己都说了:AI 软件没有独立的知识库,答复是根据网络公开信息整合生成的。
翻译一下这句话:它不是农业专家,它是个把全网信息缝合起来的复读机。它不知道你的地在安徽,种的是芝麻不是大豆,土是什么土,苗是什么苗。它只知道,"除草剂"这三个字后面,统计学上最可能接哪个词。
它没有田。它没有种过地。它甚至不知道芝麻长什么样。
那行"注意核实"的小字,能免责吗
现在说最要命的一点。
事后大家发现,AI 对话记录的最上方,确实有一行小字:"AI 生成可能有误,注意核实。"
吴大伯说,他此前从没注意过这行提示。
于是问题就来了。这行字,到底是善意提醒,还是免责金牌?
我的判断很明确:它不该成为平台一推了之的挡箭牌。
道理不复杂。当一个产品用最专业的口吻、最完整的格式,给你输出一份可以直接照做的"全套方案"时,它释放的信号是"照做即可";而它用一行几乎没人会看的灰色小字,说"注意核实"——这两个信号,是自相矛盾的。
一边拼命让你信,一边小声说别全信。出了事,拿出后面那句。这在逻辑上说不通,在情理上更站不住。
真正负责任的做法是什么?是在开出农药配方这种高风险内容时,主动、显著地弹出警示:此为大豆田用药,芝麻田禁用全田喷洒,请务必咨询当地农技部门。而不是把一句万能的、模糊的"可能有误"挂在顶上,当成一次性的、永久生效的免死符。
风险越高的建议,提示就该越重。这是最朴素的产品良心。
责任像农药一样,飘散在三方之间
那么,十几万的损失,到底谁来赔?
这正是这件事最扎心、也最没有答案的地方。责任,像喷洒出去的农药,飘散在三方,谁都沾一点,谁都能往外推。
先看农资经营者。农技人员指出,"氟磺胺草醚"是大豆田专用药,绝不能全田喷洒于芝麻田。那么卖药的人,有没有明确告知使用范围?按照农药管理相关规定,经营者本就负有指导安全用药的义务。这一环,是定责的关键。
再看农户自身。他没看说明书,没问农技站,把最终的用药决定权交给了一个软件。法律上,这大概率会被认定为存在一定过错,需要自担部分损失。这话冷,但现实就是这么冷。
最后是AI 平台。这是最新、也最模糊的一环。它到底是"信息服务提供者",还是"内容生成者"?我国 2023 年 8 月起施行的《生成式人工智能服务管理暂行办法》明确要求,服务提供者应当对生成内容的合法性、真实性承担相应责任。但"整合网络公开信息"生成的一份错误农业方案,算不算法律意义上有缺陷的"产品"?它造成的损失,和那行"注意核实"的小字之间,责任怎么切分?
说实话,现有的法律框架,还没给出一个干净利落的答案。
涉事平台客服的回应,也印证了这种模糊:表示会核查信息来源,已登记损失并将反馈——但截至目前,没有公布任何赔偿方案。
登记了。反馈了。核查了。就是没赔。
这不是孤例,是一整个时代的隐患
也许有人觉得,一个老农、一片芝麻地,不过是个极端个案。
数据不这么看。
斯坦福《2026 年人工智能指数报告》记录:2025 年,全球 AI 相关负面事件共 362 起,比 2024 年的 233 起,增幅超过 55%。更值得警惕的一组数字是——基础模型的透明度指数,在 2023 到 2024 年间从 37 分升到 58 分后,2025 年又大幅回落到 40 分。
能力在涨,事故在涨,而透明度,反而在退。
与此同时,人却越来越离不开它。中国互联网络信息中心《生成式人工智能应用发展报告(2025)》显示,截至 2025 年 6 月,我国生成式 AI 用户规模已达 5.15 亿人,普及率 36.5%。
5 亿多人。这里面有多少个吴大伯?有多少人正拿着 AI 的答案,去看病、去投资、去打官司、去下田?
当一个工具的渗透率冲到全民级别,它的每一个小数点后的错误率,乘上五亿的基数,都是一个庞大的、真实的、会流血的绝对数字。
吴大伯的 150 亩芝麻,只是这个乘法算式里,被我们看见的那一小格。
结语:AI 能改口,土地不能
回到最开始那个最朴素的画面。
AI 的回答,可以随时改口。你追问一句,它立刻换个说法,甚至向你道歉。它的每一个字,都有"撤回"和"重新生成"。
可农药喷进地里,没有撤回按钮。庄稼枯了,就是枯了。一季的心血、十几万的投入、一家人的指望,不会因为你和 AI 又聊了一轮而重新长出来。
这就是虚拟世界和真实土地之间,那道最深的裂缝。
所以,该信 AI 到什么程度?
我的看法始终没变:让它帮你查资料、列思路、做草稿,行;让它替你做那些一旦错了就无法挽回的决定,不行。用药、治病、投钱、签字——凡是结果不可逆的,人必须自己站到最后一道关口上。
AI 可以是那个博学的顾问,但它永远不该是那个替你签字的人。因为出了事,它不疼,不赔,也不用面对第二天清晨那 150 亩枯黄的地。
那行"注意核实"的小字,或许早就写在那里了。
只是这一次,它的价格,是十几万元,和一位老人一整年的指望。
参考来源:
- 网易号(听心堂):《安徽 67 岁农户按 AI 给的方案喷农药,150 亩芝麻苗一夜枯萎》(转引自荔枝新闻报道),2026 年 8 月 2 日
- 大纪元:《安徽农户按 AI 方案喷药 150 亩芝麻苗一夜枯萎》,2026 年 8 月 2 日
- 新浪(k.sina):《芝麻打农药用错药,150 亩苗枯死损失谁来赔?》,2026 年 8 月
- 复旦发展研究院:《深度洞察斯坦福〈2026 年人工智能指数报告〉》,2026 年
- 中国互联网络信息中心(CNNIC):《生成式人工智能应用发展报告(2025)》,2025 年
- OpenAI:《语言模型为什么会出现幻觉》(Why Language Models Hallucinate),2025 年
- 国家互联网信息办公室等:《生成式人工智能服务管理暂行办法》,2023 年 8 月起施行