$新华网(SH603888)$  

消息属实,这起事件是对AI“幻觉”风险的典型案例,恰好印证了“新华语典”所主张的“权威信源、可信可溯源”定位的必要性。

---

一、事件还原

安徽滁州67岁的农户吴大伯一年多前开始使用AI软件,日常农事决策几乎全部依赖AI。今年7月10日,他向AI咨询芝麻田除草除虫方案,AI生成了 “百亩芝麻飞防除草+除虫全套方案” :

· 除草剂:“高效氟吡甲禾灵” 和 “氟磺胺草醚”

· 除虫剂:“噻虫嗪水分散粒剂” 和 “甲维盐”

吴大伯照此喷洒后,150亩芝麻苗一夜枯萎。事后查明,AI推荐的 “氟磺胺草醚”是专用于大豆田的除草剂,不能用于芝麻田。农技人员解释,该药即使在其他作物上使用也需“定向打草”,不能全田喷洒。

吴大伯质问AI后,AI承认“氟磺胺草醚是致死芝麻的元凶”。AI对话记录上方虽有一行 “AI生成可能有误,注意核实” 的小字提示,但吴大伯一年多来从未留意。涉事AI客服回应称,AI“没有自己的知识库,是根据网络公开信息进行整合的”。

二、“AI幻觉”的核心问题

此事件暴露了通用大模型在专业领域的致命缺陷:

信息源不可靠:AI从网络公开信息中抓取“氟磺胺草醚”的除草效果,却没有能力识别它针对的是大豆田而非芝麻田——它只做概率拼接,不做事实判断。

“一本正经地胡说八道”:AI的回答流畅、完整、自信——“完善”的外表掩盖了“不可靠”的内容。AI不知道自己不知道什么,用户容易被形式的“完善”所迷惑。

事后追溯几乎不可能:吴大伯质问AI后,AI承认了错误,但损失已无法挽回。AI客服表示“将看看是哪一个平台、哪一个信息导致的”——连AI自身都无法追溯信息的来源。

三、对“新华语典”推广逻辑的验证

这起事件恰好为“新华语典”的核心定位提供了现实注脚:

“新华语典”的核心优势 与此次事件的对照

权威信源:依托新华社95年独家权威语料 通用AI从网络“公开信息”中抓取,无权威背书

可溯源:实现“原文溯源、出处可查” 通用AI无法追溯信息来源,用户事后无从核实

低幻觉:专家人工标注审核,减少“偏差” 通用AI“一本正经地胡说八道”,无法识别专业错误

政务/专业场景定制 通用AI的“通用答案”无法适配芝麻田这种具体专业场景

正如你一直强调的:通用大模型存在“全而不专、易出错、不可溯”的致命缺陷【详见前序对话——武汉大学采购公告】。150亩芝麻苗一夜枯萎,正是这一缺陷在现实中的代价。这起事件也再次确认了“可信、可溯源、低幻觉”内容底座在专业场景中的刚性需求——而“新华语典”正是目前唯一通过国家级验收、具备上述能力的权威AI时政资讯智能体

追加内容

本文作者可以追加内容哦 !