我们从一份档案开始。
姓名：吴大伯。年龄：六十七。籍贯：安徽滁州。职业：农民，工龄四十余年。主要资产：流转承包的一百五十亩地，全种芝麻。启动资金：八万多——种子、化肥、土地流转费、无人机作业，一样没省。预期收益：秋收后落十几万。座右铭（近一年新加的）：有事问AI。
就最后这一条，把前面所有条，全废了。
一、一个老农，是怎么一步步信上AI的
先说清楚，吴大伯不是那种一忽悠就上头的人。
种了四十多年地的人，脑子里有本账。哪块地存水，哪块地漏肥，他门儿清。这种人，你跟他吹牛，他不接茬，只是笑笑。
一年多前，他刷短视频，刷到了AI问答软件。
一开始纯属好奇，问点鸡毛蒜皮的。后来他试着问农事——什么时候追肥，地里生虫怎么办，叶子发黄是啥毛病。
几秒钟，屏幕上就吐出一大段。分点罗列，一二三四，药剂名称、配比用量、操作步骤，写得清清楚楚。
说实话，比乡镇农技站的技术员说得还全。
刚开始，吴大伯还留着一手。AI给完方案，他转身去农资店问问老板，或者找村里的老把式核对一遍。几回下来，AI说的大差不差。
于是那点戒备，就像雨天的土墙，一层一层地掉。
这里我得替他说句公道话。他这不叫懒，叫没办法。
乡镇农技员就那么几个人，管着几万亩地，请人下地得排队；跑农资店问，人家热情里带着货——你说虫，他推虫药，卖的是自家柜台上那几瓶。
而AI呢？手机一掏，随时能问，不用求人，不用赔笑脸，不用来回跑三十里。对一个不想麻烦任何人的老头来说，这东西的吸引力，几乎是致命的。
后来事实证明，"几乎"两个字可以去掉。
二、7月10日，那份"全套方案"
7月10日，芝麻正在拔节，草也跟着疯长。
吴大伯掏出手机：一百多亩芝麻地，怎么除草除虫。
AI给了他一份东西，标题起得相当专业——《百亩芝麻飞防除草+除虫全套方案》。
除草剂两种：高效氟吡甲禾灵、氟磺胺草醚。除虫剂两种：噻虫嗪水分散粒剂、甲维盐。配比明明白白，飞防怎么走也交代了。
吴大伯看了看，没什么可挑的。照单抓药，请了无人机，一百五十亩，从东头喷到西头。
那天晚上他睡得挺踏实。
第二天上午，他照例下地。
站在地头，他先是没反应过来——那片绿，怎么变颜色了。
走近看，芝麻苗成片打蔫、发黑，从芯里往外坏死。杂草也死了，倒在垄沟里。
草死了，苗死得更快。
一百五十亩，一夜清零。
我不知道一个六十七岁的人站在那样一片地里能想什么。也可能什么都没想——有些时候人不是在难过，只是脑子里一片空白，站着，站很久。
三、AI为什么会犯这种低级错误
事后吴大伯回去质问AI。AI这回倒干脆，承认了：致死主因是氟磺胺草醚。
农药经销店老板一听就摇头：这药是大豆田专用的阔叶除草剂，芝麻地不能用。
农技人员说得更细：就算能用在个别作物上，也必须定向喷杂草，一株一株地打，绝不能满地泼。全田喷洒，作物必死。
（打个比方：医生开了一盒药，说抹在伤口上；你回家给孩子灌下去了。药没错，用法错了，人就没了。）
那AI为什么会错？这里头有个不太好笑的原因——芝麻，太小众了。
大豆是大宗作物，网上的植保资料能堆成山。芝麻不一样，正经资料稀稀拉拉。
AI这东西，说穿了不是"懂"，是"拼"。它把全网碎片拼起来，算出下一个字最可能是啥，然后一本正经地说给你听。
资料够，它拼得像；不够呢？它不会说"我不知道"。它会去隔壁抓一份最像的——大豆的方案，改个抬头，写上"芝麻"。
它不是骗你，它是真不知道自己在胡说。
这就是所谓"AI幻觉"。最可怕的不是它会错，是它错得太有条理了。一份漏洞百出的方案，排成一二三四点，配上一堆化学名词，谁看了都觉得靠谱。
一个种了四十年地的老农，栽在了排版上。
四、那行浅灰色的小字
出事后吴大伯说了一句话，我看了心里挺不是滋味：AI要是提醒我一句"操作需慎重"，我也不会贸然就打了。
然后有人指给他看——对话框最上头，是有一行字的：
AI生成可能有误，注意核实
浅灰色，小号字，缩在角落里。他说，从来没留意过。
我信。你信吗？手机上那些"我已阅读并同意"，你读过几个字？
在高危场景里，把责任压缩成一行浅灰小字，这不叫告知，这叫留痕。
真要提醒，难吗？一问"大田施药""农药配比"，弹个红框："本方案未经农技核验，施药前请咨询当地农技部门"，点确认才能继续——技术上一点不难。再往前一步，接个官方农药登记数据库，作物和药剂对不上就拦截——也不难。
不做，无非是因为不做也没什么事。
客服后来是这么回的：我们没有自己的知识库，内容是整合网络公开信息来的，会追溯来源；您的损失，我们登记反馈。
登记反馈。截至报道发稿，没有下文。
五、谁来赔？这才是最难的那道题
一百五十亩，几十万的窟窿，找谁？
找AI公司？人家有那行小字，你得先证明这构成服务、他们有过错、损失和建议有直接因果——每一样都够一个老农跑断腿。
找无人机作业方？人家按你给的方子打的。找农资店？药是合格药，你也没说打在芝麻地里。
绕一圈你会发现，所有人都站得住脚，只有站在地头的那个老头，站不住了。
最寒的不是没人错，是错被切成了很多份，切到每一份都小得可以不认。
当然，吴大伯不是没有责任。不同作物配不同药，是常识；打药前看一眼适用范围，也是常识。他把这两条常识，交给手机替他记。
这一年多里，AI每答对一次，都在悄悄替他卸下一块判断力。等到出事那天，他手里已经什么都不剩了。
技术最危险的时刻，从来不是它出错那一刻，是它在此之前对了很多次的那些时刻。
在他之前，已经有人照AI的"古法偏方"把工业化学品当添加剂吃进医院，有患者按AI"诊断"自行加减药差点脏器衰竭。再往后，还会有。
我不唱衰AI。识虫害、测水肥、看农情，规模化农场早就跑通了，人家背后是真有农业知识库的。问题从来不是"AI能不能下乡"，是AI下乡的时候，能不能带上刹车。
六、最后
老话讲，尽信书不如无书。现在得改改：尽信AI，不如无AI。
书还有个作者，写错了能找他；AI这东西，你问它错在哪，它说是网上抄的；你问网上是谁，它说不知道。
它什么都答，什么都不认。
七月的皖东本该是一片绿。现在那一百五十亩地里，草和苗躺在一起，谁也没活成。
一个六十七岁的人，把一年的希望、半辈子的积蓄，交给了一个不需要为任何后果负责的东西。
技术是把犁。犁再快，也得有人扶着。
手一松，翻的不是地，是人。
热门跟贴