文 |文心
首发 | 芳华青年
【芳华青年】—— 聚焦时代脉搏，解码青年未来！ 民生观察 | 财经透视 | 数字浪潮。做您数字时代里「懂政策·明趋势·有态度」的成长伙伴！
搁以前大家遇到不懂的事，都会去搜索引擎，有句话叫“诸事不决问百度”，如今AI时代，这话变成了“诸事不决，问AI”。
从“帮我写份工作报告”到“我咳嗽该吃啥药”，AI已经快成了咱老百姓的万能助手。尤其是豆包，很多人都觉得好用，而且用户量也很惊人。
AI的好处确实有，不用预约挂号，不用排队候诊，手机屏幕上敲几个字，AI就给你变出一大堆看起来很专业的答案。
可问题是，AI到底靠不靠谱？最近广西南宁一对新手爸妈的故事，听得人后背直冒冷汗。
阿强夫妇俩的宝宝刚满月，因为之前黄疸住过院，小两口对孩子的健康那是一百个上心。
满月后孩子动不动就哭闹，他俩琢磨着带孩子去看医生又怕折腾，干脆打开手机里的AI工具“豆包”，输入“满月宝宝一次喂多少奶”，AI秒回了答案：60毫升。
这数字一出，夫妻俩如获至宝，像拿到了育儿圣旨。
从此每一顿都用量杯精确量取，一滴不多一滴不少，哪怕孩子哭得撕心裂肺，哪怕家里老人劝“多喂两口吧，看把孩子饿成啥样了”，阿强夫妇也岿然不动，心里只有一个信念：AI说的肯定有科学依据，必须严格执行。
结果呢？孩子连续饿了一整周，哭到声嘶力竭，哭累了才沉沉睡去。
直到五月底，小两口带宝宝回南宁市妇幼保健院复查黄疸，医生追问之下，结果让他们大跌眼镜。
新生儿科主任曾贵祥当场表示，足月满月的宝宝一次喝60毫升，远低于80至100毫升的正常需求量，这一周下来，宝宝的体重一斤没长。
一斤没长啊朋友们！
大人在家饿一周都顶不住，更何况是一个刚满月的小婴儿。就因为有一个人工智能在屏幕那头说了一句“60毫升”，阿强夫妇就硬生生让亲骨肉饿了一礼拜。
这事离谱吗？太离谱了。
可仔细想想，现在像他俩这样对AI深信不疑的人，还真不少。
南宁有个刘先生，今年春节期间反复头晕胸闷，用DeepSeek一查，AI提示他可能是心梗前兆，他赶紧跑去医院，还真查出了毛病。
这个案例里，AI当了回功臣。
但不是每个人都这么幸运，杭州一位男子长了口周疱疹，问AI后按照建议去药店买药，结果剂量搞错了——AI只说“每次服用几粒”，没说每粒多少克。
进口药剂量是国产药的3倍，他一口气吃了8粒，超标准剂量3倍，直接急性药物性肾损伤进了ICU。
其实，我自己用AI的时候，也出现过类似的问题。
前阵子，让它帮我梳理一下某个上市公司的财报数据，因为在这之前，我已经有了一些基本的数据，但想要更详细的数据，就找豆包。
它汇总了几十个信息源以后，哐哐给我一大片调查，有模有样的。可是仔细一看，全是错的！
就连基本的一些数据都是胡乱编的，后来好几次都发现有类似的问题。
不仅如此，张雪峰逝世那阵子，我让他汇总一些数据，也出现过类似的AI幻觉，它竟然一本正经的给我辟谣，说张雪峰没死，不能造谣.....
倘若你提出它的错误问题后，道歉的态度倒是很诚恳，只是每次还是一样胡诌乱写。
你看，AI这东西就像一把双刃剑，有时候能救人一命，有时候能把人坑得半死。问题的关键在哪里？
就在于AI根本没有面诊的能力，它就是个“文本生成器”。你以为它是在给你看病，实际上它只是在用大数据和算法猜你想听什么。
北京协和医学院教授张新庆说得很直白：AI往往会“迎合”用户，即便它搞不清楚你的病情，也不会老实告诉你“我不知道”，而是硬着头皮给你整出一套模棱两可的答案。
这不就跟某些不靠谱的“X度看病”异曲同工嘛——你搜“咳嗽”，它能给你列出一百种可能，从普通感冒到肺结核再到肺癌，看完你恨不得连夜写遗书。
有人可能会杠：AI总比自己去网上乱搜强吧？还真不一定。
哈佛医学院团队今年发表在《JAMA Network Open》上的一项研究显示，即使是最先进的AI大语言模型，面对复杂临床推理时的失败率也超过80%。也就是说，十个复杂病情里，至少八个AI都搞不定。
正因为AI存在这种致命缺陷，越来越多的省份开始亮红灯。天津市前不久印发了互联网诊疗监管实施办法，明确提出“严禁使用AI自动生成处方”。
在此之前，北京、上海、福建、湖南等多地也已陆续出台了类似的禁令。处方药这东西，可不是闹着玩的，剂量错一点，后果天差地别。
北京友谊医院的张鹏医生就发现，AI在提供医疗建议时，有时会采纳网上夸大甚至错误的信息，连“单孔减重手术”的概念都能翻译错。
这种AI给出的建议，你敢拿自己的身体去试吗？
那么问题来了：AI到底能不能用来问病？
我觉得能问，但别轻易信，最好是几个不同的工具交叉验证一下，而且AI的结果，只能作为参考。
南宁这对夫妻的教训，给所有依赖 AI 的人提了个醒：面对健康和生命相关的事，可以参考 AI，但绝对不能盲从；可以借助科技，但绝对不能脱离常识和专业。
AI 再智能，也读不懂宝宝哭闹里的委屈，算不准每个生命的独特需求；机器再精准，也抵不过医生几十年的临床经验，抵不过父母对孩子的用心呵护。
科技越发达，我们越要保持清醒。别让冰冷的代码，取代了温暖的判断；别让所谓的 “标准答案”，困住了鲜活的生命。
毕竟，能为生命负责的，永远只有我们自己，和专业的人。
作者：互联网资深运营文心，前百度运营师，阿里达摩院人工智能训练师，长期提供广告推广策划、网站建设、广告软文、文案、AI咨询、公司自媒体内刊等的代写作以及互联网运营、推广相关代运营。公众号：芳华青年。声明：图片源于网络公开素材。文章仅做分享交流，无任何商业目的和行为，如有不妥联系删除。
热门跟贴