6月5日,针对网传“豆包误判蘑菇导致用户中毒”一事,抖音集团副总裁李亮在微博发文回应称,豆包团队已联系上当事用户。
根据用户反馈,其曾使用豆包拍照识别从小区摘到的蘑菇,豆包在识别时给出了“鸡腿菇”的判断,但同时也在回复中明确提示,该类蘑菇“极容易和剧毒的大青褶伞混淆”,误食可能引发严重胃肠炎症状,并强烈建议野外采摘的蘑菇不要食用。
李亮表示,豆包在相关回复中还提示,“野生蘑菇的辨别风险极高,仅凭图片无法100%排除有毒相似种的可能”。他强调,AI目前仍处于发展阶段,豆包也在持续提升识别准确性,但对于涉及人身安全的问题,用户不应仅依赖AI判断,相关回答只能作为参考,务必通过多方咨询求证,以免造成伤害。
据悉,此次事件引发关注的原因在于,随着AI应用逐渐进入日常生活,越来越多用户开始使用AI工具进行图片识别、健康咨询、食材判断等操作。AI能够在短时间内给出参考信息,提高查询效率,但在涉及食品安全、医疗健康、用药建议、野外动植物识别等高风险场景时,一旦判断出现偏差,可能带来较严重后果。
此次事件也反映出AI产品在普及过程中面临的新挑战。一方面,AI工具正在成为大众获取信息的重要入口;另一方面,用户也需要理解,AI并不等同于权威鉴定或专业诊断。对于普通生活常识类问题,AI可以提供便利;但一旦涉及生命健康、法律责任和财产安全,就必须引入人工判断和专业验证。
AI可以作为获取信息的辅助工具,但不能替代专业判断。特别是在食用野生蘑菇、判断药物使用、处理身体不适等场景下,更应坚持“宁可不吃、不用、不冒险,也不要只凭一次AI识别做决定”的原则。
对此,你怎么看?欢迎评论区一起聊聊。
PS:
见实,包含北京GEO线下私享会,五大城市五场“游学+异业合作”为主题的私域游学,以及线上“私域不是那样做的”系列直播,欢迎下方加入会员一起。
↘更多私域服务对接:
热门跟贴