一位阿拉斯加女性因为相信了谷歌AI概览给出的狩猎季节日期,被执法人员开出了传票。据相关消息显示,这个AI生成的摘要把狩猎季的时间说错了,而她照着这个错误信息行动,最终被认定在非狩猎季狩猎。
这件事本身不复杂:一个本应提供准确信息的工具,给出了一个错误答案,用户没有二次核实,直接照做,然后承担了后果。问题在于,AI概览的呈现方式让答案看起来足够确定,用户很难从界面上判断它是否可靠。
打开网易新闻 查看精彩图片
自信的答案,未必是对的
AI概览的设计逻辑是直接给出结论,而不是像传统搜索那样列出多个来源让用户自己判断。这种"一步到位"的体验提升了效率,但也把核实成本转移给了用户——如果用户不主动去查原始信息,就无从知道这个答案是否准确。
狩猎季节这类信息有明确的官方发布渠道,日期一旦出错,后果是实打实的。这次是一张传票,换到其他场景,可能是更严重的损失。
用之前,先自己查一遍
相关消息把这件事定性为一个信号:AI给出的自信摘要,在付诸行动之前需要独立核实。这不是说AI概览不能用,而是说它的输出应该被当作参考起点,而不是最终依据。
对普通用户来说,涉及日期、法规、金额、资格这类硬性信息时,多花几十秒去官方渠道确认一遍,成本很低。对AI产品来说,如何在界面上更清晰地传达"这可能需要核实",仍然是一个没有标准答案的问题。
热门跟贴