依赖AI生成的建议，最终成为三名登山者的“关键失误”，他们原计划8小时登顶加州沙斯塔山，却演变成一场长达三天的艰难考验。经过一场复杂的多日救援行动，包括一次受伤和两次失败的直升机空运尝试，登山者最终获救。
这支队伍周日凌晨3点出发，16小时后抵达山顶，但下山途中一人跌倒受伤，导致全队迷路。救援人员于周一将全队安全撤离。
登山者向救援人员承认，他们在规划此次行程时使用了多种科技工具，包括YouTube、户外健身娱乐应用AllTrails，以及谷歌Gemini AI。斯基约县警长办公室在Facebook帖子中表示，过度依赖Gemini是一个重大错误。
帖子部分内容写道：“这些男子在现场告诉警长办公室的一名副警长，他们严重依赖谷歌的Gemini AI来获取路线信息以及行程装备建议。这是一个关键性的失误，因为Gemini建议他们携带的食物和水远低于团队实际所需，尤其是在原计划8小时的登顶行程变成多日煎熬之后。”
警长办公室随后提醒公众，“在规划行程时切勿完全依赖AI”。
美国林务局及斯基约县警长办公室的代表均未立即回应置评请求。
此次行程还存在其他问题。登山者报告称他们的手机电池耗尽，备用电池也无法使用。由于没有离线地图，迷失方向的队伍在下山途中走错了路。此外也反映出他们装备准备不足，那名受伤的登山者为了节省电池电量，在完全黑暗中前行，没有使用头灯。
谷歌方面的回应
一位谷歌代表在电话中告诉CNET，公司的信任与安全团队正在调查Gemini生成的登山建议。该公司目前无法重现登山者所收到的答案。这位代表承认Gemini可能会出错，并表示用户在对结果有疑问时应始终核查Gemini引用的信息来源。
尽管登山者并未具体说明Gemini建议携带哪些食物和饮品，或应携带多少数量，但警长办公室已明确将此列为问题之一。
我曾尝试向Gemini提问，试图获得登山者所说的那种回答，但未能成功。当我询问适合登山的推荐食物时，Gemini建议混合搭配碳水化合物、脂肪和蛋白质。即使我要求提供低脂方案，Gemini仍会提到登山者通常会携带高钠、高脂、高热量的食品，比如奶酪和腌制肉类。在我明确说明虚构徒步行程的预计时长之前，它并未主动建议具体携带数量。
AI并非可靠信息来源
人工智能常常忽略关键细节，导致用户在现实情况中准备不足。有时后果较为轻微。去年年底，CNET编辑柯林·塞萨里克-埃普尔曾使用ChatGPT进行一周的备餐规划，多次注意到AI提供的食谱调味严重不足。但有时后果可能十分严重。一些律师使用AI协助撰写法律文件，结果危及了自己的职业生涯，部分人因错误连篇的工作而受到正式训诫。
生成式AI工具本质上只是在预测其训练数据中的模式，而这些数据大多来自未经核实的网络来源。因此，专家们建议用户在依赖任何AI生成的建议之前，都应独立核实其内容。由于AI并不会真正进食、执业或登山，它永远不该是学习这些技能的最佳途径。
Q&A
Q1：登山者为什么会被困在沙斯塔山上？
A：三名登山者原计划8小时登顶，但过度依赖谷歌Gemini AI提供的路线和装备建议，导致携带食物和水不足，加上一人受伤、手机电池耗尽、缺乏离线地图，最终迷路被困，演变成三天的救援行动。
Q2：谷歌对此事有什么回应？
A：谷歌代表表示，公司信任与安全团队正在调查Gemini生成的登山建议，但目前无法重现登山者所收到的具体答案。谷歌承认Gemini可能出错，建议用户使用时应核查Gemini引用的信息来源。
Q3：为什么专家说不能完全依赖AI做出行规划？
A：生成式AI工具本质是预测训练数据中的模式，数据大多来自未经核实的网络来源，容易忽略关键细节。专家建议用户在依赖AI生成的建议前，应独立核实内容，尤其是涉及户外活动等有安全风险的场景。
热门跟贴