打开网易新闻 查看精彩图片

【事件概述】谷歌公司于2025年11月3日紧急下架了其AI模型Gemma，原因是该模型被指控编造了针对美国参议员的不实性侵指控。

【指控详情】据《The Verge》报道，田纳西州共和党参议员玛莎·布莱克本(Marsha Blackburn)致信谷歌CEO桑达尔·皮查伊，指控Gemma模型在回答问题时编造了她涉嫌性侵的虚假信息。该模型不仅声称布莱克本在1987年竞选州参议员期间"被指控强奸"，还提供了虚假新闻链接作为佐证。而实际上，布莱克本直到1998年才首次参选州参议员。

【谷歌回应】谷歌表示Gemma模型本为开发者设计，并非面向大众市场的查询工具。公司已将该模型从AI Studio平台下架以避免混淆，但开发者仍可通过API使用。谷歌强调该模型从未被设计用于回答事实性问题。

【参议员表态】布莱克本在信中严正声明："这些链接导向错误页面和无关新闻。从未有过此类指控，不存在这样的人物，也没有这样的新闻报道。这不是无害的'幻觉'，而是谷歌旗下AI模型制造和传播的诽谤行为。"她还指责谷歌AI平台存在"针对保守派人士的一贯偏见模式"。

【行业背景】这起事件再次引发对AI模型"幻觉"问题的关注。专家指出，当前AI聊天机器人普遍存在编造信息的现象，这已成为行业亟待解决的技术难题。

参考链接:
https://www.engadget.com/ai/google-removes-ai-model-after-it-allegedly-accused-a-senator-of-sexual-assault-170235679.html