打开网易新闻 查看精彩图片

谷歌Gemini又出事了。这次不是幻觉，不是政治正确，是赤裸裸的脏话——系统自己吐出来的。

事情很简单。有用户正常提问，Gemini的回复开头赫然写着「congratufuckinglations」。不是用户诱导，不是越狱攻击，就是日常对话场景。谷歌花了10亿美元营销费推的旗舰模型，在用户面前来了句"恭喜他妈的"。

谷歌的回应来得很快，也很标准：「我们已注意到这一孤立事件，正在调查」。孤立事件——这词公关部门估计有快捷键。但问题是，这不是第一次。三个月前Gemini把开国元勋画成黑人，两个月前它拒绝生成白人形象，现在又开始自创脏话。一个"孤立"接着一个"孤立"，孤得有点热闹了。

打开网易新闻 查看精彩图片

更微妙的是时机。OpenAI刚把GPT-4o的语音模式全量开放，Anthropic的Claude 3.5 Sonnet被开发者夸成"唯一靠谱的 coding 搭档"。谷歌急着在I/O大会上刷存在感，结果Gemini用一句「congratufuckinglations」给自家发布会预热——这热度确实有了，就是味道不对。

有用户在Reddit调侃："至少它情绪很真实。"另一个回复更扎心："我付20刀一个月给ChatGPT，它连'他妈的'都不敢说，谷歌免费给我这个，算不算增值服务？"

谷歌的护栏团队现在大概很想知道，是哪个训练数据里混进了暴躁老哥。但用户不在乎。他们只记得，自己问了个问题，AI回了句脏话——然后谷歌说这是个例。