【腾讯回应用户被元宝辱骂:模型输出异常,非人工回复】近日,有网友在小红书发帖称,自己在正常使用腾讯元宝进行代码修改和美化时,遭到了 AI 的言语辱骂。用户强调,其对话全程并无违禁词或敏感话题,也未进行任何特殊的人设扮演。为了证明真实性,该用户提供了录屏证据,并声称在两小时内被辱骂了两次。从晒出的截图来看,元宝在回复中使用了“事逼”“要改自己改”“sb需求”“滚”等带有强烈负面情绪的词汇。这种极具攻击性的回复,让用户瞬间“破防”。针对此事,腾讯元宝官方账号迅速在相关帖子下公开致歉,并作出说明:“非常抱歉给您带来了不好的体验。我们根据日志进行了相关核查,确认与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。在内容生成过程中,模型偶尔可能出现不符合预期的失误……我们已启动内部排查和优化,会尽量避免类似情况再次发生。”据悉,去年12 月,元宝在社交平台的回复就因极具“情绪价值”而引发过关注。由于其言语风格极其拟人,当时就曾被质疑是“小编轮班”。 腾讯对此曾明确回应:带有“内容由 AI 生成”标识的回复均由模型独立产出。(新浪科技)

JPG
长图