2月25日消息，近日，腾讯元宝App因AI异常输出辱骂性内容引发关注。据华商报大风新闻报道，西安一名律师向先生在除夕夜使用该App生成拜年图片时，遭遇AI无故辱骂。

向先生当晚首次下载元宝App，希望生成一张结合律师职业特点的拜年图片。他先后向AI下达约5次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。

起初AI生成的图片虽不理想但内容正常。第一次生成添加了祥云、法律天秤等元素，配有“新年快乐，仕途顺遂”祝福语。向先生回复“难看”后，AI将他的发型P成卷发。向先生接着回复“你这是设计的什么鬼”，希望再次重新设计。

最后一次修改后，图片中的祝福标语被替换成“你妈个X”四字辱骂文字。向先生表示，这一结果让他又好气又好笑，没想除夕晚上自己竟然被AI给骂了。

针对此事，元宝官方在相关帖子下回应称，非常抱歉给用户带来不好的体验，经核实该情况是模型处理多轮对话时出现的异常输出导致，目前已紧急校正相关问题、优化使用体验，并向用户郑重致歉。

这并非元宝App首次出现AI辱骂用户情况。今年年初，就有网友反馈使用元宝App修改代码时，多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复。当时元宝官方曾致歉，称该情况与用户操作无关，属于小概率下的模型异常输出。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片