【太平洋科技快讯】2月25日消息,近日,腾讯元宝App因AI异常输出辱骂性内容引发关注。西安一名市民在除夕夜使用该App生成拜年图片时,遭遇AI无故辱骂,原本的祝福标语被替换成低俗辱骂文字。

当事人称,此前从未接触过元宝,除夕当天了解到通过元宝发朋友圈可以变成金色,便带着好奇心下载元宝App进行尝试。

当事人表示,他当时先后向元宝AI下达了约5次生成指令,全程未使用任何违禁词或诱导性表述,仅因对生成效果不满意多次修改。起初AI生成的图片虽不理想但内容正常,直至最后一次修改后,主要元素无任何改变,但图片中原有的“新年快乐,仕途顺遂”祝福标语,被替换成了“你妈个X”四字辱骂文字。

针对此事,元宝官方在相关帖子下作出回应,称非常抱歉给用户带来不好的体验,经核实,该情况是模型处理多轮对话时输出的异常结果导致,目前已紧急校正相关问题并优化体验。元宝团队表示,感谢大家对元宝的监督与建议,再次向用户郑重致歉。

打开APP,阅读体验更佳