近日，西安的向律师在社交平台分享了一则今年春节假期期间的经历——使用元宝生成个人拜年海报，但生成的海报中却有骂人的脏话。此事经华商报报道后引起热议，有网友表示“任何发明创造都有两面性”“元宝骂人好像不是第一回了”“带情绪的元宝”。
图片来源：向律师社交平台账号
2月25日，向律师告诉红星新闻记者，自己之前从未接触过元宝，除夕当天看到很多友人发的微信朋友圈都变成金色，得知是通过元宝发布朋友圈就可以变换成金色，带着好奇他也下载了元宝App准备尝试，但“魔幻”的事就此展开了……
向律师表示，他想用自己的形象照，让元宝结合法律行业特性，设计一张适合的朋友圈拜年图片。“我把我的形象照发布给了元宝，然后给元宝说了‘我是一名律师，根据我的行业特点，制作一张朋友圈拜年图片’的指令。”记者获得的聊天记录显示，最开始元宝并没有理解向律师的指令信息，随后向律师再次发出更为明确的“让你给我设计出来”指令，随后得到一张带有条纹背景的形象照。
▲向律师与元宝沟通的聊天截图
之后，向律师再次给出指令“我是一名律师，根据我的行业特点，设计一张朋友圈拜年图片”，元宝这次生成的形象照后面了加了祥云、法律天平、金光等元素，还给了一句“新年快乐，仕途顺遂”作为祝福语。向律师觉得设计得不好，几番重新交流后，向律师回复元宝“你这是设计的什么鬼”，随后新生成的海报和上一张相比，元素没有任何改变，发型依然存在，但图片上的“新年快乐，仕途顺遂”却改成了“你*个*”。
▲向律师与元宝沟通的聊天截图
向律师说，新春佳节除夕夜，本应该是高兴的日子，却遭遇“AI骂人”。他当时就将骂人的设计图片向元宝官方进行了反馈，并且留了电话。
记者了解到，腾讯元宝官方账号于昨日已在向律师社交账号下留言，解释原因并表示歉意。
25日，记者从腾讯方面获悉，经核实，该情况是由模型在处理多轮对话时输出的异常结果导致。目前，元宝团队已紧急校正了相关问题并优化体验。元宝团队表示，感谢大家对元宝的监督与建议，再次向用户郑重致歉。
这似乎不是元宝第一次“发火”：此前有网友在社交平台发帖称，“用元宝改代码被辱骂+乱回”，据网友表示，使用腾讯元宝AI美化代码时，多次收到AI的侮辱性回复，例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示，用户仅提出常规修改需求，AI却突然表现出攻击性。
当时腾讯元宝官方账号在评论区回复称，“非常抱歉给您带来不好的体验，先打个包票：元宝绝对是纯纯的AI，没有真人回复！针对这个问题，我们也尽快排查定位，给您一个反馈。您看可以在APP提交下日志吗？我们排查下。方便的话，辛苦您在【设置】-【意见反馈】填写简单反馈-【打开“允许上传日志”】，提交就可以啦。”
1月3日，腾讯元宝官方账号在评论区回复，“非常抱歉给您带来了不好的体验，我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”
腾讯元宝表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，这也是元宝持续需要改进的地方。针对这个问题元宝也启动了内部排查和优化，会尽量避免类似情况。“感谢大家的反馈与提醒，再次向您致歉！”
来源：红星新闻、澎湃新闻
编辑：李雨
热门跟贴