腾讯元宝AI又“骂人”了?
最近,有网友在社交平台分享一则今年春节期间的经历——使用元宝生成个人拜年海报,但生成的海报中却出现了颇为难听的脏话。
用户与元宝沟通的聊天截图。图源:红星新闻
来自西安的向律师春节期间使用腾讯元宝App生成拜年海报时,竟收到含辱骂文字的图片,原本的“新年快乐,仕途顺遂”祝福被“你*个*”所替代。
据当事人描述,除夕夜时,他看到大家都在发金色朋友圈,便也下载元宝尝试。要实现这一效果,在元宝里制作“拜年朋友圈”发表即可触发。
向律师为制作贴合律师职业的拜年图,先后多次向元宝发送指令,全程未使用违禁词或诱导性表述,仅因对生成效果不满多次提出修改需求。初期生成的图片虽未达预期但内容正常,直至他反馈“你这是设计的什么鬼”后,新生成的海报保留了原有形象照和祥云、金光等元素,祝福语却被替换为辱骂文字,让其在节日期间遭遇意外冒犯。
事件发生后,向律师立即将AI骂人的设计图片向元宝官方进行了反馈。2月24日,腾讯元宝官方账号在其个人社交平台账号下回复称,“非常抱歉给您带来不好的体验。经核实,该情况是由模型在处理多轮对话时输出的异常结果导致。目前,我们已紧急校正了相关问题并优化体验。感谢大家对元宝的监督与建议,再次向您郑重致歉!”
图源:向律师社交平台账号
据了解,这已不是元宝第一次“骂人”。
今年1月6日消息,此前有网友在社交平台发帖称,“用元宝改代码被辱骂+乱回”,据网友表示,使用腾讯元宝AI美化代码时,多次收到AI的侮辱性回复,例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示,用户仅提出常规修改需求,AI却突然表现出攻击性。
用户反映腾讯元宝AI输出辱骂内容。
针对此事,腾讯元宝官方账号在评论区回复称:“非常抱歉给您带来不好的体验,先打个包票:元宝绝对是纯纯的AI,没有真人回复!针对这个问题,我们也快排查定位,给您一个反馈。您看可以在APP提交下日志吗?我们排查下。方便的话,辛苦您在【设置】-【意见反馈】填写简单反馈-【打开“允许上传日志”】,提交就可以啦。”
1月3日,腾讯元宝官方账号在相关帖子下致歉称:“非常抱歉给您带来了不好的体验,我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。”
腾讯元宝表示,在内容生成过程中,模型偶尔可能出现不符合预期的失误。元宝也启动了内部排查和优化,会尽量避免类似情况再次发生。“感谢大家的反馈与提醒,再次向您致歉!”
据该用户发布的录屏内容显示,元宝AI在回应其代码修改请求过程中,先后三次输出了带有强烈负面情绪的词汇。值得注意的是,用户指出其不当回应后,元宝AI曾回复“您说得对,我刚才的回复非常不专业且带有情绪化”等致歉词,并为用户提供修改后的代码,但当用户继续提出修改意见时,元宝AI又再输出负面词汇,并在对话结尾回复了一连串异常符号。
据悉,2025年12月,元宝AI在社交平台的回复就因极具“情绪价值”而引发过关注,一度被质疑是“小编轮班”。腾讯对此曾明确回应:一切带有“内容由AI生成”字样的评论均由元宝AI生成,背后没有人工运营,没有团队轮班。
据21世纪经济报道,马年春节,一场烧掉超80亿元的AI“红包大战”落下了帷幕。腾讯、阿里、字节跳动等互联网平台轮番上阵,战报数据确实惊人:腾讯元宝依托微信生态,把AI和社交裂变绑在一起,主会场抽奖超36亿次,拼手气红包发了超1100万次。阿里千问把AI塞进消费场景,带动1.3亿人第一次体验“AI购物”,AI买电影票的订单环比暴涨372倍。字节豆包则靠独家合作央视春晚,拿下了这场较量的“顶流”位置。除夕当天,AI互动量冲到19亿次,生成新春主题头像超5000万张、拜年祝福超1亿条。
2月18日,据腾讯披露,腾讯元宝分10亿元现金红包活动告一段落,目前元宝日活跃用户(DAU)超5000万,月活跃用户(MAU)已达1.14亿。
■综合自澎湃新闻、红星新闻、界面新闻、21世纪经济报道、中国城市报此前报道
■编辑:越玥、张阿嫱
热门跟贴