警惕AI“脏话输出”
新浪财经
·河北
·优质财经领域创作者
来源:滚动播报
(来源:新华日报)
最近,有网友在社交平台分享一则今年春节期间的遭遇:使用某AI软件生成个人拜年海报,生成的海报中竟出现了脏话。涉事团队回应称,该情况系模型在处理上下文时产生的异常输出。
AI竟会“骂人”?在AI技术日趋成熟、深度渗透日常生活的当下,这一事件或许可归为“小概率”失误,理论上能通过模型迭代逐步规避。但这绝非可以轻描淡写的“意外”,其暴露出的模型可控性、安全性及伦理把关等问题,值得整个行业警惕。AI越智能、应用越广泛,安全底线、伦理红线与企业责任越不能缺位。
魏晓敏/文 勾犇/图
热门跟贴