最近央视曝光的哩布哩布AI涉黄事件，实在让人惊掉下巴。记者用网上买的提示词，几分钟就生成了半裸女性跳舞视频，全程没触发任何限制机制。
这家叫北京奇点星宇的公司，2023年5月成立，注册资本才100万，却敢做AI生成平台，现在看来安全防线形同虚设。
这事绝不是个案。现在网上已经形成了完整的灰色产业链，有人专门卖规避审核的提示词，有人靠生成违规内容牟利。平台事后道歉说只是个别边界场景问题，但明眼人都清楚，这根本是审核机制严重缺位。
AI技术发展快是好事，但安全底线不能丢。《生成式人工智能服务管理暂行办法》都实施快三年了，还有公司敢这么敷衍安全责任。注册资本100万，抗风险能力本就弱，再把安全当儿戏，出事是迟早的事。
我觉得这事得从三方面解决：一是平台必须把内容安全当核心竞争力，而不是成本负担；二是监管要加大处罚力度，让违规成本远高于收益；三是行业得尽快建立统一的安全标准。AI不是法外之地，狂奔的同时必须装好刹车，不然技术再先进，也只会沦为作恶工具。@营销头版

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片