打开网易新闻 查看精彩图片

清理561万条、查处4.9万个号：AI乱象整治进入第二阶段

561万余条违法违规信息被清理，4.9万余个账号被查处，2400余个网站和应用程序被处置。这是中央网信办"清朗·整治AI应用乱象"专项行动第二阶段的阶段性数据。第一阶段打的是"有没有"，第二阶段打的是"深不深"。

第二阶段聚焦四类问题：利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益。这四类的共同点是，AI把作恶的成本压到了极低。以前做一条以假乱真的假新闻需要团队，现在一个人一台电脑就能批量生成；以前模仿一个人的声音需要专业配音，现在几段录音就能克隆。

虚假信息排在首位，是因为它的社会成本最高。AI生成的图文和视频在形式上越来越难辨真伪，加上平台推荐算法的放大效应，一条假消息从生成到破圈可能只需要几个小时。清理561万条这个量级，反过来看也说明生成端的量有多大。

假冒仿冒他人这一项，指向的是AI换脸和声音克隆带来的身份冒用风险。这类内容的危害不止于名誉，还可能直接指向诈骗。对平台的要求已经从"事后删除"推进到"标识管理"，即AI生成的合成内容需要被打上可见或可识别的标识。

侵害未成年人权益被单独列出，涉及的是AI生成内容对未成年人的不良影响，以及利用AI技术对未成年人实施侵害。这一类在处理上通常从重。

值得注意的是治理方式的变化：部署各地网信部门深入推进重点整治任务，督促网站平台集中清理，依法查处违规账号和移动应用程序。责任主体从单纯的内容生产者，扩展到了平台和应用分发环节。这意味着平台不能再以"技术中立"和"用户上传"作为免责理由。

你在刷到的内容里，能分辨出哪些是AI生成的吗？

打开网易新闻 查看精彩图片