欧盟即将禁止生成儿童受侵害材料以及未经成年人同意的露骨影像的人工智能工具。
欧洲议会与欧盟理事会的谈判代表于周四同意禁止这类人工智能系统，但仍需正式立法通过。
预计相关程序将在8月初前完成，涵盖图像、视频和音频。禁令适用于欧盟市场上以生成此类内容为目的的人工智能系统，或未采取合理安全措施的系统。企业须在12月2日前确保其系统符合规定。
这项安排是围绕人工智能工具达成的更广泛协议的一部分。
爱尔兰籍欧洲议会议员迈克尔·麦克纳马拉表示，他们已推动将“去衣化”应用纳入禁令，这是他们的一项关键诉求。麦克纳马拉是欧洲议会公民自由、司法与内政委员会的共同报告人。
他说，他们之所以为此据理力争，是因为未经同意的私密影像正在成为一种被人工智能工业化放大的系统性伤害，而受害者绝大多数是妇女和女孩。
麦克纳马拉还表示，这将是欧盟人工智能法律首次明确写入此类禁令。
他说，这项协议为欧盟公民带来了切实保护，他对所取得的成果感到自豪。欧洲议会当时有机会为妇女和儿童采取行动，而他们抓住了这个机会。
互联网观察基金会近日表示，2025年，人工智能生成的涉及侵害儿童内容的视频数量较前一年增长超过260倍。
该机构严肃发出警示，随着人工智能技术快速普及，视频生成大模型、网络各类 “去衣化” 违规应用、付费订阅灰色平台以及具备自主交互能力的代理型 AI 系统持续泛滥，正为不法分子大开方便之门。
借助这些新兴技术工具，违法分子得以突破传统限制，规模化批量制作、跨平台大肆传播各类非法不良内容，恶意篡改真实未成年人的肖像与影像素材，同时利用智能算法模拟和儿童虚拟角色进行低俗露骨的聊天互动，严重侵害未成年人权益，扰乱网络空间秩序，滋生各类网络犯罪隐患。
根据目前已进入立法最后阶段的新《犯罪与警务法案》，社交媒体平台必须在48小时内删除被举报的未经同意影像。
未履行这一义务的平台将面临高额罚款，或其服务在英国被封锁。新规还将禁止用于人工智能深度伪造的“去衣化”工具。
未经同意私密影像案件的受害者，报案期限将从目前的6个月延长至最长3年。
尽管《犯罪与警务法案》看起来将加强对未经同意私密影像问题的打击，但专家警告，面对不断扩大的伤害，平台还必须采取更多措施。
热门跟贴