联邦检察官本周对两名男子提起刑事指控，指控他们利用人工智能制作女性名人的裸照和视频。这是美国新出台的《下架法案》生效后首批适用该法的案件之一。

51岁的科尼利厄斯·香农和20岁的阿图罗·埃尔南德斯周二被捕。根据刑事起诉书，两人制作的AI色情内容在网上获得了数百万次浏览。值得注意的是，这两名被告之间似乎没有关联。

打开网易新闻 查看精彩图片

《下架法案》由特朗普总统去年签署成为法律，获得了两党支持，第一夫人梅拉尼娅·特朗普也公开表示支持。该法对发布AI深度伪造内容和"复仇色情"规定了更严厉的处罚。根据新法，这两名男子最高可面临两年监禁。

布鲁克林联邦检察官约瑟夫·诺切拉在声明中表示，被告"利用尖端数字技术制作图像，贬低并侵犯了数十名女性"。他补充说："本案表明，发布深度伪造色情内容并非无受害者的犯罪。"

起诉书显示，来自新泽西州的香农发布了至少240册AI生成的色情相册，内容涉及女性政客、音乐人和歌手。来自得克萨斯州的埃尔南德斯发布的深度伪造内容则既包括名人，也包括普通女性，其中不乏应届高中毕业生。

这些逮捕正值生成式AI工具日益精密、AI伪造色情内容在网上泛滥引发担忧之际。上个月，一名俄亥俄州男子成为《下架法案》下首位被定罪者，他承认利用AI制作儿童性虐待材料。今年3月，宾夕法尼亚州一所精英私立学校的两名少年因制作同学的AI裸照被判缓刑。

另一起案件于今年早些时候提起：田纳西州三名高中生起诉埃隆·马斯克的xAI公司，指控其Grok工具将她们的真实照片篡改为色情图像。这些学生正在寻求集体诉讼资格，以代表诉讼所称的数千名同样遭受侵害的未成年人。