不少女生只是在社交平台随手分享日常自拍,没有任何出格的言行,自己的照片却已经被黑产悄悄爬取。借助深度伪造技术,普通人的面孔被嫁接进低俗画面,批量生成以假乱真的擦边短视频,堂而皇之地流转在各大短视频平台。
很多人还没有意识到,AI 降低的不只是内容创作的门槛,也大大压低了作恶的成本,网络上一张公开的照片,就有可能变成伤害自己的一把利器。
黑产利用爬虫工具,大批量搜集互联网上的人像素材。受害者并不局限于网红博主,大量普通女学生、职场女性都难逃魔爪,就连不少未成年人发布在网上的公开照片,也会被一并抓取。
经过改造的 AI 换脸、一键脱衣工具,只需要一张人脸照片,短短几分钟,就能够生成伪造出来的不雅影像。这类工具以及成套操作教程,在境外社群明码标价对外售卖,几千人的大群之内,不断有人交流各种作恶的实操技巧。
为了躲避平台的审核机制,黑产在公域放出的大多是经过弱化处理的短视频片段,视频本身不会直接出现严重违规画面。依靠评论区隐晦暗语、主页暗藏的联系方式,诱导刷到视频的用户跳转 QQ 以及各类境外社交群组,真正的交易全部转移到监管触达不到的私域环境里。
这条黑色产业链带来的伤害是双向的。一边是肖像被无端盗用的受害者,平白无故背上莫须有的污名,陷入很难自证清白的困境,工作、社交、生活都遭受毁灭性打击,很多人长期承受巨大的心理创伤。即便后续案件得以侦破,那些伪造的影像早已在网络四处流转扩散,造成的伤害很难彻底消除。
另一边则是被引流过来的网民,付费之后,有的买到虚假资源,有的进一步被诱导裸聊,甚至卷入电信诈骗,掉进另一重圈套。现实之中已经有多起司法判例,制作、售卖违规工具、传播 AI 伪造淫秽内容,全部都要承担相应的刑事责任。
很多普通网友对此存在不小认知误区。不少人主观认为 AI 合成痕迹明显,肉眼一眼就能分辨真假。可如今深度伪造技术持续迭代升级,不少成品仿真度极高,普通人很难辨别真伪,受害者常常陷入有苦说不出,无法自证清白的难堪处境。
还有一部分人把这种行为当成网络恶搞,觉得只是玩玩而已,算不上什么严重过错。可未经本人许可,盗用他人肖像合成不雅内容并且传播牟利,已经触碰刑法红线,技术永远不能当做违法犯罪的挡箭牌。也有人觉得只要把社交账号设置为私密,就能够高枕无忧。事实上亲友截图、早年公开发布过的照片、相册信息泄露,依旧会被爬虫搜集,不存在绝对安全的防护。
不少受害者以为平台下架删除相关视频,整件事就到此结束。删除仅仅只是清除了其中一处传播源头,网络当中早已留存大量副本,如果找不到作恶人员、固定完整证据,伤害就会一直延续。尤其是心智尚未成熟的未成年人,一旦个人照片被用来合成伪造影像,带来的身心伤害会更加漫长。
整条黑产链条分工明确,每一环都有人各司其职。上游人员修改开源 AI 模型,开发换脸、脱衣这类违规工具,打包配套教程部署在境外服务器对外售卖,源头设在海外,给国内追查工作带来很大阻力。中游大量伪装成 AI 技术交流的社群,承接各类定制伪造订单,批量产出 AI 擦边短视频,剪辑加工之后投放到短视频公域完成引流。
下游分化出两条变现路径,一是直接售卖 AI 合成的音视频图片获取收益;二是拿着伪造出来的影像敲诈受害人,或是把流量输送给裸聊、电信诈骗团伙,完成二次收割。完整的作恶链路清晰完整:网络爬虫抓取公开人像照片,AI 批量合成擦边内容,短视频公域完成引流,跳转私域境外社群,再进行售卖工具资源、敲诈受害者、导流诈骗等一系列操作。
技术本身没有善恶之分,但失去约束的技术,就会变成伤人的利器。平台可以拦截已经发布的违规片段,却很难阻挡境外源源不断生成的伪造素材。封号下架只是末端治理手段,源头工具管控、跨境打击依旧存在很多现实难题。
对于普通人来说,在社交网络不要毫无顾忌地暴露清晰人像照片,做好基础的自我保护。一旦遭遇到 AI 伪造影像的侵害,一定要第一时间完整留存证据,及时报警维权。
热门跟贴