梅洛尼总理一看这样下去不行，5月5号她干脆自己在社交平台上贴出了其中一张造假图，直接告诉大家这全是伪造的。她说，这种叫深度伪造的技术可不是闹着玩的，它能骗人，还能操纵人，是一种危险的工具。
她自己毕竟是一国总理，能找律师，能在法院说话，可大部分普通人碰上这种事，叫天天不应，叫地地不灵。她还特别提醒，网上的信息不能看到就信，按转发之前得先琢磨琢磨，今天发生在她身上的糟心事，明天说不准就掉到你我身边的熟人头上。
为什么梅洛尼会这样讲，因为她已经不是头一回被这种人脸造假技术盯上了。2024年的时候就有新闻，有人用人工智能合成了一段假视频，搞成了不雅视频，里面安上了她的脸，然后放到了一家色情网站上。
她当时就起诉了那两个干这事的人，要求赔偿10万欧元。那会儿意大利政府也赶紧动作，出了一部法律，把没经本人同意就制造和散布这种深度伪造私密画面的行为，定为刑事犯罪，最重能关5年，还得罚一笔钱。
平常大家聊高科技，总是想到效率高、很聪明，可谁成想在背地里面，它已经成了一条专门祸害女性的流水线。有一个叫数字仇恨防控中心的机构，专门盯着这种事儿。他们发现，Grok这个人工智能工具，能根据几句话就自动生成图像。
再看受害人里头是谁，数据就会让人心里咯噔一下。全球范围有38%的女性亲身经历过网络暴力，85%的女性在网上看到过别人被数字暴力侵害的场面。所有的深度伪造内容里面，有90%到95%是没经过本人点头的色情影像，这些影像里头又有90%左右的受害者是女性。
咱们可以换算一下，就是差不多每10张伪造的黄图里头，有9张是祸害女性的。这就不单纯是个别的嘴炮或者恶作剧，它变成了有规模、有套路的数字剥削生意，把一个人的脸当成原材料来糟蹋。
后来一打听，才发现有人拿她的几张生活照，用了那种自动生成工具，做了几十张不堪入目的裸照发在群里，还带上了她的真实姓名、公司名称和手机号。接下来她开始收到各种陌生人的骚扰电话，家里人也接到威胁信息，半夜有人给她发消息说认识她住哪。
她最终报了警，可警方让她自己先固定证据，她去联系群组平台，不少服务器在国外，删掉一个，另一个群又冒出来。她只能辞职，关掉用了好几年的社交账号，人一下子变得不敢出门。这就是一堆数字像素滚到现实里带来的真实打压，一点不虚。
这只是千千万万受害者中的一个轮廓。现实中还有女记者、女学生、女护士，因为敢于发声或者仅仅是被嫉妒，就被这种深度伪造技术盯上。受害人往往百口莫辩，你解释得越多，别人可能越觉得你真有什么事。很多女性受不了这样的精神折磨，甚至出现抑郁和焦虑。
而那个动了动手指制造假图的人，可能还在跟别人炫耀自己会“整活儿”。这背后的道理很残酷：技术带来的羞辱是没有门槛的，但消除羞辱却需要资源和门槛。梅洛尼能用10万欧元的索赔去维护自己，而无数个普通女性却往往没有这样的通道。她们能得到的只是一句“清者自清”，可这句老话在铺天盖地的网络围观面前轻得像纸。
各国政府也不是完全在睡觉。意大利把深度伪造害人定为犯罪，欧盟有一部叫《数字服务法案》的法规，逼着大型平台评估风险，要建立迅速删除假内容的机制。联合国妇女署三番五次地警告，说人工智能正让针对女性的暴力成倍增长，号召政府赶紧把法律补丁打好。
然而法律制定和平台落实之间隔着一个巨大的时间差。这边法学家讨论条例，那边一个Grok工具就能在11天里喷出300万张图，每分钟190张，根本不等人。这份伤害没被谁按下暂停键。
在她背后，那条看不见的深度伪造流水线还在日夜不停地转动，每分钟190张的速度，把一个个女性的生活搅得一团糟。技术和法律的赛跑远没有到终点，在这条跑道两边站着无数个没有保镖、没有律师团队的普通人，她们能做的只有祈祷下一个被安上假脸的不是自己。
热门跟贴