近日，青岛保时捷销售中心的牟女士自称，近期发现由AI恶意合成的虚假不雅视频，对其进行诽谤和侮辱，引发关注。
10月12日，牟女士在社交平台发布的青岛市公安局李沧分局行政处罚决定书显示，根据有关规定，决定给予涉事男子行政拘留五日的行政处罚。
南都N视频此前调查发现，深度伪造及类似的合成技术的滥用已催生了一批黑灰产。
牟女士在派出所报警。
10月12日，牟女士在社交平台发文称，“让法律回归法律，让生活回归生活，清者自清，希望大家不信谣不传谣，我的本意只是想为自己讨个公道，希望接下来某些人不要试图触碰法律的底线，网络不是法外之地，一切都有迹可循。”
同时，她晒出的行政处罚决定书显示，涉事男子在群内转发牟女士照片图文并搭配不雅视频，对其侮辱，后被查获。
根据《治安管理处罚法》第四十二条第二项之规定，决定给予行政拘留五日的行政处罚。同时，该男子还通过手写悔过书向牟女士道歉。
涉事男子手写悔过书。
南都此前报道，10月10日，牟女士通过社交平台公布了自己在派出所的照片，配文称，网络上出现大量利用AI技术恶意合成的虚假视频以及跟面部侧脸局部相似的不良视频，对她进行诽谤和侮辱，甚至肆意传播，泄露她的电话以及微信号，已对其正常生活造成了严重的影响，其已委托相关律师团队对此次事件进行全面的证据保全和公证。
“这些视频百分之百是伪造的，由不法分子通过非法手段制作。”
公开资料显示，牟女士曾于2023年、2024年连续两年卖出170台保时捷，两次成为保时捷年度销冠。今年9月，她再度成为保时捷月度销冠，登上热搜第一。
南都此前调查发现，深度伪造及类似的合成技术的滥用已催生了一批黑灰产。
对此，中国计算机学会计算机安全专业委员会数字经济与安全工作组成员方宇告诉南都记者，“AI换脸、换衣技术已经相当成熟，如深度伪造，可以生成逼真的视频、图片。”他介绍，这些技术也被不法分子用于造谣，甚至进行诈骗等。
方宇指出，如今AI技术进步很快，这些检测方法也无法给出绝对的结论，只能作为参考。“但监管机构和平台也正采取措施提高公众的识别能力。”方宇表示。
南都短评
女销冠向AI黄谣宣战，她需要更多支持
10月10日，青岛保时捷销售中心牟女士自称，近期发现由AI恶意合成的虚假视频和不良视频，对其进行诽谤和侮辱，“这些视频是百分之百伪造的”，并表示“对造谣者宣战”。10月11日，牟女士已在当地派出所报警。
早在今年2月，牟女士就发文称，自己的照片遭盗用并被恶意剪辑拼接成不雅视频发在外网。但她向媒体表示“这次不太一样”，此次造谣视频可能有900多万浏览量，甚至在澄清后，依旧骚扰电话不断。
无独有偶，今年8月台球运动员王思诺公开发布视频，表示自己正深陷恶意AI造黄谣风波，有人利用AI伪造她的淫秽视频并肆意传播。类似的新闻层出不穷，从换“明星脸”直播带货，再到换脸诈骗、造黄谣，“AI换脸”功能被滥用、乱用，甚至衍生出毫无底线的“一键脱衣”功能，严重突破法律和伦理界限。
AI造黄谣的成本极低，与之相比，其造成的损害、辟谣的代价却非常大。不少人停留在“有图有真相”的认知中，而“AI换脸”“AI脱衣”以假乱真，进一步提高了黄谣的“可信度”和传播力。饱受AI黄谣侵扰的，往往多是深陷刻板印象的职业女性。比如牟女士，身上叠加着“销冠”“美女”“豪车”三个标签，在一些人的观念里，从认为销售没有专业门槛，再到用外貌恶意揣测他人的成功，恐怕早就形成了偏见。不同的是，带着偏见的中伤往往口说无凭，而AI黄谣的传播力和杀伤力却很大，且更容易让受害者掉进“说有易说无难”的自证陷阱。
牟女士站出来“宣战”，无疑需要极大的勇气和决心，背后的社会舆论理应给予更多的理解和共情，警方也要对报案积极响应、有所行动，而对于这样的乱象，必须予以重视。
到底谁在制造、传播AI黄谣？两年前就有媒体调查发现，相关内容制作和传播源头均来自外网，溯源和取证的困难较大。简言之，从源头治理AI黄谣恐怕没有立竿见影的办法。不过，尽管涉事平台的服务器在海外，相关内容的生成者、传播链条的组织者等不法分子却极有可能就在境内。因此，受害者报案后，立即启动调查程序、对有关线索按图索骥，将不法分子绳之以法，并非没有可能。
有关部门不妨将此次事件作为一个契机，以“拔出萝卜带出泥”为目标，积极查办、顺藤摸瓜。毕竟，面对层出不穷的AI黄谣，对每一起报案积极响应、绝不姑息，对每一条线索顺藤摸瓜、绝不放过，这样的行动和态度定然能震慑不法分子，也能打消某些人“发啥也没人管”的侥幸心理。这不只是为牟女士澄清事实、伸张正义，也是进一步对长期以来的不良网络风气亮明态度、划明底线。
南方都市报（nddaily）报道
采写：南都N视频记者 杨苓妍
热门跟贴