编者按:

AI换脸泛滥的时代,一定要保护好自己的肖像安全。请你一定记下来,也转发给家人,尤其是家里有孩子的。

今天是笨鸟陪你的第5047天

01

最近有条"小道消息"在互联网上传疯了:

"AI 黄剧出海,狂赚上亿美金。"

打开网易新闻 查看精彩图片

这一句话,随便挑个词出来都挺刺激。

顺着流言一扒,果然扒到了最像的那个——黄果短剧。国内有红果,海外有黄果。

打开网易新闻 查看精彩图片

批判性研究,不做任何推广(严肃)

从封面到剧情,主打一个"看黄"和"猎奇"两不误。什么《滴滴代*》《快门沦陷》《系统让我攻略弟弟》《女总裁的秘密开关》,尺度比孙宇晨写景甜“小作文”还野。

打开网易新闻 查看精彩图片

一开始,遭殃的是明星。谁的流量高,谁的脸就惨,被 AI 塞进各种离谱的剧情里当主角。

后来,画风就彻底跑偏了。

张雪峰被换了,科比被换了,嘎子被换了,连许家印都没能逃过。

主打一个谁有话题,就拍谁。

打开网易新闻 查看精彩图片

可我今天不想聊它有多黄。我想聊的是另一个更可怕的问题:

如果有一天我们在别人的片子里看到自己脸,怎么办?

02

彭博社采访过一个 29 岁的女网红。她原本靠网络直播和订阅挣钱,算半个圈内人了。

结果有一天,她发现粉丝能免费搜到自己的换脸色情视频。

注意,她不是被偷拍了,是有人拿了她的脸,用 AI 生成了她从没做过的事。

她在镜头前说了一句话,我到现在都记得:

"看到自己在未经同意的情况下,出现在那种内容里,真的很恶心。"

恶心。

不是愤怒,不是委屈,是恶心。

因为那张脸明明是她的,可那件事,却不是她做的。

她从头到尾,没有拍过任何一张不该拍的照片。

你可能会说:我又不是什么公众人物,谁稀罕偷我的脸?

恰恰相反。

明星至少还有团队,有律师,有成千上万的粉丝帮他们维权、删帖、报警。

你呢?

被换了脸,可能这辈子,你自己都不知道。

2020年,浙江杭州,一个叫虞某的人,接触到了一款"AI换脸"软件。

一开始,他只想靠这软件搞点流量,赚点小钱。

后来他发现,光卖软件没人搭理。于是他动了歪心思,拿这软件,做起了换脸的淫秽视频。

他建了"浏览群"和"私人定制群"。想看?先交钱,198、298、398,明码标价。

想看更"特别"的?可以定制。

5分钟300块,10分钟500块,你让他换谁,他就换谁。

打开网易新闻 查看精彩图片

虞某自己说过一句话,我到现在都记得:

"只要能看到脸的,都能换。"

被换脸的,有女明星,也有普通人。

而最让人心里发寒的是,有人找他,定制的是——自己暗恋的那个女生的换脸视频。

打开网易新闻 查看精彩图片

截至案发,警方从他手里查获的淫秽视频,有1200多部,图片1600多张。

最终,虞某被判了七年三个月。

而这一案,也成了全国首例"AI换脸"侵犯公民个人信息的诉讼案。

那个"被暗恋的女生",可能什么也没做,只是发了几张照片,就被做成了那样的视频。

她甚至可能,到现在都还不知道这件事。

更有甚者把脏手伸向了未成年人。

2024年韩国爆发了一场震惊全球的"深度伪造"事件。

打开网易新闻 查看精彩图片

在通讯软件 Telegram 上,人们发现了大量聊天群。

群里的内容,是把普通女性的照片,用 AI 换脸,合成一张张不堪入目的色情图片和视频。

受害的不是明星,也不是网红。

就是最普通的人——女学生、女老师、女军人,甚至,是群里某个人的家人。

受害者有多少?

超过22万人。

波及的学校有多少?

超过200所,名单里,有上百所中小学,还有国际学校。

打开网易新闻 查看精彩图片

这些群里的"加害者",大多,是十几岁的青少年。他们拿同班女同学发在社交平台上的照片,合成了那些东西。

03

你可能会问,这技术是不是特别难,普通人根本玩不转?

我告诉你,曾经是。

几年前 AI 视频刚出来的时候,大家最爱拿威尔·史密斯吃意大利面开玩笑——连吃东西这么简单的动作,AI 都能做出一股"恐怖谷"的味道,手是畸形的,脸转个身就散了。

打开网易新闻 查看精彩图片

那种水平,做出来的东西,假得没人信。

而且制作成本也特别高。

但这两年,技术拐点到了。

各大公司要么开源模型让你自己炼。像 Stable Diffusion、FLUX 这些模型的权重一旦公开,公司的就没法约束它的用途了。

还有的模型干脆直接下到本地跑。整个模型不经过任何云端,也就没有任何人能监管它了。

技术本身的门槛在狂降。

所以一个普通人只要有一台好一点的电脑,就可以随心所欲的做出视频:

早几年,做一段自然的换脸视频,得偷你 50 张多角度的清晰照片。

现在呢?

3 张,就够了。

3 张照片是什么概念?

你翻翻自己的朋友圈、微博、小红书,随随便便,都不止3张。

你发在朋友圈里的一张自拍,你晒在社交平台上的一张毕业照,你微信头像上的一张笑脸——在这些人手里,几秒钟,就能变成一个你从没拍过的东西。

当几张照片,配上几句话,就能生成一段足以乱真的视频时,没有人是绝对安全的。

04

但好在,防范这件事,主动权其实在我们自己手里。

下面这几条,请你一定记下来,也转发给家人,尤其是家里有孩子的:

第一,管好你的照片。

朋友圈、微博、小红书,能设"仅好友可见"就设上,别一水儿的公开。

正脸照、生活照、毕业照、证件照,少往公共平台发。

尤其是那种清晰、多角度、能看清五官的照片——记住,3 张,就够了。

第二,警惕那些"换脸"小游戏。

现在很多小程序、App,打着"测脸龄""换脸古装""一键变美"的幌子,让你上传正脸照。

你一开心,脸就进了人家的库。

天上不会掉馅饼,更不会白给你"变美",它要的,是你的脸。

第三,定期清理旧照和头像。

几年不用的社交账号,翻一翻,把旧头像、旧照片删一删。

那些你已经忘了、但还挂在网上的照片,就是别人最方便的"素材库"。

第四,一旦发现被"换脸",别慌,立刻做三件事。

先截图、录屏,把所有链接、账号、群聊,一样样留好证据;

然后,马上报警,同时向平台举报,要求下架、封号;

千万别自己主动联系作者要求他去删除——越删,越难查。

不要怕:

丢人的,从来不是你。是那些躲在屏幕后面,拿别人的脸作恶的人。

你的脸是你自己的。

它不该,也绝不能,成为任何人满足肮脏欲望的"素材"。

♞推荐阅读




笨鸟文摘

让每一次阅读都有价值