这是奥巴马……不过，他从来没说过这些话；
这是特朗普……但，他也从来没做过这些动作；
没关系，只要有人想，就能操控任何人说任何话，做任何动作。
当然，他们也可以让你一键变性；
或者造一张根本不存在于这个世界上的人像；
或者把当红女星，甚至你的脸换到成人视频中，让你们跳进黄河也洗不清。
AI如何炮制假视频、假脸和假裸照？万物皆可造假的世界有多危险？
视频版
↓↓ 看完这个视频就知道了 ↓↓
↑↑ 信我，真的超级好看 ↑↑
图文版
你刚才看到的这些技术，叫做 Deepfake，“深度伪造”。
它的本质，则是一类 AI 算法：生成对抗神经网络 ，简称 GAN 。
而它的训练方式，是“左右互搏”。
GAN 由两个部分组成：生成器，和判别器。
你可以把生成器理解为一个骗子，他的目的就是骗过判别器。二者的博弈就是 GAN 的主要训练过程。
具体来说，你首先要准备一些数据，例如真实的人像，来训练判别器。
同时，生成器会用一些随机的像素作为原材料，生成伪造的人像，试图骗过判别器。
此时，判别器要分清楚，哪些是真实的人像，哪些是生成器伪造的。
在最初，生成器伪造出的图片很容易被判别器识破。但每次被识破后 ，生成器都会针对性地改进技术；当然，判别器也会不断提升自己的判断能力。
就这样，双方反复对抗，直到判别器再也无法区分真假人像，而生成器也没有办法提高自己的伪造技术时，整个对抗就告一段落。此时作为“骗子”的生成器，就正式出师了。
这就是 GAN 的全名，「生成对抗神经网络」中，「对抗」一词的含义。
当然，这只是一个形象化的比喻。我们不妨更深入一步，从数学的角度来理解 GAN。
一张人脸照片的本质是什么？
是一个个像素，按照某种特殊的分布方式，排列组合起来的产物。
我们暂且把这种分布方式称为「人脸分布」。
如果要伪造人脸，那就要找到一种方法，让原本随机排列的这堆像素点，按照这种特殊的「人脸分布」重新排列组合起来。
如果分布方式很简单，那我们可以通过公式直接完成转换。
但问题是，没有任何人可以写出「人脸分布」的公式，我们也很难直接去计算。
而 GAN 的思路，就是采取「左右互搏」的间接方式，通过大量训练，让生成器制造出的像素分布，越来越符合我们想要达到的「人脸分布」。
当然，为了达到我们的目的， GAN 的实际架构其实很复杂。
比如一个经典的 GAN 算法叫做 CycleGAN，它能把这张照片中的斑马，变成形态几乎一样的普通马。
在这个过程中，生成器负责将输入的斑马变成普通马，判别器则负责分辨真假马。经过一段时间的训练后，生成器就能学会如何生成一张马的图片。
但请注意！在没有任何附加限制条件的情况下，生成器可能会“偷懒”：因为它只要随便生成一张跟原片毫无关系的马图，就能骗过判别器。
所以，这个架构还要加一些环节：比如要求生成器生成的图片在经过一种特殊的反向操作后，还能够还原成原始图像。
有了这个限制，生成器就会尽可能保证生成的图片跟原始图片只有某些特定差异，而其他内容基本一致，达到以假乱真的效果。
利用 CycleGAN 算法，男女性别互换，把真头像变成卡通头像，把照片变成名画，给黑白照片上色......统统不成问题，你根本分不清孰真孰假。
不光是人脸或者图片。声音，新闻，视频......从本质上来说，都是某些元素，按照某种特殊的分布方式，所排列成的结果。所以只要数据足，技术好，那么万物皆可 GAN，都可以被伪造。
这会带来什么后果？
你可以在影视作品中，看到有人利用GAN技术，伪造视频，达成自己的目的。
而这些情节，已经进入现实了。
比如有人利用 GAN 技术，生成了一位公司 CEO 的声音，然后要求下属转账，骗走了 24.3 万美元。
也有人伪造政治人物的讲话，挑动民众情绪。
至于伪造的明星色情视频，你甚至有可能接触过。
在 2019 年美国国防部发布的《全球安全分析》报告中，就将deepfake等与 GAN 相关的技术列为一项潜在的威胁。
当然，GAN技术也会应用在一些有趣的应用中，比如一些热门的换脸App。但它们同样因为隐私权和肖像权等问题而饱受争议。
人们曾经笃信，技术本身是中立的，没有善恶之分，问题只是出现在使用技术的人身上。但事到如今，人们似乎又发现，事情没有这么简单。
于是有人开始采取措施，防止 GAN 技术的滥用：
比如有公司开始提供针和支持对 GAN 的检测；
代码托管和男性交友平台 GitHub 已经关闭了将 GAN 技术用于成人内容的代码库；
即便是一些成人网站，也已经禁止用户上传任何使用了 GAN 技术的视频。
《美丽新世界》的作者赫胥黎曾写道：「技术进步只是给了我们一种更有效的倒退方式。」
当然，这只是一种悲观的论调。但它还是提醒了我们：如果缺少法律与道德的导向，那么技术进步，未必就等同于社会进步。
热门跟贴