大学·问丨AI换脸技术飞速发展,我们应该拥抱还是防范?
打开网易新闻 查看更多视频
大学·问丨AI换脸技术飞速发展,我们应该拥抱还是防范?

11月3日,综艺《王牌对王牌8》中,嘉宾使用AI换脸技术与他人视频通话,让我们看到了AI换脸技术的神奇,也为我们敲响了反诈的警钟。AI换脸技术究竟如何实现?如何甄别?除了换脸,AI还能换什么?

11月17日,南京大学计算机科学与技术系的郭延文教授接受采访并表示,AI换脸作为未来数字虚拟时代的重要支撑技术,我们应该去拥抱这项技术,但也需要个人防范意识地提升和相关监管技术发展的保障,让技术更好服务大家。

打开网易新闻 查看精彩图片

AI换脸技术如何实现?

近年来,人工智能技术取得了非常大的进展。从宏观的角度看,AI换脸技术也是AIGC(生成式人工智能)的一种应用。关于“AI换脸技术如何实现?”的问题,郭延文教授介绍,借助AI技术实现图像中人脸的替换,首先需要对图像中的人脸进行检测和定位,精准地识别眼睛、嘴巴、鼻子、眼角等关键人脸特征点。现有一些算法能够实现从数十个到上百个特征点的定位。其次,需要将更换的人脸进行同步操作,通过一定的数学转换,将其与目标图像中的人脸对齐。如果要在视频中实现人脸更换,还需要追踪人脸特征,以确保视频中人脸的稳定替换。此外,为了使AI换脸效果逼真自然,还需要确保替换后的人脸与原始图像中人脸所处的环境保持一致,包括光照、阴影等效果。

AI换脸技术能否以假乱真?

AI换脸技术的飞速发展和应用,使公众担心其是否可以做到以假乱真,关于此问题,郭延文教授指出:“从图片到一些电视节目的制作,已经可以通过换脸技术对其本身进行一定的编辑。”随着AIGC的迅速发展,目前通过人工智能,尤其是深度学习技术已经可以生成非常逼真的图像,甚至是视频。从换脸的角度上看,其实现在至少从我们非专业的角度去看,完全可以做到以假乱真,仿佛是原始成像或者拍摄实现的。

打开网易新闻 查看精彩图片

AI换脸技术可能有哪些破绽?

在综艺《王牌对王牌8》中,即便宋小宝的AI换脸与沙溢非常相似,还是因发型与沙溢不同被识别出来不是本人。而黄晓明使用AI换脸技术伪装成杨迪给黄明昊打电话,却未被识破。如果诈骗犯也使用这种方式行骗,那我们应该如何识别AI换脸技术可能存在的破绽?

关于该问题,郭延文教授介绍,当前许多研究者正致力于图片和视频的鉴伪技术研究,判断视频主角是经过换脸技术处理还是原始拍摄的一种传统方法,就是对人脸与环境的光影一致性进行分析。光照是一个复杂的物理过程,光线从光源表面发射后,经过多次反射折射,最终到达目标物体。因此,通过AI技术进行换脸时,一个有效的鉴伪方法就是判断光照是否具有合理的物理性。此外,研究人员还会收集大量真实的图像和视频,以及可能被伪造或换脸后的图像和视频,利用深度学习来训练类似分类器的人工智能功能,从而区分图像或视频的真伪。

打开网易新闻 查看精彩图片

除了换脸,AI将来还能换什么?

郭延文教授明确指出,AI换脸是对人脸本身内容的再编辑。未来,这项技术不仅可以应用于对我们人体的编辑,还包括整个的环境,通过AIGC的技术实现从局部到全局的编辑生成。此外,郭延文教授还谈道,这些年备受关注的虚拟数字人技术在政务、文旅、影视娱乐、新闻传媒等很多方面都产生了很多的应用。他强调,未来是一个数字时代,在未来的元宇宙世界里,我们每个人通过自己的身份代理得以参与到元宇宙这样一个虚拟数字时代。

我们该拥抱还是防范这项技术?

郭延文教授说,我们既要积极接纳AI换脸等新技术,同时也要提高个人防范意识。AI换脸技术可以被视为元宇宙中生成个人身份代理的重要构成部分,此外,虚拟数字人等热点技术也可能成为未来数字虚拟时代和社会的重要支撑技术。他认为技术进步是为了更好地为我们服务,而不是产生消极影响。

作者:南京大学新闻传播学院学生冯麒薇罗程李立哲

指导老师:南京大学新闻传播学院副教授庄永志

现代快报+记者朱俊骏