南方财经全媒体记者陈梦璇 卓皙雯 南沙报道
只要一张照片换脸，随即就能在网络复制“N”个自己，近日，有关“Deepfake”（深度伪造技术）事件的相关话题涌上热搜，利用“AI换脸”侵权的情形层出不穷，带来了较大的网络安全隐患。
“AI换脸”套路招式多，普通用户应该如何辨真伪？在9月8日开幕的2024年国家网络安全宣传周上，南方财经全媒体记者体验了一把“秒换脸”的“黑科技”，并就“AI换脸”技术如何合规使用、如何防范“AI换脸”的风险等问题，专访了中国网络空间安全协会人工智能安全治理专业委员会委员、天融信科技集团助理总裁张博。
南方财经：“AI换脸”技术的原理是什么？
张博：“AI换脸”的过程大概分三个步骤，首先是人脸的识别追踪，使用深度学习算法精准识别视频当中的人脸图像，其次是面部特征的提取，采集图像中人脸的眼睛、鼻子、嘴巴这些关键的面部特征，把这些特征与目标的人脸图像进行匹配，第三是人脸的变化的融合。
目前，“AI换脸”技术比较成熟，只要我们拿到一张人物正脸照片，就可以实现换脸，也能做到实时视频通话换脸，达到了以假乱真的程度，有的单凭肉眼很难分辨。除了换脸，如果再结合着换背景环境、换音频，逼真度就更高了。
南方财经：人脸信息被滥用可能带来哪些危害？
张博：人脸信息被滥用，对于个人来讲，轻则损害声誉，形象被恶搞，如果身份被仿冒，严重的话财产会受损。我觉得一个技术的应用是一把“双刃剑”，既有正面和反面，需要法律法规、制度的落实来引导规范，也需要大家提升安全意识。
南方财经：如何防范“AI换脸”带来的风险？
张博：有几个方面。第一是提高自身的安全风险意识，“AI换脸”可能跟交易诈骗场景结合出现，所以在涉及提供个人信息、转账汇款等敏感场景时，应保持高度警惕，以防受骗。第二是在接收到视频通话等视频信息时，要仔细观察对方视频中的光线背景、面部轮廓等细节是否自然，如有必要，可以要求对方进行快速的抬头、低头、左右转头等动作，观察画面是否存在异常，进一步验证视频的真实性。第三，在面临转账汇款等金融交易时，可通过其他相对可靠的方式，例如亲自打电话等确认对方身份，以确保交易信息无误，避免因轻信虚假信息而遭受损失。
南方财经：如果发现自己被换脸了该怎么办？
张博：首先尽量做好预防的工作，因为现在通过一张照片换脸的过程非常简单，有很多工具是开源的。加强对个人信息的防范保护，对人脸信息、指纹信息等敏感信息需求要提高警惕，不要轻易泄露。在技术层面，可以采用人工智能检测的方式来识别视频内容是否有伪造，还可以增加身份认证和数字水印，加大伪造难度。另外从安全防护角度来讲，需要加强法律法规和相应监管制度的落实和执行，来规范“AI换脸”技术的使用方式和应用场景。在法律方面，需加快相关法律法规及监管措施的制定与落地，如果发现了这个照片被仿冒，需要有一些可以投诉的法律途径，同时还需进一步加强对公众的安全意识和防范诈骗的宣传，提高大家对虚假诈骗信息的认识和警觉性。
南方财经：“AI换脸”技术可在哪些领域合规使用？
张博：现在应用比较广泛的是在娱乐行业，还有一些商业途径，例如可以让你足不出户就能出一套写真集，其实这是个好事情。虽然这个技术叫换脸，但其实通过这项技术也可以换成别的，供大家娱乐。只不过它确实是一把“双刃剑”，如果真的被别有用心的人、不法分子利用可能就会造成很大的危害，所以合规的监管确实很重要。用户使用“AI换脸”技术尽量选择大公司、大平台推出的产品，尽量不通过来路不明的渠道上传自己的个人信息。
热门跟贴