五分钟的训练可以显著提高人们识别由人工智能生成的虚假面孔的能力,最新研究表明。

来自雷丁大学、格林威治大学、利兹大学和林肯大学的科学家测试了664名参与者区分真实人脸和由StyleGAN3程序生成的面孔的能力。这项研究已经在 《皇家学会开放科学》 上发表。

没有任何训练的超级识别者(在面部识别测试中得分显著高于平均水平的人)正确识别假脸的比例为41%,而具有典型能力的参与者得分只有31%。如果他们闭上眼睛猜,人们的表现大约在50%(机会水平)。

一组新的参与者接受了一项简短的训练程序,该程序强调了常见的计算机渲染错误,例如不寻常的发型或不正确的牙齿数量,准确率更高。超级识别者在检测假脸时的准确率达到了64%,而典型参与者的准确率为51%。

雷丁大学的首席研究员凯蒂·格雷博士表示:“计算机生成的脸确实带来了安全风险。它们被用来创建假社交媒体账号,绕过身份验证系统,甚至制作假文件。最新一代人工智能软件生成的脸非常逼真。人们常常觉得AI生成的脸比真实的人脸还要真实。

“我们的训练过程简单易行。结果表明,将这种训练与超级识别者的天赋相结合,可以帮助解决一些现实问题,比如在线身份验证。”

软件进步带来了严峻挑战

软件进步带来了严峻挑战

训练对两个组的影响是一样的,这表明超级识别者在识别合成面孔时,可能使用与普通观察者不同的视觉线索,而不仅仅是更擅长发现渲染错误。

这项研究测试了由StyleGAN3生成的面孔,这在研究进行时是最先进的系统。与早期使用旧软件的研究相比,这代表了一个重大挑战,因为本研究的参与者表现通常不如之前的参与者。

未来的研究将考察训练效果是否会随着时间的推移而保持,以及超级识别者的技能如何与人工智能检测工具相互补充。