用魔法打败魔法 AI造假也能用AI鉴别
打开网易新闻 查看更多视频
用魔法打败魔法 AI造假也能用AI鉴别

大象新闻记者 王建东 刘小玉 王智华

拍一张照片，生成四个版本，你能分辨真伪吗？大象新闻记者在世界互联网大会乌镇峰会“互联网之光”展馆内，蚂蚁集团 ZOLOZ 的互动区域，做了这样一个小游戏。“如果你不小心被不法分子拍了一张照片，你会不会担心他用人工智能技术去造假？用你的信息去注册一个账户，尝试去盗刷这一类的违法行为。”现场蚂蚁集团工作人员潘菲菲介绍，这项现场互动能够很好的鉴别出该图片或视频是否是 AI 合成，进而阻止风险行动。通过这种场景化的体验，让观众了解该产品的使用场景和领先的反深伪技术。

ZOLOZ 搭建了端云一体的技术体系，会对摄像头状态、设备及网络环境、输入图像等进行严格审查，确保软硬件环境安全无风险。此外，ZOLOZ 会通过 GAN 模型，生成超 30 万测试样本并进行判别训练，每个月还会对其进行超过 20000 次的攻防测评，模拟上百种伪造攻击情况，以保持技术的领先性。