虽然目前只是一个研究项目

打开网易新闻 查看精彩图片

处理过的照片、算法发现的缺陷以及原始图像的示例。

世界对虚假视频和图片的传播越来越焦虑，Adobe——一个与编辑图像同义的名字——表示它也有这些担忧。今天，他与加州大学伯克利分校的科学家合作分享了新的研究，该研究使用机器学习来自动检测人脸图像何时被操纵。

这是该公司正在为这个问题投入更多资源的最新迹象。去年，他的工程师创建了一个 AI 工具，可以检测通过拼接、克隆和删除对象创建的编辑媒体。

该算法在 ADOB
E 的测试中发现了 99% 的已编辑面孔

该公司表示，它没有立即将这项最新作品转化为商业产品的计划，但一位发言人告诉The Verge，这只是“Adobe 为更好地检测图像、视频、音频和文档操作而做出的众多努力之一”。

“虽然我们为 Photoshop 和 Adob
e 的其他创意工具对世界产生的影响感到自豪，但我们也认识到我们的技术的道德影响，”该公司在一篇博客文章中说。“虚假内容是一个严重且日益紧迫的问题。”

该研究专门用于发现使用 Photoshop 的液化工具进行的编辑，该工具通常用于调整面部形状和改变面部表情。Adobe 说：“该功能的效果可能很微妙，这使其成为检测面部剧烈和微妙变化的有趣测试案例。”

为了创建该软件，工程师在配对面部数据库上训练了一个神经网络，其中包含使用 Liquify 编辑前后的图像。

由此产生的算法非常有效。当被要求找出经过编辑的面孔样本时，人类志愿者在 53% 的时间内得到了正确的答案，而算法在 99% 的时间内是正确的。该工具甚至能够建议如何将照片恢复到未经编辑的原始外观，尽管这些结果通常是混合的。

“我们生活在一个越来越难以信任我们消费的数字信息的世界中”

“使用神奇的通用‘撤销’按钮来恢复图像编辑的想法还远未实现，”帮助进行这项工作的 Adob
e 研究员 Richard Zhang 在公司博客文章中说。“但我们生活在一个越来越难以信任我们消费的数字信息的世界中，我期待着进一步探索这一研究领域。”

研究人员表示，这项工作是第一项旨在发现此类面部编辑的工作，并且是朝着创建可以识别复杂变化的工具迈出的“重要一步”，包括“身体操作和光度编辑，如皮肤平滑”。

虽然这项研究很有希望，但像这样的工具并不是阻止被操纵媒体的有害影响的灵丹妙药。正如我们在假新闻的传播中看到的那样，即使内容明显是虚假的或可以很快被揭穿，它仍然会在社交媒体上被分享和接受。知道某些东西是假的只是成功的一半，但至少这是一个开始。