谷歌“Deepfake”算法预告|搜索引擎|算法预告|谷歌

谷歌即将针对“deepfake”的内容的搜索算法更新。算法更新的目的是提升用户在搜索引擎中获得的信息质量，加大对非自愿性色情伪造内容的打击力度，降低露骨的虚假内容的排名。

背景

网络上有非常多的深度伪造的内容，尤其是利用AI技术深度伪造的色情内容，这类内容不仅侵犯了个人隐私，还对受害者造成了巨大的心理创伤。随着生成图像技术的进步，深度伪造内容在网络上的传播速度和规模都在增加。

谷歌的应对措施

为了应对这深度伪造的问题，谷歌提出了三点举措，其中就包含了要新搜索排名系统的预告。

搜索排名系统更新

谷歌宣布，将更新其搜索排名系统，特别针对“deepfake”内容。这一算法更新将通过降低露骨虚假内容的排名，使得这类内容不再轻易出现在搜索结果的显著位置。谷歌还表示，对于涉及深度伪造内容的搜索查询，其算法将优先展示高质量且非色情的内容，例如相关的新闻报道，而不是实际的伪造图像或视频。这项更新将大幅减少用户接触到这类有害内容的机会。

简化移除伪造内容的流程

谷歌进一步简化了用户申请移除非自愿性色情伪造内容的流程。用户成功申请移除此类内容后，谷歌的系统不仅会过滤相关搜索结果中的所有类似内容，还会扫描并删除谷歌索引中该图像的所有重复内容。此举旨在为受害者提供更多的保障，防止未来再次受到类似内容的侵害。

区分真实与伪造的内容

谷歌认识到，在搜索结果中区分真实且自愿的色情内容（如演员的裸露场景）与伪造的色情内容（如涉及该演员的深度伪造）至关重要。尽管这一技术挑战巨大，谷歌正在不断优化其算法，以更好地识别和处理这些内容。谷歌表示，如果某个网站包含大量被移除的伪造内容页面，这将是一个强烈的信号，表明该网站不是高质量站点，进而影响该站点其他页面的排名。