日前YouTube方面宣布，为遏制虚假伪造内容的泛滥、降低用户被误导的风险，要求创作者在相关视频中标明其中是否包含由人工智能生成的内容，例如逼真的合成素材、Deepfake视频等，并在涉及重要话题的情况下进行特别标记，例如涉及选举、冲突、暴力、公共卫生问题或知名人物等。

同时YouTube方面还指出，“还有一些领域仅靠标签可能不足以减轻伤害风险，并且某些合成视频无论是否带有标签，如果违反我们的社区准则，都将从我们的平台中删除。例如，如果一个显示现实暴力的合成视频的目的是震惊或厌恶观众，那么它仍然可能被删除”。

据了解，未遵守规定的创作者可能会面临多种处罚，包括但不限于内容被删除、暂停YouTube合作伙伴计划资格等。YouTube产品副总裁Jennifer Flannery O'Connor和Emily Moxley在相关声明中就已明确，“坚持不标明信息的创作者可能会受到严重的制裁”。

除此之外，YouTube方面还宣布将对隐私投诉流程进行调整，以支持用户请求移除模拟可识别人物的人工智能生成视频，其中包括他们的面部或声音。对此YouTube方面强调，“并非所有内容都会从YouTube中删除，我们在评估这些请求时会考虑多种因素。这可能包括内容是否是模仿或讽刺，是否可以唯一识别提出请求的人，或者内容是否以公职人员或知名人士为主角，在这种情况下，可能会有更高的门槛”。

而面对音乐行业，以及相关合作伙伴，YouTube方面也推出了新功能，以支持其请求移除模仿艺术家独特歌声或说唱声音的人工智能生成音乐内容。

此外YouTube方面还强调，其正在部署人工智能技术来支持内容审核工作。据该公司透露，“YouTube始终结合使用人员和机器学习技术来执行我们的社区准则……在我们的系统中，人工智能分类器有助于大规模检测潜在的违规内容，审核人员则致力于确认内容是否确实跨越了政策界限。人工智能正在不断提高我们内容审核系统的速度和准确性”。

并且YouTube方面还指出，“我们仍处于用生成人工智能在YouTube上释放新形式创新和创造力的旅程的开始。我们对这项技术的潜力感到非常兴奋，并知道接下来的事情将在未来几年影响创意产业。在这个关键时刻，我们正在花时间平衡这些利益与确保我们社区的持续安全，我们将与创意产业的创作者、艺术家和其他人携手合作，建设一个惠及我们所有人的未来。”

【本文图片来自网络】