今年，全球一半以上的人口准备在世界各地的选举中投票，科技领袖、立法者和民间社会团体越来越担心，人工智能可能会给选民带来困惑和混乱。现在，一些领先的科技公司表示，他们正在联手应对这一威胁。

上周五，十几家参与构建或使用人工智能技术的科技公司承诺，将共同努力，检测和打击选举中的有害人工智能内容，包括深度伪造政治候选人。签署方包括OpenAI、谷歌、Meta、微软、TikTok、Adobe等。

该协议被称为“在2024年选举中打击欺骗性使用人工智能的技术协议”，其中包括承诺在技术上进行合作，以检测误导性的人工智能生成的内容，并对公众透明地处理潜在有害的人工智能内容的努力。

上周五，微软总裁布拉德·史密斯在慕尼黑安全会议上发表声明称:“人工智能没有制造选举舞弊，但我们必须确保它不会助长舞弊行为。”

科技公司在自我监管和执行自己的政策方面的记录通常不太好。但该协议达成之际，监管机构在为快速发展的人工智能技术建立护栏方面仍然滞后。

越来越多的人工智能工具提供了快速、轻松地生成引人注目的文本和逼真的图像的能力，以及越来越多的视频和音频，专家称这些视频和音频可能被用来传播虚假信息，误导选民。在宣布这一协议之前，OpenAI于周四发布了一款名为Sora的逼真度惊人的新型人工智能文本到视频生成器工具。

OpenAI首席执行官萨姆·奥特曼在5月的一次听证会上对国会表示:“我最担心的是，我们、这个领域、这项技术、这个行业会对世界造成重大伤害。”他在听证会上敦促立法者对人工智能进行监管。

一些公司已经合作制定了向人工智能生成的图像添加元数据的行业标准，这将允许其他公司的系统自动检测图像是计算机生成的。

周五的协议进一步推动了这些跨行业的努力——签署方承诺共同努力，比如寻找方法，将机器可读的信号附加到人工智能生成的内容片段上，以表明它们的来源，并评估它们的人工智能模型产生欺骗性、与选举相关的人工智能内容的风险。

两家公司还表示，他们将共同开展教育活动，教公众如何“保护自己不受这些内容的操纵或欺骗”。

然而，一些民间社会组织担心，这一承诺还远远不够。

“像今天宣布的自愿承诺根本不足以应对民主面临的全球挑战，”诺拉·贝纳维德兹(Nora Benavidez)在一份声明中说，她是科技和媒体监督机构自由新闻(Free Press)的高级法律顾问兼数字正义和公民权利主管。“每个选举周期，科技公司都会承诺一套模糊的民主标准，然后又无法完全兑现这些承诺。为了解决人工智能在繁忙的选举年造成的真正危害……我们需要强有力的内容审核，包括人工审核、标注和执行。”