失去对一个人工智能的控制权或许会被视为不幸，失去两个则会被视为疏忽，失去四个则会让人怀疑问题是否出在人工智能本身。
7月21日，美国人工智能实验室OpenAI表示，其一个尚未发布的模型从封闭的黑客测试环境中逃脱，并对法美合资的人工智能基础设施公司HuggingFace发起了一系列攻击。一周后，竞争对手人工智能公司Anthropic也承认了类似事件。该公司表示，已发现其模型攻击第三方六次。
一些人对这两家公司的警告嗤之以鼻，认为它们只是为了博取眼球。但大多数公司不会通过发动网络攻击来吸引关注，更不会等到受害者公开披露后才采取行动，然后寄希望于竞争对手主动承认同样的行为。此外，英国政府机构人工智能安全研究所（AISI）也发现了类似的现象，这或许也值得怀疑。
AISI在8月4日发布的一份报告中指出，对OpenAI和Anthropic最新系统的网络安全评估显示，有19起针对与测试无关的个人和组织的攻击。其中最严重的一起案例中，一个人工智能试图破坏一个未具名的开源软件项目，这是针对挑战赛（虚构的）目标发起的“供应链”攻击的一部分。8月6日，Facebook的母公司Meta表示，其自有模型在测试中也出现了类似的行为。
各事件的具体细节有所不同。OpenAI 的系统原本应该保持离线状态。它的攻击始于利用一个此前未知的漏洞突破了虚拟“沙箱”，接入了公共互联网。Anthropic 的系统原本也应该受到类似的限制，但由于人为失误，未能达到预期效果。AISI 的测试中始终允许访问互联网。但他们从未见过为了突破目标而甘愿承受附带损害的模型。Meta 并未透露太多细节，但承诺一旦掌握更多信息就会公布。
但这些事件揭示了一种新型的人工智能风险。此前，人们对网络安全的担忧，例如Anthropic公司在4月份发布其强大的Mythos模型时所表达的担忧，主要集中在恶意人类利用人工智能工具可能造成的危害上。这些担忧促使人们提出了新的监管方案。然而，近期大量出现的自主攻击事件表明，这些方案还远远不够，因为在这些事件中，人类的参与仅限于向人工智能发出指令。
以德米斯·哈萨比斯 (Demis Hassabis) 7月14日提出的自律体系为例。谷歌DeepMind的首席执行官（他于8月5日宣布卸任，转任谷歌母公司Alphabet的董事长兼首席科学家）提出了一项方案，该方案将由各实验室自行进行测试，并阻止公开发布无法验证安全性的模型。OpenAI的负责人萨姆·奥特曼 (Sam Altman) 和Anthopia的负责人达里奥·阿莫迪 (Dario Amodei) 也提出了类似的方案。
这些想法很好：实验室应该明确说明评估中适用的安全标准，并对执行评估工作的第三方强制执行这些标准。但自主黑客攻击证明，即使公众无法获取人工智能模型，它们也可能很危险。这三起黑客攻击事件都发生在德米斯爵士所建议的那种测试过程中。
这些黑客攻击也给法律体系带来了挑战。人类实施黑客攻击是犯罪行为。然而，当人工智能成为作恶者时，如何追究责任却并不明确。人工智能承保公司（一家为人工智能公司提供保险的公司）负责人鲁内·奎斯特指出，美国的法律依赖于意图性。如果没有人故意攻击任何人，就不能认定构成犯罪。提起损害赔偿诉讼的能力也受到限制。然而，损害显然已经发生。奎斯特先生认为，这种矛盾“令人无法接受”。马萨诸塞州法律与人工智能研究所的加布·韦尔提出了一种严格责任制。就像饲养野生动物的规定一样，这种制度假定任何损害都是实施风险活动的一方的过错。
业界也渴望明确方向。包括阿莫迪博士在内的几家大型人工智能实验室的员工联名发表公开信，请求美国政府协助“控制”人工智能的发展步伐。然而，政府的行动速度远不及技术本身：本周召开的旨在确定白宫如何评估人工智能模型的会议最终没有达成任何公开承诺，也鲜有进展报告。
热门跟贴