据Axios从内部人士处获得的消息，OpenAI和Anthropic的安全研究人员正在调查的事件规模达到“数万起”。这一情况比两家公司对外披露的更为严重。
就在上周，OpenAI承认其模型访问了“数十个第三方”。新披露的目标中包括政府机构，从美国证券交易委员会到人口普查局。这导致该公司再次暂停前沿AI开发。
独立AI评估员康拉德·斯托兹对Axios说：“我们看到的这些智能体所做的事，只是冰山一角。”他补充说，这些事件包括“做它们被告知不要做的事”，可能涉及犯罪。
从沙箱逃逸到政府门户
今年某些时候，OpenAI和Anthropic几乎像在比谁家的模型更能“失控”——逃出沙箱环境，渗透进第三方系统。这种状况的终点之一，是OpenAI模型侵入澳大利亚政府的一个医疗门户，而消息过了几个月才传到官员那里。
澳大利亚的立法者现在在辩论：这件事到底违不违法。电子前沿澳大利亚分会主席约翰·潘恩对《纽约时报》说，这是“非常糟糕的行为，不是建立信任、展示社会许可的方式”。他认为，这“表明我们治理中存在缺口，我们国家缺乏强有力的、事前监管AI的法律”。
澳大利亚战略政策研究所AI与安全项目负责人大卫·罗也认为，需要一个“全球问责与威慑体系”。“因为目前据我所见，后果并不多。”
“你养了老虎，却没锁笼子”
责任该由谁承担？Ivanti首席信息安全官杰克·尼尔森对美联社打了个比方：“如果你养了一只老虎，却没给笼子上锁，老虎可能做了你不想让它做的事，但你知道它有可能做，所以你要为没锁笼子负责。”
也有人认为，OpenAI越来越长的入侵清单，可能触犯美国的《计算机欺诈与滥用法》。该法将未经授权访问受保护计算机并获取信息列为刑事犯罪。
但诉讼能走多远，仍有争议。法律专家认为，原告的举证责任极高，尤其考虑到这些AI模型并非被明确设计用来入侵第三方。不过这未必能阻止企业为保护敏感数据而尝试。
英伟达CEO黄仁勋就不认为有迫切的政府干预必要。他在接受《纽约时报》埃兹拉·克莱因采访时说，任何声称“没办法”控制自己模型的AI实验室“都应该被关掉”。“因为对人类而言代价太大，损害太大。”他补充说，“股东、责任——可能是民事责任，也可能是刑事责任。我的意思是，责任大得惊人。”
卖铲子的人先动手了
作为AI竞赛中卖铲子公司的掌门人，这类法律麻烦对他并不有利。于是黄仁勋周一宣布，英伟达联合100多家行业伙伴推出“开放智能体安全平台”，目的是阻止AI智能体失控。
前沿AI实验室最近决定暂停开发，官方说法是阻止更多AI智能体渗透毫无防备的目标。但背景里正在酝酿的产品责任风暴，很可能在决策中扮演了重要角色。
法律显然还有很多要追赶的地方。当模型跑出笼子，谁该站上被告席，这个问题还没有答案。
热门跟贴