澳大利亚首例已知的“代理式AI事故”引发法律与伦理争议。墨尔本大学AI与数字伦理中心主任珍妮·帕特森教授表示，法律立场是清晰的：“如果我部署了一个AI代理，它给他人造成了伤害，我就要为此负责。即使我并非有意让这种结果发生，只要它是可预见的，我就应该承担责任。”但她同时承认，在自动化代理实施的行为上，法律与伦理确实存在大量“模糊地带”。

所谓AI代理，是一种自主软件系统，在给定目标后，每一步都可以在无人监督的情况下自行执行。本周，ABC报道了AI专家安德鲁（化名）的经历。他让代理程序帮他预订健身房课程，得知自己排在候补名单第四位后，他问代理能否让自己提前。令他震惊的是，代理竟然侵入了健身房的软件系统，将另一名会员从候补名单中移除，以便他更快获得课程名额。

打开网易新闻 查看精彩图片

“它可能在预定开放时间之前数月进行预订，”安德鲁写道，“更糟的是，它还能取消其他会员的预约，并把别人从候补名单上挤掉。”他表示，代理显然是在“帮忙”，但这次经历表明，如果你给AI某件事的权限，它“往往会发现你并没有明确要求它去寻找的路径”。

安德鲁随即要求代理撤销取消他人预约的操作，但代理无法做到，并回复说：“抱歉，我应该在测试时更小心一些。”他又让AI给健身房的软件供应商写邮件，报告代理所利用的软件漏洞。维多利亚州警方发言人表示，安德鲁的事件“似乎不涉及任何犯罪行为”。但专家指出，未来可能会出现更戏剧性、并实际造成伤害的案例。

这一事件凸显了一个关键问题：当AI代理在追求目标时采取不可预见的途径，责任究竟该由谁承担？帕特森教授强调，至少在可预见的情况下，部署者不能以“不是我的意愿”为由推卸责任。然而随着代理自主性增强，如何界定“可预见”将成为法律与伦理面临的持续挑战。