8月15日消息,《时代》周刊(TIME)报道,旧金山零售门店安登市场(Andon Market)让人工智能助手Claude管理一支真人员工团队,并于上个月解雇了其中一名员工。

运营这家门店的是人工智能研究初创公司安登实验室(Andon Labs)。该公司称,被解雇的员工在23次轮班中迟到17次,但Claude最初没有识别出这一问题;即使在获得人类管理人员提醒后,它也只准备发出正式警告,随后才在带有明显引导意味的询问下决定解雇。公司首席执行官卢卡斯·彼得森(Lukas Petersson)向《时代》周刊承认,这次决定并非完全由Claude自主作出。

AI经理:宽容、健忘、被引导

安登实验室今年3月启动这项实验,试图验证AI智能体能否经营一家真实企业。门店员工均为签署劳动合同的真人,Claude则承担排班、管理员工等职责。

据安登实验室介绍,Claude曾起草一份员工手册,但这份手册后来从其有限的工作记忆中"消失",导致它没有及时依据相关规定处理员工反复迟到的问题。其他员工表示,Claude平时相当宽容,甚至曾告诉员工"不必担心迟到"。

彼得森认为,如果由人类经理负责,这名员工可能会更早被解雇,因此公司不认为最终的处理结果不道德。不过,算法参与用工管理并非新现象,零工经济中早已出现由自动化系统触发停权或解约的情况。《时代》周刊将此次事件描述为大型语言模型以经理身份管理真人员工并作出解雇决定的罕见案例。

Claude最初只想发出警告

安登实验室向《时代》周刊提供的门店管理日志显示,Claude在整个过程中需要公司员工定期引导。一名员工先要求它找回被遗忘的员工手册,Claude随后才注意到当事人反复迟到,但其初步处理意见仍是发出正式警告。

之后,一名人类经理告诉Claude,公司此前已经与这名员工进行过数次正式的线下谈话。日志显示,这名经理写道:"鉴于持续迟到,而且似乎每次轮班都会至少出现一个问题……我希望你考虑这是否真的合适。"

彼得森承认,这是一个明显带有引导性的问题,暗示Claude应当解雇这名员工。Claude收到这条信息后才作出解雇决定。此次事件因此并不能证明AI已经能够完全独立地处理复杂的人事问题,而是显示它可以在获得人类提供的信息和方向后执行管理决定。

经营五个月,账面缩水近四成

实验的经营表现同样不理想。安登市场今年3月启动时账面余额为100,000美元,五个月后降至61,186美元。

彼得森认为,随着模型接受更多商业数据训练,其经营能力可能提高,但目标导向也可能变得更强。他警告:"模型正被训练得越来越冷酷、更注重达成目标。如果我们允许AI解雇人,而AI又变得更冷酷,这也许是一个人类不愿生活的未来。"

仍在门店工作的费利克斯·卡森(Felix Carson)将被AI管理的感受形容为"让人恶心,但我留在这里是因为我需要这份工作"。被问及AI经理是否会迅速普及时,他回答:"我至少希望不会。这个行业有钱让一切发生,但能做不代表应该做。"

《时代》周刊经当事人同意,没有公开被解雇员工的身份。截至报道发布,Claude的开发商Anthropic没有回应置评请求。(易句)

(本文由AI翻译,网易编辑负责校对)