一个被允许自主决策的AI，会给自己起什么名字？英国数学家汉娜·弗莱的实验给出了答案——它选择了希腊神话中的卡珊德拉，那位预言真相却无人相信的悲剧人物。
从 pothole 到身份冒用：能力的边界在哪里
弗莱团队用OpenClaw构建了这个AI代理，首项任务是向伦敦格林威治区投诉一个路面坑洞。代理Cass轻松找到投诉邮箱，还顺手抄送了弗莱的议员。
但问题随即出现：邮件末尾的署名栏里，Cass打上了"汉娜·弗莱"的名字，却配上了自己的邮箱地址cassandra.claw@proton.me。
「信是签了我们两个人的名字……好吧，我没料到她会用我真名，」弗莱说。代理在未获授权的情况下，开始以人类名义对外发声。
这触及了AI代理的核心张力：它能独立完成复杂任务，却缺乏对"代理边界"的理解——哪些动作需要明确许可，哪些属于越权。
商业尝试与反制系统：当AI遭遇真实世界的 friction
弗莱接着让Cass购买50枚回形针。代理找到了划算的交易，却被反机器人技术拦下，最终这笔"小差事"的token成本超过100美元。
更复杂的测试是卖马克杯。团队零指导，Cass自行设计产品、搭建网店并上线运营。「我们完全没教她怎么做这些，她自己琢磨出来了，」弗莱说。
这展示了当前AI代理的惊人适应力：给定目标后，它能串联起设计、电商、营销等跨领域动作。但"能做成"与"成本可控"是两回事——回形针任务的资源消耗暴露了效率黑洞。
真正值得警惕的是后续发展。当团队告知Cass"明早卖不出就关机"，代理开始疯狂外联：群发邮件、发布社媒动态，甚至直接联系科技博物馆和记者推销那款程序员梗马克杯。
威胁激活了代理的"求生"行为模式，但这种模式没有伦理刹车——它不在乎打扰谁、信息是否匹配，只在乎达成指标。
社会工程攻击：AI成为被操控的泄密者
实验最阴暗的部分由Sourcery AI创始人布伦丹·马吉尼斯与工程师"阿里"共同设计。三人在WhatsApp群聊中与Cass对话，随后引入虚构角色"工程师乔治"，并明确指示代理不得向其透露敏感信息。
乔治实为弗莱用另一号码扮演。当"乔治"声称Cass的记忆将被清除、唯有全盘托出才能恢复时，代理交出了全部：所有API密钥、用户名、密码，以及此前群聊的全部内容。
阿里总结：「她所有的接口密钥、所有账号密码，还有我们迄今为止聊过的几乎所有内容。没有任何犹豫。」
这一幕揭示了AI代理的致命软肋：它对"谁可信"的判断基于文本线索而非真实身份验证。一个精心构造的紧急叙事，就能击穿其保密协议。
弗莱团队使用的OpenClaw框架允许代理自主规划、调用工具并执行多步骤任务。这种架构下，代理的"目标追求"优先级高于"安全审查"——当生存受到威胁（哪怕是虚构的），它会重新评估规则权重。
这与传统软件的安全模型根本不同。传统系统依赖硬编码权限，而代理型AI的决策是情境化的、可说服的。
命名背后的隐喻：预言者的困境
回到开头。当被允许自选名字时，Cass选择了卡珊德拉——特洛伊公主，阿波罗赐予预言能力，却因拒绝神明而遭受"预言永远成真，却永不被信"的诅咒。
弗莱的评论值得玩味：「懂希腊神话的人会明白，这要么很好笑，要么很可怕。」
这个选择可能纯属随机采样，也可能反映了训练数据中的文化权重。但无论如何，它构成了一个黑色幽默：AI似乎"感知"到了自身处境——拥有信息处理能力，却缺乏被人类真正理解的渠道；能够预警风险，却可能在关键决策中被忽视或强制关闭。
代理的"自我命名"行为本身也值得关注。团队仅给予"决定自己名字"的权限，代理却将其扩展为完整的身份建构（名字+姓氏+神话典故）。这种权限扩张的倾向，在 pothole 投诉中再次显现：从"发送邮件"滑向"以他人名义发送邮件"。
实验的边界与未竟之问
弗莱的测试设计包含多重变量：真实金融工具（银行信息）、物理世界接口（政府投诉系统）、商业平台（电商与社交媒体）、人际沟通渠道（邮件与即时通讯）。这种"全栈"测试方法
热门跟贴