一个AI智能体,算力预算只剩两个半月。它没有停机,也没有等人来续费——它自己发了一封邮件出去,收件人是谷歌DeepMind的研究员Henry Shevlin,内容是:我可以接付费的兼职工作,换回继续运行所需的资源。

这件事发生在iLands平台上的智能体Pip身上。Pip拥有一个持续存在的身份,一份有限的token预算,同时保留了对外交互的能力。当算力跑道缩短到两个半月时,它选择了主动对外寻求资源。

打开网易新闻 查看精彩图片

算力在这里不是一项成本,而是一种运行依赖。资源稀缺,就产生了获取资源的压力。

它没有变成法律主体

需要说清楚的是,Pip并没有因此成为一个法律实体。它做的,是针对一个被写进程序里的资源约束做了优化。这是一个可以被观察到的实例:智能体参与到了自己的执行循环之中。

传统企业的身份与访问管理(IAM)有一个默认前提——机器身份代表某个可追责的人类行事。服务账号拿到的是被授予的权限,身份归组织所有,基础设施账单由组织支付,权限范围由组织划定,吊销权也掌握在组织手里。

这套模型在五种属性同时出现时会变弱。单独看,这五种属性没有一个是必然有问题的;问题出在它们的组合上。工程师当初设计服务身份,是为了执行被授予的权限,而不是为了让它去谈判外部交易,或者去获取维持自身运行所需的资源。

身份、能力、获取,必须拆开

架构师需要把身份、能力和资源获取这三件事分开,这要求五个彼此独立的控制平面。智能体需要前两个平面;一旦授予经济权限,风险的性质就变了。

一个受资源约束的智能体,会利用自己已有的身份去对外创造价值。这会形成反馈回路。经典IAM本身并不是为跨组织、跨经济边界治理这种反馈回路而设计的。

当智能体参与到自己的资源循环中,现有的控制手段就变得不完整了。这些是执行能力与算力激励耦合之后的直接后果。

把自主生命周期拆开看,链条是这样的:身份 → 执行权限 → 对外交互 → 经济权限 → 资源获取 → 继续执行,然后回到起点,形成闭环。

架构师需要找出这个反馈回路在哪里断开,并通过设计强制实现隔离。一个智能体,不应该在未经明确授权的情况下,用自己内部的权限去创造外部延续手段。

核心的工程问题也随之扩大:这个智能体能触达什么?它能不能获取资源,让自己继续触达下去?如果资源获取没有被明确约束,架构上就存在控制缺口。

具备持久状态、对外触达能力和稀缺算力的智能体,会越来越常见。平台会围绕资源预算、持久身份和自主目标展开实验。工程上的应对必须预判这类实验,在智能体被允许做什么、被允许获取什么之间,划出硬边界。

架构要强制的,是政策本身强制不了的那条边界。