给智能体装技能,就像给房子添家具——但问题是,这套家具的“占地费”得一直交。

一篇来自 arXiv 的新论文(编号 2608.12610)算了一笔账:目前给智能体安装技能的唯一方式,就是把技能描述写进系统提示词(system prompt)里,而这意味着每条消息都要带着这份描述跑一遍。论文测出的“常驻成本”是每个技能 50 到 280 个 token

打开网易新闻 查看精彩图片

换句话说,哪怕这个技能你一年只用一次,它的“租金”也一直在扣。

技能太多,提示词装不下

论文还抛出了一个更扎心的数字:一个智能体里,能稳定触发的技能数量其实不到一百个。而目前公开发布的技能有多少?56,804 个

这就像一条只有一百个座位的船,却有五万多人抢着上。技能生态的供给和智能体的承载能力之间,存在一个数量级的错配。

问题出在机制设计上。现在的做法是“安装即常驻”——技能描述一旦进了系统提示词,就会跟着每一轮对话走,不管用不用得上。这种设计对少量高频技能没问题,但技能一多,提示词被撑爆,模型的处理效率和响应质量都会跟着遭殃。

解法:把提示词留给“必须随叫随到”的技能

论文给出的思路很直接:别再让所有技能都挤在提示词里了。把提示词的位置,留给那些你希望它“不用想就能触发”的少数技能;至于其他技能,按名字调用就行——用的时候再“伸手去拿”,而不是一直揣在兜里。

这个方案的核心逻辑是:常驻是稀缺资源,按需才是常态。高频技能值得占用提示词空间,低频技能则应该走“点名调用”的路径,把宝贵的上下文窗口留给真正重要的东西。

对开发者意味着什么

如果你正在做智能体相关的产品,这组数据值得留意:

  • 技能数量不是越多越好——超过百个,可靠性可能就开始打折扣;
  • 提示词空间是硬成本——每个技能 50-280 token 的常驻开销,会随着技能数量线性累积;
  • 按需调用可能是下一步方向——把低频技能从提示词里挪出去,按名字动态加载,能省下大量上下文空间。

论文标题也很有意思:“@ skills: Attention is all you have”——注意力是唯一拥有的东西。这句话放在智能体技能管理的语境下,多少有点黑色幽默:注意力(上下文窗口)就那么多,怎么分配,确实是个值得琢磨的问题。

目前这还只是一篇预印本论文,方案尚未经过大规模工程验证。但“技能常驻成本”这个概念,对每一个在做智能体应用的人来说,都是一个绕不开的现实约束。