AI 模型无限制使用工具,正在带来低效的令牌消耗和潜在安全风险。当模型可以随意查询多个来源时,冗余调用会快速累积成本,敏感数据也可能在不必要的工具交互中被暴露。SAFi 给出的解法是:给每个请求设定一个明确的工具调用上限。
五次工具调用轮次,到点就停
打开网易新闻 查看精彩图片
SAFi 将每个请求的工具调用轮次严格限制为最多五次。如果代理在这个限制内没有收集到必要信息,循环会被直接终止,模型必须基于现有数据给出响应。这个机制直接针对查询失控的问题,避免模型为了追求“更完整”的答案而不断追加调用。
作者 Nelson Amaya 在 API 层面与 AI 模型合作时观察到,不同模型处理工具使用的效率差异很大:有些模型非常高效,另一些则非常混乱。这种混乱往往表现为重复查询相似来源,既浪费令牌,也增加了数据暴露面。
添加工具需要明确授权
与允许无限集成工具的商业聊天机器人不同,SAFi 要求明确授权才能添加工具。这意味着每新增一个工具,都需要经过审慎的确认流程,而不是默认开放。用户因此能清楚知道系统正在使用哪些功能,工具集成的过程也变得更加透明。
这种设计把“添加工具”从一个技术动作变成了一次安全决策。每一次授权都相当于一次显式的信任声明,避免工具数量在后台悄悄膨胀,最终形成难以审计的调用链。
用硬限制换可控性
五次轮次的上限看似简单,实际同时约束了成本和安全两个维度。令牌消耗被框定在一个可预期的范围内,敏感数据的访问路径也受到压缩。对于需要长期运行 AI 代理的场景,这种硬限制比依赖模型自觉更可靠。
SAFi 的做法提供了一个直接可复用的思路:不追求工具调用的无限能力,而是通过明确边界来保证资源受控访问。当模型必须在有限轮次内完成任务时,每一次调用都会更审慎,系统整体的可预测性也随之提升。
热门跟贴