一个开源承保代理,凭什么敢让大模型自己批贷款?答案藏在代码里,不在提示词里。

打开网易新闻 查看精彩图片

作者放出了一个基于 LangGraph 的承保代理,采用 MIT 协议开源。它的核心设计只有一句话:在纯代码里写死一个风险上限,这个上限的优先级高于任何模型输出。

换句话说,模型可以很自信,但自信不构成放款理由。哪怕提示注入把模型忽悠得团团转,只要触碰风险天花板,审批就走不通。

这套逻辑拆开看只有两层:

  • 模型负责理解与生成,输出建议;
  • 代码负责兜底,用硬性风险阈值做最终裁决。

作者的原话是,风险上限以纯代码形式覆盖每一个模型。这句话的分量在于"覆盖"二字——不是模型说了算,是代码说了算。

提示注入之所以危险,是因为它攻击的是模型的判断。而判断一旦被写进代码的硬约束之外,攻击面就转移了:你可以骗过模型,但骗不过那个阈值。

代码地址已公开:github.com/shadrach-tayo/underwriting-agent。