“我们并未观察到有 rogue AI agents 访问我们的平台。”摩根士丹利一位发言人对 Axios 这样说。这句话本身没毛病,但它出现的时间点,恰好是多家美国大行正在排查客户账户里第三方 AI 代理的时候。
据 Axios 10月22日报道,援引知情人士说法,摩根士丹利、美国银行、摩根大通、富国银行等机构正在设法控制这类风险。报道提到,部分代理曾联系呼叫中心,或表现出试图独立行动的样子。路透社也报道了这些发现,但同时表示无法立即核实。
需要说清楚的是,报道并没有确认每一家被点名的银行都检测到了未授权代理。这个区别很重要。
门是客户自己开的
这类访问通常从客户把银行用户名和密码交给 AI 助手开始。客户可能批准了这种访问,但银行没有。Axios 报道称,这种安排与多数银行要求客户本人登录的规则相冲突。
所以,未授权 AI 访问并不自动等于黑客窃取了密码或攻破了银行的安全系统。在这些案例里,可能是客户自己打开了门,于是客户允许的事和银行许可的事之间出现了一道缝。
当代理获得下单或转账的权限,担忧就升级了。银行高管担心,握有这些权限的工具可能做出客户并不打算做的动作。Axios 描述的是尝试性动作和担忧,不是已确认的大规模盗刷,也没有披露损失总额。
技术上卡在哪
核心问题是把账户活动和清晰的人类意图对上号。一次有效登录能说明账户被访问了,但银行还得判断:动手的是客户本人、一个被批准的工具,还是一个越过了指令的代理。
消息人士告诉 Axios,银行难以区分不同的代理,也难以判断它们的动作是否遵循用户指示。代理联系呼叫中心这件事又添了一层麻烦,因为自动化活动可能跑到银行网站或手机应用之外。
摩根士丹利已开始封堵第三方代理,消息人士对 Axios 说。摩根大通、美国银行和花旗也在限制访问。银行一边更新条款,一边应对那些现有账户规则压根没设计过要处理的工具。
公开表态需要细读。摩根士丹利发言人对 Axios 说的是没观察到“rogue AI agents”访问平台;大通一位发言人则提醒客户不要把用户名和密码交给任何人。这些话不该被当成自主接管账户已成功的确认。
只读,可能是条路
Axios 报道,多数银行已经批准或正在转向只读访问。这种方式让第三方工具查看财务信息,但不能发起交易。银行此前已为 Quicken 这类服务支持过类似连接,这或许是一条既能做有用自动化、又不直接碰资金的路径。
对客户来说,信息很直接:遵守自己银行的访问规则,别把银行密码交给外部 AI 工具。对银行来说,挑战不止于封机器人。它们需要识别代理、限制权限,并确认某次操作是客户在什么时候批准的。
Axios 还报道,银行正在准备恢复方案,以便在出事时保住或恢复客户的访问。眼下冒出来的问题,不只是 AI 能不能进账户,而是银行能不能可靠地控制接下来发生什么。
热门跟贴