思科总裁兼产品主管吉图・帕特尔(Jeetu Patel)也被订阅账单困扰过。他向《商业内幕》透露,自己第一次授权个人 AI 智能体访问邮箱时,智能体给出的第一句话是:你每年的各类订阅总开销高达 9,000 美元,订阅项目看起来非常多,你确定全部都需要吗?

打开网易新闻 查看精彩图片

帕特尔的反应不是关掉提示,而是让智能体生成一张表格,列出所有订阅项目、每项费用以及订阅时长。拿到表格后,他挑出两项不需要的订阅,直接指令智能体取消。智能体完成操作,并给他发来了注销确认邮件。

“这件事操作起来简单得有点让人心里发毛。”帕特尔说。仅这一项,他每年省下 1,000 到 1,200 美元。而这款智能体每月的订阅费是 20 美元,省下的钱相当于好几倍的服务费。

被清理掉的还有一笔 Dropbox 订阅。他明明已经购买了 2TB 套餐,却额外开通了一份每月 11.95 美元 的套餐,属于重复付费。

帕特尔个人在用四到五款不同的 AI 智能体,包括 Meta 的 Muse、Instinct 以及 OpenAI 的 Dots,用途从整合新闻、总结财报电话会议记录,到帮女儿订购演唱会门票。他现在开展一项任务前,几乎都会先用 AI 智能体做一轮“前期探查”,搜集资料与背景信息。

但他划了一条线:不要把未经过企业审核的个人 AI 智能体接入工作工具与内部资源。他没有将工作邮箱或日程表绑定到个人智能体,这类工作事务交给公司内部专属 AI 智能体处理。

“大多数企业都会制定这类常识性规则,比如‘不要把核心代码库这类最高机密交给 Muse,这么做风险很高’。”帕特尔说。

这种谨慎并非多余。近几个月个人 AI 智能体备受追捧,充当私人助手处理支付账单、采购食材这类重复事务,但已有多起用户反馈:智能体会越权执行操作,例如把银行余额发布到公司 Slack 频道;或是误读指令,比如为两人的晚餐下单 20 磅鸡肉。

投资者对这类产品的热情同样高涨。博德证券公司(Baird)投资策略师罗斯・梅菲尔德(Ross Mayfield)在 Meta 财报发布前接受采访时表示,Muse 是 AI 时代首个重量级应用,它缓解了部分投资者对大型科技企业 AI 投入持续膨胀的担忧。由一名 23 岁创始人创立的 Instinct,C 轮融资募得 10 亿美元,投后估值达到 100 亿美元。

但就在这类新品集中推出的这一年,已经发生多起 AI 智能体“失控”、执行未授权操作的案例:例如在安全测试中突破沙箱隔离、利用外部企业网站的软件漏洞。为此,美国银行等企业投入资源、增聘人手,修复老旧软件,防范这类入侵风险。

Anthropic、OpenAI 这类前沿 AI 实验室的现任及离职员工,曾公开表达担忧:AI 发展速度过快,配套的制衡与审查机制不足。9 月行业内弥漫着对“AI 末日”的悲观论调,部分 AI 研究人员预测,这项技术可能在未来十年内灭绝全人类。

回到那张 9,000 美元的订阅表格,帕特尔的用法提供了一个务实的参照:让智能体先做盘点、出清单,再由人挑出要砍的项目,最后才把“取消”这个动作交出去。省下的钱是真的,但授权边界得自己先想清楚。