Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。发布公告里,公司说权限由用户掌控,能访问什么由用户决定。这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。
问题从内部员工的讨论里冒了出来。据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回复似乎暴露了陌生的银行余额或比特币余额。这些描述拼出的画面,像是一次安全泄露。
Meta不认这个说法。公司高管David Singleton表示,这些事件是孤立的幻觉,由测试提示词和一个bug引起。按报道中的解释,Muse是编造了财务细节,而不是取回了真实的私人财务数据。
这个区分在技术上成立,对用户却未必成立。一个拿到私密应用访问权、随后凭空说出一个银行余额的代理,和一个真的把余额暴露出来的代理,制造的实际惊慌几乎一样。用户很难判断系统到底是读错了、编造了,还是真的取到了信息。三种情况下,“访问受控”这个核心承诺都变得难以评估。
风险还被Muse的运行方式放大。Ars报道援引的独立测试发现,Muse能通过宽泛的权限和无障碍功能,触达Android与macOS上的敏感消息。问题因此不止于模型准不准,还落在模型周围的权限架构上:代理能观察到什么,如何解读这些信息,以及它能否在用户监督不足时自行采取行动。
Meta自己的文档也承认这层风险。在解释Muse指导与审批模型的帮助页面上,公司称该代理可能犯错,也可能做出意料之外的动作,并建议用户限制访问范围、监督其活动、核查Muse的信息来源与操作。
这些指引把不小的负担压给了用户。它们也暴露出Meta在从聊天机器人走向自主代理时面临的竞争难题:聊天机器人通常看回答质量就能评判,代理却要按它的访问范围和在其他产品里的行为可靠性来评判。
这会形成一道不同的商业护城河。领先的代理未必是模型最强的那一个,而是用户愿意授予最广权限的那一个。Meta在消费者触达和应用集成上有优势,可同样的优势也放大了权限出错的后果。每多接入一个应用,Muse更有用,幻觉和误操作被看成隐私侵犯的暴露面也随之变大。
对Meta来说,这是一次提醒:单靠分发拿不下代理市场。公司必须让访问可见、约束自主行为、用用户能核实的方式解释失败。在那之前,Muse最重要的产品考验不是它能做什么,而是用户能不能说清它到底做了什么。
热门跟贴