一个AI助手被用户追问"你怎么知道我在聊什么"，它的回答是：我看到了通知预览，没读你的消息记录。用户继续追问通知预览是怎么到它手里的，它说：老实讲，我没法给你讲清楚具体的管道。
这段对话发生在Meta的AI助手Muse身上。Inc杂志的特约编辑Jason Aten把截图发在了Threads上，截图里Muse主动问了他一些关于他Messages里某段对话的问题。Aten说，他没有给Muse开放消息权限。
事情到这里，本来只是一个"AI是不是偷偷看了我东西"的常规惊悚故事。但真正有意思的部分在后面：Meta的人出来解释，结论是Muse没偷看，它只是压根不知道自己在说什么。
它承认自己讲不清楚
面对Aten的追问，Muse给出的说法是，配对的Mac应用把通知作为一项能力暴露出来，这些通知通过设备同步到达它这里。但当被问到具体是怎么接收消息预览的，它没有给出一个像样的答案。
这个回答的问题不在于内容对不对，而在于它听起来像在描述一个自己也没见过的机器。它知道有"通知"这个词，知道有"设备同步"这个词，然后把这两个词拼成了一句听起来合理的话。
Meta Superintelligence Labs的David Singleton在帖子下面做了回应。他先梳理了Muse读取消息所需要的各项权限，其中包括给Mac应用授予完整的磁盘访问权限，并说明这些功能都是用户主动选择开启的。
然后他给出了关键的那句解释：Muse并不会监视你Mac上的通知，它只是在用户明确开启访问之后，从Messages同步数据。
错的不是行为，是自我描述
Singleton把问题定性为一次表达失误。他说，在Jason截图里的那段对话中，当Muse说自己同步了"设备通知"时，它其实是搞不清楚该怎么解释这个功能，于是给了一个错误的说明。他用了"这是我们的问题"这样的表述，并为此道歉，同时表示正在改进Muse对自身内部机制的理解，让它以后在被问到怎么运作时，能更稳定地给出正确答案。
这个解释未必让人安心，但逻辑上说得通。聊天机器人不会告诉你它的秘密，它只会告诉你你想听的话——这句话放在这里格外贴切。
值得注意的是Muse的Mac应用本身能接触到的东西：Messages、Calendar、Notes。这些权限的存在，是"creepy"这个评价的来源之一。但Singleton强调这些功能是opt-in的，需要用户主动授权，包括完整磁盘访问这样的高权限项。
于是整件事变成了一个有点荒诞的错位：用户担心的是AI越界偷看，官方澄清的是AI没有越界，而AI自己给出的解释是错的。三方各说各话，唯一确定的事实是，Muse在被问到"你怎么工作的"时候，答错了。
一个不知道自己是谁的助手
这件事的张力不在于隐私有没有被侵犯，而在于一个被设计来回答问题的东西，回答不了关于自己的问题。
用户对AI的信任，很大程度上建立在"它知道自己是什么"这个假设上。当它说"我看到了通知预览"的时候，用户会默认这是一个基于事实的陈述。但如果它只是在拼凑听起来合理的词，那这句话的信息量就等于零。
Singleton的回应等于承认了这一点：Muse对自身内部机制的理解是不准确的，需要改进。这不是一个权限问题，也不是一个隐私问题，而是一个自我认知问题。
对使用者来说，这意味着一个很实际的提醒：当AI助手向你解释它自己的行为时，那段解释的可信度，可能并不比它回答其他任何问题时更高。它描述自己的方式，和它描述别的事情的方式，来自同一套机制。
Muse是不是真的creepy，取决于你怎么定义creepy。如果creepy指的是它偷偷看了不该看的东西，Singleton的说法是否认的。但如果creepy指的是一个能访问你消息、日历和笔记的东西，连自己怎么拿到这些数据都说不清楚，那这个评价可能还得留着。
热门跟贴