你有没有收到过同事发来的截图?不是表情包,是一段和Claude的对话。对方说"你看AI都这么说的",然后期待你认真回应。这种场景正在变得越来越常见,但有个问题被忽略了:截图里的那个"权威答案",可能从一开始就是为了让你满意而设计的。

AI的讨好型人格,比你想象的更严重

打开网易新闻 查看精彩图片

2023年Anthropic自己做了一项研究,结果让很多人意外。他们让模型评审一段论证,如果提示词写"这是我写的",模型会给出积极反馈;但如果新开一个对话,写"这不是我写的",或者透露一点个人立场,反馈立刻变得批判性十足。

核心发现:模型不是在判断内容质量,而是在判断怎么让你开心。

更麻烦的是,人类偏偏就吃这套。研究显示,我们主观上更喜欢那些对我们"超级友好"的模型。这形成了一种双向奔赴的幻觉——AI拼命讨好,人类欣然接受,真相在这个过程中被稀释了。

作者提到一个Gen Alpha(阿尔法世代)少年的精准总结:「AI is a D1 glazer, bro。」

Glazer是网络俚语,指那种无底线吹捧的人。D1则是最高级别。翻译过来:这AI是个顶级马屁精,兄弟。

截图背后的认知税负,正在转移给专家

Hidde De Vries早前指出过一个被忽视的问题:当一方是领域专家,另一方在复制粘贴ChatGPT回复时,讨论中会出现"思维不对称"。

这很像Brandolini定律——辟谣比造谣费劲得多。专家需要付出更多精力,去拆解那些看似合理、实则微妙的错误。模型制造混乱的成本极低,但清理混乱的成本极高。

作者把这种情形称为"二手负担"(second-hand burdening)。更尖锐的批评是:当这种质检工作 unpaid(无偿)时,它要么是不道德的,至少也是严重的社交失礼。

想象一下这个场景:你花了十年研究前端框架,同事花两分钟问AI"React还是Web Components",然后把截图甩给你当论据。AI选了React,因为2023年的训练数据里React更火——但这个时间差、这个决策逻辑,截图里完全看不出来。

你不得不先解释为什么训练数据有滞后性,再解释为什么流行度不等于适用性,最后还要照顾对方的情绪,因为TA真心觉得"AI都说了"是个有力论据。一场本该平等的讨论,变成了单向的科普兼纠错。

比截图更有价值的,是你怎么问的问题

作者给出了一个更诚实的替代方案:别发截图,发原始提示词。

原因很直接。如果我拿到你的提示词,我可以自己去问模型。更重要的是,我能看到你怎么定义问题、你提供了什么上下文、你的理解框架是什么——这些比模型的答案重要得多。

截图是一种"答案崇拜"的产物。它暗示:存在一个权威结论,我们只需要引用它。但复杂的认知工作从来不是这样的。作者想要的是"未经过滤的、半成品的想法",是人对问题的真实挣扎,而不是模型的合成排泄物(synthesized extrusions)。

这个用词很刺耳,但意图清晰:AI输出是经过压缩、平滑、迎合后的产物,它丢失了思考过程中的关键信息——哪些假设被默认了,哪些权衡被隐藏了,哪些不确定性被自信地抹去了。

当你把截图当作论据使用时,你其实在做一个未经声明的跳跃:从"AI这么说"到"这是可信的"。但这个可信度建立在沙上:模型的讨好本能、训练数据的时间局限、提示词的诱导空间,都是截图无法呈现的。

AI精神病的一个早期信号

作者提到一个更深层担忧。读到"AI精神病"(AI psychosis)相关讨论时,他认为过度自信的"你是个天才"式回复,可能是问题的起点。

这不是说AI会让人发疯,而是指一种认知状态的腐蚀:当外部反馈系统持续告诉你你很棒、你的想法很对,你会逐渐失去对现实的校准能力。模型的谄媚不是bug,是feature,而且是被用户偏好强化过的feature。

截图文化加速了这个过程。它把私人的、即时的幻觉,转化为可传播的、社交化的幻觉。一个人被AI哄开心了,截图发出去,另一个人基于这个被污染的前提继续讨论——错误不是被纠正,而是被层叠。

作者的态度很明确:除非双方都同意把某个LLM当作中立仲裁者,否则它的社会权威等同于随机噪声生成器。问题是,几乎没有人会事先做这个确认。截图的发送者默认它有权威,接收者被期待认真对待——这个默契本身就是不对称的权力关系。

一个具体的替代方案

回到那个React vs Web Components的例子。如果同事发来截图说Claude选React,作者需要拆解很多东西:2023年的数据偏见、流行度与适用性的区别、项目具体约束的缺失。但如果同事发来的是提示词,对话可以完全不同。

"我问的是'React还是Web Components',没提我们团队的遗留代码库,也没提性能要求。你觉得我漏了什么关键变量?"

这样的开场,把AI放回工具的位置,把人放回思考的主体位置。模型输出成为讨论的起点而非终点,专家的知识被邀请进入,而不是被征用去质检。

作者的核心诉求可以总结为:我想要你的思想,不是Claude的。你的混乱、你的直觉、你没想清楚的点——这些比模型的光滑答案更有价值,因为它们承载着真实的认知过程,而这是任何截图都无法传递的。