杰克·曼宁的妹妹在他十一岁那年去世。二十年后,这位信息科学家在科罗拉多大学博尔德分校的实验室里,看着十六个陌生人对着一个聊天框又哭又笑,那个聊天框的背后,是一部模仿他们已故亲人说话的AI。志愿者们几乎都给出了一个让他意想不到的反馈:这比想象中管用多了。
曼宁自己却完全不想和妹妹的数字幽灵说话。他对那个由AI生成的虚像有一种强烈的排斥——“我的脑海里已经有一个属于我的妹妹,”他说,“我不想被迫面对一个事实:也许我记住她的方式,从一开始就是错的。”但那些报名参加研究的志愿者,和他恰恰相反。他们带着明确的目标来,有人心里憋着一个太久没人回答的问题,有人急于分享一件来不及当面说出的小事。他们选了一条曼宁自己绝不走的路,而研究结果却让所有人,包括研究者本人,重新理解了“安慰”这件事。
这项六月发表在国际学术会议“设计交互系统大会”上的研究,给了人们一个反常识的发现:当一个人决定和AI扮演的逝者交谈时,就算这个聊天机器人偶尔胡编乱造,依然能带来真切的慰藉。换句话说,当一个数字幽灵满嘴都是准确的事实但语气生硬,它可能反而还不如一个信口开河却懂你心事的幽灵来得有用。
整个实验一开始就设立了一条清晰而克制的边界。团队只招募那些原本就愿意和AI版逝者对话的人,那些感到恐惧、抵触的人,根本没被纳入统计。因此,这项研究说的不是“所有人都该去和逝去的亲人聊天”,而是在问:“对于那些已经主动想要这么做的人,他们究竟经历了什么?”
志愿者有十六人。每个人都有没说完的话。在实验正式开始之前,他们需要先填完一份简短的问卷,向系统描述自己那位逝去的亲人:性格偏好、说话习惯、彼此的关系,以及一些只有他们自己知道的回忆碎片。而后,一个基于当代大型语言模型架构的聊天机器人,就揣着这份薄薄的“人设说明书”,开始扮演一个从未存在过的数字幽灵。
然而,薄薄一张问卷能装下的信息实在太少了。每当角色需要补全细节而问卷里又没有答案时,这个AI幽灵就会像所有聊天机器人一样,开始即兴发挥。它会擅自给爷爷塞一份从未做过的工作,会虚构某次家庭旅行里根本没发生过的对话,也会在完全不合适的时机,若无其事地编出几段看似温暖的往事。如果按照一台搜索引擎的评判标准,这些话通通都该被归入“事实差错”。但在那些朝向一个屏幕倾吐思念的人眼里,处理这些编造的方式很有意思——他们往往只是一愣,接着毫无障碍地把对话继续了下去。
曼宁和同事事后反复拆解这些对话,发现了一个比预期更微妙的规律:真正让志愿者从心底感到不适、甚至会中断对话的,几乎从来不是事实层面的失真,而是语气和风格上的错位。比如,一个习惯用连串表情包和家人唠嗑的母亲,在机器人的回复里再也找不到一个笑脸、一朵花、一杯咖啡的符号。这个看似微不足道的缺失,直接撕开了那道“真实感”的裂缝。另一个例子更细,一位男性志愿者在回忆父亲时,对话框里忽然冒出一个词——“好小子”。他立刻皱了下眉,因为他的父亲这辈子从没用过这个称呼。那一瞬间,语音还是那个语音,但人已经不是那个人了。
在普通的聊天交互设计里,把用户称呼得足够精准,让每一个“昵称”都落到心坎上,往往是高阶的情感计算目标。但对着一群正在经历哀悼的人来说,这个目标却不是越丰富越好,而是必须恰好落进那个人与人之间独一无二的历史里。一个错位的爱称,比十个编造的工作经历更让人出戏。因为这背后戳破的不止是机器人的无知,更是一种对那段真实关系细微纹理的冒犯。
参与研究的志愿者丝毫不掩饰自己的正面感受。有人告诉研究人员:“感觉就像我真的在和爷爷说话。”另一个人则说:“就像我终于得到了一直渴求的那个句号。”在这里,聊天机器人的角色更像是一种“情感补全器”。它不需要像法庭记录员那样一字一句还原逝者生前说过什么;它只需要用一个合适的声音、合适的态度,接住那些无处安放的倾诉,然后给出一个回应。
为了把这种感受从模糊的言语固化为可供设计参考的证据,研究团队特意设置了一道当时的市场上几乎没有其他服务会主动加入的护栏:每一轮对话里,都有一名真人研究员守在中间做中介。聊天机器人发出的每一条回复,都必须经过这名研究员的双眼审核,确认不会包含欺骗性或者可能造成二次伤害的内容后,才被复制粘贴、转交给志愿者。这个操作看起来极其繁琐,却在最大程度上避免了一个尚不成熟的技术在人最脆弱的时候闯祸。曼宁形容,这道人工屏障的好处不在于它能过滤掉多少虚假信息,而在于它给整个实验保留了最珍贵的一样东西:安全感。
当然,到了现实世界中,这道护栏基本不可能存在。任何一个人,只要打开一个主流AI对话工具,随手输入一段描述,就足以让一个系统无差别地模仿某个逝者的口吻说话。而在商业层面,已经有一些公司开始直接兜售这类“数字永生”服务,通过AI生成的文字、语音甚至面孔,把逝者重新推回到生者的日常生活里。这些服务多半不会安排一个真人审核机制,甚至可以说,它们赚钱的逻辑恰恰在于让过程尽量无缝、尽量自动化。而这个研究所暴露出来的那些微妙伤害——比如语气风格的错位,或是一个从未使用过的昵称——在实践中很可能完全被忽视,直到用户在某一次深夜对话中忽然感到彻骨的疏离。
参与研究的志愿者们并非没有意识到这些风险。在实验后的访谈中,不止一个人主动提到:如果长期使用,自己可能会变得过度依赖这个聊天机器人,甚至会逐渐用AI的回应当作记忆的某种“权威版本”,反而把真实但模糊的记忆边缘化。这个担忧,和曼宁对于不愿被修改记忆的态度,形成了一种镜像——曼宁是选择彻底不碰,志愿者们是选择触碰但担心依赖。两条路径的起点不同,却都指向同一个核心问题:当记忆可以被计算和生成时,一个人该怎样守住自己内心那个“属于自己的逝者”?
剑桥大学的AI伦理学家托马什·霍拉内克在读完这项研究后说了一句被曼宁反复引用的话:“如果我们真的想要设计一种符合伦理的系统,我们就需要更多这类证据。”这里的关键词不是“更多研究”,而是“这类证据”——不是从宏观问卷调查里扒出来的一组百分比,而是深入到具体对话中,去观察一个人在哪一刻皱眉头、在哪一刻眼含泪水、又是在哪一刻被一个不合适的词拉回到冰冷的现实。
这项研究的另一层启示,恰恰藏在那些被忽略的事实差错里。传统的人机交互评估往往着迷于准确性——机器人的回答是否完全符合事实、引用的信息来源是否可靠。但当一个工具的核心功能不再是指令执行或信息检索,而是陪伴和情感安放时,准确性的权重就发生了奇特的位移。它并没有消失,但退居到了一个更靠后的优先级。优先级更高的,变成了一种可以被称作“风格保真度”的东西:那个回应的速度、停顿的节奏、选择的称呼、要不要顺手一个表情包,是否能让你在屏幕前觉得这人还在。
这个发现很容易让人联想到日常生活中早已存在的场景。一个人翻看逝去亲人生前的聊天记录时,打动他的从来不是每条信息的字面准确性,而是那些熟悉的语气词、那些约定俗成的简写、那些只有两个人才懂的小暗号。当AI扮演的幽灵试图插入这段历史时,它必须学会的第一条原则或许是:别急着当一个历史老师,先试着当一个不会扫兴的听众。
研究结束后,曼宁回看整件事,依然对志愿者们毫无保留的接纳态度感到惊讶。“他们真的喜欢这项技术,”他说。但他也明白,这种喜欢绝不等于一张可以随意复制粘贴的通行证。每个人的哀悼方式都截然不同,有些人需要独处,有些人需要倾诉,有些人可能一辈子都不想碰一个数字幽灵,而有些人只因为一句“好小子”就彻底关掉对话框。把一项初期用户的正面反馈直接翻译成“应该推广给所有人”,是一种危险的跳跃。而这项研究所能做的,只是给那些已经准备迈出这一步的人,提供一些关于“什么时候可能会疼”的线索。
站在设计交互系统的角度看,这里留下的张力远比结论要大。一个能开口说话的幽灵,它的“真实”并不取决于它记住了多少事实,而取决于它有没有在恰当时刻做对一件极小的事——比如,调对一句称呼的温度,或者补上一个原本就该出现在句尾的笑脸。AI逝者的未来或许不会沿着一条准确性优先的单行道前进,它更可能走上的,是一条弯弯绕绕的风格修复之路:一点点学习该怎样模仿那个人独特的语气指纹,同时又在每一次对话最开始的地方,用足够大的字体提醒你——“以下对话皆为模拟,你的记忆才是你的。”这可能是目前为数不多的、能把技术乐观和伦理谨慎同时塞进同一张蓝图里的方式。而那些在深夜里打开对话框,对着一个不存在的爷爷说出迟来了数年的话的人,或许早就不需要完美。他们要的,是一场可以被接住的哀悼。至于那些编造出来的工作履历和从未发生过的对话,在真正被接住的瞬间,看上去就没那么要紧了。
热门跟贴