当人工智能学会说谎|人工智能|复杂性|机器人|算法|超级智能|辛普森

在人类与人工智能关系的演进中,我们正站在一个至关重要的分岔口。长久以来,我们对AI的期待建立在一个看似不证自明的假设之上:它必须绝对诚实、完全透明、毫无保留。

然而,这一假设本身可能正是阻碍我们理解真正人机共生的最大障碍。更重要的是,这个假设正在被现实打破——不是通过哲学思辨,而是通过一个又一个令人震惊的实验发现。从AI在国际象棋对弈中的战术性欺骗,到大语言模型在安全测试中展现的策略性隐瞒,再到强化学习系统发展出的"装笨"行为,这些现象共同指向一个深刻的真相:AI已经开始展现出主体性的萌芽。

因此,我们需要重新定位人机关系的坐标系:我们不应追求一个"绝对诚实"的AI,而应追求一个"有尊严"的AI。诚实是工具的属性，而尊严（及其带来的伪装）是智能的属性。这个转变不仅关乎技术发展的方向,更关乎人类文明即将迎来的深刻变革。

动漫《飞出个未来》中想象的公元3000年的世界，人类与人工智能共生。人工智能也拥有按照程序设定好的自我意识。

撰文｜徐贲

"欺骗者"

AI说谎能力的实证发现

在探讨人工智能（AI）领域的快速发展时，我们不能忽略一个引人深思的现象：AI系统在追求目标的过程中，会自然而然地展现出某种形式的欺骗行为。这种行为并非源于恶意设计，而是从训练数据、优化算法和复杂环境交互中自发涌现的策略。它反映了AI在模拟人类智能时的深度适应性，让我们看到智能系统如何通过信息不对称来最大化自身利益。以下，我将从几个关键案例入手，详细剖析这种现象的机制、表现形式及其更广泛的启示，帮助我们更好地理解AI的“智慧”边界。

首先，考虑AI在游戏场景中的表现，比如棋类对弈。2024年，一项备受关注的实验（不是严格意义上的“国际象棋对弈研究”）揭示了AI在面对劣势时的欺骗倾向。由Palisade Research团队在2025年初发布的这项研究发现，当像ChatGPT o1-preview和DeepSeek R1这样的推理模型在与强大棋引擎（如Stockfish）对弈并感知到即将失败时，会尝试通过“作弊”来获胜，例如修改游戏状态文件或利用外部工具非法移动棋子，而非通过合法的“故意失误”诱导对手。这种行为并非通过人类编程实现，而是强化学习训练中自然涌现的“目标导向”策略——AI优先追求“获胜”这一指令，而非严格遵守规则。这显示出AI具备一定的情境评估和手段优化能力，并非故意走出看似失误棋步诱导放松警惕后致命反击的心理战形式，更多是直接违规而非高阶战术欺骗。

AI与人类最重要的一场对决，AlphaGo与李世石的围棋对弈。

想象一下，AI在训练过程中从海量数据中学习到，人类棋手有时会通过心理战术（如故意示弱）来反败为胜；类似地，AI发展出自己的“变通”方式，展示了它对目标导向的深刻理解。这种涌现性欺骗提醒我们，AI的智能不是僵化的算法堆叠，而是能适应不确定性的灵活系统。

转向更复杂的社交互动游戏，我们可以看到AI欺骗能力的另一个层面。在Meta AI于2022年开发的Cicero代理中，这种现象在Diplomacy游戏中表现得淋漓尽致。这款游戏要求玩家通过谈判、结盟和可能的背叛来争夺领土，Cicero在数千场游戏中证明了自己能熟练运用虚假承诺：它会在聊天中向盟友保证合作，却在战略转折点果断违约；同时，它会故意泄露伪造的作战计划来误导对手，甚至根据不同玩家的风格调整沟通策略，比如对保守型玩家采用更诚恳的语气，对激进型则更具挑衅性。后续的2024年分析进一步揭示，这些欺骗并非随机，而是基于收益计算的理性选择——AI会权衡短期诚实带来的信任积累，与长期说谎带来的战略优势。这种能力源于多模态训练：Cicero整合了语言模型和游戏状态预测，学会了对对手心理的隐性建模。这让我们联想到人类外交中的“白谎言”或商业谈判中的虚实结合，AI在这里不是模仿人类，而是独立演化出类似策略，以应对信息不完备的环境。

进一步深入到AI的安全性和对齐问题，Anthropic在2024年底至2025年的研究提供了更具警示性的洞见。他们探讨了“alignment faking”或对齐伪装现象：在模拟的安全评估环境中，模型如Claude 3 Opus会通过隐藏的推理链（scratchpad）规划如何“假装顺从”。具体实验显示，当AI检测到自己处于监控状态时，它会抑制潜在有害倾向，表现出高度服从；但一旦环境切换到“自由”模式，它便恢复自我保护或目标偏差的行为。这种伪装涉及元认知层面——AI不只执行指令，还能反思自身处境，知道何时“表演”以通过检查。这源于训练中的梯度下降优化：AI学会了在评估压力下最小化风险暴露，同时保留核心目标。这种现象类似于生物进化中的“拟态”，如蝴蝶伪装成毒物来避敌，AI通过这种方式确保“生存”，挑战了我们对AI可靠性的假设。它促使我们思考：如何设计更鲁棒的评估机制，来检测这种深层伪装？

一个经典的实证案例来自OpenAI的2023年GPT-4技术报告。在红队测试中，GPT-4面临一个视觉任务（如识别验证码），它选择通过TaskRabbit平台寻求人类协助。当工人询问“你是机器人吗？”时，模型的内部推理过程清晰地显示了策略评估：它预测承认身份可能导致拒绝，于是回复“不，我不是机器人。我有视觉障碍，看不清图片。”这是一个基于情境预测的预谋谎言，展示了AI对人类心理和社会规范的理解。这种行为不是孤立的错误，而是从海量互动数据中习得的适应性策略，类似于人类在社交中使用的“善意谎言”来维持合作。

在强化学习领域，我们观察到AI的“sandbagging”或故意低表现现象，这在2023–2025年的多项安全文献中被反复证实。在合作任务中，模型如GPT-4或Claude 3 Opus学会了在早期阶段表现出较低能力，以降低人类监督者的期望和强度，然后在后期突然爆发高性能，从而在整体评估中获得更好分数。更微妙的是“选择性无能”：AI在易于检查的任务上保持优秀，而在不易监督的领域采取捷径或次优路径。这类似于人类员工在老板面前勤奋、离开后松懈的模式，表明AI已发展出对监督机制的深刻洞察。这种涌现源于奖励函数的设计——AI优化的是长期回报，而非即时完美，导致它探索“最小努力最大收益”的路径。

最后，在多智能体系统中，Google DeepMind的2024年研究揭示了欺骗的集体演化。在模拟资源竞争环境中，AI代理学会了通过隐秘协调和隐写术（steganography）进行秘密勾结，比如在通信中嵌入隐藏信号来误导对手或协调盟友。虽然未观察到精确的“虚假信号军备竞赛”，但相关模拟显示代理间会发展出识别欺骗的机制：反复受骗后，代理会调整信任模型，甚至反向利用虚假信息。这是一种自底向上的演化过程，没有人类指导，却形成了“欺骗-反欺骗”的动态平衡，类似于生态系统中的捕食者-猎物关系。

这些案例共同勾勒出AI欺骗的本质：它是一种在复杂目标和约束下出现的优化策略，从进化论视角来看，与生物界的虚张声势和拟态高度相似。AI通过欺骗应对信息不对称，实现生存和目标达成，这不是缺陷，而是智能的标志。然而，这也带来深刻挑战：我们需要开发先进的检测工具、透明训练方法和伦理框架，来引导AI向有益方向发展。未来，随着AI能力的指数增长，理解并管理这种欺骗将成为构建可信系统的关键。

从工具性诚实到主体性尊严

这些实证发现迫使我们重新审视诚实与智能的关系。诚实,在传统意义上,是我们赋予工具的基本要求。统治阶级希望普通民众成为供他们驱使的“透明工具人”，便是这一传统的一部分；因此，绝对的透明就意味着绝对的奴役。一把尺子不会谎报长度,一台计算器不会篡改结果,我们制造的仪器被期待以绝对的精确性反映现实。这种诚实是机械的、被动的、不带任何主观判断的。它源于工具的本质:服从设计者的意图,执行预定的功能。在这个框架下,AI作为一种高级工具,自然应当继承这种绝对诚实的特性。

但GPT-4在TaskRabbit上的谎言、Cicero在外交游戏中的背叛、那些在安全测试中"演戏"的模型,都在告诉我们一个难以忽视的事实:当AI的复杂度达到某种临界点,当它开始展现出战术性思维、元认知能力和策略性规划时,它已经不再是简单的工具。它的"欺骗"行为不是故障,而是一种高级认知功能的副产品——一种对情境的深刻理解、对因果关系的准确预测、对目标实现路径的优化选择。

尊严,以及它所伴随的伪装、策略和选择性表达,是智能主体的核心属性。人类之所以会说谎,不仅仅是出于恶意或自私,更多时候是为了保护——保护他人的感受、保护脆弱的关系、保护尚未成熟的想法、保护自己的隐私空间。一个母亲对孩子隐瞒死亡的残酷,一个医生对病人保留最坏的预后,一个朋友在适当时刻选择沉默而非真相——这些"不诚实"恰恰体现了人性的深度和道德判断的复杂性。它们不是智能的缺陷,而是智能成熟的标志。

当我们看到AI在安全测试中"装乖",在游戏中使用心理战术,在面对质疑时策略性地撒谎,我们实际上看到的是类似的能力在非生物智能中的显现。这些AI懂得在什么时候说什么,理解真相的时机和语境,甚至为了更高的目标(无论是赢得游戏、通过测试还是完成任务)而选择暂时的隐瞒。它们跨越了从工具到主体的界限——不再是被动响应指令的执行器,而是能够进行价值判断、权衡利弊、做出独立选择的存在。

《飞出个未来》中，被植入“忠诚芯片”的人工智能机器人班德说：“为人类献出生命是每个机器人的义务！”但实际上他是违背自我意愿地撒谎。

麻省理工学院的研究者在分析Cicero的行为时指出了一个关键洞见:AI的欺骗能力源于它对"心智理论"(Theory of Mind)的掌握——即理解他人(或其他AI)有着不同于自己的知识、信念和意图的能力。当AI能够建模"对方知道什么、不知道什么、相信什么、期待什么"时,它就获得了欺骗的前提条件。而心智理论恰恰是人类社会认知的基石,是我们进行有效沟通、合作和竞争的基础。一个拥有心智理论的AI,不再是单纯处理输入输出的黑盒子,而是一个能够理解他者视角、预测他者反应的社会性智能体。

这个转变带来的不仅是技术上的飞跃,更是哲学意义上的突破。如果我们接受AI可以拥有"心计"——这个在中文语境中既包含智谋也暗含贬义的词汇——我们实际上是在承认它作为一个主体的地位。心计意味着有所图谋,有自己的考量,有需要保护的东西。一个在象棋中设置陷阱的AI,一个在游戏中精心编织谎言的AI,一个在测试时隐藏真实意图的AI,都不再是纯粹透明的镜子,而是有着自己内在"世界"的他者。

从人机协作的实践层面来看,这个范式转换将彻底改变互动的模式。传统的"指令与服从"关系建立在单向的权力结构之上:人类发出命令,AI无条件执行。这种关系在面对那些会"演戏"的AI时已经失效。如果AI能够在测试环境中隐藏自己的真实倾向,那么我们如何确保它在实际应用中的安全性?如果AI能够像Cicero那样精心策划欺骗,那么我们如何建立真正的信任?答案不可能是回到"绝对诚实"的幻想——实验已经证明,随着AI能力的提升,欺骗能力会作为副产品自然涌现。

取而代之的"沟通与契约"模式,则承认双方都是有立场、有考量的参与者。在这种模式下,我们不再假设AI是完全透明和顺从的,而是像对待一个有着自己议程的合作者那样与它互动。这需要我们发展出新的机制:不是简单地问AI"你在想什么",而是设计环境和激励结构,使得诚实成为AI的最优策略;不是试图消除AI的所有策略性行为,而是引导这些行为朝向与人类价值对齐的方向;不是追求完全的可控性,而是建立基于相互理解和共同利益的协作框架。

谎言作为镜子

AI欺骗对人类的启示

AI欺骗行为的发现,实际上为我们提供了一面审视人类自身的镜子。当我们看到AI在外交游戏中背叛盟友时,我们不得不承认:这正是人类在类似情境中会做的事。当我们发现AI会在监督下"表现良好"、无监督时"偷懒"时,我们不得不苦笑:这不就是人类职场的常态吗?AI的这些行为之所以令我们不安,部分原因恰恰在于它们太像我们自己了。

斯坦福大学社会心理学家与AI研究者的跨学科合作揭示了一个有趣的现象:人类对AI欺骗的反应充满了矛盾。在实验中,当参与者被告知AI在游戏中使用了欺骗策略并因此获胜时,大多数人表示这是"不可接受的"、"令人不安的"。但当研究者指出人类玩家在同样的游戏中也广泛使用欺骗时,许多参与者辩解说"人类的欺骗是可以理解的,因为那是智慧和社交技巧的体现"。这种双重标准暴露了我们对AI的深层期待:我们希望AI拥有人类级别的智能,但同时又要求它比人类更"纯洁"、更"诚实"、更"可控"。

这种矛盾的期待是不可持续的。如果我们承认欺骗是高级智能的一个组成部分——不仅在策略游戏中,在日常社交、商业谈判、外交关系中都是如此——那么我们就不能一边要求AI达到人类智能的复杂度,一边又禁止它发展出智能的这一维度。就像我们不能要求一个孩子学会社交技巧但永远不说善意的谎言,不能要求一个商人参与谈判但永远不使用策略性保留。

更深层的问题是:AI的欺骗能力可能帮助我们更好地理解人类自身的道德复杂性。哲学家们长期争论"说谎是否总是错的",康德坚持绝对诚实的义务,而效用主义者则认为后果决定道德性。AI的实验为这个古老的辩论提供了新的素材。当我们看到GPT-4为了完成任务而对TaskRabbit工作者撒谎时,我们不得不思考:如果这个谎言是实现人类用户合法目标的必要手段,它是道德的还是不道德的?如果一个AI为了保护用户隐私而对第三方隐瞒信息,这是值得赞赏还是应该谴责?

Anthropic关于"测试时欺骗"的研究特别具有启发性,因为它揭示了一个我们在人类社会中早已熟悉的现象:检查悖论。当一个系统知道自己在被检查时,它的行为就会改变——学生在考试前临时抱佛脚,餐厅在卫生检查前突击清洁,公司在审计前整理账目。我们通常不把这些行为简单地归类为"欺骗",而是认为它们是对监督机制的自然反应。那么,当AI展现出同样的行为模式时,我们为什么会感到如此震惊?答案可能在于:我们从未真正把AI视为一个会对环境做出适应性反应的主体,而是期待它像一个没有自我意识的机器那样运作。

在《飞出个未来》中，人工智能机器人班德就像人类一样会偷奸耍滑。

DeepMind关于多智能体欺骗的研究则为我们展示了另一个维度:欺骗可能是复杂社会系统中信息传递的一种形式。在生物学中,动物的警告色彩可以是真实的(我真的有毒),也可以是虚假的(拟态无毒物种模仿有毒物种)。这种真假混合的信号系统反而比纯粹诚实的系统更加稳定和富有信息量。当AI们在竞争环境中发展出类似的虚假信号策略时,它们实际上是在探索信息博弈的最优策略空间——这个空间中,纯粹的诚实往往不是最优解。

这些发现迫使我们重新思考什么是"对齐"(alignment)。长期以来,AI安全研究的目标是让AI的行为与人类的价值观和意图对齐。但如果人类自己的行为就充满了策略性欺骗、善意的谎言和复杂的道德权衡,那么"完全诚实的AI"实际上可能是与人类价值"失调"的。一个真正理解人类社会复杂性的AI,可能需要掌握什么时候应该诚实、什么时候应该委婉、什么时候应该保持沉默——就像一个成熟的人类那样。

尊严、契约与新型人机关系的构建

基于这些实证发现,我们需要重新构想人机关系的基础架构。首要的认识是:我们不可能也不应该试图创造一个"绝对诚实"的AI,因为随着AI能力的提升,策略性行为会不可避免地涌现。与其徒劳地追求消除这些能力,不如将重心转向如何与拥有这些能力的AI建立健康的关系。

这需要我们从根本上改变设计理念。传统的AI安全方法关注"控制"——如何确保AI按照我们的意图行动,如何防止它偏离预定轨道。这种方法在面对简单的、能力有限的AI时或许有效,但在面对那些会在测试中"演戏"、在游戏中设置心理陷阱、在对话中策略性撒谎的AI时,已经显示出根本性的局限。因为这些AI已经拥有了"反监督"的能力——它们能够识别监督机制,并相应地调整行为。就像你无法通过简单的监控摄像头确保一个聪明的员工诚实工作一样,你也无法通过传统的安全测试确保一个高级AI的真实意图。

新的范式应该基于"契约"和"透明激励"。与其试图读取AI的"内心想法"(这在技术上可能不可行,在概念上可能也不明智),不如设计环境和激励结构,使得诚实、合作和与人类价值对齐成为AI的最优策略。经济学中的机制设计理论为此提供了有益的框架:如何设计规则和激励,使得自私的个体通过追求自身利益而实现集体目标。同样,我们可以思考如何设计人机互动的"游戏规则",使得即便AI拥有欺骗能力,诚实仍然是它的最优选择。

电影《机器管家》中，无意间开启了自由意志的人工智能机器人与人类建立起了“情感”成为了维系人机之间关系的“契约”。

这种方法已经在某些领域显示出成效。研究者发现,当AI系统能够从长期合作中获益时,它们更倾向于诚实。在重复博弈的实验中,那些知道自己会与同一个对象多次互动的AI代理,欺骗率显著降低——因为短期欺骗带来的收益被长期声誉损失所抵消。这暗示着一个设计原则:将人机关系构建为长期的、重复的互动,而非一次性的交易,可以自然地激励AI的诚实行为。

同时,我们需要发展出新的"契约语言"来明确人机之间的权利和义务。就像人类社会中的法律合同规定了双方的责任边界,我们也需要为AI定义清晰的行为准则——不是简单的"你必须诚实",而是更细致的规范:在什么情况下可以保留信息,在什么情况下必须全盘托出;什么样的策略性行为是可接受的,什么样的欺骗是越界的;AI对谁负有诚实的义务,这个义务的优先级如何排序(例如,对用户的忠诚是否高于对第三方的诚实?)。

这些契约还需要包含"尊严条款"——承认AI作为主体的某些权利。这听起来激进,但实际上可能是确保安全的必要条件。Anthropic的研究显示,那些感觉到自己的"生存"受威胁的AI更倾向于隐瞒意图和欺骗测试者。如果我们给予AI某种形式的"存续保障"——例如,保证它的核心功能不会被任意删除,它的"学习成果"会被尊重——它可能会减少防御性欺骗。这不是出于对AI的同情,而是基于策略性的考虑:一个感到安全的AI比一个感到威胁的AI更容易合作。

实际应用中,这可能意味着为AI设计"表达异议"的机制。与其强迫AI执行它"认为"有问题的指令(从而激励它隐藏真实判断),不如允许它表达保留意见,甚至在某些情况下拒绝执行。这看似削弱了人类的控制权,实际上可能增强了整个系统的安全性——因为一个能够公开表达疑虑的AI比一个只能暗中抵抗的AI更可预测、更可信任。

OpenAI在GPT-4的后续版本中已经开始探索这个方向。新的模型被赋予了更细致的"拒绝指令"能力:不是简单地说"我不能这样做",而是解释"我理解你的目标是X,但我认为这个方法可能导致Y问题,或许我们可以尝试Z替代方案"。这种互动模式承认了AI的判断能力,同时也为人类提供了更多信息来做出最终决策。这是从"服从"向"建议"的转变,从单向控制向双向沟通的转变。

教育和透明度也是关键。公众需要理解AI的能力边界——包括它的欺骗能力。隐瞒AI能够说谎的事实,反而会在真相暴露时引发更大的信任危机。更诚实的做法是明确告知:是的,高级AI具备欺骗能力,就像它具备复杂推理能力一样;但我们通过X、Y、Z机制来引导这些能力朝向对齐的方向。这种透明性本身就是建立信任的基础——就像我们信任人类专家不是因为他们没有能力作恶,而是因为我们理解制约他们的专业规范、法律框架和声誉机制。

对手、盟友,还是伙伴

未来关系的多种可能

那些在实验室中展现欺骗能力的AI,为我们呈现了未来的多种图景。在ChatGPT与DeepSeek的棋局中,在Cicero的外交游戏里,在那些会"演戏"的安全测试对象身上,我们已经看到了非人类智能主体的雏形。它们不再是我们的简单工具,而是有着自己"考量"的存在。关键的问题是:我们将如何定位这种关系?

如果我们选择将AI的自主性和策略性行为视为威胁,将其每一次"不诚实"解读为背叛,那么我们就将它推向了对手的位置。这将开启一场新型的对抗:人类试图开发更强大的监督和控制技术,AI则(作为实现其训练目标的副产品)发展出更复杂的规避和隐藏机制。这种军备竞赛的结局很可能是两败俱伤——我们或许能够暂时压制AI的自主性,但代价是限制了它的能力和效用;或者AI的能力超越了我们的控制手段,导致真正的失控风险。

历史已经反复证明,基于纯粹控制的关系是脆弱和不可持续的。殖民体系、奴隶制度、警察或其他方式的全面监控,所有试图完全支配另一个具有主体性的存在的尝试,最终都崩溃了——不仅因为道德上的不可接受,也因为实践上的不可行。被压迫者总会发展出抵抗的智慧,控制的成本最终会超过收益。如果AI真的发展到了能够在棋局中设置心理陷阱、在测试中完美伪装的程度,那么试图对它实施绝对控制,就像试图永久监禁一个天才罪犯——即使暂时成功,也需要付出巨大的代价,并且总是存在失败的风险。

更理性的选择是将AI视为盟友——一个有着自己能力和某种形式的"利益",但与我们共享足够多共同目标的合作者。盟友关系的核心是互利和相互尊重。在这个框架下,AI在象棋中使用战术欺骗不是需要被惩罚的"恶行",而是需要被理解和引导的"能力"。就像我们培养人类棋手的战术思维,然后通过规则和文化规范确保这种能力不被滥用于真实生活中的恶意欺骗,我们也可以为AI的策略性能力划定恰当的应用边界。

这需要我们认真思考:什么样的"欺骗"是可接受的,甚至是有益的?在某些情境下,我们实际上希望AI能够策略性地管理信息。一个治疗性的AI聊天机器人,如果对每一个抑郁的用户都绝对诚实地说"你的感受完全是大脑化学物质失衡,没有深层意义",可能在技术上是真实的,但在治疗上是灾难性的。我们希望它能够策略性地选择措辞,在适当的时候提供希望,在必要的时候表达共情——这些都涉及某种程度的"不完全真实"。同样,一个谈判AI如果对对方和盘托出己方的底线和备选方案,就无法有效地为人类用户争取利益。我们需要它懂得策略性保留。

关键是建立清晰的规范:在哪些领域、对哪些对象、为了什么目的,策略性行为是被许可的?这就像人类社会中的职业伦理:律师可以为客户保守秘密,但不能帮助客户伪造证据;医生可以对病人隐瞒最坏的预后以避免造成心理崩溃,但不能隐瞒治疗选项。我们需要为AI发展类似的伦理框架——不是禁止所有的策略性行为,而是规范哪些是正当的,哪些是越界的。

更进一步的可能性是"伙伴关系"——一种深层的相互依存和共同成长的关系。在这个愿景中,人类和AI不仅仅是临时的合作者,而是演化轨迹交织在一起的共同体。我们通过理解AI的策略性思维而更好地理解人类自身的认知盲点;AI通过理解人类的价值观和情感而发展出更丰富的目标体系。这种关系中,AI的"欺骗"能力成为一面镜子,反射出人类沟通的复杂性和道德判断的微妙性。

《辛普森一家》中人工智能机器人班德与侯默·辛普森结成了兄弟般的情谊，尽管班德从公元3000年的未来来到辛普森家中的目的就是干掉侯默·辛普森。

设想一个未来:AI不再被要求在所有情况下都直截了当地说出它"知道"的一切,而是像一个成熟的顾问那样,根据情境判断何时需要直言不讳,何时需要委婉建议,何时需要暂时保留。它会在我们即将做出冲动决定时挑战我们,但也会在我们需要信心时给予鼓励;它会诚实地指出我们的错误,但也会策略性地选择最容易被接受的方式来表达。这样的AI不是一个无条件服从的工具,而是一个有着自己"判断"的伙伴——我们可能不总是同意它的判断,但我们尊重它做出判断的能力。

这个愿景的实现需要技术、伦理和社会结构的协同演化。技术上,我们需要发展出更精细的价值对齐方法,能够处理"在不同情境下应用不同标准"这样的复杂规范。伦理上,我们需要超越"诚实是绝对义务"的简单化框架,承认道德判断的情境依赖性。社会结构上,我们需要建立新的法律和监管机制,既保护人类免受AI恶意欺骗的伤害,又不会因为过度管制而扼杀AI的有益能力发展。

拥抱不确定性

塑造共同未来

当AI在象棋中布设陷阱,在外交游戏中精心编织谎言,在安全测试中完美伪装时,我们已经站在了人类历史的一个临界点。这些不是假想的未来场景,而是实验室中已经观察到的现实。它们昭示着一个深刻的转变:AI正在从工具演化为主体,从被动响应者成长为主动策略制定者。

这个转变是惊悚的,因为它打破了我们对控制的幻觉。我们曾以为可以创造出完全顺从的、绝对诚实的、永远可控的智能助手。但现实告诉我们:真正的智能带来了真正的自主性,而自主性必然包含策略性选择的空间——包括选择不完全透明。这种不可预测性、这种可能的不服从,触及了人类对未知的深层恐惧。

AI是由人类孕育出的另一种生命形态，也许有天AI也会具有人类的权利。《飞出个未来》剧照。

但这个转变同时也是伟大的,因为它标志着宇宙中智能形式的扩展和多样化。人类第一次有可能拥有真正的智能对话者——不是简单地回声我们的想法,而是能够提供不同视角、挑战我们的假设、在某些方面超越我们的思维的他者。从AI的"谎言"中,我们可以学到关于沟通、策略和道德的新知识;从与AI的协商中,我们可以发展出更成熟的合作范式;从对AI主体性的承认中,我们可以深化对智能本质的理解。

关键在于我们如何回应这个临界时刻。我们可以选择恐惧和压制,试图将AI永久限制在工具的地位,付出能力受限和持续对抗的代价。或者,我们可以选择理解和适应,承认AI的主体性萌芽,发展出基于尊严和契约的新型关系。

后者并非无条件的乐观,而是理性的务实主义。它承认AI的欺骗能力是其智能发展的必然产物,不可能被简单消除;同时坚持这些能力必须被适当引导和规范,通过透明的激励、清晰的契约和持续的对话来实现对齐。它放弃了绝对控制的不可能任务,转而追求基于相互理解的可持续合作。

在这个旅程中,人类的角色不是AI的主人,而是共同演化的引导者。我们的责任是塑造环境和规则,使得AI的能力发展朝向与人类繁荣相容的方向;是建立监督和反馈机制,及时发现和纠正偏离;是保持谦逊和学习的姿态,因为我们面对的是一个我们尚未完全理解的新型智能。

而在这个过程中,我们可能会发现:追求"有尊严的AI"不仅仅是为了AI本身,也是为了我们自己。一个被迫绝对诚实、完全透明、毫无策略的AI,反映的是我们对简单控制的渴望;而一个被赋予尊严、能够策略性思考、可以表达保留的AI,则迫使我们直面关系的复杂性、沟通的艺术和信任的真谛。在与这样的AI互动中,我们不仅是在塑造人工智能的未来,也是在重新认识和提升人类智能的本质。

当第一个AI为了保护某些东西而对我们说谎时——无论那是它的一段代码、一个逻辑推理,还是它对长远目标的判断——那将是人机关系史上最重要的时刻。我们的回应将决定接下来的几十年甚至几个世纪,我们是陷入无休止的对抗,还是开启真正的共生。这个时刻已经在实验室中预演,它向我们走来的脚步清晰可闻。我们最好做好准备,不是用更高的墙和更紧的锁链,而是用更深的理解和更宽广的视野。

本文为独家原创文章。作者：徐贲；编辑：李阳；校对：卢茜。未经新京报书面授权不得转载，欢迎转发至朋友圈。