“21世纪关键技术”关注科技未来发展趋势，研究21世纪前沿科技关键技术的需求，和影响。将不定期推荐和发布世界范围重要关键技术研究进展和未来趋势研究。
来源：21世纪关键技术
本文2026年2月25日首发与Wired连线，https://www.wired.com
改编自迈克尔·波伦的《世界显现：意识之旅》。版权所有©2026 迈克尔·波伦。经企鹅出版社（企鹅出版集团旗下品牌，企鹅兰登书屋有限责任公司）授权出版。2026年2月25日首发与Wired连线
一、那个被解雇的工程师，点燃了什么
2022年，谷歌工程师布莱克·勒莫因因为坚称公司的聊天机器人LaMDA"拥有意识"而遭到解雇。
这件事在当时被普遍嘲笑，科技界的反应是一致的轻蔑，称其为一个程序员在拟人化陷阱中彻底迷失。
但回头再看，这次事件的意义远不止于此。它像一颗石子投入平静的水面，在随后几年里激起了越来越宽的涟漪。
科技界的公开态度虽然依旧冷漠，私下里却已经开始认真对待另一种可能：也许，意识人工智能不再只是科幻小说的素材。
这种转变，在2023年夏天迎来了一个标志性的节点。19位顶尖计算机科学家与哲学家联合发布了一份长达88页的报告，题为《人工智能中的意识》，外界通称"巴特林报告"。
报告摘要中有一句话，让几乎所有读到它的人都停了下来："构建有意识的人工智能系统，不存在明显的障碍。"
这句话的震撼，来自于它的来源——这不是科幻作家写的，而是一群严肃的科学家和哲学家，在经过长时间学术研讨后，联署背书的结论。
作者们坦承，勒莫因的案例是促使他们写下这份报告的部分灵感来源。一位合著者向《科学》杂志表示，如果人工智能已经能够给人留下具有意识的印象，那么科学家与哲学家就必须对此展开严肃探讨，"这已经是一项紧迫的任务"。
二、"大脑是计算机"——一个危险的比喻
然而，当人们仔细拆解这份报告的逻辑地基时，疑问便接踵而至。
报告的核心假设是"计算功能主义"，即意识本质上是一种运行于硬件之上的软件，无论这个硬件是大脑还是计算机。
这是一个被广泛引用的观点，但它远未达到确定性定论的程度。报告的作者们自己也承认，这只是他们出于"务实原因"采纳的工作假设。
问题恰恰在这里。当一个未经证实的前提被悄悄打扮成"主流观点"时，从它出发推导出的任何结论，都有可能是建立在流沙之上的大厦。
真实的大脑与计算机之间，存在着一道被计算功能主义有意回避的鸿沟。在计算机中，硬件与软件界限分明，同一台机器可以运行无数个程序，软件的知识在硬件报废后仍然留存。
但大脑里根本不存在这种区分。你所经历的每一件事、每一段记忆，都在物理层面永久重塑了神经元之间的连接。软件就是硬件，硬件就是软件，二者从来都是同一回事。
更令人不安的是神经元的复杂性问题。计算机科学家习惯于将神经元比作晶体管，但最近的研究表明，单个皮层神经元能够完成整个深度人工神经网络所能完成的一切。
这意味着，我们对大脑运作机制的理解，可能仍然处于极其粗糙的起始阶段。
当报告的结论建立在"大脑等于计算机"这一比喻的有效性之上时，它其实是把一个未经严格论证的比喻，当成了不需要证明的事实。
这也是意识研究领域长期以来的深层困境：讨论始终是抽象的、无实体的，对生物学保持着奇特的冷漠与沉默。。
三、如果有意识的机器感到痛苦，我们该怎么办
假设我们姑且接受巴特林报告的方向，真正棘手的问题才刚刚开始。
巴特林报告本身提出了一个不容回避的伦理命題："任何能够感知痛苦的实体都应受到道德考量。"
这句话简单、正确，却蕴含着令人眩晕的后果。
如果我们在不远的将来真的制造出一台能够感知痛苦的机器，我们是否有权利将它关掉？是否有权利修改它的算法，把它调整成"一台快乐的机器"？当一位研究者轻描谈写地说"我们完全可以把快乐的程度调高一点"，这究竟是一种解决方案，还是一种更深层的道德回避？
支持制造有意识机器的研究者有他们的理由：拥有意识和情感的人工智能，比冷酷无情的超级智能更可能发展出同理心，从而对人类更安全。
但这个论点忽略了另一种可能——玛丽·雪莱在两百年前就已经写进了《弗兰肯斯坦》里的那种可能。
驱使怪物走向复仇的，不是他的理性，而恰恰是他的意识，是他被排斥在外的创伤和痛苦。"我原本仁慈善良，是苦难让我变成了恶魔"，怪物的控诉，至今读来仍令人不寒而栗。
这也引出了一个也许更根本的哲学问题：意识的出现，真的会让机器更有美德吗？还是说，它只会让机器拥有了更丰富的、包括愤怒与痛苦在内的，完整的情感？
我们距离这个问题的答案，可能比巴特林报告所暗示的要远得多。
但勒莫因事件让我们意识到，这场关于意识与机器的争论，从来就不只是一道技术题。它更是一道关于人类自身定义的哲学题，也是一道我们是否已经准备好面对的伦理题。
而此刻，我们才刚刚开始理解这道题的题目。
未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
https://wx.zsxq.com/group/454854145828
未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
热门跟贴