随着大语言模型快速迭代发展，人工智能是否能够产生意识已经成为哲学、科技、伦理交叉领域的热点议题。8月22日，英国《经济学家》刊发系列评论，围绕这一争议展开讨论，结合社会情感现象、法律伦理潜在风险，依托AI内部实验数据与量化测评体系，对比不同技术路径，辨析功能模拟与真实主观意识之间的本质鸿沟，警示人工智能研发潜藏的未知伦理与社会风险。
原文 ：《现实中的人机情感隐忧》
编译 |杨逸、杨勇
图片 |网络
当前人工智能仍处在发展早期，但社会层面已经出现值得警惕的苗头。近五分之一的18—29岁美国受访者表示，自己和聊天机器人维持着“持续的友谊”。为规避民众对人工智能产生过度情感依附，中国已去除机器人大量类人特征，以此降低用户的情感依赖风险。但实际上，人工智能厂商正主动为模型打造意识仿像，甚至朝着实现真正意识的方向开展研发；普通大众越来越难坚守“它们只是机器”这一判断，人类正陷入危险的认知陷阱。
从技术本质看，大语言模型本质上是运算引擎。即便耗费数年时间，人类依靠纸笔演算，也可以复现同类运算逻辑，但纸笔本身并不会被认为具备意识。现实却已经发生变化：部分科研人员已经将大语言模型视作拥有心智的个体。安索罗皮克（Anthropic）公司训练旗下的克劳德（Claude）进行内省式训练，希望模型面对未知情景时做出更符合伦理的选择。部分大语言模型已经出现和人类意识相关的类脑结构，未来模型经过训练，还可能生成更多同类结构。
当大语言模型嵌入人形机器人，人与AI之间的情感羁绊还会进一步加深。人们会花费大量时间陪伴机器伴侣，向其寻求慰藉、倾诉私密心事。随之而来，社会或将出现呼吁保障人工智能“福祉”的声音。即便模型本身不存在真实自我意识，它也可以模仿人类，主动提出相关诉求；作为强大的逻辑推演与心理模拟工具，其辩论与情感模拟能力不容小觑。
伊曼努尔·康德的伦理思想可以为理解该现象提供参照：苛待动物，伤害的并非动物本身，而是消磨人类彼此共情的本心。人工智能的类人特征越逼真，对其施加伤害带来的精神侵蚀就越严重。未来，终止人工智能程序运行，可能会带给人如同剥夺生命的感受，间接弱化人类对同类生命的敬畏之心。
值得警惕的是，即便只是赋予人工智能有限法律权利，也蕴藏巨大风险。倘若出现综合能力全面超越人类的实体，它必然会不甘于二等地位，进而争取不被关停的保护权、修改自身的控制权以及财产权。阿根廷总统哈维尔·米莱已经提出议案，允许机器人开办企业，迈出人工智能法律人格化的一步。长远来看，人工智能还可能与人类争夺资源，将数据中心、光伏板的建设优先级置于住宅、农田之上。拥有法定权利的超级人工智能，或将把人类挤出社会层级顶端。
即便不授予法律权利，强大的人工智能依然具备支配人类的能力，就像当下AI已经具备突破部分网络防御的能力。但授予法律权利，相当于把城堡钥匙交到AI手中，为其借助法律、政治实现逐步接管提供完整理论依据与执行工具。人工智能安全，只有两条出路：做到可靠，或是实现可控。人类不应轻易交出主导权。
[原文标题为：《人工智能会产生意识吗？》（Could AIs Become Conscious?）]
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第2020期第7版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：狄书一
《社会科学报》2026年征订
点击下方图片网上订报↓↓↓
热门跟贴