“图灵测试”已成历史，“超级智能”临界点迫近。在技术失控的阴影下，我们面临怎样的关键抉择？近日，《评论汇编》刊文《迈向人本主义超级智能》（Toward Humanist Superintelligence）指出，我们不应追求无限自主的通用超级智能，而应构建“人本主义超级智能”，即在医疗、能源等特定领域具备超凡能力，但地位永远严格“从属于人”的人工智能。
原文 ：《构建风险可控的“人本主义超级智能”》
编译 |杨逸 杨勇
图片 |网络
1
跨越图灵测试失效的历史门槛
数十年来，图灵测试一直是人工智能研究者的指路明灯。在人工智能的早期探索中，研究者需要一个明确的标准来衡量机器的智能水平。其核心思想非常巧妙：如果一台机器能在纯文字对话中，表现得让人类判断者无法分辨它究竟是机器还是真人，那么我们就可以认为这台机器通过了测试，具备了类人的智能。它精准地捕捉到了“智能”在行为层面的一个直观体现，即能否在对话中完美地模仿人类。
然而，随着推理模型和自主能力的出现，以及人工智能基础设施迭代步伐的加快，如今最先进的AI模型已能轻松，甚至超额完成这种“模仿游戏”，这标志着该测试作为衡量智能巅峰的标尺，其历史使命已趋于终结。我们已站在通往超级智能道路上的关键临界点：即人工智能在所有任务上的表现都超过人类水平的时刻。事实上，我们这个时代最关键的问题并非人工智能是否会超越我们，因为在某些方面它已经做到了，在许多其他方面它也将会做到。而在某些方面，我们永远是不可被替代的。所以，真正的问题是：我们能否塑造人工智能，使其促进而非破坏人类的繁荣。这是我们这个时代面临的最为重要的挑战。
如今，对人工智能的过度炒作已然令人厌倦，但我们仍应当以最严肃的态度来审视人工智能，因为它关乎我们所有人的未来，其重要性无出其右。科学和技术一直是人类进步最强大的引擎。在过去的250年里，这个引擎使预期寿命翻倍，使数十亿人摆脱贫困，并为我们带来了抗生素、电力和即时的全球通信，人工智能是这个故事的下一个篇章。它代表着我们在加速科学发现、推动经济增长和造福人类社会各个方面的巨大潜力。
然而，人工智能的这种潜力，唯有在我们以正确的方式构建它时，方能真正转化为人类的福祉。一旦它失控，我们将付出难以承受的代价。目前，尚无人能给出令人信服的答案，告诉我们该如何安全地约束它，并确保其目标与人类的价值观始终保持一致。我们正置身于一个前所未有的历史节点：手握史上最强大的技术，却对其可控性与持久的益处心存疑虑。
但像所有技术一样，我们可以为其确立一个简单的评判准则：它是否改善了人类的生活？它是否明确地为人类服务？
2
打造“人本主义超级智能”
当我们开启人工智能的下一阶段时，前行的道路已然清晰：必须致力于构建“人本主义超级智能”。这并非要创造一个全知全能、最终脱离我们掌控的自主实体——恰恰相反，其核心在于发展一种高度先进，却始终受到严格约束、与人类价值观高度统一，并坚定服务于人类集体利益的人工智能。
为此，我们不应盲目追求无限制的通用智能，而是要聚焦于在特定领域内达到超人类水平的智能。其根本目的不是打造一个能无止境自我迭代、最终目的不明的“失控”系统，而是要切实地将突破性能力转化为普惠全球数十亿人的现实福祉。它必须永远且明确地处于人类的从属地位。这正是微软超级智能团队的核心愿景：确保人类安全无虞，控制权牢牢在握。
为何必须将“人本主义”置于超级智能的核心？因为这关乎我们所要创造的未来的根本底色。人本主义传统的精神内核——即坚信人的价值与尊严至高无上，并致力于通过理性与仁爱来增进全人类的福祉，在数百年的文明演进中，已经证明了其维护人性光辉的永恒力量与非凡韧性。
将这种精神注入人工智能的构建蓝图，意味着我们不是在创造一种冰冷的、纯粹工具性的力量，而是在缔造一个以赋能和守护人类为第一原则的伙伴。以此为指导，我们便能最大限度地激发人工智能解决全球性难题、催生文化繁荣的非凡潜力。同时，从设计源头就规避那些可能导致失控或被少数人垄断，进而带来灾难性后果的致命风险。我们需要的，是一个坚定支持人类、增益个体创造力，并悉心呵护我们脆弱星球的美好愿景。任何将人类边缘化，或将我们置于从属地位的技术未来，都是不可接受的。
3
锚定社会福祉的现实路径
若能循此路径成功构建人本主义超级智能，我们为文明所开启的，将是一个前所未有的繁荣时代。我们有望迎来一个物质与知识极大丰富的新纪元。更重要的是，这将是一个创造力迸发的黄金时期——全新的艺术形式将应运而生，文化表达将变得空前多元与活跃，为人类的精神世界注入新的活力。这正是数十年来驱动人类不断前行的、真正鼓舞人心的宏伟使命。科技的进步始终是人类社会发展最强大的引擎，我们需要确保其发展方向始终向善。
人本主义超级智能为我们指明一条风险可控、发展可持续的前进道路。其关键实施路径，在于锚定那些能够产生深远社会效益的特定领域，致力于取得突破性进展。想象一下，人工智能助手可以减轻日常生活中的精神负担，提高生产力，并通过适应性、个性化学习重塑教育；医疗超级智能能够提供准确、普惠的专家级诊断，这可能会彻底变革全球医疗保健体系；在清洁能源方面，超级智能将实现充裕、低成本的发电和储能，以满足不断增长的能源需求，同时也能保护地球的生态环境。
毋庸置疑，人比技术或人工智能更重要。超级智能可能是有史以来最伟大的发明，但前提是它必须恪守这一准则。这意味着要确保问责制和透明度，建立有效的监督与制衡机制，并始终将长期安全置于短期效益之上。我们的目标绝非不计代价地追求能力的极致，而是要以审慎的态度，铺设一条通往能力强大但边界清晰、行为可预测的超级智能之路。这条道路上的每一个选择，都必须服务于一个终极目的：巩固人类的自主性，保障文明的延续与繁荣。
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1981期第7版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：程鑫云
《社会科学报》2026年征订
点击下方图片网上订报↓↓↓
热门跟贴