图片由AI工具生成
田松教授：好，非常感谢刘钝教授，给我们提供了很多可以讨论的东西。讲了很多历史的，然后又和现在相关联的，我就不多做评论了。我们还有大概半个小时的时间，大家有什么问题可以提出来，可以举手。应该说这个演讲我是期待很久了，我在南科大开过一门课，叫《科学伦理与技术伦理》名家讲堂，这个课就是邀请国内做科学伦理和技术伦理的学者到南科大来讲。第一轮开这个课的时候，还是在疫情时期，几乎都是在网上进行的。第二轮课开的时候，刘钝老师人在美国，没有来成。这个课现在已经不能开了，因为我们的课程进行调整，外聘老师的课几乎都停了，所以完全由邀请来的老师讲课就停止了。这次有机会请刘钝老师，不能在我课堂上讲，但是可以做一个南科大讲堂。南科大讲堂是南科大级别最高的一个讲座，所以在这讲也是非常合适的。我觉得有很多有意思的地方，当初“科玄论战”的时候，张君劢是在清华学堂，面对的都是一些将要出国的理工科学生，我们在南科大也只有理工科的学生，刘钝老师来这，也是面对理工科的学生。然后讲这样的话题，和那个事件相隔100年，很多话题过了100年，但并没有过时，也并没有消失，反而显得更加突出，更加尖锐了。我是垫一些话，期待着大家举手。
同学一：我是大一的同学，我叫李XX。我刚刚听的是，困扰霍尔丹和罗素的两个问题。霍尔丹觉得伦理在阻碍着科学的进步，罗素担心科学的进步被政府所掌握之后，会去控制人民的行为，但是看现在这个环境，你会发现，正好这两点困扰的东西都被占了，政府又掌握着各种最先进的技术来控制人民，整个社会的伦理发展又极大地限制着科学的进步。这种情况是否会持续呢？如果持续下去，会造成什么样的结果？
刘钝教授：（这个问题）很好，也很大，我很难给予准确的回答。科学探索无止境，这是美国范内瓦尔·布什（Vannevar Bush）提出来的。他在1945年二战结束时给美国总统的报告，被我们译成《科学，无尽的前沿》，这里的“前沿”（Frontier）本来有疆域的意思，令人想起美国18世纪末开始的西进运动，说科学是一个无尽的前沿，就是说科学中存在着无穷尽的未知疆域，所以它总是在发展的。我们作为智人这么一个种群，天性就是好奇，科学家更是好奇者中的佼佼者。从非常久远的古代开始，我们的祖先刚刚走出非洲，领头的一定是非常聪明的人，头领也好，酋长也好，肯定是最优秀的，也最具有好奇心的个体。于是后来就有了巫术、神话和宗教，再后来就有了科学和技术。
对自然奥秘的探索永无止境，这是人类的天性决定的，但是没有止境不意味着科学没有禁区。在我看来，有些东西是应该设禁区的，当然不是每个科学从业者都同意。生物工程就非常明显，像贺建奎那样的实验就不应该做，绝对不能做。只是不能做不意味着没有人做，我猜想有些人在偷偷地做。说不定在大洋深处的某个岛上，就有个米诺斯王般的亿万富翁出钱在做。如果不用伦理或法律来限制，大概率是不可以的，很难防止可怕的负面结果出现。所以在这时候，我们更需要罗素先生提出来的，需要良心，需要道德，需要伦理。
另外一方面，你刚才讲的政府，我不准备多评论了。我们确实感到科学的进步，有一种超出了我们想象的力量，或者超出人类之本性所能接受的程度，比方说“新冠”之后大家都习惯了进大学要报备，前两天我在深圳另一所大学，进了一道门，到了第二道门又被拦住，还要给东道主打电话。北京也是，本来是用人民的钱办的高等学府，外地的老人家想带着儿孙看看名牌大学，但是进不去。黉宫非皇宫，学府乃天下公器。就是想看看宏伟壮观的大城楼，也得通过种种安检且不能停留，没有办法，只有年轻人骑共享单车快速通过。不过大家对这已经习以为常了，其实是非常不正常的。
此外，大数据完全知道你要干什么，哪怕你不喜欢的东西，偶尔看过一眼，它就会推送给你。每个人都被watched，有人盯着，对此我的感觉非常不好。我们看哲人罗素，他已经谈过这些了，这种东西会影响我们这个种群的健康生存。这方面不能展开太多了，我们确实面临着很多问题。一方面享受着科学技术带来的便利，最happy的是我夫人，一天到晚买买买，不用上街了；最麻烦的是什么东西都在别人的掌控当中。大数据时代，或者我们叫信息社会，赫拉利也写了这个问题，信息就是力量（Information is Power），这原来是从弗朗西斯·培根的名言“知识就是力量”（Knowledge is Power）借来的。这个Power既可以理解成力量，也可以理解成权力。到了福柯那里，他就把主语和宾语倒过来了，也就是“权力就是知识”，这就是他的知识-权力论。有了权力就是学界老大，有钱能招一大堆博士替他干活，能扩充实验室，能批量制造论文，而且老大会变得越来越大，这是马太效应。套用福柯的知识-权力论，赫拉利的口号就变成了“权力就是信息”，这是对大数据后果的一个最精彩推论。谁掌握了信息，谁就掌握了人类族群的命运。过去是巫师、酋长、君王、教皇、元首，未来是能够玩透大数据的家伙，是不是硅基文明呀？我发挥得多了点，就到这里吧。
同学二：老师好，我是大二的，也是来自数学系的本科生。我的问题是，今天的主题是由希腊神话引申出来的，西方或者欧洲有很多比如说《圣经》，包括希腊神话那一系列相关的一些来自于古代的故事，那么后面会有很多人，无论是出于宗教信仰原因，或者说想表达自己的观点，创作出了一系列衍生的作品，比如说像荷马，我想他肯定会在其中加入一些自己的想法，表达自己的观点。我想问的就是，当我们有了这么多衍生的作品，例如说像《圣经》，或者说希腊神话，它其中的核心剩下的是什么？后人在希腊神话或者《圣经》中加入了自己的解释，那么希腊神话或者《圣经》或者其他的一些本体作品，它本身到底是有意义的还是无意义的？
刘钝教授：作为人类文化遗产的继承者，我觉得先人创造出来的所有事物都有意义，不管是什么信仰，什么样的理念或意识形态，文化遗产都应该得到尊重，都应该学习，但你不要全部相信。我还是回到刚才讲的《人类简史》，其作者赫拉利说智人之所以能够战胜其他类物种成为地球的主宰，最重要的就是他们有语言，会讲故事，编故事，这里面包括八卦与谎言，上面提到的各种权威文本也不例外，这是一种组织民众的强大手段。赫拉利自己是一个犹太人，但他不信任何宗教。他的意思说白了就是，《圣经》、荷马以及各种权威文本跟希腊神话没有多少区别，都是聪明人编的故事。他根据动物行为学的研究结果说道，像大猩猩、黑猩猩这种跟人类最相近的灵长类动物，具有很强的社会性，但是动物学家观察到没有50个以上的大猩猩或黑猩猩群体，多了就要打架。反过来，智人却能组织起千百万数目的个体，在聪明人编造的故事的引导下与大自然或者敌人战斗，所以他们能够战胜其他的种群，犹如我们的祖先在欧洲淘汰了尼安德特人一样。人类社会发展到现在，有了大数据这种东西，故事就编得更完满了。所以要看你从什么观点来看，从文化学来讲，人类创造的所有美好东西都应该学习和继承。但你要注意，要辨别里面的东西，我刚才讲的那两位英国绅士，都是利用神话做隐喻，他们并不相信什么代达罗斯、伊卡洛斯，只是借过来讲自己的故事。
田松教授：刚才刘钝教授推荐的赫拉利的几本书，大家应该找时间看一看，非常好，像《人类简史》已经很有名了，后来还有两本。
同学三：老师您好，我是大三的本科生，专业是生物医学工程。关于您刚才讲的故事，我有一点要补充一下，赫拉利讲的这个故事，它不一定是虚构的，它有可能也是在一定程度上反映现实的，但是它比现实要更加容易听懂，所以他更加容易被别人接受。我想就您刚才讲的赫拉利的观点，进行一个延伸的提问。现在大家都知道人工智能的信息革命时代已经到来了，是人类有史以来，或者说几次革命以来性质最为不一样的一次革命，因为出现了硅基生命。在赫拉利的这个观点里面，现在AI自己就会创造故事了，那么这里面一个典型的例子就是所谓的数字殖民主义。在古代人类无聊的时候，他可能会去打猎，他可能会去发明象棋去玩一些游戏，但是现在我们无聊，我们就会刷手机，我觉得这个是最弱的一种殖民方式。那么最深刻的一种殖民方式，是比如说像谷歌这样的搜索引擎软件，大家都用谷歌，大家都用bing搜索，数据或者说power在现在的时代，相当于这些科技巨头掌握了全世界通过搜索流入公司的数据，然后他们就可以创造出AI。甚至谷歌有一句话竟然说，我们的使命是让所有人都要使用AI这个搜索软件，但为什么免费呢？因为我们需要的是数据，不是搜索。那么问题就来了，人工智能时代的革命刚刚开始，但它显然还没有到达非常深刻的地步，可能已经开始深刻了，随着数据的规模越来越大，不可避免的是，如果在现实世界之外，还有一个所谓的数字世界的话，像是科技巨头这样的掌握数据的公司，他们占领的疆域是最大的。
刘钝教授：早晚有一天，人工智能要取代我们，它现在的表现在许多方面已经超过我们了，会不会对我们的种群构成威胁，这是我的担心。
同学三：您觉得这样的发展趋势，它的危险性在哪里？以及造成这样的危险的原因是什么？它缺少了什么东西？
刘钝教授：你刚才已经讲了，原因就是我们会被大数据控制，现在才刚冒头，但是发展的速度非常非常快，想象不到的快。以前有个集成电路的摩尔定律，AI的发展完全打破了摩尔定律。人工智能发展特别快，早晚有一天我们都会被数据控制，或者说被你刚才说的垄断公司控制。现在美国已经出现苗头了，极端个人主义者和技术法西斯合流，在世界最强大的国家我行我素，这种苗头会不会波及到全世界？此刻人类有没有办法拯救自己？这正是我们要讲述代达罗斯跟伊卡洛斯，来回顾罗素这样的哲人的一些想法的原因。至于技术上的深刻原因，这不是我的专业能够解答的。谢谢你的问题。
同学四：刘老师您好，我是2023级的，目前是大二，机器人工程专业。罗素和霍尔丹的辩论是在20世纪20年代的，霍尔丹主要是担忧伦理会制约科技的发展，罗素是担忧有权力者利用科技去影响伦理，导致伦理的崩塌。但是我觉得他们都有一定的时代局限性，在随后的20世纪四五十年代，我们会发现随着核武器的出现，至少在国家层面上，我们发现科技反过来成了一种提高人类道德底线的事物。因为自打有了核武器，大规模的热战已经几乎消失殆尽了，取而代之的是局部战争。那么在国际层面上产生的这种影响是否意味着在未来有可能出现某一种技术，使得我们作为最平凡的个人，也有能力去挑战所谓的科技托拉斯以及一众很庞大的个体，从而达成个人和托拉斯之间的某一种平衡？在这样的构想下，未来又会产生什么样的变化，会造成什么样的结果，以及人工智能是否会成为这样一个角色的存在？我想在这个问题上请教一下刘老师。
刘钝教授：这么宏大的问题，我也很难回答。其中一个观点我可以补充一下，广岛原爆四年后，苏联也放了个大爆仗，在此之后世界其实处在一种恐怖平衡当中，我们人类已经苟活了70年。你现在想想某些人的威胁，想想在乌克兰与欧洲发生的事情，在叙利亚和巴勒斯坦发生的事情，要是都不妥协，非要打到底，惹急了狗跳墙，什么事情都会发生，所以是难以预测的。现在我们人类的命运就处在一个不确定状态，uncertainty，完全不确定，不知道明天是什么样。个人怎么样跟托拉斯达到一种平衡，那更是宏大的问题，我也不知道。我们都被托拉斯控制着，有形的和无形的，你被控制你都不知道。
田松教授：关于不确定性的问题，我还要推荐一下，清华大学社会学系的孙立平教授，他也退休多年了。大家可以搜一搜他的公众号，他反复地讲，我们正处在一个高度不确定的一种社会状态，各方面都难以预测。
同学五：谢谢刘老师，我是今年南科大的博士新生，我想问的是关于科学伦理上的问题。我们所谓的伦理上认为，如果不给科学发展设限的话，它就会威胁人类存在。比如说硅基生命取代碳基生命，以及基因编辑这些问题，但是这个论断它所基于的一个基点是，我们默认维持人类存在应该是件好事。所以我想问一个比较激进的问题，如果我们不认为它是一件好事，或者它不是唯一的好事的话，这是不是可以改变我们对于科学发展限制的一些考虑呢？
刘钝教授：你这个问题特别精彩，我也回答不好。我觉得要从两面看，你要是一厢情愿地认为维持我们智人的生存永续是好事，那可能会非常失望，因为我也活不到那一天，可能你们的儿子孙子辈会看到那一天，真的出现一种新的人类吗？有可能，现在我看是招架不住。我跟田松兄是同一个学术圈的，但是我一开始并不赞同田松兄的激进言辞，他老兄公开打出反科学（主义）的旗号，说要警惕科学家，我不敢说这种话。但科学发展到今天，发展到影响到我们普通人的日常生活，影响到我们生命本体，影响到我所关注的霍尔丹的专业群体遗传学，影响到我们种群命运的时候，我觉得人类真的要换一种思路了，于是对田松兄的主张有了一些共情。过去我们认为有些事是不可能的，现在看来什么匪夷所思的事都可能发生。硅基生命取代碳基生命，一定是这样的，所以要提前做好准备。也许不是坏事，我们应对得好，对后代就不是坏事。太好的问题，应该写一篇专文，我现在写不了，你考虑写吧。
田松教授：比较遗憾，今天吴岩教授在广州开会，其实今天讨论的话题有好多跟吴岩教授的工作相关，吴岩教授是我们人文中心的教授，我把他称之为“中国科幻的教父”。他最早在北师大开科幻课程，也在讨论我们的未来，硅基和碳基生命。可能你问到的这些问题，在科幻小说里都已经讨论过了，在科幻小说里都已经表达过了。包括刘钝老师也讲了赫胥黎著名的反乌托邦三部曲《美丽新世界》，也被誉为一个重要的科幻小说，那里面讲的真是科幻，刚才刘老师也介绍那种情节了。所以我们面临的很多伦理问题，我们作为科学史人，作为科学哲学人在讨论。那么另外一个，我觉得科学史还是有意思，听到刘老师讲神话，讲故事，看图，都有意思，纯粹讲科学伦理可能大家听着就会比较闷，但是看科幻小说应该跟科学史同样有意思。
同学六：我本来可能要提一个比较长的问题，如果短一点，那我就直接这么说吧。我们科学研究会发现生命的意义在于可能是没有意义，你越理解生命的本质之后，你就越可能去创造出类似自己的生命，你会发现它的发展过程是不存在一个意义可言的，那么这时候科学就不能有助于这个社会的稳定了，因为科学不能告诉你这个方面的答案，怎么让生命更有意义，让生活更加美好。科学给不了答案，那么当硅基生命和碳基生命融合的时候，我们碳基生命怎么能有更多的选择去活在碳基生命这个圈子，而不是被硅基生命所控制？怎么有更多的选择和硅基生命一起联合，让我们两类生命共同繁荣去发展，这方面我们该如何去做？
刘钝教授：特别好的科幻小说的素材，我不回答了，你也可以做很有意义和很有趣味的类推，想象我们的祖先跟尼安德特人在欧洲相遇的情况，考古学证明他们曾经生活在同一个屋檐下，尼安德特人肯定也想繁衍生存，但他们斗不过更聪明的我们的祖先，好，谢谢。
田松教授：谢谢最后一个问题，它让我们考虑意义问题，人生的意义也好，生命的意义也好，它不是科学研究出来的，它原本是在你的生活世界里面，在你的社会文化中养成的，不会说因为研究，如果你原来没有一个社会文化的、生活世界的底子的话，即使研究出来意义，可能你也不会去接受吧。可是你的社会生活、社会文化，这个恰恰是我们当代社会所缺乏的，而这个意义在某种程度上，其实应该是我们人文学术所提供的。如果我们在基础教育的过程中没有足够地接触到我们自身的历史文化，那么这个意义的建构就缺失了，那么等到你进入到高等教育的阶段，通过科学研究来建构，那恐怕只能是一个虚无的意义了。所以在这一点上，相当于给我们人文学术做一个广告，人文学术是提供着生活意义的这种基础性的东西，虽然我们作为理工科大学，但我们的基本的人文素养还是非常必要的。所以大家还是要多花点时间来选我们人文社科通识课。
2024年12月15日，刘钝应邀在南方科技大学演讲（南科大讲堂No.388），田松主持。以下是根据录音和PPT演示文稿整理的演讲稿的问题互动部分。张美玲、潘雅萍据录音整理，田松审校，复经演讲人过目删定。完整意见稿请参看刘钝《霍尔丹与代达罗斯——神话、科学、社会与伦理》（上海科技教育出版社，2025年）25-51页。本次发布前有微小润饰。
热门跟贴