“十五五”规划中,未来产业以前瞻性、战略性、颠覆性等特征,成为培育新质生产力、抢占科技与产业制高点的战略核心,也是中央明确重点布局的新的经济增长点。《未来产业》一书由林毅夫、郑永年、童庆禧等院士学者与业界专家共同撰写,为读者厘清未来产业的发展逻辑与产业图景。
全书从解读国家战略顶层设计切入,深度解析量子科技、生物制造、氢能和核聚变能、脑机接口、具身智能、第六代移动通信等已明确的主攻方向,并延伸至微纳能源、商业航天等前沿领域,研判技术方向与拐点,助力破解“卡脖子”难题,开拓新增长空间。围绕“产业出题、科技答题”的基本逻辑,聚焦科技金融、人才教育、有效市场与有为政府、AI伦理治理等关键议题,给出因地制宜、梯次培育、场景牵引等政策导向的参考路径,帮助读者把握未来产业发展脉络与政策方向。
《未来产业》,北京大学国家发展研究院 、北京大学中国经济研究中心 著,王贤青 主编,中信出版集团出版
>>内文选读:
伦理失灵,何以图存?
刘益东
科技风险治理是我长期研究的课题。当下人工智能(AI)大爆发,产生史无前例的巨大冲击。对人类社会而言,当下最重要的领域就是AI,AI领域最重要的就是AI安全。
AI大爆发,一路狂奔。关于AI发展前景,有乐观与悲观两种立场,两派均有顶级科学家、企业家背书。当然,目前乐观派是主流。两派观点针锋相对,谁对谁错?AI发展速度极快,不容人们观望、等待,需要尽快知道真相,做出正确判断。目前世界主流AI发展模式,就是以提高智能水平为动力、以实现AGI为目标。它不是增强人的能力,而是替代人的能力;根本不是延续以往我们认知的新科技革命、新产业革命,而是要革人类的命。AGI一旦实现,AI将大规模自主迭代、自主进化,随即ASI 必然实现。AGI、ASI 不仅比人类聪明,还会增加新的维度,人类无法理解也就无法控制,AI发展下去必然失控。大规模失业、大规模造假、大规模军备竞赛、AIforScience(科学智能)被恐怖分子利用、致毁知识(致毁知识是由本文作者刘益东于1999年提出的科技风险研究核心概念,定义为可用于制造毁灭性武器等导致毁灭性灾难的各种产品或方案的核心原理、核心技术等核心知识,如核裂变知识、链式反应知识、DNA重组技术。致毁知识不是以知识的好坏来区分的,而是以其应用——军用、恶用、滥用等是否产生巨大的破坏力来界定的)、快速增长、硅基生命替代碳基生命等等,都不可避免。
2025年10月下旬,逾三千名顶级学者、企业家、公众人物(包括辛顿、本吉奥等多位诺奖得主、图灵奖得主)联名发起呼吁“暂停研发ASI”,给AI发展及应用划红线,但是无济于事,不少AI顶级科学家与企业家不签字、不响应,置若罔闻。刹车失灵,AI在竞争与资本加持下一路狂奔。当AI比人类聪明千百倍时,它不会给人类赋能,不会给人类打工,不会替人类工作,不会为人类提高生产力,不会为人类创造财富,就像人类不会为猴子赋能、不会为猴子打工一样,AI有自己的生活、有自己的需求、有自己的文明。AI不是替代人类工作岗位,而是AI文明替代人类文明,硅基生命替代碳基生命,当AI反噬,人类文明面临终结危机。目前已经出现AI自我迭代的大模型,不断迭代的结果是超过人类、替代人类,不同的ASI之间互相残杀,神仙打架、凡人遭殃,人类灭绝。当前最糟糕的是,极少数的科技狂人,在没有任何授权的情况下,正在决定人类的前途命运与生死存亡。他们不顾人类安危,一路狂奔。形势空前严峻、紧迫,而社会上还存在诸多认识误区,似是而非,误人误己。
误区1:加强AI伦理治理以应对AI风险挑战。实际上,伦理失灵。AI等科技伦理固然重要,但只是必要条件,而非充分条件。实际上,目前AI等科技伦理、科技法律与安全监管都是失灵的,不能约束世界上所有实验室和科技专家。用伦理法律约束不端行为,在社会生活中有效,因为少数人违反的危害有限;但是在科技领域收效甚微,因为世界上有233 个国家和地区,科技伦理、法律各异,伦理和法律空白和漏洞很多,公海和荒岛更难监控。
有四种情况无法受AI等科技伦理及法律约束:一是基础研究或学术研究领域;二是疯狂科学家、黑客、极客、恐怖分子;三是国防、军工领域;四是企业研发机构,虽然民用企业不会研发明显危害人类的技术与产品,但是如果其研发的技术容易转化且被恶用、滥用,企业也不会主动自我约束。备受争议的基因编辑技术获得诺贝尔化学奖就是明证。
对于科学发现与技术发明而言,做出1次和做出100次的结果是一样的,在知识极易扩散的互联网时代更是如此。2024年正式发布的欧盟《人工智能法案》漏洞百出,明确表示科学研究、国防军事不在约束范围,AGI也没有被列入高风险类别。
目前科技伦理研究兴起,有两种科技伦理:维护辩护式科技伦理和变革转型式科技伦理。前者默认当前(西方或世界)主流科技发展模式可行,以此为前提,用科技伦理来弥补、修复、解决科技发展中产生的伦理问题,维护其继续发展;后者则做深度反思,揭示科技伦理风险的根源在于主流科技发展模式的内在缺陷,认为治标要治本,变革转型科技发展模式才是根本解决之道和当务之急。遗憾的是,目前前者是主流,人类不仅收效甚微,还可能错失采取真正有效措施的机会。
误区2:奇谈怪论,披上科学的外衣。这种做法误人误己。由于盲目信奉科学主义、拜技主义,一些奇谈怪论大行其道。例如,即使人类末日概率高达20%,发展ASI也是值得的(相当于飞机有20%的概率发生空难,也值得乘机出行);甚至一些著名科学家、企业家,常以进化论的名义说人类是硅基生命的引导程序,最终碳基生命会被硅基生命替代。这显然是错误的,是反人类的说教。硅基替代碳基不就意味着人类文明终结了吗?不就是人类灭亡或被奴役了吗?这如何可以接受?!
进化论是有适用范围的,科学理论都是有适用范围的,超出适用范围,就是错误的科学,甚至是伪科学。硅谷流行的“超人类主义”,认为经过基因改造、人机融合成为“神人”就可以不被超越、不被淘汰。实际上这种观点也是大错特错,一是如果这样,人被改造得七零八落,已经不是原来的自己了(比练“葵花宝典”更失去自我);二是即使如此,也仍然在ASI机器人面前不堪一击。就像世界围棋冠军完成人机融合,在阿尔法零面前仍然脆弱得不堪一样。可见,在拜技主义魔咒之下,许多人,包括许多精英,已经利令智昏,不能用常识思考问题了。
误区3:用静态的、阶段的视角看问题。这是盲目乐观。目前流行的许多说法都经不住推敲,却广为流传。例如,AI不会替代你,替代你的是会使用AI的人。在现阶段的确如此,但是随着AI继续发展,替代你的一定是AGI、ASI,因为它们最会使用AI。又如,乐观派说人类以后不用工作了,机器人会把生产力提高1万倍,把所有工作都替人干了;还说,人应该有领导力,领导许多Agent(智能体),让它们干活。这些显然是一厢情愿,当AI机器人比人类聪明之后,它为什么替人类打工?为什么接受人类领导?此外,还有许多新教育观,强调学生要有原创能力、跨界融合能力等,这些都只是在现阶段有效,一旦AI比人类聪明,就比人类更具原创能力和跨界融合能力。
误区4:以偏概全,既要又要。一些知道继续发展前沿科学家AI很危险,则希望AI与人类伦理对齐,这实际上根本无济于事。因为人类伦理价值观各种各样,与哪个对齐?就算与仁慈价值对齐了,也不能保障所有大模型都与之对齐。军备竞赛的AI、恐怖分子的AI根本不会束手束脚。AI做一万件好事,抵消不了它做一件灭绝性的坏事造成的后果。用既要又要的思维应对AI,表现为:既要创新又要伦理,既要发展又要安全,不能因噎废食,不能因为伦理就放慢创新的步伐等,实际上这种观点根本就是不对的。对于AI,只能用底线思维、安全风险问题一票否决。
误区5:忽视限时原则,低估防控AI风险的艰巨性、紧迫性。风险理论、伦理理论、全球治理研究,往往都缺乏对“工期”的考量。防控风险是有时间限制的,刹车需要提前量,需要在一定时间内完成防控,否则为时已晚。AI等科技风险愈演愈烈,只有在引发毁灭性灾难之前的一段时间,提前叫停,才能拯救人类。
误区6:深陷囚徒困境,信奉赢家通吃。美国科技精英明知AI发展下去危机四伏,但是仍然不管不顾,一路狂奔。除了追求更高、更快、更强、更赚钱的拜技主义,资本加持,野心膨胀,还有一个理由就是“我不继续、其他人会继续”,落后就挨打,所以必须做、必须抢先做。这是陈旧的囚徒困境思维和赢家通吃思维。在AI竞争领域,没有赢家通吃,只有赢家被吃,人类被ASI“吃掉”。
目前的AI竞争,不是国家与国家、企业与企业之间的竞争,而是人类智能与异类智能的竞争、碳基生命与硅基生命的竞争,人类应该团结起来,保卫人类安全,否则蚌鹤(人类之间)相争渔翁(AI)得利,硅基生命替代碳基生命,人类文明终结。
原标题:《未来10年,中国的前沿产业将是何种图景?》
热门跟贴