人工智能时代，要不要给技术发展踩刹车？谁说了算？|人工智能|伦理学|医学|王辰|科学|薛澜

生成式人工智能（AIGC）横空出世，在惊艳世人的同时，也引发了有关抄袭、造假等方面的一系列风波；基因编辑、合成生物学的发展，在创造出无限可能的同时，也令世人对子孙后代的成长发育颇感担忧。科技的高速发展，给社会带来的不只是红利，还有诸多伦理困境。

今天（9月8日）举行的2024年浦江创新论坛"科技伦理论坛"上，科技部副部长、国家科技伦理委员会副主任邱勇指出，科学研究不断突破人类认知边界，技术创新进入前所未有的密集活跃期，它们在促进科学发现、推动经济社会发展的同时，也给个人和社会带来全新挑战，对全球科技领域的伦理秩序造成冲击。

技术发展与治理不同频、难同步，"敏捷治理"应对监管难题

《连线》杂志曾在官网刊发题为《利用生成式AI来犯罪只是时间问题》的文章。事实上，非法交易人脸数据、伪造特定人物视频等违法犯罪行为已经滋生，其恶劣影响正日益受到重视。为人工智能等新科技发展划定边界，将技术纳入监管，已经成为全球共识。

问题是，如何监管技术？中国工程院院士、国家科技伦理委员会委员、人工智能伦理分委员会主任、鹏城实验室主任高文表示，关于科技监管的时间点，科学界一直存在两派观点：一派主张严防风险，此时此刻就保持十足警惕；另一派则认为，科技尚未发展到需要立马踩刹车的地步。高文指出，无论哪派主张更有道理，当前比较务实的做法是给AI设计并安装开关，就好比在造车时先装上刹车。

中国工程院院士、国家科技伦理委员会委员、人工智能伦理分委员会主任、鹏城实验室主任高文

无独有偶，美国纽约大学生命伦理学中心主任马修·廖也指出，科技监管存在"上下游"之分，上游监管是在技术发展的早期阶段进行干预，引导其发展方向，但问题是后续风险难以预测。相比之下，下游监管是在发展后期对现行技术进行回顾性管理，这种做法必须要等问题出现才能思考应对，所以需要承担更多风险。针对人工智能，美国目前采取的是下游监管，而欧盟则采用"全生命周期管理"的模式，即对数据采集、数据预处理、模型选择、模型训练、模型评估、部署等各环节实施监管。

美国纽约大学生命伦理学中心主任马修·廖

清华大学苏世民书院院长、清华大学公共管理学院学术委员会主任薛澜认为，想用一套机制自上而下地把所有问题都管住，这并不容易。从目前的实践来看，以问题为导向，针对问题出台法规，并在此基础上进行整合，这种自下而上的管理方式更切合实际。

然而，无论采取哪种监管路径，技术发展与治理机制不同频、难同步，始终是摆在监管者面前的难题。马修·廖表示，尽管已经有不少国际机构出台文件，对AI的发展方向加以明确，但这些文件缺乏约束力，且形成周期长，跟不上技术发展的速度。对此，薛澜提出"敏捷治理"的理念，即政府不必效法欧盟推出综合性的人工智能法律，而是需要紧紧跟上、快速响应。

科技伦理说到底是人的问题，全社会的伦理思考能力有待加强

科技伦理关键在人，这是与会专家表达的普遍观点。中国工程院院士、国家科技伦理委员会委员、医学伦理分委员会主任、中国工程院副院长王辰在谈到医学与科学的关系时表示，科学是现代医学的主流基础，但远非全部。医学与生物学、生命科学存在交集，但医学还包括自然科学与技术、社会科学与方法，以及人文学科与文化。王辰说，"医学是多学、人学、至学。"在此基础上，医学伦理学同样要重视"人"这个因素。

人工智能领域的科技伦理问题，同样也是人的问题。天津大学和南开大学原校长、中国新一代人工智能发展战略研究院执行院长龚克认为，人类要形成伦理价值共识，并将其转化为法规、政策或技术标准。此外，人类还要具备将创造出来的价值共识植入人工智能的技术手段，并检验其效果，这是"为AI立心"。假如AI被植入人类的伦理价值共识，那么它就能识别并反向纠正人类的不合伦理行为，进而对人类社会增益。

天津大学和南开大学原校长、中国新一代人工智能发展战略研究院执行院长龚克

在形成伦理价值共识前，人类首先必须具备伦理意识。中国社会科学院哲学所科技哲学研究室主任、研究员段伟文指出，人工智能时代，科学实验室被搬到了社会。如果我们对伦理风险缺乏预见性，那么就只能任由事件发生，被动推进监管。他认为，应当转被动为主动，加强研究，特别是提高从业人员的认知能力。

要提高从业人员的认知，首先必须打破单一学科、单一行业的界限。王辰表示，学科是独特的，不是独立的；是开放的，不是封闭的；是融通的，不是隔绝的；是协同的，不是掣肘的。中国科学院院士、国家科技伦理委员会委员、生命科学伦理分委员会主任、中国科学院副院长周琪也表示，生命科学、人工智能等领域的交叉融合加剧了技术集成与伦理问题的复杂性，需要多领域专家和相关部门协作应对。