2024年8月，兰德公司发布首篇“人工智能特征”系列报告《人工智能治理：历史经验的启示》。赛迪智库电子信息研究所对该报告进行了编译，期望对我国有关部门有所帮助。

报告通过回顾核技术、互联网、加密产品和基因工程四项技术的治理案例，认为人工智能治理应关注三个方面：制定技术规范时达成共识的重要性，治理有形资产与无形资产所面临的不同挑战，以及公私伙伴关系在治理中的作用。报告指出，尽管没有任何历史治理模式能完全类比人工智能治理，但由于人工智能可能以不同方式开发和应用，这些历史案例仍能为人工智能治理提供重要启示。

一、概述

人工智能的不断进化引发了一个问题：如何既能充分发挥人工智能优势，又能把风险降到最低？二战后，核技术、互联网、加密产品和基因工程成为新兴技术，但这些技术也曾面临类似的治理问题。这主要体现在三个方面：达成技术规范共识的必要性、治理有形资产和无形资产的重要区别、公私合作伙伴关系在治理中发挥的作用。上述四种新兴技术的区别体现在：开发所需的竞争资源、主要服务对象是公共部门还是私营部门、技术带来的安全风险、就风险达成的共识、可控的有形资产、能否就治理建立利益共同体、风险最小化且利益最大化的最优治理方式是公共治理还是私营治理。

人工智能早期治理模式的适用性取决于人工智能未来的发展。如果人工智能存在严重的广泛致害风险，在获取和使用过程会消耗大量资源，同时拥有可监控的有形资产，那么此类人工智能与核技术类似，适用于普遍的国际治理架构。而极小风险一类人工智能的适用模式与互联网治理模式类似。如果人工智能在获取时伴随巨大风险，那么此类人工智能适用于类似基因工程的治理模式，但各相关方应谨慎采用类似加密技术的治理模式。决策者应在关注人工智能的发展，追求共同治理标准、关注技术和环境变化的同时，也应该借鉴历史教训。

二、人工智能治理的紧迫性

近年来，人工智能的发展使大众重新关注人工智能带来的风险，这些风险既有直接的、具体的，也有未来的、推测的。研究人员警告称，人工智能可能会对社会产生负面影响，例如因其自动化程度不断提高造成工作岗位减少、重大决策发生偏差、放大虚假信息和操纵社交媒体。此外，人工智能技术对国家经济竞争力和军事优势至关重要，人工智能发展落后会威胁国家安全。还有记录表明，通用人工智能，特别是生成式人工智能和大型语言模型对人类生命和福祉构成了威胁。

上述担忧使大众更加关注对人工智能的监管和治理。过去对治理新技术也存在类似担忧。本文探讨了核技术、互联网、加密产品和基因工程四种技术的治理。本文通过探讨这些技术，总结了这些技术的发展历程、与人工智能的治理区别，并阐述了技术治理的三大主题：

就技术规范达成长久共识；

有形资产和无形资产的治理；

治理方面的公私伙伴关系。

第一，大量实例证明：技术治理的成功关键在于规范一致、认知相同。选定的每个例子都表明，技术治理的核心在于指导技术开发与使用规范达成共识。

第二，治理有形资产和无形资产会面临的挑战存在不同，但治理无形资产相对更难。这不代表无形资产的治理不重要：政府对信息分类和知识产权的保护（如经营模式）就属于主要的无形资产治理方法。无形资产治理需要方法和流程，但只有这些还不够完善，而有形资产的监控制度往往是有效治理模式的主要焦点。

第三，公私互动对大多数技术治理都十分重要。公私互动可根据技术性质和治理重点，采取不同形式，但对于最前沿技术，最终都需要公私互动。如果技术治理框架有这样的远见，积极主动地为公私部门创造良好的互动条件，将会更好地实现治理。

最后，本文研究的人工智能等技术确切来说是研究一系列或各类相关的设备、系统和技术。本文用“技术”一词指代这一宽泛的概念，而非指这些技术中的某项特定技术。本文的人工智能仅限于“生成式人工智能”系列技术。

三、历史经验对人工智能治理的启示

二战结束以来，各种技术都需要新型治理方式。本文探讨了四种技术：核技术、互联网、加密产品和基因工程，在开发和应用过程中，所涉及的新型治理方式为人工智能治理提供了不同的借鉴。本章将探讨这些治理方式的经验教训。图1展示了示例技术的发展时间轴。

（一）核技术

1、治理历程

在美国研发并首次使用核武器后，部分决策者认为美国将无限期保持核武器垄断，且信心十足。然而，1949年苏联试爆了首枚核武器，打破了美国的垄断意图。到20世纪60年代，美国政府态度悲观，预测核武器会因其威力引发全球快速扩散。核扩散问题促使美国多次通过防扩散工作治理核技术（参见图2：核技术治理时间轴）。

2、治理效果

核技术治理取得了明显成效。第一，自二战结束以来，近八十年核武器没有在战争中再次使用。第二，尽管有数十个国家声称具备制造、获取核武器的能力，但只有10个国家真正具备核力量, 其中南非已自愿拆除了其核武库。第三，各国能够传播和平利用核能的技术和能力，同时避免了核战争，并减缓了核武器技术扩散。虽然“原子能和平利用倡议”加速了核扩散，但在促成《不扩散核武器条约》方面做出重要贡献。

（二）互联网

1、治理历程

1995年，“互联网”一词被定义为一种全球信息系统，系统使用“网际协议”进行连接，支持使用传输控制协议/网际协议（TCP/IP）进行通信，并在相关通信基础设施上分层提供高级服务。互联网开发和治理工作可以追溯到70多年前（参见图3：互联网治理时间轴）。1961年至1967年间，研究人员提出了传输控制协议/网际协议的初步构想。1974年发布的传输控制协议/网际协议细则被视为互联网起源的里程碑。后来，由美国能源部（DOE）、美国国家航空航天局（NASA）和美国国家科学基金会（NSF）资助、计算机科学学术界主办的多个公有及私有传输控制协议/网际协议网络（包括其他网络）发展成为互联网。

2、治理效果

早期互联网的发展和治理模式是私营部门主导、公私部门合作的形式。在互联网发展过程中，政府充当推手，不插手技术研发和推广进展等决定，而私营部门可进行自由创新、实验和技术研发。美国政府有意将互联网技术标准和技术开发的管控权移交给私营机构，是由于其对互联网的设计和治理的不可替代性。然而，私营部门的治理偶尔会限制政府维护自身利益。例如互联网工程任务组曾拒绝美国政府修改协议，以便合法获取通信内容的请求，该任务组称该请求将“损害网络安全，导致更多非法活动，更易侵犯用户隐私，通信开发商也会承受巨大成本”。

（三）加密产品

1、治理历程

20世纪70年代前，加密产品的开发使用完全由政府负责，无任何商业用途。约50年前，三方面的发展改变了这种状况。第一，国防部发现有必要发展加密技术。第二，计算和通信技术不断进步，信息安全密码学开始应用于商业。第三，美国国家科学基金会资助的学者发明了公钥加密技术（与加密产品治理相关事件的时间轴见图4）。

2、治理效果

国家安全部门最初在治理加密产品方面取得了成功，原因是努力争取学术界和私营部门达成共识。但随着私营和公共部门在开发和治理方面的优先事项和规范出现分歧，近年来共识逐渐减弱。加密产品治理的结果归纳为以下几点：

强加密技术在全球的传播很可能受限，但有动机的用户（国家安全机构最担心的用户）仍然能够获得加密技术。这说明治理无形资产面临诸多挑战。

有证据表明，该政策对美国软件业造成了重大经济损失，因为美国软件企业的市场份额被国外不受政策限制的企业占据。

在规范问题上缺乏共识，规范的冲突和推进工作导致了对政府（尤其是美国国家安全局）严重、持续的敌意和公信力降低。

出口管制限制了美国国内对加密产品的使用和供应，削弱了网络安全。管制还导致在制定标准时可以选择使用较弱的“出口级”加密技术，这导致了严重、长期的网络安全漏洞。

译自：

Historical Analogues That Can Inform AI Governance, August 2024 by RAND Corporation

赛迪译丛

由中国电子信息产业发展研究院推出的一本高端编译类研究周刊。它以“面向政府，服务决策”为宗旨，突出实效性、实用性，主要针对世界主要国家最新发布的工业和信息化领域的国家战略、方针政策、产业重点、前沿技术标准等内容进行收集、提炼、翻译、编辑，及时为我国相关产业政策制定部门、科研机构和企业提供参考和借鉴。自2011年出刊以来，《赛迪译丛》的翻译和编译工作由赛迪智库的专家和资深翻译团队共同完成，多次获得工业和信息化部领导的批示。

来源丨赛迪智库电子信息研究所

编辑 | 办公室