摘 要

俄乌冲突已然成为全球AI前沿技术的“超级实验室”，极大地突破了法律和伦理的制约与边界。美国及其联合成立的北约组织借助算力、算法、数据和平台的强大智能优势，发动了强大的算法认知战，极大地改变了俄乌冲突双方的态势，新型的战争形态浮出水面。算法认知战基于全球一体化的网络空间，突破地域边界，形成全球性作战和动员能力，凸显了数字时代战争形态和规则的颠覆性变革。算法认知战具备能够超越国界，只需装备、技术、数据和情报等投入，深度策动并参与战争，威力大、效果好、成本低和几乎免除了战争的各种直接风险等特征，必将成为未来人工智能军备竞赛的重中之重。俄乌冲突昭示着AI技术的“科林格里奇困境”已经全面到来，算法认知战则成为首先挑战AI规范和伦理的行为，是对人工智能最危险的滥用之一。

如何更好地概括2022年爆发的俄乌冲突？有人称之为“混合战”（Bilal，2021）、“TikTok战争”（Chayka，2022）、“WarTok”（Mobilio，2022）、“全体系战”，甚至于“第一场网络世界大战”（Sieniawski，2022）等，国内有学者将其称为“认知域作战”（李明海，2022）、“算法认知战”（史安斌，2022）等。这些词汇都抓住了此次冲突中的一些特点，但是又都似乎不够完美。相对而言，“数字混合战”和“算法认知战”在一定程度上抓住了关键的独特性。我们围绕“算法认知战”这一更具有新意的概念，进一步探究这场巨大的变革，以及这些概念背后的逻辑、规则和趋势。

历史需要沉淀，尤其是围绕人类战争和冲突的形式和规则。“算法认知战”（algorithmic cognitive warfare）在英文中还没有形成明确的概念。当然，算法战（algorithmic warfare）和认知战（cognitive warfare）已经不是新鲜事物。即便是认知战，虽然已经积累了大量研究成果，但是在维基百科中也还没有正式的词条出现。相关内容仅在“心理战”（psychological warfare，psywar）词条中呈现。其实，算法认知战可以被看作是强化版的“心理战”或“认知战”，甚至是强化版的“舆论战”（public opinion warfare）或“宣传战”（propaganda war），因为其基础依然是“媒体操纵”（media manipulation）。那么，通过发现这些词汇背后的战争变化趋势去进一步认识俄乌冲突背后的技术变革趋势和这场新型战争的本质特性则尤为重要。

俄乌冲突是人类第一场真正意义上的AI战争，冲突中AI的全面使用标志着AI武器化的临界点已经到来。而且AI通过软硬件升级和信息传播等各种方式全面渗透到俄乌冲突之中，展现了超越传统战争中常规武器的极大破坏性和杀伤力。尽管在俄乌冲突之前，围绕人工智能的各种警示（包括算法歧视、大规模失业和深度神经网络的不稳定性与不安全性等）不绝于耳，指出AI技术的潜在威胁，但是，总体而言，这些威胁都还只停留于预言，缺乏足够的实证。与此不同，在这一次俄乌冲突中，AI技术的优势和威力开始在各个层面彰显，AI危及人类生命已成为现实。正如著名网络社会思想家曼纽尔•卡斯特所言，人工智能已经改变了国家之间的对抗形式，并深深地改变了一切，如无人机对抗和监控（UOC，2021）。人工智能军事技术所有可能用途的结合意味着一件事：战争从来都是非人性的，但结合后，就会完全泯灭人性。我们并没有能够机器化世界，而是机器化了我们自己。俄乌冲突使得AI技术失去控制陷入的科林格里奇困境，以及AI危及人类个体生命甚至整体生存的警示再也不是危言耸听的预言，而是真切的现实。

一、俄乌冲突、算法认知战和AI军备竞赛

“安全是发展的前提，人类是不可分割的安全共同体。事实再次证明，冷战思维只会破坏全球和平框架，霸权主义和强权政治只会危害世界和平，集团对抗只会加剧21世纪安全挑战。”（新华网，2022）

自2010年以来，在日益加剧的地缘政治竞争中，西方学者和政策制定者更倾向于将俄罗斯视为跨大西洋安全的主要威胁，并提出许多新的理论和概念来描述俄罗斯采取的行动并解读其战略。如备受关注的混合战（hybrid war）以及灰色地带（grey zone）、非线性（nonlinear）和全谱冲突（full-spectrum conflict）等概念，由于其相似性，它们通常可以被互换使用（Thomas，2019）。然而，这些被普遍接受的西方概念大多数并未出现于俄罗斯的军事词汇中（Tavenier，2021）。随着技术和信息过载的作用不断增大，个人认知能力不再足以确保知情以及作出及时的决策，这导致了认知战概念的产生。近年来，“认知战”已成为军事领域中一个反复出现的术语。战争形态从消耗转向认知，如今的认知战整合了网络、信息、心理和社会工程能力以实现目标。它利用互联网和社交媒体有选择地、连续地针对社会中有影响力的个人、特定群体和大量公民（Nato Review，2021）。认知战还被视为一场意识形态之战。相较于“宣传”（propaganda），认知战中存在一个微妙但重要的变化，即每个人都以前所未有的方式参与信息处理和知识的形成，且大多是无意的。个人在被动接受宣传的同时，也积极地参与宣传。认知战追求的目标是破坏信任，如公众对选举过程的信任，对机构、盟友、政客的信任等。个人成为武器，但攻击目标不是个人的想法，而是思维方式——“人类思维已经成为战争的新领域”（Du Cluzel，2020）。认知战正一步步被“推崇”，成为全球战略的一个重要组成部分。

自20世纪10年代中期以来，许多分析人士注意到，大国之间为了更好地实现军事人工智能而进行了“人工智能军备竞赛”。Champion（2019）提出“数字冷战”（digital Cold War）概念，认为人工智能军备竞赛的背景是人工智能冷战叙事，特别是中美之间的紧张关系导致了人工智能技术领域的冷战。在美国决策者、安全专家以及媒体记者的“共谋”下，中美之间的科技竞争则被描述成了一种“AI军备竞赛”（AI arms race）状态（Chandler，2018）。与之相对应的，新美国安全中心研究主任Scharre（2019）在《外交事务》杂志中提出，“AI军备竞赛”反映了一种对人工智能风险的错误观点。他认为，在传统军备竞赛概念上，“AI军备竞赛”并不存在。同时也无法否认，AI在军事中的运用的确会带来包括脱离人类控制和战争加速等一系列风险（Scharre，2021）。有研究者提出，将人工智能发展描述为军备竞赛或赢者通吃的竞争，不仅是错误的，而且对美国政策制定是危险的，它从根本上误解了人工智能发展与技术之间相互依赖的跨国性质（Sherman，2019）。此外，将人工智能发展理解为“军备竞赛”通常会引发将人工智能视为一项单一技术的讨论，导致决策者错误处理人工智能风险而错失有利因素。同样地，有研究者认为将人工智能领域的进展描述为“军备竞赛”将适得其反。中美必须找到在人工智能方面进行对话与合作的途径，换言之，一种实际的、巧妙的竞争与合作的结合比军备竞赛更符合美国的利益（Pascal & Hwang，2019）。

近年来，“AI军备竞赛”一词更是成为人工智能军事化研究者的流行语。早在2015年的一封关于“自动武器”的公开信中，人工智能和机器人研究者警告称：

“当今人类面临的关键问题是启动全球人工智能军备竞赛，或是予以阻止。如果任何主要军事大国致力于推动人工智能武器的发展，那么，全球军备竞赛几乎不可避免”（Dutton，2018）。

在对2017-2018年世界各国国家人工智能战略进行系统梳理后发现，人工智能领域全球领导者的竞赛已经正式开始。没有哪两种战略是相同的，每种战略都侧重于人工智能政策的不同方面：科学研究、人才开发、技能和教育、公共和私营部门采用、道德和包容、标准和法规，以及数据和数字基础设施。新美国安全中心的Allen（2019）在《理解中国的人工智能战略》（Understanding China's AI strategy）报告中指出，对军事人工智能主导地位的追求与对其他领域主导地位的追求是重叠的。Ghi和Srivastava（2021）在《全球人工智能军备竞赛——各国如何避免落后》（The global AI arms race：How nations can avoid being left behind）中分析了人工智能的全球格局以及哪些国家在人工智能军备竞赛中领先和落后。同时，他们还分析了决策者的重要见解，即如何在人工智能发展的关键竞赛中获得竞争优势。

二、算法认知战的方法、手段及其效果

认知战与心理战、信息战、舆论战、认知战和网络战等都是军事领域的热点，有着相辅相成、相互重合、相互联动与迭代的关系。当然也各有侧重、各有特点。如信息战、网络战和认知战，博弈的核心焦点是信息能力优势、网络能力优势和舆论话语优势。而此次以美国为首的北约针对俄罗斯发起的“混合战”，究其内在特征和底层逻辑，比拼的核心是新的数字技术条件下的智能优势。

作为互联网诞生以来第一场真正意义上的网络时代的战争，俄乌冲突不仅重构了战争的规则，它还标志着人类战争形态与方式发生了根本性变化。同时，在这场冲突中，网络战和舆论战本身也发生了重大改变，并转向一种全新的超越国界的、多层次组合的“低风险，高回报”作战方式，即算法认知战（钟祥铭、方兴东，2022）。

2022年2月24日清晨，俄罗斯总统普京发表全国电视演说，以“去军事化”及“去纳粹化”名义对乌克兰采取“特别军事行动”。作为此次冲突的“前奏”，普京针对俄乌局势发展多次发表讲话，如：2月22日承认乌东两区为独立国家，23日表明坚决反对乌克兰加入北约。2022年2月4日下午，美国彭博新闻社网站首页出现了一则标题为《直播：俄罗斯入侵乌克兰》（Live：Russia invades Ukraine）的新闻，并上架了约30分钟。彭博社不久后发布道歉声明，称是“意外发布”（Bloomberg News，2022）。这波预热还包括俄罗斯的“假旗行动”和一系列针对乌克兰政府部门网站的网络攻击（Reuters，2022）。

自俄乌冲突爆发以来，在局势演进上密集地展现了与传统战场交战同步的认知作战行动，该行动有以下特点：

主要发生在直接冲突的俄罗斯与乌克兰之外的区域；

主要通过Twitter、Facebook、YouTube、加密通讯软件Telegram的群组以及中国的新浪微博等社交媒体展开；

信息战模式也从以往的单纯对外释放消息演变为在全球互联网上争夺舆论控制权。

美西方各国首脑纷纷对俄乌冲突表明态度，而乌克兰总统泽连斯基通过差别叙事引发国际舆论场的激烈讨论。 在冲突爆发当天，泽连斯基通过与西方领导人会谈组建“反普京联盟”； 次日，泽连斯基称西方已经完全抛弃了乌克兰，并驳斥关于他离开乌克兰的传闻； 26日，泽连斯基称，“没有人会放下武器”； 3月3日，泽连斯基态度再次发生转变，表示准备同普京谈判以停止战争等。 俄罗斯与乌克兰以及美西方之间持续展开激烈的舆论战，各方都在竭力传播对己方有利的信息，大量不实、片面的报道和虚假信息充斥着新闻媒体和社交平台，对各方民众的认知产生了极大影响，而民众的认知又反过来影响着领导层的政治决策。 斯坦福互联网观察（Stanford Internet Observatory）一直在监测与乌克兰局势发展有关的报道。 通过对公开渠道的俄罗斯官方媒体、灰色宣传渠道和Telegram渠道的观察，他们发现官方媒体和灰色宣传渠道推动的叙事可以在未发布的Telegram上找到，在某些情况下，Telegram上的叙事版本更为极端。 尽管这些信息的确切版本各不相同，但它们旨在制造乌克兰及其盟友和其他西方国家之间的分歧（Grossman & DiResta，2022）。

美西方利用其对全球主流媒体、社交平台的掌控，以及对互联网资源的主导权，不断对俄舆论发声渠道围追堵截。美国利用“煽动+胁迫”的方式，在全世界拼凑出制裁俄罗斯的“圈子”，确保美国以地缘政治手段排挤俄罗斯的效用最大化（环球时报，2022）。美国社交平台YouTube、Twitter和Facebook等通过账号封禁、算法限制、内容审查等方式，试图降低俄方媒体曝光率。2022年3月2日，欧盟以打击虚假信息为由禁止今日俄罗斯电视台和卫星通信社等俄罗斯主流媒体在欧盟境内的播出。作为回击，3月4日，俄罗斯禁止俄罗斯境内用户访问Twitter和Facebook。此外，莫斯科已对包括Twitter在内的多家大型科技公司的限制发起反击。3月21日，莫斯科一家法院禁止Facebook和Instagram进入俄罗斯，并指控其母公司Meta从事“极端主义活动”。

从在西方社交媒体平台疯传的“乌克兰父亲泪别女儿，随后准备与俄军作战”的“拼接”视频事件，到更加激烈的“布恰事件”，外部研究人员无法轻松监控的真相或谎言在社交媒体平台上的传播，引发了人们对社交媒体平台在传播错误信息中所起作用的担忧。作为俄罗斯唯一一家仍在使用的外资全球化社交媒体平台，TikTok在不断演变的俄乌冲突中扮演着重要的战略角色。然而，对TikTok进行监测和研究的最大挑战之一是其推荐算法的力量和影响力。相较于其他社交媒体，推荐算法对TikTok发挥着巨大的作用（Simonite，2022）。平台越依赖算法而非按时间顺序排列新闻提要，就越容易受到错误信息和虚假信息的影响。这是由于算法倾向于获得更多参与度的内容。TikTokObservatory的研究员称，所有平台都有一个共同点，那就是算法都经过了优化，可以通过检测和利用认知偏见获得更多极化的内容（Paul，2022）。看似“透明”的冲突全程全景，却满目疮痍。

总体而言，俄乌冲突是两个层面的两场不对称战争：一场是现实世界中俄罗斯与乌克兰的地面军事战，主要发生在乌克兰国家边界之内；而另一场是网络空间中的新型战争，是美西方主导的针对俄罗斯的算法认知战。美国在各个层面进行武器化转化的能力完全改变了战争的样式与规则。区别于传统军事层面的组织、战略战术与决策，算法认知战成为了战争整体不可分割的一部分，大大超越了过去目的相对单一、低强度的网络战和舆论战，同时成为助力乌克兰地面抵抗的新型“混合”网络战和舆论战（方兴东、钟祥铭，2022a）。实际掌握冲突态势的美国则通过将自身操控的各类资源全部转变为武器形成远超过战场军事打击所能带来的巨大伤害力。

三、算法认知战与AI军备竞赛的未来

从网络攻击、虚假信息、推荐算法到面部识别、开源情报，算法认知战在俄乌冲突中显示出巨大的威力，而这种威力，应该引起全世界人们的警惕。早在2017年，俄罗斯总统普京就在发表演说时称，“无论对俄罗斯还是全人类而言，AI是未来。它同时带来巨大的机会与难以预测的威胁。谁领导AI谁就将主宰世界”。埃隆•马斯克随即评论道，不久的将来，所有计算机科学基础雄厚的国家都将开始谋求AI制高点，而最有可能导致第三次世界大战的因素即国家层面对AI霸权的争夺。

“全面化人工智能可能意味着人类的终结，机器可以自启，并对自身进行重新设计，速率也会越来越快。人类终将无法与之竞争，直到被取代。”（Lant，2017）

史蒂芬•霍金临终前，给人类留下三个预言，其中一个就是关于AI。他预言人工智能将超越人类智能。随着AI、人类基因改造技术和5G技术的发展，人工智能在为人类提供便捷生活的同时，将逐渐拥有自己的思维意识，在未来的某一天摆脱人类的控制，通过互联网取代人类主宰地球，而且互联网中存有太多的个人隐私，一旦暴露将会引发一场前所未有的灾难。霍金强调，人类将人工智能应用于军事领域，生产出先进的无人机、无人战舰，这些没有人类操作的作战装备将会对作战环境和进攻时机作出自己的分析和判断，一旦人类与机器人发生战争，后果将不堪设想。

“AI技术是好是坏，我们依然不能确定。但我们应该竭尽所能，确保其未来发展对我们和我们的环境有利。”（Hern，2016）

Miles Brundae和Shahar Avin在《连线》杂志上发表文章，告诫人们“罪犯们把人工智能变成我们的敌人只是时间问题，人工智能研究人员在开发新应用程序时需要充分考虑安全性”（Brundage & Avin，2018）。从“阿拉伯之春”后的叙利亚战争（世界上第一场数字机器人介入的现代战争）到2016年美国总统选举，在社交媒体空间执行政治传播任务的政治机器人（political bot）已经广泛参与到在线政治信息的讨论和扩散环节，成为影响政治传播效果的一个重要变量（张洪忠等，2019）。人工智能的恶意使用不仅威胁到人们的财产和隐私，同时还危及人们的生命。无人机、自动驾驶车辆和联网医疗设备等网络物理系统的扩散为恐怖分子、黑客和罪犯提供了目标和工具。可能的情况包括自动驾驶汽车爆炸或将小型无人机变成“猎脸”（face-hunting）导弹。AI武器攻击还可能用于冒充他人的语音合成，获取个人数据并分析人类行为与情绪，实现对人类信念的操纵。

此外，战场中产生的数据正在帮助智能机器模拟未来的战争。在俄乌冲突战场的另一块大陆上，美国五角大楼正在悄悄地使用人工智能和机器学习工具来分析大量数据，生成有用的战场情报，并研判俄罗斯的战术和战略。如美国防研究和现代化工程部主任Maynard Holiday承认：

“你们看不到的是我们能够监督战场的精湛情报能力，包括收集和归档信号情报。我们对所看到的关于俄罗斯战术的一切进行事后分析，所有这些都将进入一个数据库，我们可以进行训练，然后再进行战争游戏。”（Tucker，2022）

基于人工智能的战争更像一个电子游戏，据美国空军部长Frank Kendall称，美国空军首次使用人工智能来帮助识别“实战杀伤链”中的一个或多个目标，这意味着人工智能被用来识别和杀死人类目标（Miller，2021）。值得注意的是，科技记者Jeremy Kahn在《财富》杂志中指出，开发者和军队之间存在着危险的脱节，包括美国和俄罗斯在内的一些国家正在决策和数据分析中使用人工智能（Kahn，2022）。开发者似乎不知道他们正在建造的一些工具的通用性，比如军队如何在战争中针对平民使用它们。

战争始终涉及人与技术层面的平衡，军队往往是技术的早期使用者。从更高效的后勤、库存和维护到更好的情报收集和目标感知，人工智能在军事中的运用优势显而易见。自火药和核武器之后，人类正经历第三次战争革命——人工智能武器（自主武器）（Lee，2021）。俄乌冲突正在成为AI推动的战争如何进行的一个不幸的测试案例。

2015年，在阿根廷布宜诺斯艾利斯举行的国际人工智能联合会议上，特斯拉的创始人马斯克、苹果联合创始人史蒂夫•沃兹尼亚克、谷歌DeepMind首席执行官德米斯•哈萨比斯和斯蒂芬•霍金教授以及1000名人工智能和机器人研究人员共同提交并签署了一封公开信，警告“人工智能军备竞赛”与人工智能武器的危险性，呼吁禁止“进攻性自主武器”（Gibbs，2015）。2017年8月，马斯克和穆斯塔法•苏莱曼等来自26个国家的116名专家组成的小组，以及一些世界领先的机器人和人工智能先驱共同签署公开信，呼吁联合国禁止开发和使用杀手机器人。公开信指出：

“致命的自主武器威胁将成为第三次战争革命。一旦这个潘多拉魔盒被打开，将会很难再关闭。因此，我们恳请缔约方找到一种方式，能够让我们全部人免受这些危险的伤害。”（Gibbs，2017）

2020年，马斯克谈到谷歌DeepMind项目时称，人工智能的本质是在所有游戏中征服人类，这和上世纪80年代电影《战争游戏》（War Games）描绘的情景极为相似。随着游戏的启动，自动系统无法区分模拟和现实之间的区别，试图发起第三次世界大战，准备自动发射导弹。2021年，马斯克在接受采访时候表示，“AI是最危险的存在，将会引起战争，战斗机的时代已经结束，未来是自主无人机的时代”，“AI可能会毁灭人类文明”（Dutta，2021）。

在5G时代开启的智能媒体新浪潮中，以数据和算法驱动的智能传播正呈现出颠覆西方中心固有格局的潜能（方兴东、钟祥铭，2022b）。2018年，时任国防部副部长Michael Griffin呼吁美国加大对人工智能的投资。Roper（2020）在《连线》杂志一篇名为《人工智能在军队中的使用已无法逆转》中声称：“在与中国的数字军备竞赛中，美国存在落后的风险。”斯坦福大学以人为本人工智能研究所（Human-Centered AIInstitute，HAI）发布《2021年人工智能指数报告》（Stanford University Human-Centered Artificial Intelligence，2021）指出，各国政府、区域和政府间组织都在争相实施针对人工智能的政策以最大限度地发挥这项技术的潜力，同时解决其社会和道德影响。尽管报告并未涉及AI在军事领域的具体分析或数据，仅对美国防部用于军事研发的预算作出推测，但是可以看出中美在人工智能和机器学习等深层技术领域日益激烈的竞争将在军事优势、国际贸易体系等方面产生不同程度的影响。

2021年11月15日，美国国防部国防创新小组发布《负责任的人工智能实践指南》。2021年10月21日，北约防长会通过了首份《人工智能战略》，提出“负责任使用人工智能军事应用”的原则。2021年12月13日，联合国《特定常规武器公约》第六次审议大会在日内瓦开幕。中国裁军大使李松率团出席，并提交了中国《关于规范人工智能军事应用的立场文件》，呼吁各国通过对话与合作就如何规范人工智能军事应用寻求共识，构建普遍参与的有效国际治理机制，避免人工智能军事应用给人类带来重大损害。清华大学战略与安全研究中心（CISS）发布的《人工智能军事化的挑战及中美合作应对探讨》报告指出，各国针对AI的一系列监管政策的相继出台，预示着人工智能技术对国际稳定的冲击将是全球治理下一阶段的重要议题（朱荣生，2021）。

2022年3月10日，联合国秘书长古特雷斯表示，乌克兰冲突是对全球治理体系的考验，如果人类无法改善全球治理、管理风险，子孙后代可能“被迫在灾难发生后重建国际秩序”（联合国，2022年3月10日）。他强调必须关注网络战争、虚假信息活动、大规模杀伤性武器等非传统威胁。此外，他在2022年1月21日阐述2022年联合国工作优先事项时说：“我们面临着一场五级警报的全球火灾，需要所有国家全力动员”（联合国，2022年1月21日）。网络空间的无法治状态就是这五级警报之一。

四、算法认知战背后的技术与规则：科林格里奇困境拐点

当网络空间作为一个战争领域时，人工智能被视为一种新的防御能力（Taddeo & Floridi，2018）。而在此次俄乌冲突中，人工智能事实上已经成为当今智能前沿技术全面试验的“实验室”，借助战争状态的特殊性极大地突破了诸多法律和伦理的制约和边界，展现了强大的杀伤力和良好的协同效应。可以说，俄乌冲突同时也预示着AI技术的“科林格里奇困境”已经全面显现。

1980年，大卫•科林格里奇（David Collingridge）在其著作《技术的社会控制》中提出，一项技术的社会后果不能在技术生命的早期被预料到。然而，当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难，这就是控制的困境。当变化容易时，对它的需要不能被预测；当变化的需要变得明显时，变化却变得昂贵、困难和耗费大量时间，以致难以或不能改变（Collingridge，1980）。这就是著名的科林格里奇困境，也就是技术控制的困境。

从国家领导人、政策制定者到技术专家、高科技企业负责人以及各领域学者，都在呼吁对“AI军备竞赛”危险性的警惕。诚如微软联合创始人比尔•盖茨所言：

“世界上其实并没有那么多像核能与核武器一样，既有光明前景又十分危险的技术，但AI是其中一种，而人工智能将以非常深刻的方式改变社会，人工智能最可怕的应用就是与战争的结合”（Clifford，2019）。

2018年，一份由OpenAI、耶鲁大学、牛津大学、剑桥大学、斯坦福大学等世界顶尖研究机构和名校学者共同撰写的《人工智能的恶意使用：预测、预防和缓解》（The malicious use of artificial intelligence：Forecasting，prevention，and mitigation）报告指出，AI正在不断扩大现有威胁，更重要的是，现有威胁的典型特征也将发生改变，或出现尚未存在的新威胁（Brundage et al，2018）。其中一种预测的趋势就是通过面部识别技术锁定并攻击特定目标成员，而这正是此次俄乌冲突中AI技术运用（如乌克兰国防部使用Clearview AI的人脸识别技术）的典型代表之一。

从2011年“软件正在吞噬世界”到2016年“AI正在吞噬软件”，从生物技术到纳米技术等领域，AI技术的独特性决定了它与人类世界之间的“暧昧”关系，包括对全球和平与安全基础的威胁。AI是一个双重用途的技术领域，它能够实现有益和有害的双重目的。AI是高效且可拓展的。拓展意味着可被开发和训练以应用于更多领域，包括军事和战争。尽管“AI是否最终将取代人类”的问题似乎还很遥远，但“AI系统能够超越人类能力”的现象在某些领域早就得到证明。AI可以增加匿名性和心理距离，例如，相较于派遣士兵身临战场，通过自动武器系统执行任务则保持着参与者的匿名性，同时也保持着更大程度上的心理距离，而无需直接面对死亡。此外，AI自身存在诸多系统漏洞，也将造成安全隐患。

算法认知战是首先挑战AI伦理的行为，也是对人工智能最危险的滥用。兰德公司2020年发布的《人工智能的军事应用：不确定世界中的伦理问题》（Military applications of artificial intelligence：Ethical concerns in an uncertain world）报告对中国、美国和俄罗斯关于禁止或规范自主武器开发和使用的政策立场进行了深入研究。研究发现，军事人工智能的发展带来了一系列风险。从人道主义的角度来看，道德风险的重要性不断提升；操作风险源于人工智能系统的可靠性、脆弱性和安全性问题；战略风险包括人工智能会增加战争的可能性，升级正在进行的冲突并且可能被恶意行为者获取和使用。此外，该报告建议美国空军、联合参谋部和其他国防部领导人与国务院合作，寻求与盟友和伙伴进行更大范围的技术合作和政策调整，同时探索与中国、俄罗斯和其他试图开发军事人工智能的国家建立信任和采取降低风险的措施（Morgan et al.，2020）。Branka Marijan（2022）提出，俄乌冲突应该唤醒人们重视对AI技术的监管以确保平民安全。人工智能军事应用的不受控制和仓促发展，将继续破坏有关平民保护的国际人道主义法和规范。

尽管国际秩序处于混乱之中，但解决当前和未来危机的方法是外交而不是军事，联合国或其他组织的下一次会议需要迅速应对这一新的战争时代。中国裁军大使李松表示，各国在发展人工智能武器系统方面应保持克制，人工智能的军事应用不应成为发动战争和谋求霸权的工具。我国反对利用人工智能技术谋求绝对军事优势，损害他国主权和领土安全；要坚持以人为本、智能向善原则，确保人工智能军事应用符合国际人道主义法，避免相关武器系统造成滥杀滥伤和误用恶用；要不断提升人工智能技术的安全性、可靠性、可控性，增强人工智能安全评估和管控能力，确保人工智能武器永远处于人类控制之下；要对人工智能军事应用加强监管，降低扩散风险（光明网，2021）。在《福布斯》发布的《2022年的10个人工智能预测》中，第9个预测是“负责任的人工智能”（responsible AI），即从一个模糊的总括术语转变为一套可操作的企业实践。从人工智能偏见、数据来源到模型可解释性和模型可审核性，这些抽象的概念将随着“负责任的人工智能”实践逐渐实现产品化和可操作性，在这个转化的过程中，监管将提供一个重要的推动力（Toews，2021）。例如，欧盟提出的《人工智能法》（Artificial Intelligence Act）就是很好的参考。

Croy（1996）在《柯林斯与教育计算机技术的控制》中指出了科林格里奇困境难以解决的原因，即：

“如果在技术形成的早期根据预测来控制技术，则会因为预测的不可靠而失败，而当技术后果显露出来时再开始控制技术，则会因为技术发展的不稳定而失败”“除非一项技术得到广泛应用，否则其影响不可被完全预测。但是，如果一项技术得到了广泛应用，那么它就难以控制了”。

今天，人工智能的科林格里奇困境正处于关键时刻：人工智能广泛使用带来的好处已经展现，而人工智能的灾难性后果还没有变成真切的现实。俄乌冲突已经成为人工智能武器化的“超级试验场”，必须以创新的理念和机制，建立全流程的规范和控制，才可能确保人工智能顺利摆脱科林格里奇困境。然而，由于以美国为首的北约国家通过人工智能和数字技术获得了巨大的战略回报，同时还在舆论战和算法认知战中占据着压倒性优势，主导着全球舆论方向和社会认知。因此，短期内美国（或北约）很难成为阻止这场AI军备竞赛危险游戏的关键性力量。

显然，中国正处于历史性的关键位置。我们除了要大力发展技术，加强防御之外，还需要站在整个人类福祉的立场，从AI伦理出发，对人工智能武器化、军事化的急剧推进发出警示，对建立算法认知战边界发出强有力的呼吁。我国与亚非拉国家和地区拥有坚实的合作基础。早在2015年4月，习近平主席在印度尼西亚出席亚非领导人会议期间就提出成立“中国亚非合作中心”，开展亚非交流合作等倡议。中国发出“一带一路”倡议之后，亚洲基础设施银行以及金砖国家新发展银行相继成立，表明中国推动亚非发展、合作的能力和动力更加充足。因此，我们可以号召和动员亚非拉国家，并且逐渐争取和动员欧洲国家加入。全球网民既是算法认知战的目标，也是最具能动性的主体参与者。目前全球50亿网民中，亚洲网民占比已经超过一半。欧美国家和中国之外的30亿网民主要是亚非拉发展中国家群体，目前已经构成全球网民新的大多数，而这一趋势对我们有利。我们还可以力争在联合国、G20和APEC等主要国际组织层面，立足网络命运共同体的理念，成为和平使用人工智能的领导性力量，倡导塑造一个真正和平的网络空间。这与中国发展利害相关，更是关乎数字时代人类如何安身立命的重大问题。

作者：钟祥铭1、方兴东2,3

1 浙江传媒学院互联网与社会研究院

2 浙江大学传媒与国际文化学院

3 浙江大学社会治理研究院

项目来源：2021年国家社会科学基金重大研究专项（21VGQ006）

本文转载自微信公众号全球传媒学刊，原载于《全球传媒学刊》2022年第5期

产业 | 工业化 | 数字化 | 人才 | 创新创业 | 颠覆性技术 | 科技指标 | 科技政策 | 前沿技术 | 知识产权 | 智库 |

获取方法如下：

其他系列将陆续呈现，多多关注哦！

投稿邮箱： nais-research@cnais.org.cn