2024年9月23日，在第79届联合国大会期间，美国国务卿布林肯正式发布《AI全球研究议程》（Global AI Research Agenda）和《AI全球发展行动指南》（AI in Global Development Playbook），这两份文件为美国政府开发的互补性文件，旨在促进未来在AI领域的研究合作，并指导发展共同体推动利用AI解决全球发展挑战。
《AI全球研究议程》提出三项AI研究合作的建议原则：
包容和公平——研究应侧重于开发具有代表性、灵活性和适合其环境的AI系统。技术系统会影响期部署的社会环境;为了支持全面的研究评估和分析，以及公平地利用AI系统的好处，研究人员应该努力实现包容性的研究过程。
负责任的研究行为——AI研究应秉持最高标准，以保护直接或间接受到研究和由此产生的系统开发影响的人的自主权、尊严、福祉和隐私，包括数据主体、平台测试人员、最终用户以及通过数据丰富或众包平台参与的工作人员。研究人员应该实施框架来系统地评估和优化实践，以帮助确保过程和产出既可持续又负责任。
伙伴关系和协作——AI研究人员应该寻求方法，让受影响的个人、社区和组织作为合作者参与研究过程的早期，特别是在国际背景下，当地利益相关者对研究的潜在用例、收益和风险有必要和有价值的看法。参与式人工智能设计的工具、指南和培训迫切需要研究，以使AI从业者更容易获得这些实践。
该议程还提出了推动AI研究领域走向安全、可靠和可信的AI的优先事项。
社会技术研究——随着AI工具变得越来越普遍，它们将更加融入经济和社会。社会技术研究方法可以增强对人与技术之间相互作用的理解，提高研究人员设计和使用AI的能力，以促进人类福祉，并支持有效的AI治理和政策制定。
包容性研究基础设施——可信的国际AI研究基础设施是指支持AI研究和开发技术的可信的全球设施、资源和标准网络。可信赖的国际研究基础设施对于使世界各地的研究人员能够参与前沿的AI研究，并能够在自愿和共同商定的条件下跨境获取资源、最佳实践和知识至关重要。
在全球范围内建立强大且互联互通的研究基础设施也将有助于自下而上地促进可互操作和全球接受的实践，促进全球AI系统的一致性和信任。可访问且广泛可用的研究基础设施还可以促进边缘化群体的研究人员参与AI研究和开发生态系统，确保代表不同的观点，并可能减少AI系统开发和培训中的偏见。
支持AI应对全球挑战的研究——通过设计新工具和开展应用研究，创造一个更安全、更健康、更繁荣的世界，AI可以彻底改变知识的生产和利用，以应对全球挑战，特别是与联合国可持续发展目标有关的挑战。
支持应对全球挑战的AI工具的研究应成为国际研究界的重点，因为它可以促进合作，并需要跨境汇集资源和专业知识，以解决气候变化、全球健康和粮食不安全等紧迫问题。
AI基础研究，包括AI安全、保障和信任——AI仍处于发展的早期阶段，在AI系统被认为是安全或值得信赖之前，AI技术和治理必须取得根本性进步。最近的生成模型，如大型语言模型，会引入或加剧各种风险，包括影响许多其他类型AI系统（可能包括未来几代AI技术）的稳健性、信息完整性和隐私保护问题。
AI对全球劳动力市场的影响研究——采用以人为本、对社会负责、安全、可靠和可信的AI可以带来可观的经济效益，并加速实现许多可持续发展目标，包括提高劳动生产率、管理流程、安全、健康、公平公正的招聘和工作质量。
AI可以通过替代和自动化重复性任务或协助日常活动和决策来积极地增强工作，这可能会减轻一些工人的负担，并使他们能够更好地执行其他任务。
与此同时，与劳动相关的AI实施也存在风险，包括工作强度增加、精神压力增加以及管理者与招聘、评估和解雇以及公平薪酬方面的决策权减少。性别差异(包括性别数字鸿沟)和其他不对称现象可能会加剧，对不同行业和地区产生一系列不成比例的后果。
AI在劳动力市场的获取和使用不平等也可能导致企业和工人之间、国家内部和国家之间的不平衡加剧。此外，AI在工作场所的某些用途（包括加强对工人的监督）可能会破坏集体谈判和其他基本工作原则和权利，包括结社自由、不歧视以及安全和健康的工作环境。
该议程最后还对研究资助者、研究生态系统中心、研究团队提出了推荐研究实践。
《AI全球发展行动指南》为美国及其发展伙伴制定了一系列关键行动，以在全球范围内培育负责任的AI生态系统，促进可持续发展，创造伙伴关系和合作机会，并应对世界上一些最严峻的挑战。为了提供实用指导，该指南还包括一系列案例研究。这些案例研究中的概念介绍了在确定的领域中表现出色的现有的举措和组织。
该指南提出的建议是在咨询了数百名政府官员、非政府组织、科技公司和初创企业以及来自世界各地的个人之后提炼出来的，这些建议围绕以下几个重点领域构建：
——提高能力，促进各部门和各层级的AI相关技能，保护劳动力。
——构建可信和可持续的数字基础设施。
——扩大对数据存储和计算资源的访问。
——创建具有代表性的、与当地相关的数据集并保护文化遗产。
——制定战略，在实践中兑现AI的承诺。
——推进良好治理框架，开发和使用安全和尊重权利的AI系统。
——通过开放、透明和可解释性培养对AI的信任。
——可持续地部署AI并用于气候行动。
在此次会议上，美国还宣布启动“全球包容性人工智能伙伴关系”（PGIAI）以及其他利用AI快速进步推动全球可持续发展的倡议。
全球人工智能包容性伙伴关系（PGIAI）由亚马逊、Anthropic、谷歌、IBM、Meta、微软、Nvidia和OpenAI组成，承诺投入1亿多美元，利用各自的专业知识、资源和网络，释放人工智能作为发展中国家可持续发展和改善生活质量的有力工具的潜力，同时坚持对AI系统的安全性、可靠性和可信度的承诺。
资料来源：
1. Global AI Research Agenda. https://www.state.gov/wp-content/uploads/2024/09/Global_AI_Research_Agenda.pdf
2. AI in Global Development Playbook. https://www.usaid.gov/sites/default/files/2024-09/Artificial%20Intelligence%20in%20Global%20Development%20Playbook.pdf
[本文为由“教育国际前沿课题组”（IFRGE）成员整理，课题组负责人张永军，编辑刘强。点击左下角“阅读原文”可从下载该文全部文献]
热门跟贴