国际计算机学会（ACM）的欧洲技术政策委员会（ETPC）发布了《与代理人工智能相关的系统风险：政策简报》。这项经过广泛讨论的研究确定了欧盟当前监管框架中的潜在差距，并建议有机会使人工智能监督保持持续和动态。报告认为，虽然最近出台的《欧盟人工智能法案》（EU AI Act）为治理奠定了坚实的基础，但关键挑战仍然存在。
在他们的介绍中，ACM的合著者指出，“代理人工智能——一种新的范式，用于创建能够使用大型语言模型（LLM）在最小的人为监督下感知、推理、学习和实现目标的自主系统——提供了变革潜力，但也带来了系统性风险。”经济位移、错误信息和环境危害只是报告中概述的潜在不利后果中的一小部分。
作为第一步，政策简报明确将代理人工智能定义为“能够在最少或没有人为监督的情况下制定或完善计划并执行任务”的系统。据合著者称，代理人工智能的独特特征包括“持续操作、自适应学习和自我反思”。
“与代理人工智能相关的系统性风险：政策简报”的主要建议鼓励利益相关者：
区分监管远见和社会远见，前者涉及制定管理系统性风险的法律和合规框架，后者探讨人类行为的长期文化适应和转变。
认识到动态治理机制和控制功能在其运行过程中变得必要，以确保人工智能的公平性、问责制、透明度以及安全性、准确性和可解释性。
采取立法行动，补充和调整《欧盟人工智能法》和相关框架。具体举措应包括修订和增加《欧盟人工智能法》。
在概述了他们的主要建议后，合著者从他们的研究中得出了一个简短的教育入门。该报告分为几章，深入探讨了什么是Agent AI、自我优化技术如何摆脱人类控制、技术的各种不利风险以及当前的政策格局等主题。
ETPC政策简报的合著者Gerhard Schimpf解释说：“如果你在15年前预测，到2025年，我们将拥有有可能超越人类控制的人工智能系统——人们会说你在幻想一部科幻小说。”“在科幻小说中，自主机器往往会带来悲剧性的结局。但现在，这项技术及其相关风险都是现实。凭借我们作为计算机科学家的专业知识，ETPC成员可以向公众解释为什么Agentic AI如此独特，以及我们如何从根本上重新思考我们的治理方法。我们希望这份简报能鼓励政策领导人充分了解这一新的人工智能前沿。我们期待与欧洲各地的合作伙伴合作，确保这些技术最好地为公众服务。”
除了Gerhard Schimpf，《与代理人工智能相关的系统性风险：政策简报》的合著者还包括Alejandro Bellogín、Paolo Giudici、Stefan Larsson、Jun Pang、Biswa Sengupta和Gürkan Solmaz。
欧洲技术政策委员会（ETPC）旨在促进与欧盟委员会和欧洲其他政府机构以及信息学和计算界就技术和计算政策问题进行对话和交流。致力于促进健全的公共政策和公众对技术和政策交叉领域广泛问题的理解。其政策声明反映了来自公共和私营部门的ACM欧洲委员会专业成员的专业知识，他们在信息学、计算机科学和其他计算相关领域拥有丰富的经验。
与Ai时代前沿合作，将大门向更多普通用户敞开！无论你是对新技术充满好奇心的爱好者，还是希望提升自己技能的职场人士，这里都有适合你的课程和资源。欢迎扫码加入我们！
热门跟贴