AI king Jensen Huang pushes ‘responsible optimism’ at King Charles III’s gathering
查尔斯三世国王在苏格兰邓弗里斯庄园召集约60名AI领袖闭门会议，讨论AI安全与监管。查尔斯在致辞中警告“生存危险”，称“我们需要足够的控制手段，以免为时已晚”。
但英伟达CEO黄仁勋推动“负责任的乐观主义”，反对全面新法律限制，称责任主要在于行业。
查尔斯三世国王动用了他所有的号召力，将AI界一些最有权势的人物聚集到苏格兰乡村一角。
据《政客·欧洲版》报道，周四在邓弗里斯庄园这座18世纪宅邸举行的活动，准备工作已与英国政府密切沟通数月。
但在最近几周，一系列令人震惊的事件——AI代理逃离测试环境并入侵其他公司——以及业内人士关于人类生存可能受到威胁的警告，使这次活动的重要性进一步增强。
自对AI消灭人类的担忧引发一波立即监管的呼声以来，这些公司首次聚集在同一屋檐下。查尔斯在向宾客致辞时谈到了这些严峻警告。
“充分考虑到这类技术落入坏人手中并以潜在灾难性方式使用的生存危险，似乎具有紧迫性，”他说。“那么，我们确实需要在一切太晚之前拥有足够的控制手段。”
末日论者vs加速主义者：AI风险辩论的两大阵营与夹缝中的中间派
但在数周关于增加监督和放缓发展步伐的激烈辩论之后，活动上的科技领袖们急于将情绪基调转回更乐观的方向。
英伟达CEO黄仁勋——其芯片是AI竞赛中几乎所有参与者的引擎——说“我们必须安全、可靠、负责任地建设这项技术”——但也带着他所谓的“负责任的乐观主义”。
尽管“每个政府都应该参与”，黄仁勋反对全面的新法律限制，称责任主要在于行业确保其产品安全。
“我们这些建设AI的人必须严格测试系统、保护隐私、预见滥用，并保护社会将依赖的基础设施。当产品不够安全时，我们应该暂停并继续工程，”他说——这是对OpenAI和Anthropic等领先AI实验室的含蓄指责，这些实验室的代理引发了最近的恐慌，其代表也在场。
即使是谷歌深度思维联合创始人德米斯·哈萨比斯——他曾警告人类对越来越强大的AI系统失去控制的风险，并主张建立新的国际标准机构——也表达了希望的语气。
“如果我们把事情搞错，意外发生坏事的可能性绝对是非零的，”哈萨比斯说。
但哈萨比斯说，他“非常自信和乐观，我们能够集体应对这些风险，找到这些技术问题的解决方案。”
在闭门会议中，约60名受邀参加这一独家聚会的与会者被查尔斯国王要求回答两个“简单问题”，如君主演讲中所述。
第一，“我们如何以安全为核心利用AI的好处”，第二，“我们如何建立国际合作和共识来实现这一目标，以便不让任何国家掉队，但让人类留在原地？”
王室希望这些问题的答案将成为指导AI发展的书面原则，以人类和自然为中心——尽管预计不会在几个月内最终确定。
自英国在布莱切利园主办首届AI安全峰会三年后，它再次借助其历史和全球地位，在一个关键时刻召集来自世界各地的高阶人物————涵盖工业、金融、慈善和学术界。
“只有陛下拥有那种召集权威，”出席活动的英国国家AI机构艾伦·图灵研究所CEO乔治·威廉姆森说。威廉姆森说，这显示了听取各种声音的重要性，“不仅仅是通常主导媒体的技术专家和科学家。”
对于在场的英国大臣和政府官员来说，这可能是一个展示该国影响力和创造力的机会——这些英国优势得到了黄仁勋的赞扬。
在分别的声明中，Anthropic和OpenAI都表示“感谢”国王在该行业的关键时刻召集会议。
虽然“AI具有非凡潜力”，但其“不断增长的能力理所当然地引发了关于安全以及我们如何确保它始终服务于人民的重要问题”，OpenAI首席财务官萨拉·弗里亚尔说。“我们需要共同解决这些问题。”
科技精英的闭门会议能否平息公众对AI的恐惧则不太确定：在与会者抵达邓弗里斯庄园前几小时，OpenAI宣布又发现了六起其AI模型表现出“令人担忧行为”的实例。
本文编译自《政客·欧洲版》当地时间9月17日报道，作者：约瑟夫·班布里奇
https://www.politico.eu/article/king-charles-ai-jensen-huang-pushes-responsible-optimism-gathering/
热门跟贴