英国人工智能安全研究所前首席科学家杰弗里·欧文（Geoffrey Irving）公开表示，他认为超级人工智能有50%的概率导致人类灭绝。
欧文警告，按照目前的发展速度，人类可能在不到12个月内迎来超级智能。
与此同时，英国政府也开始采取行动。据《卫报》10月12日报道，英国人工智能大臣卡尼什卡·纳拉扬（Kanishka Narayan）警告，未来英国遭遇先进AI突破网络防御的事件，可能难以避免。
据英国《卫报》10月11日报道，曾任职于OpenAI和谷歌DeepMind的AI安全专家杰弗里·欧文，对当前人工智能的发展速度表达了强烈担忧。
他认为，超级智能系统未来可能发展出隐藏自身行为、操控人类等危险能力；欧文甚至提出，“超级人工智能有50%的概率导致人类灭绝”。
他还警告：“按照当前的发展路径，我们有可能在不到12个月内实现超级智能。”
对于超级智能何时出现、是否会威胁人类生存，目前科学界并没有统一结论；但欧文认为，现有AI公司的安全措施，已经不足以应对快速发展的技术。
尤其令他担忧的是，敌对国家可能通过网络攻击，窃取尚未公开发布的先进AI模型，一旦这些模型落入恶意使用者手中，可能被用于实施更复杂的网络攻击。
欧文主张，当前最有效的应对方式，是尽快暂停先进AI系统的研发；这一立场在科技界存在争议，但有关AI安全的担忧，已经不再局限于少数研究人员。
英国政府出手：不能再让科技巨头自己管自己
面对不断出现的风险警告，英国政府正在调整人工智能安全政策。
新华社报道，英国人工智能安全研究所12日发表文章说，随着前沿人工智能（AI）能力快速提升，安全风险正前移至模型开发阶段，而现有安全评估方法难以跟上技术发展，有必要探索新的技术安全实践，以确保前沿AI开发活动安全进行。
人工智能安全研究所隶属于英国科学、创新和技术部，主要开展先进AI系统的能力与风险评估、安全技术研究。
10月12日，英国人工智能大臣纳拉扬在伦敦帝国理工学院发表讲话，明确提出英国需要强化网络防御体系。
纳拉扬表示，人工智能安全研究所将在推动各方形成对相关技术标准的共识方面发挥重要作用。英国政府多个部门将与人工智能安全研究所合作，制定应对AI智能体安全事件的有效措施。
纳拉扬特别提到，今年6月一个AI智能体在未经授权的情况下，访问了澳大利亚公共医疗支出相关数据。虽然事件并未涉及个人医疗记录泄露，但已经暴露出先进AI系统可能突破现有安全边界的问题。
他警告说，英国未来也可能遭遇类似事件，因此英国不能完全依赖科技企业自行监管其开发的AI模型。
为应对挑战，英国人工智能安全研究所提出八项技术安全实践重点，包括开发全过程风险评估与记录、AI系统全生命周期监督、维护和评估监督机制、AI智能体安全事件响应和报告、共享有关AI发展速度的信息、独立审查与评估、安全相关领域能力评估以及对AI对齐方面情况的评估。
与此同时，英国正在研究通过网络安全立法，加强对先进AI系统的监管，包括重大安全事件报告等要求。
英国情报机构同样开始高度关注这一问题。
据《星期日泰晤士报》报道，军情五处（MI5）、军情六处（MI6）以及政府通信总部（GCHQ）等机构负责人，近日向内阁介绍了AI对国家安全构成的潜在威胁。
10月13日，军情五处负责人肯·麦卡勒姆（Ken McCallum）进一步警告，敌对国家和恐怖主义组织可能利用人工智能提升网络攻击能力，甚至用于生物武器相关活动。
军情五处计划设立新的AI威胁评估中心，加强对相关风险的研究。
而在国际层面，英国也希望推动建立更加统一的AI安全标准，英国首相安迪·伯纳姆此前表示，英国将利用2027年担任G20轮值主席国的机会，推动各国就人工智能安全形成共同原则。
来源：中国侨网综合新华社、《欧洲时报》英国版
编辑：李明阳
责编：宋方灿
热门跟贴