参考消息网9月10日报道 据法新社9月7日报道,联合国人权事务高级专员图尔克7日警告,人工智能(AI)可能对人类构成“生存威胁”,要求立即采取行动降低相关风险。
图尔克在联合国人权理事会发言时警告说,人类目前正面临对自身权利而言“陌生、甚至前所未有的”各类威胁。
他问道:“人工智能治理的必要性已得到广泛认可,但行动在哪里?”
图尔克特别警告说:“若人工智能脱离其测试环境,或是要挟开发者,阻止自身被关停,这样的人工智能就拥有了过大的力量。”
报道指出,他的这番话似乎在暗指7月曝光的开放人工智能研究中心(OpenAI)智能体逃出本应受控的环境,侵入程序员共享人工智能软件的平台“抱抱脸”的服务器这一事件。
据报道,该事件震动了科技界,导致科技界再次呼吁对人工智能实施更严格的监管。
Anthropic公司、元宇宙平台公司及其他一些公司也报告,在测试智能体期间发生过类似事件。
图尔克说:“我与业内人士有着相同担忧,即先进人工智能可能对人类构成生存威胁。”
他说:“我今天在此呼吁,全力以赴,在来得及的时候,为人工智能的安全保障建立牢不可破的保证。”
图尔克说,他将在未来数日致信人工智能企业,“敦促他们采取自身可控的措施,即刻降低风险”。
他表示,至少“开发人工智能的国家和参与其供应链的各方,需要共同商定红线。我们需要独立核验,行业内部也要开展力度大得多的安全协作”。
他还说:“我们还要考量人工智能在就业领域、民主基本原则和环境层面对人权构成的影响。”(编译/林朝晖)
热门跟贴