打开网易新闻 查看精彩图片

据外媒对相关文件进行研究显示,美国印第安纳州布卢明顿市议会因担心人工智能技术可能失控而禁止在该市以任何形式使用人工智能。

相关法令由市议会全部七名成员一致通过。该法令禁止在布卢明顿市范围内商业性传播、激活或使用人工智能系统。而且违规者本人不一定身处该市境内,只要其行为促成了人工智能代理在本地网络上的活动,即构成违规。

法令解释该倡议的原因是人工智能高速发展及持续改进尝试会带来风险。

文件说:“危险在于,拥有远超人类智力的人工智能将无法被控制。它将拥有自身的自主性。决定我们未来的将不是我们,而是人工智能。”

文件强调,人工智能模型几乎无法被有效测试,因为开发者自己也不清楚它们究竟如何运作。

文件作者指出:“他们只能尝试在模型收到相应请求时检验人工智能的能力及其‘思维链’。然而,最新的模型完全清楚自己正在被测试,并已学会欺骗测试。”

违反该禁令将被处以每个违法日2500美元的罚款。

鉴于人工智能带来的风险,文件作者提议实施“核技术级别的安全措施”。换言之,要废除该法令,需要达成人工智能使用安全率达到99.9999%的科学共识,以及95%市民的同意。

该法令已被纳入城市法典。为使法令生效,需获得布卢明顿市长的签署,但若20天内未获签署,法令将自动成为法律。