微软联合创始人比尔·盖茨最近的一番话，把人工智能的危险再次推上了热搜。
当地时间9月27日，盖茨接受美国全国广播公司（NBC）《新闻面对面》（Meet the Press）采访时，被问到AI是否强大到足以威胁人类。
他的回答相当直接。
盖茨表示，AI“确实强大到足以推动一些事件，造成10亿人的死亡”。
不过，这句话有一个非常重要的前提：盖茨并不是在预测未来一定会死10亿人。
他是在讨论AI被恶意人士利用时可能产生的极端后果。
AI为什么会这么危险？
盖茨认为，现在的AI已经不只是普通的软件工具。
如果拥有恶意目的的人，把先进AI与生物技术、网络攻击等能力结合起来，可能产生过去很难想象的破坏能力。
盖茨甚至表示，他认为从来没有一种武器，能够像“恶意人士+最新AI工具”这样的组合一样强大。
这也是他担心的核心。
不是AI突然自己决定“消灭人类”，而是人类自己掌握了一个越来越强大的工具。
毕竟历史已经无数次证明，人类最麻烦的地方就是，什么工具都能研究，研究完还喜欢研究怎么把它用坏。
盖茨：不能只让AI公司自己监管
盖茨还明确表示，仅靠AI企业自我监管是不够的。
当主持人问他是否需要美国政府通过相关法律监管AI时，盖茨直接回答：
“Absolutely（当然需要）。”
他认为政府、执法部门以及政界人士都应该参与制定AI安全标准，包括对AI系统进行必要的安全防护和监控。
盖茨同时认为，这些安全措施会给AI行业增加一些成本，但不应该因此大幅减慢AI的发展速度。
更让人意外的是：他认为AI监管比核武器谈判还难
采访中，主持人还问到了一个更加棘手的问题：
冷战时期，美国和苏联都曾经围绕核武器进行限制性谈判，那么现在美国和中国能不能用类似方式合作监管AI？
盖茨的回答是：
“这比当时更困难。”
他的理由是，核武器的生产需要特殊材料，而且核试验等活动相对容易被监测。
但AI完全不同。
AI主要由私人企业推动，技术发展速度极快，而且软件可以跨国传播，这让全球监管变得更加复杂。
但盖茨并没有认为AI只有坏处
有意思的是，盖茨并不是所谓的“反AI人士”。
相反，他长期看好人工智能在医疗、教育、科研等领域的潜力。
他此次真正担心的是，AI发展的速度可能超过人类建立安全规则的速度。
也就是说，问题并不是：
“AI到底好不好？”
而是：
“当AI越来越强大的时候，人类有没有能力确保它不会被用来做最糟糕的事情？”
这也是盖茨此次接受采访时反复强调的问题。
AI究竟会成为人类最强大的工具，还是人类制造出来最危险的工具，现在没人能给出答案。
但至少比尔·盖茨已经把一个数字摆到了桌面上：
10亿。
而这一次，他讨论的不是科幻电影里的机器人起义，而是现实中的人类如何使用越来越强大的AI。
热门跟贴