人工智能究竟会把人类带向哪里？
在《经济学人》最新专访中，马斯克给出了一个极其大胆的时间表：
大约五年后，人工智能的总体智慧可能超过全人类智慧的总和；
十年后，人类可能不再是人工智能真正的控制者。
这听起来像科幻电影，但马斯克讨论的，并不只是机器人突然反叛，而是一个更加现实的问题：当机器在几乎所有认知任务上都比人类更聪明时，人类还能否理解它、监督它，并在关键时刻让它停下来？
五年后，AI可能超过全人类智慧总和
过去，人们讨论人工智能，通常是拿AI与某一个职业比较：它能不能超过医生、律师、程序员或者科学家？
马斯克的判断更激进！
他认为，未来五年左右，AI可能超过的不是某个行业的顶尖专家，而是数十亿人类智力活动的总和。
这里的“超过”不一定意味着AI拥有感情和意识，而是它可以同时阅读海量资料、分析复杂数据、编写程序、设计产品、开展科研，并以远超人类的速度不断迭代。
当这种能力与机器人结合，AI影响的就不再只是办公室里的脑力劳动，也会进入工厂、物流、建筑、医疗护理和家庭服务。
马斯克预测，最终可能出现一个由AI和机器人提供绝大多数商品与服务的社会，人们不再必须依靠工作维持生活，物质也可能变得极其丰富。
“失去控制”究竟意味着什么？
当主持人问，十年后人类是否还能控制AI时，马斯克的回答并不乐观。
这并不一定意味着机器人拿起武器统治世界。
更可能出现的情形是：社会越来越依赖AI作出复杂决策，但普通人甚至开发者自己，已经无法完整理解其推理过程。
金融交易由AI决定，军事系统依赖AI判断，科研方向由AI筛选，企业经营和公共管理也交给算法优化。
人类表面上仍然拥有关闭按钮，却可能因为对系统的高度依赖而不敢关闭，也不知道关闭之后会产生什么后果。
真正的失控，可能不是机器拒绝服从命令，而是人类已经没有能力验证它的答案。
他为什么又对未来保持乐观？
马斯克长期警告人工智能可能带来灾难性风险，但这一次，他的态度明显更加复杂。
他承认，AI和机器人造成严重后果的风险并不是零，但他同时认为，人工智能的发展已经很难真正停止。
国家之间、企业之间都在竞争，任何一方主动停下，都可能意味着把技术优势让给别人。
因此，他现在更倾向于接受技术继续前进，同时尽可能为AI建立安全边界。
他提出，领先的人工智能公司可以在最先进模型发布前进行交叉审查，定期讨论安全问题，让竞争对手帮助发现模型中的潜在风险。
这只是预言，不是确定的未来
需要强调的是，马斯克给出的“五年”和“十年”，只是个人预测，并不是科学界已经形成的共识。
一项针对2778名AI研究者的调查显示，受访者对人工智能发展速度存在巨大分歧。
他们对“机器在所有任务上超过人类”的中位预测时间，明显晚于马斯克的判断，同时也有大量研究者认为，先进AI可能带来极端风险，需要优先投入安全研究。
马斯克可能高估了技术发展的速度，也可能低估了能源、芯片、数据、机器人制造以及现实社会制度的限制。
但他的预言依然值得认真对待……
因为真正重要的，不是AI究竟在2031年还是2040年超过人类，而是我们是否正在创造一种能力增长速度远快于治理速度的技术。
过去，人类发明的工具主要放大体力；今天，人工智能开始放大甚至替代智力。
当工具比使用工具的人更加聪明，摆在人类面前的问题就不再只是“AI能为我们做什么？”，而是：我们应该把多大的决定权交给AI，又如何确保最终的选择权仍然掌握在人类手中？
热门跟贴