“智慧赋予权力。那么谁来控制这种权力呢？
世界领先的人工智能先驱之一警告说，日益强大的技术不仅可能危害世界，而且掌管这项技术的人也可能同样危险。
在接受CNBC采访 时，计算机科学界泰斗 Yoshua Bengio 表示，精英技术“边缘”成员希望人工智能取代人类。
Bengio 是蒙特利尔大学学习算法研究所的负责人，也是OpenAI 顶尖人工智能研究人员撰写的“警告权”公开信的公开签名者之一，这些研究人员声称，他们被禁止公开谈论该技术的危险。他与著名专家 Yann LeCun 和 Geoffrey Hinton 一起被称为“人工智能教父”。
“智能赋予力量。那么谁来控制这种力量呢？”这位杰出的机器学习专家在蒙特利尔举行的 One Young World 峰会上告诉媒体。
“有些人可能想滥用这种权力，有些人可能乐于看到人类被机器取代，”本吉奥声称。“我的意思是，这是一种边缘现象，但这些人可以拥有很大的权力，除非我们现在设置正确的护栏，否则他们就可以这样做。”
金钱万能
这位深度学习专家指出，由于建立人工智能系统耗资数十亿美元，因此财力因素不容忽视。
“很少有组织和国家能够做到这一点，”蒙特利尔大学人工智能实验室负责人说。“事实已经如此。”
“权力将会集中：经济权力可能对市场不利；政治权力可能对民主不利；军事权力可能对地球的地缘政治稳定不利，”他继续说道。
目前，专家们对通用人工智能或人类水平的人工智能能否实现以及何时实现存在分歧。Bengio 认为，如果在全球政策跟上之前实现通用人工智能，我们就有麻烦了。
“如果是五年的话，我们还没有准备好，”他总结道，“因为我们没有办法确保这些系统不会伤害人类或者不会攻击人类。”
虽然 Bengio 并不是第一个对人工智能的危险发出警告的人工智能专家，但他却有着不同寻常的威严；毕竟，他参与了人工智能的创造。
阅读最新前沿科技研究报告，欢迎访问欧米伽研究所的“未来知识库”
未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。
截止到11月25日 ”未来知识库”精选的100部前沿科技趋势报告
热门跟贴