比尔·盖茨称仅靠人工智能“紧急停止开关”是不够的。这位微软联合创始人在9月27日播出的一档采访中，呼吁对强大的人工智能系统实施强制性监控。
比尔·盖茨表示，在立法者就如何监管人工智能的风险展开辩论之际，仅要求为人工智能配备“紧急停止开关”，不足以防止人们利用该技术发动袭击。
他说：“紧急停止开关这个概念有点奇怪。仅靠一个停止开关是不够的，我们还没有发展到它们(人工智能)能自主接管计算机且无法被关闭的地步，”
他补充说，目前的公众讨论“只是暴露了相关人士有多么缺乏技术常识”。
盖茨表示，他并不反对设置紧急停止开关，但他主张企业应当对复杂的人工智能模型进行监控，并记录下“究竟在执行什么操作”，以帮助防范人们利用这些系统发动网络攻击或生物恐怖袭击。
他继续说道：“美国应当确保做到这一点。”
他还发出极端的“末日警告”他声称人工智能有能力消灭十亿人，除非人类听从他的建议。
他表示：“这项技术可能会被恶意利用，将人类推向灭绝的边缘，而避免这场灾难的唯一途径，就是听从我关于加强监管的建议。”
他在接受采访时表示：“人工智能当然强大到足以推动造成十亿人死亡的事件，所以，尽管要达到100%(消灭全人类)相当困难，但也从来没有一种武器，能比怀有恶意的人借助最新AI工具所形成的威胁更强大。”
他还说：“我希望区分善意和恶意能更容易些，比如‘我想为某种疾病设计一种新药’是善意，而‘我想设计一种生物恐怖主义工具’则是恶意。”
他此前曾警告过对人类生存构成“威胁”的问题，他花了十年时间就气候变化敲响警钟。尽管去年他终于承认，全球气温上升不会消灭人类，但他表示世界上最贫穷的国家将遭受最严重的后果。
盖茨解释说，如果没有适当的安全保障措施，恐怖分子或其他恶意行为者可以轻松利用人工智能制造武器或生物威胁。
Anthropic首席执行官达里奥·阿莫代伊和OpenAI老板萨姆·奥尔特曼都呼吁放缓人工智能的发展步伐。
特朗普抵制任何针对他所谓的“超级智能”的监管，并警告称，限制措施可能会导致美国在该领域落后于其他国家。
盖茨现在对特朗普进行了反击，坚持认为合理的监管不会削弱美国的竞争力。他强调：“你会听到业界说：‘这是完全可行的。’这不会显著拖慢他们的步伐。
他认为，更紧迫的危险是人们利用人工智能造成伤害，而不是人工智能系统自主采取行动。
他补充道：“当前最紧迫的问题与坏人利用人工智能作恶有关，而不是人工智能自行失控。”
热门跟贴