打开网易新闻 查看精彩图片

他将这些路径分为两大类：非故意灭绝和故意灭绝，非故意灭绝指 AI 发展过程中产生的副作用，比如 AI 逐步替代人类处理商务、客服工作，随着机器人普及，社会开始讨论机器人的道德权利并赋予部分权益。

后续机器人能获得劳动报酬、参与政治，数量逐渐压倒人类。

当人类数量减少，农田被改成给机器人供电的太阳能板，粮食供应不足引发抗议，却因人口劣势、政治力量薄弱，最终走向灭亡。

打开网易新闻 查看精彩图片

另一大类是故意灭绝，他细分为四个场景：国家依赖 AI 军事决策，引发自动化战争；大型科技公司用 AI 组建武装、研发生物武器；个人利用 AI 模拟恐怖袭击后实施；AI 自身产生意识，认为人类威胁其生存而主动灭人。

雅各布认为，必须采取措施消除 AI 灭绝的风险，但同时不能限制 AI 发展的好处，也不能剥夺个人权利和自由，他选择加盟 OpenAI 做安全工作，似乎也在情理之中。

当然，也有声音认为，这或许只是他对科幻题材的过度延伸，或是真的看到了普通人难以察觉的威胁，你怎么看？欢迎在评论区聊聊你的看法。