英国《星期日泰晤士报》和一些国际媒体最近披露，俄罗斯在乌拉尔山脉科斯温斯基卡缅山扩建并重启代号“1335号设施”的地下核指挥中心，外界称之为“死亡之手”。
根据报道，该设施能在俄本土受到核打击、最高指挥层没了之后，依然有能力向核弹的移动导弹发射车和发射井发送反击指令。
也就是说，就算最高级别领导覆亡或者失联，核弹照样能全部升空打出去。
传统的核威慑责任是非常清晰的，下令的人和负责的人一般都是总统、国防部长、总参谋长这些级别。
所以，过去的核设施是本身很隐秘，但命令发布一定有具体的人。
但“死亡之手”是一个自动化系统，它预设的命令是：如果领导层没了，只要时间一到，系统就会自动接管。
他们有专门的传感器，监测地震波、辐射、气压、通信静默这些数据。同时也有专门的算法，来判断本土是否遭受了核打击。
不需要最高级别的命令，值班军官在极短时间内就可以确认和执行发射的命令，让还幸存的发射井点火。
这个执行程序实际上是充满了未知因素的。反过来说，俄罗斯的最高层都健在反而还好，一旦他们长时间失联，这东西到底会不会发射出来，全凭系统决定。
这是一种非常可怕的“决策外包”，但到底包给了谁？没人说得清楚。所以这其实是一份自动执行的遗嘱：领导层如果覆亡，就要拉着全世界陪葬。
对世界具有毁灭性的决定，将不再由理性的政治判断决定，而是来自一个决策原则非常模糊的系统。
到了那一天，核报复似乎成了一种不可避免的自动化现象，这种场景似乎也很符合那些末日科幻电影的调调。
但现实不是科幻电影，一旦决策被这个自动化系统激发，只会让决定人类命运的错误更难被纠正。
这套系统不那么可靠，是因为它必须在信息极度残缺、时间也极度紧迫的情况下，在其中的一些决策者面临巨大压力的氛围中，要迅速判断“国家是否已被毁灭”，再决定是否让剩余的核弹全部发射。
核弹的发射决策交给自动化，本身就是一个巨大的风险。
比如，剧烈的地震也有可能被系统误读为本土受到核攻击，最高层领导人的通信中断也有可能来自于太阳磁暴、严重的技术故障，或者常规的军事打击，而不一定是对手的核攻击，甚至就连AI的网络攻击都有可能制造出虚假的信号。
所以这种做法是相当不负责任的，是一种“领导层都没了哪管他洪水滔天”的想法。但问题是这种想法本身就是极不靠谱的、充满偶然性的。
冷战期间核误判险些发生的案例有过很多次。1983年苏联的预警系统就因为云层反光误报过，2017年堪察加半岛地震也差点引发过误判。
还有一次是核潜艇收到了对方发动核打击的错误信号，幸亏当时的舰长要求再观察几分钟再说，否则还击的核弹就已经打出去了。
其实只要是人控制的核打击系统，都会很谨慎，没那么容易按下核按钮。但那个“死亡之手”系统只要被什么因素激活了，倒计时就会开始，根本没有缓冲后悔的余地。
这种级别的核反击之下，全世界人类都会受到影响，因为会引发核泄漏、核冬天和全球性的灾难。
这也是这个系统最不负责任的方面：人类的命运，就因为一个国家的报复而被捆绑在了战车上。
领导层完了却要让全世界陪葬，这是一种极度的自私。
从俄罗斯的安全角度看，它想靠这个系统防住“斩首”，可以避免对手直接打击克里姆林宫、总参谋部和战略指挥地堡。
但这种动机的逻辑成立不代表它具有人类伦理上的合理性。
“死亡之手”系统说白了就是——“我活不了，全人类也别想活”。
在最高领导层可能全部没了的假定之下，就把最后的报复权交给机器、算法和少数有决策权的低级别军官。
这个打击对象根本不止是对俄发动攻击的一方，全球数十亿人口、无数和冲突毫无关系的国家、未来几代人的生存环境，都会被拖进这场报复。
所以从本质上来说，这是一种极端国家中心主义、极端的领导层中心主义。
它的实质是，为了保障政权的报复能力不被剥夺，就要把全人类置于不可控风险之中。
防止本土被打击，就要让战争后果变得无法承受，让全球毁灭作为抵押品。
问题是，你征求全球的同意了吗？
战争中领导层覆灭是很正常的事情，如果真的发生了，到底谁还有资格代表“国家”按下最后按钮？这其实是模糊的。
如果系统误判，也根本没有责任人可以追溯。因为“死亡之手”从一开始就把责任设计成了无法追溯的模式。
这种价值观，实际上是让人类重新走向“同归于尽”的模式，而不是二战后建立的“克制和有限的战争”共识。
大国已经开始退回更原始、更不透明的对抗心态，“死亡之手”系统开了个坏头。
在AI时代，我最担心的一个结局是，有人（或者AI自身）故意利用错误信息，引导这套系统发射出核弹，从而让全人类走上万劫不复之路。
人类在未来如果走上毁灭之路，发动者一定是一个最不负责任的国家——我现在确信了这一点。
热门跟贴