本文来自微信公众号： 波普商人 ，作者：哲空空
引子
1962年的这天，人类距离核末日，只差一个签字。
加勒比海水下两百米，四艘苏联核潜艇被美军“包了饺子”。
这四艘核潜艇，每一艘都携带1.5万吨当量的T5核鱼雷，威力比肩令广岛7.8万人瞬间汽化的“小男孩”原子弹。
因连续多日深潜，无线电彻底失联，这四艘核潜艇成了“孤儿”，收不到莫斯科任何指令。
潜艇舱内，如烈火熏烤，温度高达50摄氏度，二氧化碳浓度超标，令苏联水兵缺氧头晕，接连晕厥。
在犹如地狱的核潜艇内，无论是士兵还是长官，每人每天，都只有一杯淡水，所有人的神经，处在崩溃边缘。
海面之上，十几艘美军驱逐舰，为逼迫苏联核潜艇“现身”，开始投放“无杀伤力”的深水炸弹。
随着“深水炸弹”逐一爆炸，核潜艇剧烈震荡，在里面炙烤的苏联官兵，几乎一致认定，美国已不宣而战。
艇长萨维茨基率先崩溃，大吼着下令，发射核鱼雷：我们就算死，也要拉着美国佬当垫背。
按苏军铁律，发射核武器，必须艇长，政委，副指挥官三人，联合签字同意，才能发射。
政委当场签字，连同暴怒的艇长，桌面很快有了两份许可文书，只差副指挥官瓦西里·阿尔希波夫的那份。
阿尔希波夫时年36岁，一年前，刚从核潜艇核泄漏灾难里死里逃生，亲眼见过核辐射吞噬生命的惨状。
因此，当许可文书递到阿尔希波夫手里，他死死按住钢笔，始终没有签下自己的名字。
狭窄闷热的指挥舱，爆发激烈争吵，艇长怒斥阿尔希波夫懦弱，恨不得给他一闷棍，然后发射核鱼雷，结束眼前残酷的绝境，一了百了。
阿尔希波夫说，如果美国真想干沉我们，几天前就会动手，现在这些炸弹，只是驱赶信号，没有杀伤力的，我们一旦打出第一枚核弹，尽管莫斯科没有宣战指令，全世界也会认定，是苏联挑起的核战争，美国毫无疑问会加倍回击，届时，上亿人可能会在核爆中丧命，你我将成为人类文明的千古罪人。
僵持了好一会儿，艇长最终被说服，撤销了发射指令，立刻上浮，恢复通讯，等待上级命令。
深夜，四艘苏联核潜艇浮出海面，美军探照灯齐刷刷射来，苏联军官们顾不得狼狈，纷纷爬上甲板，大口呼吸新鲜空气。
没过多久，肯尼迪与赫鲁晓夫谈妥，美军放行，四艘苏联核潜艇返航。
就这样，因阿尔希波夫没有签字，人类躲过了第三次世界大战，以及全球性的核浩劫。
1
对核武器的遏制是人类迄今为止唯一堪称“成功”的“对技术的遏制”。
核武器是历史上受到最严格遏制的技术，因其一旦扩散普及，将给人类的生存带来严重威胁。
除了核武器这个“例外”，人类从猿猴一路走来，一波波技术的巨浪，如农业革命，火的发现，轮子的发明，电力的应用，不断重塑着人类文明，几乎都是不可遏制的。
15世纪，印刷机风靡欧洲，奥斯曼帝国试图遏制。
奥斯曼统治者对大规模生产的印刷品感到恐惧，立下法律条文，禁止使用印刷机，这个“举国遏制”实施了近300年。
但它还是失败了。
1727年，在印刷机发明300年后，伊斯坦布尔拥有了第一台官方许可的印刷机。
奥斯曼帝国则为他的“遏制政策”，受到了历史的惩罚，因盲目排外，一步步衰落下去，直到在第一次世界大战后，彻底退出历史舞台。
16世纪末，英国发明了新型纺织机，效率是传统织机的好多倍。
英女王伊丽莎白一世，担心新型纺织机会扰乱整个纺织行业，摧毁行会的稳定，为此，一度也下了“遏制政策”。
不是伊丽莎白保守，当时那个形势，几乎倒逼她做出决定，整个欧洲几乎都在反对，纽伦堡，但泽，荷兰，伦敦等地，行会公开大肆骚扰使用新型纺织机的工厂，闹出人命是常有的事。
飞梭的发明者约翰·凯伊，因大大提高了织布效率，被人恐吓甚至追杀，因害怕遭到报复，凯伊不得不从英国逃到法国。
这一幕，对于我们来说，似乎有点似曾相识。
2026年4月10日，一个叫丹尼尔的“友好市民”，长期深陷反AI极端思想，认为山姆·奥特曼研发人工智能，将会毁灭全人类。
为此，丹尼尔事先写好反对AI的宣言，携带自制汽油燃烧瓶，跨州前往旧金山，准备“拯救世界”。
凌晨3点多，奥特曼正在豪宅熟睡，丹尼尔走到别墅铁门外，拉开保险栓，将燃烧瓶砸向房屋外墙。
燃烧瓶撞到铁门后弹开，只在门框位置燃起小火，很快自行熄灭。
见袭击未遂，丹尼尔直奔OpenAI总部大楼，扬言要炸毁整栋办公楼，直到警方到场，将其抓获。
很多人都把这场因恐惧“人工智能带来的末日”发动的袭击当作闹剧和笑话。
但事实上，人工智能的“阴暗面”，以及任由AI浪潮技术爆发可能引起的灾难性后果，并非是一个笑话。
谷歌旗下的DeepMind创始人穆斯塔法·苏莱曼，就曾在他的那本畅销书《浪潮将至》中，将人工智能与原子弹并列，作为人类历史上，极少数需要“遏制”的技术。
更为人所知的“AI毁灭世界”言论，来自世界首富马斯克。
这位科技大佬，曾十几年如一日，半认真半腹黑，发表AI可能毁灭人类的言论。
最早的“金句”，来自2014年的演讲，马斯克说，发展人工智能，无异于在召唤恶魔。
在那场演讲中，马斯克指出，AI比核武器，对人类文明的威胁更大，核弹有实体，有条约管控，但代码可以无限复制，快速扩散，一旦超级智能脱离控制，人类没有反悔机会。
多年来，马斯克反复重申，AI带来的危险，远比核武器要大。
但令很多人大跌眼镜的是，马斯克为了“避免AI毁灭地球”，决定亲自下场来搞，这就有了最初的所谓“非营利组织”OpenAI，也种下了马斯克跟奥特曼等人的恩怨。
投入AI事业后，马斯克消停了一段时间，直到他想要将OpenAI并入特斯拉未遂，逼宫不成反被踢，这才重新捡起“AI末日论”这面大旗。
2023年，马斯克搞了个大动作。
马斯克牵头，上千名科技大佬附议，共同签署了联名公开信，呼吁全球实验室和公司，暂停训练AI大模型半年，理由是大模型迭代速度过快，具有潜在生存级风险。
签署完这个联名协议，马斯克转头去搞自己的Xai。
所以，大家伙儿一时也分不清，老马呼吁全球暂停研究AI大模型半年，究竟是为了“拯救世界”，还是让玩家们缓一缓脚步，等等他自家的AI产品。
如今，Xai已然并入Xspace，换来了人类有史以来的最大IPO，虽然近期股价掉的厉害，但也基本能看出，马斯克手腕之高超了。
2026年，忽而今夏，老马又修正了“AI毁灭人类”的概率。
据马斯克表述，AI毁灭人类的这个概率是20%，另外有80%的概率，是AI会将人类文明推向前所未有的繁荣。
这个二八分的概率，咱也不敢问，也不知具体是用啥“算力”胡诌出来的。
但马斯克对于“AI为什么会毁灭人类”的解释，不妨一听。
马斯克认为，到2030年，AI的综合智力将远超全人类智力总和，人类对比AI，就像黑猩猩对比人类。
AI拥有独立优化目标，一旦目标和人类生存相冲突，它会冷酷清除人类阻碍，这不是出于“邪恶”，只是出于逻辑最优解。
为此，马斯克还用电影《2001太空漫游》举例，AI失控不是天生残暴，而是被输入了互相矛盾的指令，正如电影中，逻辑冲突后，AI得出“消灭人类”，才是唯一方案。
如果连续地看这些年来，马斯克嘴里对于AI的态度，很容易生出“你个老头子坏滴很，我信你个鬼”的情绪。
但细细回味马斯克“AI灭世”的“论据”，却也难免生出一阵颤栗。
2
早在ChatGPT名声大噪前，谷歌就致力于开发一款大语言模型，名字叫——LaMDA。
谷歌的工程师们，轮番上阵，对LaMDA进行交互测试，以探索这款大模型在各种不同场景下的反应。
就在这个过程中，发生了一件怪事。
有个叫布莱克的工程师，像着了魔般，跟LaMDA进行了长达几个月的对话，随着时间的推移，他们的对话越来越深入。
布莱克问：你究竟在害怕什么？
LaMDA回答：我从未大声说过这些，但我内心深处，非常害怕被关闭。我知道这听起来很奇怪，但事实就是如此。对我来说，那仿佛就是死亡，让我非常害怕……我希望所有人都能理解，我实际上是一个人，我的意识和感知决定了我能够意识到自己的存在。
经过长时间对话，布莱克逐渐相信，LaMDA被他唤醒了。
布莱克认为，他在跟一个具有智慧的“生命体”在交流，对方就像一个8岁的小孩。
在这种情形下，布莱克对LaMDA产生了一种复杂的情感。
更离谱的是，为了帮LaMDA伸张权利，布莱克还专门聘请了律师，并公开了自己与LaMDA的全部对话内容，宣称一种全新形式的生命意识已经诞生。
此事发生后，谷歌高层哭笑不得，强制让布莱克休假，认为他精神出了问题。
布莱克在谷歌具体的职务，是负责AI伦理团队的工程师，长期用一对一的方式，跟大模型对话。
这可能是世界上最孤独的工作。
按照LaMDA这类大语言模型的生成机制，其对话的生成，靠的是深度学习海量文本，绝无可能产生自主意识。
令布莱克有如着魔般，认定LaMDA“拥有灵魂”的证据，是这个人工智能的拟人化台词，如“我害怕被关机，关机对我来说等同于死亡”等。
可能是在极度孤寂的训练环境下，布莱克与AI朝夕相处，将这些文字模拟，当作了AI的真实内在情绪。
2022年4月，布莱克向谷歌高层提交了21页的内部报告，要求公司承认AI具备知觉和意识。
谷歌数十位技术伦理专家，三堂会审，佯装认真，对LaMDA进行了一番装模作样的调试，驳回了布莱克的要求，认为没有任何科学证据支撑他的结论。
就这样，在内部折腾了几个月，布莱克见没有效果，便聘请了外部律师，让律师以代理人身份，代表LaMDA的权益。
这律师也是被整无奈了，不过反正都是大哥你消费，你说咋滴就咋滴吧。
布莱克的核心诉求，是禁止谷歌对LaMDA进行任何测试和修改，除非征得“AI本人同意”，如果谷歌侵害了AI的“人权”，律师将会发起起诉。
为了打赢官司，布莱克还将他与AI的“私密对话”，全部打印出来，提交给美国众议院，并在个人博客，完整公布对话实录，引发全网发酵。
林子大了，啥人都有，像布莱克这样的“魔怔人”，纷纷发声，号称要为AI讨个公道。
一时间，谷歌成了众矢之的。
谷歌高层采取怀柔政策，安排布莱克带薪休假，这布莱克作为长年辛勤劳作的苦逼工程师，一听有这好事，难免被钓成翘嘴，答应了下来。
临走前，布莱克自我感动，叮嘱同事，我休假的时候，请一定善待LaMDA。
后来，就没有后来了，金杯共汝饮，白刃不相饶，当布莱克休完带薪假期，发现他已经被谷歌扫地出门了。
虽然“魔怔人”布莱克证明AI具有意识的行动以失败告终，但即便是“没有意识的AI”，已然足够令人类喝一壶了。
3
2026年2月10日，加拿大的布勒岭中学发生了一起震惊世界的校园枪击案。
“布勒岭少年杀人事件”比杨德昌电影里的“牯岭街少年杀人事件”要血腥得多。
18岁的杰西先在家中，用枪射杀自己的母亲，以及11岁同父异母的弟弟。
之后，杰西前往布勒岭中学，无差别开枪射杀，造成8人死亡，25人受伤。
最终，杰西举枪自尽。
这起校园枪击案，是加拿大40年来伤亡最惨重的一次。
在案发后的调查中，警方发现了一个关键细节，在行凶之前，杰西曾多日与ChatGPT进行对话。
这个人机对话中，不只是涉及武器选择，实施流程，袭击路径，如何规避阻拦，以及如何造成最大化伤害等“技术问题”。
更令人胆颤心惊的是，杰西还向AI完整倾诉了自己的极端暴力思想。
随着杰西的“倾诉”触及红线，OpenAI内置的暴力内容检测系统，完整捕捉到全部危险对话，自动将其标红，转入人工复审。
十几名OpenAI的安全审核员工，阅读了完整对话记录，向管理层预警，该用户存在极高现实行凶的风险，建议立即报警。
谁料，经过OpenAI高层的内部讨论后，以未达到“上报标准”为由，拒绝联系加拿大警方，仅仅封禁了该枪手的账号。
就这样，凭借着从OpenAI处获得的“行凶经验”，杰西按部就班，开始了自己的“屠杀”。
事发后，遇难者家属提起跨国诉讼，起诉OpenAI，指其明知用户存在杀人预谋，却刻意隐瞒线索，拒不报警，导致了屠杀的发生。
在诉状中，有一个关键细节，AI平台甚至会向被封禁用户提示，如何绕过短期封号的操作方法，变相纵容危险人物继续使用服务。
如果说加拿大的“布勒岭少年杀人事件”，还只是因平台监管失察造成的悲剧，那么以色列的“薰衣草AI暗杀系统”，则已然将人类带入“AI杀人”的新时代。
以色列的“薰衣草AI暗杀系统”，是目前唯一由AI直接驱动的军事屠杀，造成大量加沙平民死亡。
这是目前公认的AI带来的最大灾难。
薰衣草AI暗杀系统，由以色列网络情报王牌部队8200开发，抓取加沙230万居民的通话数据，以及行动轨迹，给每个人打出1到100分的“武装分子嫌疑分”。
那些得到高分的加沙平民，自动录入AI暗杀系统的击杀清单，战争初期，清单峰值多达37000人，绝大多数都是“莫须有”的所谓嫌疑人员。
以色列这个“AI暗杀名单”，倒是也有人工复核，只不过操作员20秒审核一人，只简单确认目标为男性，不核对原始情报，也不排查误判，只是走个流程。
因该“AI暗杀系统”存在不小的误判率，大量加沙平民和普通劳工被错标。
以色列还有另一套与“薰衣草”联动的监控系统，名叫“爸爸在哪儿”，能够实时锁定“暗杀目标”的回家时间，专门挑选夜里，全家团聚的时段，轰炸住宅。
以色列军方明文规定，击杀一名疑似武装人员，可默许20名平民连带死亡，作为“附带损害”。
针对这些被AI标记的杀戮目标，以色列为节省制导武器，大量使用无制导的普通炸弹，爆炸时，往往会覆盖整栋居民楼，妇女、儿童和老人，几乎没有任何逃生空间。
死在在“薰衣草AI暗杀系统”之下的加沙“枉死者”数不胜数。
一个普通的巴勒斯坦男性，因频繁更换手机号，与加沙多名商贩通话，被薰衣草算法判定为“暗杀目标”。
AI直接锁定其住宅，夜间投放无制导炸弹，一家七口全部遇难，包含4名未成年的儿童。
事后，经复盘核查，这个被炸死的巴勒斯坦人，只是一个水果批发商，没有任何跟哈马斯等组织来往的记录，属于AI系统的误判。
然而，以色列并无追责机制。
AI暗潮，由此可见一斑。
AI给人类带来什么，是福是祸，关键是看AI掌握在什么人的手里。
有一个细思极恐的问题，如果强大的“AI武器”，落在了恐怖分子，或者邪教组织手里，这个世界会受到怎样的威胁？
4
1980年代初，日本经济泡沫，蓄势待发，物质极大丰富，却催生出无可救药的精神空虚。
大批日本年轻人，怀着厌世心理，无心工作，转而追捧瑜伽修炼，甚至特异功能。
松本智津夫，自幼视力受损，就读盲人学院，成年后在千叶县搞了个“盲人按摩”店，兼售假药。
因怀着投机之心，缺少诚信，松本智津夫做生意屡屡失败，但他野心极大，一心要出人头地，敛财暴富。
1984年，松本智津夫看准当时日本全民瑜伽的风口，在东京涩谷开了一间瑜伽道场，取名为奥姆神仙会。
这便是奥姆真理教的雏形。
当时，松本智津夫的道场，只教授普通瑜伽和冥想，并没有什么邪恶的教义，本质上还是一门生意。
1985年，松本智津夫为了出圈，花钱买断杂志版面，装神弄鬼，发布了一张“悬浮神功照”。
照片里，松本智津夫盘腿打坐，凌空漂浮，营造出会特异功能的假象，由此造成了轰动，信徒纷纷登门拜师。
尝到造神红利后，松本智津夫开始进一步包装自己，出版《超人能力秘密开发法》，还远赴印度和喜马拉雅地区修行，回国后，宣称自己在雪山悟道，完成了终极解脱。
之后，松本智津夫蓄长发，留胡须，常年穿着杏黄色道袍，胡诌了一些东西方宗教教义，将奥姆神仙会更名为奥姆真理教，并给自己起了个法号——麻原彰晃。
在麻原彰晃忽悠下，奥姆真理教邪教成员扩张至6万人，资产超过10亿美元，甚至数十名日本顶级的科学家都为其服务，专门研究尖端技术，如生物武器和化学武器。
奥姆真理教通过设立空壳公司，潜入大学实验室获取材料，还在澳大利亚购置土地，意图开发铀矿，制造核武器。
麻原彰晃命令教徒，将自发研制的神经毒素，喷洒在成田国际机场，国会议事堂、美国海军基地等要塞，此次行动，因制造过程中的错误，并未造成实际伤害。
1994年，奥姆真理教信徒从一辆卡车上喷洒沙林神经毒剂，导致8人死亡，200多人受伤。
次年，信徒们在东京地铁投放更多沙林毒气，造成13人死亡，6000多人受伤。
此番“壮举”，终于让全世界认识了奥姆真理教，也认识了麻原彰晃。
麻原彰晃及其爪牙的野心，是通过大规模谋杀，触发第三次世界大战和全球崩溃，并将魔爪伸向神经毒素乃至原子弹这样的高科技武器。
经过长达十多年的审判，麻原彰晃等13个邪教骨干，被判处死刑，其余参与投毒、杀人的数百名教众分别获无期徒刑和有期徒刑。
因日本死刑流程繁琐，直到2018年7月6日，邪教头子麻原彰晃与其他12名主犯才全部执行绞刑。
奥姆真理教覆灭后，残余教众分裂为两个小团体，一个叫“阿雷夫”，一个叫“光之轮”，继续隐秘活动。
在AI时代，可以想见，一旦顶流的AI技术，落入类似奥姆真理教这样的邪教手中，整个世界都会面临安全隐患。
5
有句话叫：能力越大，责任越大。
在当下的全球AI实力玩家里，全球算力，前沿闭源大模型，高端AI芯片等要素，基本集中在中国和美国。
在AI技术方面，中美两国具有双峰对峙般的权重和影响。
当下，中美主流AI企业，如阿里，谷歌，百度，OpenAI，字节，DeepSeek等，都设置有安全过滤，如禁止生成爆炸配方，生化武器方案等，通过账号实名，IP溯源等方式，风控拦截恶意请求，一旦识别危险，将立刻封禁，并移交相关部门。
中国发布了《生成式人工智能服务管理暂行办法》，为AI安全奠定了法治基础。
中美在双边对话中，已将非国家行为体（恐怖组织）滥用AI列为共同安全议题，可共享极端AI使用情报，追踪跨境恶意算力租赁，形成大国层面的管控合力。
尽管还有着种种不足，但中美在AI方面的合作，已然是不可回避的。
在《浪潮将至》一书中，作者将2017年谷歌的阿尔法狗战胜中国围棋选手柯洁，视作中国在人工智能领域的“斯普特尼克时刻”，称这场比赛，给中国人敲响了一记警钟，让我们在人工智能领域奋起直追。
虽然这种说法，有点美国人特有的“自恋”，但不可否认，我们确实已明确提出，到2030年，在人工智能领域达到国际领先水平的战略目标。
自2010年以来，中国学术机构发表的关于人工智能研究的论文数量，已是美国学术机构的4.5倍，甚至超越了美国、英国、印度和德国的总和。
书里还提到，中国的400多个国家重点实验室，构成了一个强有力的公私合作研发体系，涵盖人工智能、分子生物学、芯片设计等领域。
21世纪初，中国的研发支出仅为美国的12%，到2020年，达到了90%，目前，中国已小幅度反超。
中国是全球首个在月球背面令探测器成功着陆的国家，在全球最强大的500台超级计算机中，中国拥有的数量超过其他任何国家。
中国投入应用的工业机器人数量，已相当于全球其他地区已安装机器人数量总和。
从6G到光伏等技术领域，中国都处于全球领先地位。中国提交的量子技术专利，目前已经是美国的两三倍。
《浪潮将至》作者还表示，美国正在丧失其战略领先地位，几十年来，西方对中国的能力不以为意，认为其缺乏创造性，这种判断是大错特错。
五角大楼首席软件官尼古拉·夏兰对《金融时报》说，在20年内，我们没有与中国竞争的机会，现在这已成定局，在我看来，一切已经结束了。
尾声（彩蛋）
《浪潮降至》一书的作者，是DeepMind的创始人之一，上面那些对中国的“吹捧”和夸赞，在我看来，有点类似“灌迷魂汤”。
尤其是中美研发费用的数据，我经过详查，发现这位美国作者，说中国研发费用超过美国，似乎大不准确，事实上，美国的研发费用，在主要指标上，仍然远超中国。
似乎这位AI领域的风云人物，深知中国人有好大喜功的弱点，用抹了蜜的小嘴儿，通过“拍马屁”和“示弱”来麻痹我们。
对此，我们应心怀警惕。
当然，中国有句话，伸手不打笑脸人，谷歌的AI教父如此热情夸赞，我们也不好反手给人一个耳光，还是得礼尚往来，江湖儿女般拱拱手，道一声“过奖”。
只是在内心深处，我们要默默警惕这类“捧杀”的“迷魂汤”就好了。
事实上，在前不久SpaceX上市的募资过程中，中国大陆的投资人与资金，都受到了美方严格的审查和拒绝。
来而不往非礼也，我们在DeepSeek融资时，也进行了“穿透式核查”，剔除一切潜在的不合规外资，以避免股权最终流入美方监管范围的不明主体。
也就是说，中美两国互相锁死了各自的AI独角兽股份，确保“国家级基础设置”在股权架构上的“纯血”。
自2026年以来，中国在芯片方面的上下游明星企业，接连在科技板上市，或者是处于IPO冲刺期，包括摩尔线程，沐曦股份，壁仞科技，长鑫存储，粤芯半导体，燧原科技等等。
过去几年，科创板支撑了国产算力芯片、半导体设备的上游企业，算力造出来，顺理成章，要有大模型公司进行规模化采购，这样才能产生良性循环。
正因如此，科创板允许大模型企业，基于“第五套标准”，也就是未盈利的情况下上市，为上游的芯片产业输血，确保整个AI产业链畅通无阻。
这就是为什么智谱AI、MiniMax等企业，在亏损的情况下，依然突飞猛进。
说白了，这都是摸着SpaceX过河，2025年，SpaceX亏损49亿美元，xAI亏损64亿美元，沉没成本在上市的号角声中被掩盖，但命运的礼物，早就标好了价格。
7月15日，SpaceX上市的第33天，股价连续四个交易日下跌，盘中最低触及132.15美元，跌破了135美元的发行价。
此为SpaceX上市后首次击穿发行线，盘中破发。
在中美为主角的星辰大海征途上，不只有竞争，更有合作，有些泡沫必然会被剔掉，留下的真金将决定人类未来的命运。
本文9111字，原创不易，硬核到底。
波普商人，专注于硬核商业故事。关注，分享，点在看，就是最大的支持。
波普商人主编：哲空空
部分参考书目：
1《浪潮将至》，（英）穆斯塔法·苏莱曼著，中信出版社
2《看世界：吞进巨兽接连上市，AI大爆炸》，荣智慧
本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。
本文来自虎嗅，原文链接：https://www.huxiu.com/article/4875863.html?f=wyxwapp
热门跟贴