硅谷核心圈的内部警报，这次是从最懂技术的那批人嘴里喊出来的。9月初，大模型企业Anthropic的核心技术人员雅各布·考克森突然离职。
他公开把矛头对准老东家和OpenAI，指责两家巨头争抢超级人工智能的势头，是在拿人类的生存下注。
队内分歧迅速摆上了台面。同一家公司里，有技术人员评估，未来十年这项技术引发灾难性后果的概率超过百分之十。
随后，Anthropic首席执行官达里奥·阿莫迪公开呼吁放慢研发脚步。
这一表态很快得到了萨姆·奥特曼和马斯克的回应支持。
前沿实验室的刹车声还没落定，比尔·盖茨在9月25日接受美国全国广播公司《与媒体见面》节目专访时，把话说得更重。节目内容提前流出后，迅速成为各方关注的焦点。
盖茨在专访中给出了极为罕见的定量警告。他表示，人工智能目前的威力，已经足以被用来引发导致十亿人死亡的极端事件。
这个数字震动了科技界。
翻看盖茨以往的轨迹，两三年前他还是全球新技术最坚定的推动者。盖茨基金会曾投入重金，利用算法模型进行疾病预测和药物筛选。
甚至在教育普及和消除贫困的议题上，他都曾寄希望于算力突破。
转向不是一夜之间发生的。今年8月26日，他在个人网站发表了一篇长达12页的长文，行文基调明显转入审慎。
他在长文中坦言，即便在最理想的状态下，眼下向新技术周期的过渡，也将是人类历史上最动乱的阶段之一。
梳理盖茨的逻辑脉络，他的恐惧并非源于虚无缥缈的机器自我意识。真正的危险，在于高门槛破坏工具的平民化。
门槛一旦被踏平，底线就守不住了。
最现实的威胁来自生物领域。长期深耕公共卫生的盖茨曾提到过一组对比：相比自然界随机产生的大流行，人为策划的生物恐怖风险，破坏力可能要高出五十倍。
自然病毒的扩散受制于客观规律，而人工干预可以人为选定节点与目标。过去合成未知的高致病性分子，必须依赖顶级国家实验室、数百人团队和数年时间。
现在的算力模型正在压缩这个周期。复杂的分子构型计算和变异推演，被压缩到几周之内。
原本属于大国军工级别的破坏潜力，开始向极少数极端个体渗透。这才是让防御方脊背发凉的地方。
关键基础设施的防御平衡同样被打破了。顶尖网络安全专家普遍表达了对未来几年的焦虑。
攻防两端的升级速度并不对称。攻击方利用模型快速扫描系统漏洞、定制攻击手段的能力，正在压倒传统安全团队的修补效率。
现代社会的脆弱性众所周知。电网、集中供水、交通调度和医院系统全部绑定在网络节点上。
核心能源网络一旦遭遇大面积瘫痪，哪怕持续数月，随之而来的次生断供，足以在人口密集的现代都市带造成灾难性的死伤。
还有舆论层面的破坏。虚假图像、拟真音频的大规模精准生成，让跨区域定向挑动群体对抗的成本降到了冰点。
在社会矛盾激化的敏感窗口期，这种算法投喂具备极强的动员破坏力。
既然风险清晰，行业内部能不能自我约束。
盖茨对此给出的答案极为冷峻：指望商业公司自我设限，是绝对行不通的。
理由摆在明面上。商业竞争的逻辑是跑马圈地，慢一步就意味着掉队，意味着估值缩水和融资受阻。
技术团队即便在测试中发现了底层安全漏洞，往往也会在商业赶工的压力下被迫让路。淡化风险、兜售技术神话，本就是硅谷商业运作的一贯打法。
正因如此，盖茨明确提出，必须引入执法部门和政界力量，实施硬性的强制监管。
这种监管并不是全面关停研发，而是针对高风险模型实施定向管控。涉及生物、化学、网络攻防等高危底层能力，必须建立严格的审查和流向监控机制。
反对声音自然不少。有人质疑此举会拖慢行业效率，也有人认为合规条款只会约束守法企业，根本挡不住法外之徒。
盖茨的反驳很务实。他认为建立基础防护规则并不妨碍工业发展，反而能给整个体系设立底线。
现实的困境在于，技术扩散从来不认国界，而监管却被锁在各自的边界内。
国际层面的博弈正在加剧这种迟疑。各国都在紧盯外部竞争对手的研发进度，谁都不愿意率先压制本国的技术迭代速度。
大家都在谈论规则，真正落地的强制性法案却寥寥无几。
算力的狂飙没有停下，防风堤坝的修筑却还在算计各自的得失。这种微妙的僵局，可能比技术本身的漏洞更难解决。
热门跟贴