Ethan Mollick 最近分享了一篇写于 AI 时代之前的短文——Richard I. Cook 的《How Complex Systems Fail》。全文只有三页，他却说值得一读。这篇旧文的核心观点是：复杂系统一直在带病运行，却依然存活。

为什么能活下来？因为系统里的缺陷很少同时对齐。它们分散在各处，彼此错开，反而给了人类介入和修补的机会。这个判断在系统设计领域不算新鲜，但放到今天，语境完全变了。

打开网易新闻 查看精彩图片

AI 改变了"缺陷对齐"的概率

打开网易新闻 查看精彩图片

Mollick 的提醒在于：AI 既能发现这些缺陷，也能制造它们对齐的条件。换句话说，过去靠"缺陷不同时出现"来维持的稳定，在 AI 介入后可能不再可靠。他因此提出，需要一套借助 AI 来构建的系统防御新哲学——不是抛弃旧框架，而是用新工具重新设计防线。

打开网易新闻 查看精彩图片

这篇三页纸的价值，不在于给出答案，而在于提醒：当工具变了，系统的脆弱点也随之移动。旧文重读，恰好是重新审视防御逻辑的起点。