几个小时前,我打开Lime应用扫二维码,双击iPhone侧边键授权Apple Pay,想租一辆电单车骑十分钟去心理治疗。应用卡了几秒,然后直接关闭。试了好几次,结果一样。我打开Uber,同样付不了款。再打开DownDetector才发现,整个Apple Pay都挂了——一个我以为只存在于手机里、不在云端的东西。

打开网易新闻 查看精彩图片

我只好给治疗师发消息,把手机塞进口袋,开始跑步。

租不到一辆电单车,是微不足道的小麻烦。但那几分钟里我脑子里转的东西——什么坏了、为什么坏、怎么坏的——最近几周,我认识的每个人都在反复经历。周末,一些平时根本不和我聊工作的人跑来问:飞机到底怎么了?我的银行为什么挂了?微软又是怎么回事?

很多人的默认假设是:要么是网络攻击,要么是广义的“AI”——AI失控、“流氓”AI代理,或者别的什么。这种第一反应本身,就说明人们对AI有多恐惧。我一般这么回答:东西坏了,而且还会继续坏,原因很多。它往往不是黑客攻击,也往往不是明确的AI问题,但一切现在看起来都像那幅XKCD漫画里的依赖多米诺塔。

说AI和网络攻击导致了这些宕机,不完全对,但也不算全错。我们看到的是一连串基础设施故障(以及一些网络攻击),它们之间没有直接关联,但大体上是同一批趋势和系统性问题的症状——过去几年,社会、政府和科技行业都出现了这些问题。

先要说一句:每当出现一连串宕机,人们总倾向于把它们串成一个故事。以前根本不会被注意的故障或黑客事件,突然被放大,成了叙事的一部分。比如国际冰球联合会遭到网络攻击——平时你大概不会听说这事,现在它突然成了更大故事的一块。

我能给出的最简单解释是:疫情以来,我们看到了这些事。

  • 科技行业和软件开发人员的大规模裁员
  • AI辅助和“氛围编程”产出的产品、软件更新与补丁被大规模部署
  • 政府部门大规模裁员,政府专业能力和监管被直接摧毁
  • 裁员和资金削减带来的机构知识流失
  • 基础设施升级和冗余投入的缺失
  • 政府合同被交给总统的朋友和政治盟友
  • AI和大模型辅助的漏洞发现、编码与部署
  • 企业用AI写的、赶工的补丁来应对AI黑客威胁

马斯克收购推特并改名X时,很多人认为他的裁员和随之而来的专业能力流失,会导致网站因基础设施故障而垮掉——总有人会弄坏什么,而没人知道怎么修。X并没有真的这样倒下,但“炒掉专家、把AI一股脑YOLO进所有环节、然后祈祷别出事”这套哲学,现在成了我们整个经济和整个政府的明确策略。

于是我们看到的,是密集扎堆的攻击、宕机和搞砸——当人们和公司粗心大意、不知道自己在干什么,或者面对新威胁时手忙脚乱地用胶带把东西粘起来,你就会看到这些。

我们知道这在一定程度上正在发生,因为PHP2Shell漏洞(借助大模型发现)曝光之后,各种网站为了比平时更快地推送更新而宕机——从漏洞被发现到被利用的时间,比以往任何时候都短。写这篇稿子的时候,用大模型发现PHP2Shell的公司之一Calif宣布,它又用大模型在Java里找到了看起来相当严重的漏洞。

企业和机构正在线上系统上直接推更新(包括我们的空中交通管制系统),部分原因正是AI威胁,然后东西就坏了。美国国家安全局周二早些时候说,一些内部系统因“计划内例行维护期间的临时性能下降”而宕机。

美国网络安全和基础设施安全局代理局长尼克·安德森周二表示,需要给基础设施注入更多韧性。但要在软件里建立韧性和冗余,需要的是理解系统可能如何失效的人,去做规划、去做缓解。

“最终能够胜出,靠的是展现出对中断的韧性,无论中断来自IT宕机、坏补丁、现代化更新出错,还是恶意网络事件——我们要确保在工程上内置这种韧性,能够预见并最终克服这些宕机和影响。”安德森在FedTalks活动上说。

我们也许最终会回到一个把专业能力和对高度复杂系统的理解重新当作优先事项的位置。但过去几年,企业和政府都在极快地行动,减少对人的依赖,把它卸载给AI系统和AI生成的代码,表面上是为了省人力成本,或者推进一个反人类的政策项目。

软件开发者吉米·布雷克-麦凯写的《软件正在系统性层面崩坏》一文很值得一读。他引用了克里斯滕·梅文《退相干陷阱》的观点:AI写的代码正在造成一种局面——人和公司不再理解自己的产品。

“大多数软件工程师现在离开某种形式的AI辅助就无法解决工程问题。这不是因为他们无能——他们只是跟不上这种复杂度,”布雷克-麦凯写道,“即便他们曾经能,现在面对的也是AI生成代码的海啸。这影响所有人、所有层级——我们都在对抗那股细小、孤立看合理、整体上却慢慢失去意义的不连贯变更的潮水。”

人们越来越不理解、也完全不知道自己的代码是怎么运作的,同时还在飞快地往前跑,坏事就这样发生。任何单次宕机或故障,某种程度上都可能是巧合。我们看到的许多宕机跟AI毫无关系,但确实跟基础设施、冗余和专业能力投入的长期缺失有关。我们正在对自己的整个经济和基础设施做“忒修斯之船”式的替换,所以,大概只能继续预期坏事发生。