人工智能让每个人都能编程,但与许多技术问题一样,不真正理解基础知识会带来风险,路易斯·刘写道

“用简单的英语给我解释一下”或“告诉我你会如何向一个孩子解释这个”。这些是首席执行官可能会问技术员工的经典问题。虽然我觉得这种智力懒惰令人厌烦,但我同情这种想法:作为首席执行官或任何高管,你必须吸收大量信息,从宏观(地缘政治、中央银行政策)到中观(定价、产品市场契合)再到微观(员工问题、网站信息传递)。你将详细的思考“外包”给员工、顾问或合作伙伴。将批判性思维委托给其他人本身就存在很多问题——那么当你将其委托给人工智能时会出现什么情况呢?

这篇专栏的灵感来源于几周前,我邀请了我的老哈佛室友Momin Malik,一起喝咖啡和散步,聊了很多。Momin现在是梅奥诊所的一位领先的人工智能安全研究员。我们在大学一年级的第一堂课上坐在前排正中(如果你感兴趣的话,是理论线性代数和多变量微积分),从那时起,我们就开始了辩论。我们的辩论始于哈佛的餐厅,后来又在牛津的餐厅继续进行,那时我们都是研究生。

Momin有个习惯,总是向我提出他深思熟虑的想法,这些想法质疑我们对现实的认知基础。在大学时,他曾问过宇宙本身是否可以,或者应该用数学来描述(我除了是艺术专业外还是物理专业)——这仍然是一个持续的争论。这次,他提出了一个关于抽象的概念,下面会讨论这个概念是否会对人类进步产生不利影响,以及人工智能是否会让情况变得更糟,甚至灾难性。

抽象层次结构

抽象层次结构

在科学和数学中,我们把向上综合的概念(就像对你的经理汇报一样)称为“抽象层次”,这是科学家和数学家用来应对越来越复杂系统的相同思路。比如说计算机。晶体管是计算的基本单元,它是一个微小的半导体开关,可以控制电信号的开关。但逐个调整晶体管会耗费大量时间,所以我们把它们连接成逻辑门和电路,构成硬件基础。接下来,我们转向汇编语言,它通过位和逻辑操作直接控制这些电路。这仍然很繁琐,所以我们开发了更高级的语言,比如C和C++,让内存管理和编写人类可读的代码变得更简单。

不过,即使是C语言也可能让人觉得太接近硬件:为什么还要处理内存管理呢?这时Python应运而生,帮助程序员摆脱了“低级问题”。而现在,随着Cursor和Lovable等工具的出现,我们又跨越了一个新门槛:如果我们可以用简单的英语描述需求,为什么还要费力去写代码呢?在这里,晶体管被抽象成逻辑门和电路,逻辑门和电路又被抽象成汇编语言,汇编语言被抽象成C/C++,C/C++被抽象成Python,而现在,越来越多地,我们转向了氛围编码提示——自然语言本身成为了下一个抽象层次。

在每一个抽象层次上,为了更方便地完成更大的任务,你会失去两样东西:对细节的控制(这可能至关重要)以及你在系统中嵌入的核心假设。在上面的计算机示例中,vibe 编码感觉神奇,因为任何非技术人员都可以编写提示并在 Lovable 或 Claude Code 上构建一个简单的应用程序。然而,你放弃了对该应用程序构建方式的精确控制。

vibe 编码的缺点

vibe 编码的缺点

普遍共识是,vibe 编码尚未准备好用于生产环境的代码;对 AI 生成的氛围编码内容进行更改,通常比从头手动编写代码所需的时间更长。使用氛围编码时,你还假设你的应用程序会沿用之前应用程序的形式。存在一个有趣的现象,称为“紫色问题”,即大量新应用程序呈紫色,因为氛围编码软件在紫色上过度集中,因为紫色是最近的颜色趋势——我称之为 “知识崩溃”,并对此进行了广泛的讨论。如果你在迭代一个简单的东西,比如披萨外卖应用,这没问题,但如果你试图构建一些真正新颖的东西,那就不太合适了。

现在让我们将焦点转向人类思维和抽象。我们知道,首席执行官在每一层管理中都会失去细节,因为每一层管理都在“简化概念”以便于上层管理理解,而在这方面,有许多文献记载的灾难性案例。大众汽车的“柴油门”丑闻(2015年)和BP的德克萨斯城炼油厂爆炸(2005年)都部分源于信息在向上层传递时丢失了:工程师和管理者知道细节,但当这些信息到达高管时,细微之处就消失了。

现在想象一下,人工智能进入这个场景会怎样。尽管管理中的抽象层次存在问题,不过人类是独特的,拥有多样的思想。一个好的管理者可以根据上下文、信任和绩效来判断哪些信息应该抽象上去,哪些应该被丢弃。然而,使用人工智能后,每个人都配备了相同的集中式人工智能工具,得到相同的视角和信息。如果管理者使用这些相同的人工智能工具来决定哪些人工智能生成的信息应该被抽象和采取行动,那么最终得到的将是最基本的决策和知识。

这在许多方面都令人害怕,但即使从纯资本主义的角度来看,这也会剥夺你组织的差异化,让它变得和其他组织一样毫无特色。不要误解我的意思;人工智能在与独特的数据集、具有上下文意识的用户以及针对个别用户进行微调时,成为一种极其强大的抽象工具。确保我们人类积极质疑人工智能如何处理我们的信息,并仔细检查自己的假设,这完全取决于我们。

所以下次,作为一名领导者,我希望你:在你要求同事“用简单的英语解释某事”之前,试着理解一个更深层次的细节,质疑基本假设,并询问信息的来源。如果每位领导者都能做到这一点,也许我们就能把人工智能当作一种强大的抽象工具,而不是导致知识崩溃的工具。