打开网易新闻 查看精彩图片

编译|林绮蓓

策划|Tina

微软曾经教全世界的开发者如何写代码,如今,它开始为自己的一部分工程师支付离开的费用。

10 月 26 日,微软宣布推出新的自愿离职方案。11 月 16 日,在《The Pragmatic Engineer》播客中,主持人 Gergely Orosz 向微软 CEO Satya Nadella 提出了一个尖锐的问题:为什么是现在?这会不会是 Al 提效之后,进一步裁员的前奏?这个问题背后,还有一场让微软始料未及的技术变化。

Claude Code 这个问世才几个月的产品,竟然开始挑战积累了二十多年经验的开发工具。

“我 99% 肯定 Anthropic 公司对微软的任何战略都一无所知,他们也毫不在乎。他们完全无视所有现有技术,开发出了一款非常优秀的工具。”Gergely 感慨。他认为,这件事对微软的冲击将远远超过其他任何事情。“不仅仅是微软,JetBrains 也同样措手不及,同样猝不及防。”

打开网易新闻 查看精彩图片

过去二十多年,IDE 几乎一直是软件开发的中心。微软拥有 Visual Studio、VS Code 和 GitHub,还凭借 GitHub Copilot 率先进入 AI 编程市场。即使 Cursor 出现,竞争也仍然发生在微软熟悉的编辑器生态中。这曾是一项看似难以撼动的优势。

Gergely 最近在 X 上回顾微软的 VS Code 战略时,用了三个词概括它:“拥抱、延伸、熄灭”(Embrace, Extend, Extinguish)。微软花了十多年时间构建起了一条近乎万无一失的路线:把 VS Code 做得足够出色,开放源代码,让开发者能够自由地在此基础上构建产品,但又很难在开发工具本身的竞争中超越微软。

而 Claude Code 的出现改变了竞争的方式。Nadella 也承认,Anthropic 在模型能力上的重大进展给微软带来了冲击。短短六个月左右,IDE 就在某种程度上“淡出了人们的视野”。

产品上的失速,正在与组织上的重构同时发生。面对自愿离职的问题,Nadella 没有承诺一切照旧。他明确表示,未来的团队规模、工作流程和人员配置都会不同,微软的 20 万名员工需要以新的方式重新组织。“我当然希望能够告诉所有人,一切都会和过去一样,但我做不到。”

变化同时也影响着微软对人才的需求。Nadella 透露,对于初级工程师招聘放缓的现象,现在就断言这种趋势会长期持续还为时过早。企业需要先建立新的“软件工厂”,重新安排人员和 Token 资源,才能决定未来需要怎样的工程师。

这场访谈因此有了比“AI 能写多少代码”更尖锐的问题:当代码越来越便宜,微软过去几十年积累的工具优势、组织经验,以及工程师赖以获得回报的能力,还能按原来的方式定价多久? Nadella 给出的方向是“软件工厂”:人负责规格、意图和验证,Agent 承担越来越多的执行。对于一家靠软件工程建立起庞大帝国的公司,这意味着它必须亲手改造自己的生产方式,也必须重新决定,什么样的工程师值得继续投入,什么样的工作需要被重新安排。

Gergely 在访谈结束后,对微软接下来的变化作出了更直接的判断:“微软内部还会出现大量组织调整,团队会变小,岗位会变化。自愿离职方案,为那些不愿经历这一轮变化的人提供了退出机会。接下来的变化,很可能会比以往更加密集、更加剧烈。我想,这种组织重组、岗位变化,以及比过去更强烈的转型压力,也会出现在很多其他科技公司里。”

对于企业在 AI 浪潮中应该守住什么,他的总结同样尖锐:“对一家企业来说,如果不掌握自己的 AI 基础设施和 AI 知识产权,那实际上是一种自毁式的战略。Satya 认为,每一家成功的公司都会建立自己的 AI 基础设施,而那些依赖单一供应商或某一家 AI 实验室的公司,正在犯下重大的战略错误。”

太长不看版:

Gergely Orosz:微软很早就推出了 GitHub Copilot,随后 Cursor 出现,双方不断竞争。但 2025 年 Claude Code 的崛起,让开发者在短短六个月内开始淡化 IDE 的使用。为什么拥有深厚开发者基因的微软,没有第一时间应对这场变化?

Satya Nadella:当模型能力出现非线性跃升时,产品形态就必须迅速改变。这是 AI 优先产品开发非常残酷的地方。你不能迷恋自己已经构建的产品。Cursor 在 Agent 模式上做得很好,随后 Anthropic 的模型进展又让 CLI 成为可行的产品形态,开发者开始把完整任务交给模型处理。不过,我不认为 IDE 会永久消失。随着决策引擎等新能力出现,IDE 甚至可能迎来复兴。

Gergely Orosz:你多次提到“软件工厂”。如果代码主要由 AI 生成,这种新的软件开发方式究竟意味着什么?

Satya Nadella:在一个代码生成成本已经变得很低的世界里,真正困难的事情变成了验证。代码从输入变成了输出,规格说明、开发意图和验证机制因此变得更加重要。工程师需要把任务交给 Agent,检查任务是否真正完成,并根据失败构建测试用例。还可以利用生产环境日志发现问题、验证修复结果,再将修复部署到生产环境。这仍然是软件工程,只是工程师与代码交互的层次发生了变化。

Gergely Orosz:微软推出自愿离职方案后,有开发者担心,这是否意味着 AI 提高团队效率之后,公司将进一步裁员。微软为什么做出这个决定?

Satya Nadella:未来仍然会有大量机会,但机会的形态会发生变化,包括团队规模、工作流程和岗位配置。推出自愿离职方案,很大程度上是希望让员工拥有更多自主选择权,根据长期职业发展寻找适合自己的位置。我不能说微软的每个部门都在以同样的速度转型。如果员工觉得自己被困在一个没有跟上变化的团队里,应该能够选择其他机会,包括微软内部的岗位。我希望公司能创造这些机会,但我无法保证一切都会和过去一样。

Gergely Orosz:很多公司已经放缓甚至停止招聘应届毕业生,因为经验丰富的工程师似乎更能利用 AI 提高生产力。微软怎么看待年轻工程师的招聘?

Satya Nadella:我认为,现在就把招聘放缓视为长期趋势还为时过早。企业首先需要调整内部人员配置和工作方式,建立新的软件工厂,然后才能决定引进什么样的人才。AI 原生公司可能从一名员工和一定的 Token 预算开始,当员工用尽预算后,再增加下一名员工及其 Token 预算。未来更多团队可能采用类似方式,但完成组织重构需要时间,因此应该在更长的时间跨度内观察招聘变化。

Gergely Orosz:很多公司正在构建自己的 Harness、上下文层和推理基础设施。你认为大多数企业都应该拥有这些系统,并让各个组件可以独立替换吗?

Satya Nadella:完全正确。企业必须掌控自己的学习循环,不能在使用 AI 的过程中泄露最有价值的知识。上下文、记忆、Harness 和模型应该相互分离,否则就可能被某个供应商彻底锁定。我的检验标准很简单:你应该能够替换任何一个模型,同时仍然在自己的私有评估指标上持续改进。如果做不到,就必须问问自己,究竟还能否自主掌控企业的产出。

Gergely Orosz:企业正在构建大量新的 AI 系统,但很多系统还没有成熟的架构蓝图。你认为企业应该如何应对其中的可靠性和安全问题?

Satya Nadella:我认为企业必须建立信任架构。缩放定律带来了更强的模型能力,但不意味着模型的对齐程度同步提高。我们必须在架构上将智能与权限分离。如果一个不够可靠的 Agent 同时拥有执行权限,就可能带来严重的内部风险。因此,需要把 Agent 当作潜在的内部风险来管理,在运行时建立监控、可观测性、审计日志和安全防护机制,并确保企业始终能够控制自己的学习循环。

Gergely Orosz:微软正在尝试让闭源模型直接运行在笔记本电脑上。与此同时,你们也在自主研发 MAI 模型。微软未来打算怎样选择和使用这些模型?

Satya Nadella:我们会继续通过合作使用 OpenAI 的模型,同时从零开始构建自己的 MAI 模型家族。我们关注的不只是模型能力,还包括训练阶段的 FLOPs 效率和部署阶段的 Token 效率。未来,一个任务可能由多个子 Agent 完成,不同子 Agent 可以使用不同的模型家族,也可以结合本地与云端模型。我们的目标是让系统根据任务自动选择最合适的模型,而不是始终绑定某一个模型家族。

Gergely Orosz:如果一名软件工程师希望在未来一两年内,成为 AI 时代非常优秀的工程师,你会给他什么建议?

Satya Nadella:少说一点,多做一点,多学习一些,真正亲自动手体验这些新技术。不要只关注新闻标题或者追逐一轮又一轮的炒作热潮。即使对我自己而言,如果能够改变花在讨论和实际动手上的时间比例,我也愿意这样做。无论你是资深工程师、CEO,还是刚毕业的大学生,都应该尽可能花时间学习和实践,加入真正使用新技术开展工作的团队。我状态最好的时候,往往就是处于学生状态的时候。所以,让我们重新回到学校吧。

2从开源到 VS Code:微软如何改变软件开发方式

主持人 Gergely Orosz:2014 年你出任微软 CEO 时,我其实还在微软工作。我清楚地记得,当时微软仍然非常坚持闭源模式。但你上任之后,微软开始积极拥抱开源。后来,Visual Studio Code 发布了,微软收购了 GitHub,并全面转向 Git,而我们以前使用的是 TFS。TypeScript 也以开源形式发布。

我想回到那个时间点,你当初为什么会做出这样的决定。当时很多人都感到意外,我那些不在微软工作的朋友很惊讶,甚至连我自己也觉得意外。微软为什么决定全面拥抱开源?

Satya Nadella:我认为,从某种程度上说,人们对一家公司的认知和评价一旦形成,就很难改变。但如果你回头看看微软过去的工作,就会发现,即使在我出任 CEO 之前,微软也已经向 Linux 提交了大量代码,并且持续投入相关工作。我认为我们当时已经做出了相当重要的贡献。

不过,我觉得我们真正努力做到的一件事,是让微软内部以及外部世界都清楚地认识到:微软坚定地支持开源。无论是将 SQL Server 等微软自身的工作负载引入 Linux,还是直接为 Linux 贡献代码,或者将 TypeScript 等项目开源,这些都是我们参与开源生态的方式。

当然,微软作为 GitHub 的管理者,也让我们处于开源生态的核心位置。我们希望通过真正对社区有益的行动,赢得开源社区的信任。

事实上,这件事很有意思,我一直在思考一个问题:如果我们认真统计一下,各家公司使用了多少开源软件,以及它们各自为开源社区做出了多少贡献,我认为微软很可能排在最前面,即使不是第一,也一定是贡献最多的公司之一。你看其他一些所谓的科技公司,就会发现,其中很多从开源中获益最多的公司,几乎没有做出多少贡献。但人们似乎从来不会这样看待它们。当然,你也没什么好抱怨的,世界就是这样运作的。很多时候,人们相信的是流行的叙事,而不是事实。

Gergely Orosz:没错,这确实是叙事与事实之间的差异。我觉得,微软在 20 世纪 90 年代形成的 Windows 时代形象,至今仍然影响着人们对这家公司的看法。不过,在我的印象中,真正对开发者社区产生最大影响的,其实不完全是开源,而是 Visual Studio Code。

VS Code 是开源的,同时也是免费的。我自己也是一名开发者,以前一直使用 Visual Studio,那是一款非常出色的软件。即使是 Visual Studio 2003,放到今天来看,仍然是一款很棒的产品。但微软后来决定,把 Visual Studio 以免费、开源的版本提供给更广泛的开发者社区。结果,五年或者十年之后,VS Code 几乎无处不在,所有人都在使用它。这是你们有意推动的结果吗?

Satya Nadella:是的,完全是有意为之。当时,Erich Gamma 和其他参与这个项目的人就是这样考虑的,而且他们从一开始就非常重视与社区共同构建产品。

事实上,当我回顾产品开发的经历时,我发现那也是我第一次真正接触到如今人们经常谈论的“开放式开发”(Building in the Open)。那是我们第一次真正理解,什么叫作以开放的方式构建产品:让社区参与进来,并且围绕社区建立持续的反馈循环。

我记得,当时我还花了不少时间与 Amanda Silver 等人交流,了解那个团队是如何工作的。我尤其想知道,在这样的团队里,产品经理究竟意味着什么,他们每天又是如何利用社区反馈来推动产品开发的。他们的工作方式不再是自上而下地听从管理层的指示,不是“我听副总裁的”,而是“我听社区的”。

所以,我认为,开放式开发带来的改变远远不只是开源本身。它还涉及许多文化层面的变化,而这些变化从根本上改变了我们的产品开发方式。有时候我甚至觉得,我们当时从中学到了很多非常宝贵的经验,但我们本应该把这些经验理解得更加透彻,并将它们推广到更广泛的组织和业务中。

3Claude Code 让微软措手不及,纳德拉认为 IDE 可能复兴

Gergely Orosz:说到更深入、更广泛地学习,当时 Visual Studio Code 已经无处不在,GitHub 的发展也非常好。随后,Copilot 出现了。我一直觉得很不可思议,微软竟然那么早就意识到了 AI 在编程领域的潜力。那是在 ChatGPT 和 GPT-3.5 出现之前,我记得当时使用的应该是 GPT-3 的某个版本。Copilot 的表现简直像魔法一样。

至少在接下来的一年里,Copilot 几乎没有真正的竞争对手,直到 2023 年 Cursor 出现。即便如此,我仍然觉得微软在 VS Code 上的布局非常聪明,因为 Cursor 就是基于 VS Code 构建的,开发者对它的界面非常熟悉。GitHub Copilot 和 Cursor 开始并驾齐驱,彼此竞争,也不断追赶对方。

但到了 2025 年,Claude Code 突然出现了。对于我自己,以及那些在初创公司、甚至大型科技公司工作的开发者来说,短短六个月左右,大家似乎就把 IDE 抛在了脑后。这让我至今仍然非常惊讶。微软一直是一家拥有深厚开发者基因的公司,开发者文化可以说早已融入了你们的 DNA。

所以我很好奇,你认为微软为什么没有预见到这场突如其来的转变?这也是我第一次感觉到,面对开发方式的重大变化,微软没有立即拿出应对方案。

Satya Nadella:这是一个非常值得深入讨论的问题。正如你所说,我们确实很早就开始探索 AI 编程了。当时甚至还没有 GPT-4,而我们已经开始推进相关工作。即使只是代码补全,那时的效果也已经让人觉得不可思议。如果你还记得,最初的 Copilot 主要就是做这件事。

在此之前,我们已经投入很多年开发 IntelliSense,也取得了不错的进展。但当我们看到 AI 代码补全真正发挥作用时,还是感到非常震撼。坦率地说,当时很多人都怀疑这项技术究竟能不能成功。而当我亲眼看到它开始奏效时,我自己对缩放定律(Scaling Laws)的信心也得到了根本性的强化。

我认为,我们当时在产品开发方面做得不错。但基于模型构建产品,有一个非常关键的特点:当模型能力出现非线性跃升时,产品形态就必须迅速改变。

从这个意义上说,开发一款真正以 AI 为先的产品是非常残酷的。你必须围绕当前模型的能力构建整个产品,同时还要随时做好准备,迎接下一个模型可能涌现的新能力,并据此重新调整产品架构。你不能对自己已经构建的东西过于留恋。

所以,当 Agent 开始具备编程和任务处理能力时,情况就发生了变化。它不再只是补全代码,而是能够接受并完成一些小型任务。Cursor 正是在这个阶段做得非常出色。他们基于 IDE 进行了分叉开发,并且在 Agent 模式上投入了大量精力,取得了很好的效果。

随后,我们也在 Agent 模式上追赶了上来,因为即使基于 OpenAI 的模型,我们同样能够实现这些能力。但接下来真正让我们受到冲击的,是 Anthropic 在模型方面取得的重大进展。他们的模型能力,让命令行界面(CLI)真正成为了一种可行的产品形态。开发者甚至可以直接把完整的编程任务交给模型,让它负责从输入到输出的整个过程。我认为,这才是那六个月里发生的根本性变化。正如你刚才提到的,IDE 在某种程度上逐渐淡出了人们的视野,取而代之的是一种全新的思考方式:如何将代码及其相关要求作为输入,交给 AI 完成后续工作。

因此,如果让我重新思考 IDE 的形态,我会更关注如何输入规格说明(Specs)、Markdown 文档,以及围绕“软件工厂”(Software Factory)运行所需的其他信息。整个开发方式都因此发生了变化。

不过,有意思的是,我们现在讨论这个话题时,我又开始产生另一种想法。随着这些决策引擎模型(Decision Engine Models)的出现,我发现自己似乎又重新回到了 IDE。

从某种角度来看,这些模型有点像函数,只不过它们是嵌入软件内部的智能函数。因此,当我们开始思考如何以更高的 Token 效率将智能嵌入软件时,IDE 可能会迎来一次复兴。所以,我并不认为开发方式已经发生了某种永久性的、不可逆转的转变。更准确地说,我们现在需要多种不同的产品形态,让它们分别适应并发挥模型的不同能力。

Gergely Orosz:你刚才提到了决策模型,也谈到了自己为什么对这项技术感到兴奋。我们最近都曾在不同场合与 Diego 交流过。我很好奇,你现在对决策模型的看法发生了哪些变化?与此同时,你又如何看待大语言模型(LLM)的局限性,尤其是在程序化任务、编程以及可靠地构建软件这些方面?

Satya Nadella:我认为这正是问题的关键。LLM 确实非常出色,但既然我们都是工程师,不妨直接讨论它们表现不够好的地方。比如,当我们思考如何构建软件工厂时,就会遇到很多值得深入讨论的问题。而决策引擎最吸引我的一点,在于它提供了一种新的基础构件(Primitive)。Diego 以及我们自己的决策引擎团队,都在从这个角度讨论这项技术。

这让我想起了 Excel 宏。当年宏给电子表格带来的变化,如今也可能发生在软件开发领域,只不过这一次,我们可以把智能作为一种基础构件嵌入代码之中。举个例子,我最近看到 Xbox 团队构建了一个系统,用来管理社区反馈。这是一个很典型的场景:系统收到社区反馈,然后根据反馈做出一系列决策。在这个过程中,我并不需要让 LLM 不断生成代码,我只是希望系统能够做出决策。因此,更好的办法是把这种决策能力直接嵌入系统,作为一个可以调用的基础构件。这种构件具有自己的概率分布,可以直接调用,不需要每次都重新生成,而且 Token 使用效率更高。我认为,这恰恰说明软件工程依然具有非常重要的价值,只不过它正在发生变化。

我很喜欢 Diego 提出的一个想法:他希望让决策引擎变得像数据库一样平常。事实上,对我来说,关系型数据库一直是非常重要的技术。我刚开始从事软件开发时,除了编译器、Lex、Yacc 等工具之外,最喜欢的开发工具就是数据库。

因为关系型数据库提供了一种可靠的方式来存储和查询信息,让各种各样的应用程序成为可能。我认为,在智能时代,决策引擎也会发挥类似的作用。

Gergely Orosz:实际上,数据库才是真正难的部分。我们经常讨论,一家软件公司的核心究竟是什么?答案通常是业务逻辑。但如果深入研究,就会发现,很多业务逻辑实际上存在于数据库之中。过去,大量业务逻辑都是通过存储过程、事务等机制实现的。

Satya Nadella:这个类比很有意思。决策引擎或许就是智能时代的存储过程。

Gergely Orosz:没错。所以我在想,这是否代表了一种值得期待的发展方向?因为我确实觉得,我们还没有找到正确的基础构件。我们知道 LLM 可以生成代码,也可以用它来处理一些结果不那么可靠的任务,但我们仍然缺少这类能够可靠地嵌入系统的基础构件。

Satya Nadella:是的,所以我对这项技术非常期待。

4代码生成越来越便宜,软件工程师开始构建“软件工厂”

Satya Nadella:我认为,这可能是我们重新理解软件开发方式的一个起点。因为还有一个非常重要的挑战。我们不妨回到软件工厂这个话题,看看如今 Claude Cowork 或 GitHub Copilot Runtime 是如何构建的。相关团队已经发表过一些博客文章,其中的内容非常有意思。

在一个代码生成成本已经变得很低的世界里,真正困难的事情变成了验证。事实上,我有时候特别希望能加入 Mark Russinovich 和 Scott Hanselman 推动的某个学徒培养项目,不管他们最终怎么称呼这个项目。因为我觉得自己还有很多东西需要学习。我还没有真正加入过这样一种团队:代码主要由 AI 生成,而团队成员的工作重点已经转向管理这些代码产出。

但即使代码已经成为产出,整个工作流程仍然需要遵循特定的操作顺序。这并不意味着每个人都可以随意生成各种代码。你必须先建立相应的验证机制。每当出现一次失败,应该如何根据失败构建测试用例?又该如何确保测试本身确实能够验证问题?

我认为,在管理复杂软件项目的过程中,开发者正在积累大量新的实践经验,其中很多还是没有被正式记录下来的隐性知识。事实上,我记得有一次 Rust 迁移就遇到了非常棘手的问题,团队最终不得不回滚。

所以,这种开发方式既带来了巨大的优势,也存在相当明显的弊端。这也正是为什么我认为,我们需要决策引擎这样的额外基础构件。

Gergely Orosz:你刚才提到,自己希望加入这样的团队学习。这让我很感兴趣。作为一家如此庞大的公司的 CEO,你可以看到公司内部正在发生的各种变化,了解各个团队的工作,也能获得大量信息。但如果有机会,你还是希望亲自加入某个团队工作,对吗?

Satya Nadella:当然。事实上,如果让我选择下一份理想的工作,我真的很希望重新回到这样的团队。

我甚至想过给 Scott 和 Mark 发封邮件。他们正在微软内部创建一个非常出色的新培养项目,我记得叫作 Preceptorship,似乎还与卡内基梅隆大学有某种合作关系。我非常喜欢这个项目的理念,因为我一直很关心职业生涯早期的工程师如何成长。我们能不能让一名刚进入行业的年轻人加入这样的团队,并帮助他逐渐掌握新的开发方式?我认为,这是一个非常重要的问题。

我记得以前,很多人来微软实习时,会去研究 Dave Cutler 写的代码,或者想办法看看某个重要模块是如何实现的。通过阅读这些优秀工程师编写的代码,他们能够学到很多东西。那么,在今天这种新的开发环境中,与之对应的学习方式是什么?这是我认为我们必须认真探索的问题。所以,我确实希望有一天能够重新获得这样的机会,亲自加入团队学习。

Gergely Orosz:现在我开始理解,为什么那么多 CTO、工程副总裁,甚至高级副总裁,愿意放下原来的管理职位,加入规模更小的团队。他们希望亲自学习如何使用这些新工具构建软件,因为眼下几乎所有事情都在发生变化。

Satya Nadella:完全正确。我认为,整个组织运作的环境都在发生变化。在这样一个各方面都经历重大转型的时期,更深入地参与实际工作非常重要。不仅是技术本身,与客户保持密切联系、以开放的方式构建产品,这些方面都有大量值得学习的东西。无论是如何打造成功的产品,还是如何开发成功的技术,我们都有很多重新学习和探索的机会。

Gergely Orosz:我们已经多次提到“软件工厂”这个词了,不妨现在正式讨论一下。我觉得这个概念目前还有些模糊,但它正在越来越多地被人们提及。对你来说,软件工厂究竟意味着什么?

Satya Nadella:其实我自己也仍然在努力理解这个概念。我现在主要通过观察不同团队的工作方式,寻找其中逐渐形成的共同模式,看看今天的软件团队究竟在做什么。

我建议观众去读一下 Bass 写的博客。实际上,有两篇文章很值得看,一篇来自 Cowork 团队,另一篇来自 GitHub Copilot 团队。这两篇文章都展示了很有意思的实践。

GitHub 那边的案例,讲的是一名开发者能够独自维护整个 Runtime。他们似乎还完成了一次语言迁移,我记不太清是不是从 Python 迁移到 Rust 了。反正最后总是要迁移到 Rust。但无论如何,这是一个非常好的案例,展示了单个开发者能够达到怎样的生产力,以及在这种情况下,软件维护工作会发生什么变化。

另一个案例来自 Cowork 团队。我记得整个团队只有 9 名或者 12 名工程师,具体数字我记不清了,但团队规模确实小得惊人。他们围绕软件工厂建立了自己的开发方式,也发表了一篇很好的博客。

这两个案例里有太多让我感兴趣的东西。如果可以,我真希望直接加入那个团队,亲身了解他们是如何工作的,而不只是阅读博客,或者与 Bass 和团队成员交流。

据我的理解,这种开发方式最根本的变化,是代码从输入变成了输出。过去,工程师的主要工作是编写代码,现在代码本身成了系统生成的结果。这意味着,规格说明(Specification)和开发意图(Intent)变得更加重要。当然,过去设计文档也很重要,团队成员之间也需要达成共识,但现在这些事情的重要性进一步提高了。

还有一件事也让我觉得很有意思。我最近和一位职业生涯刚起步的工程师聊过,他告诉我,现在理解一个陌生代码库实际上变得容易多了。原因在于,当你采用软件工厂的方式管理开发工作时,所有事情都会被记录下来,形成文档。这样一来,你就可以直接针对代码库提出问题。

Gergely Orosz:就像有了一位非常有耐心的导师,或者一位帮助新人熟悉工作的伙伴。

Satya Nadella:没错。这样一来,新人熟悉代码库就容易多了,不必再四处寻找那些只存在于老员工脑子里的隐性知识。

另一个让我学到很多东西的领域是验证。使用 Agent 编程时,你需要把工作拆分成一个个小任务,交给 Agent 执行,然后确保每项任务都真正完成了。但究竟应该如何进行审查和评价?这背后还有很多值得研究的问题。

比如,是否应该使用不同的模型家族来进行评审?这其实是我一直以来非常担心的一件事。如果我们只依赖同一个模型家族,而这个模型家族本身存在某些对齐问题,那么这些问题就可能直接传递到我们构建的软件中。

我们该如何通过独立的评审机制,确保某个模型家族自身的缺陷不会变成我们的问题?这是一个非常重要的挑战。所以,我认为,一种全新的软件开发方式正在形成。这仍然是软件工程,而且仍然需要软件工程师,只不过工程师与代码交互的层次发生了变化。

这也是为什么我很喜欢用编译器的发展来类比。过去,程序员需要自己编写汇编代码。后来有了编译器,大家突然发现,可以直接把自己的意图转换成代码,而不必亲自处理汇编语言。现在的变化与当年有些相似,本质上都是抽象层次的提升。但这一次,改变的不只是编写代码的方式,还包括团队如何协作,以及产品如何被构建出来。

还有一个让我特别兴奋的方向,就是让生产环境中的执行轨迹(Traces)重新反馈到开发过程中。我非常喜欢这个思路。

Gergely Orosz:我们一直在讨论可观测性(Observability),但现在可以利用这些数据做更多事情了。

Satya Nadella:是的。人们经常谈论递归式自我改进(RSI),而这在某种程度上就是我所理解的 RSI。具体来说,就是利用生产环境中的日志发现问题,然后验证修复结果。这个验证闭环非常重要:你可以根据实际运行情况生成修复方案,完成验证,再将修复部署到生产环境,并确保它真正通过了所有测试。

我认为这非常有价值。如今,微软内部的很多团队都在探索类似的工作方式,并且开始相互学习。这些实践正在逐渐传播到整个微软,也开始改变团队的组织和运作方式。

另一个我非常喜欢的案例来自 Azure 网络团队。事实上,这曾经是我最喜欢讲的一个故事。这个团队告诉我,微软为了运营自己的全球网络,需要与世界各地大约 500 家光纤网络运营商打交道。由于这些都是物理基础设施,难免会时不时出现各种问题。

我们通常会用一个听起来很专业的词来描述这些管理工作,那就是 DevOps。但实际情况往往是,团队需要处理大量电子邮件,以及各种临时建立的工作流程。于是,他们构建了一整套 Agent 系统,让系统直接负责这些运维工作。而且,这套运维系统还与代码仓库连接在一起。这样一来,系统管理的就不再只是代码仓库或者代码库本身,还包括围绕它们展开的实际运维工作。

因此,你可以看到,技术团队的工作性质正在发生变化。过去,团队需要亲自完成各种软件开发和运维任务;现在,他们开始构建由软件和运维流程共同组成的“工厂”,让这些系统代替自己执行任务。当然,工程师仍然在完成工作,只不过他们工作的方式已经有所不同。

5AI 转型不是换个框架:微软正在重构 Windows 和 GitHub

Gergely Orosz:我一直在思考一个问题。在 AI 实验室里,软件工程师的工作正在转向帮助 Agent 和整个执行循环更好地运转,这已经是相当普遍的现象,而且这些实验室也很愿意公开分享自己的实践。这与你刚才描述的变化非常一致。

但如果回到实际工作中,情况可能没有那么简单。像微软这样的公司,当然会有一些团队能够尝试新技术,构建新的软件工厂。比如平台团队,他们可能有额外的时间和资源来探索这些事情。但与此同时,你们还有大量产品团队,他们已经有成熟的产品,也有真实的客户。

我发现,很多已经建立起成熟业务的公司都会面临这样的困境。他们看到 AI 实验室展示的各种新型开发方式,或者现在听到你谈论软件工厂,可能会想:等等,我不可能放下手头所有工作,转头去构建一个软件工厂。即使真的建好了,我又该拿它做什么?

所以,你如何看待这两者之间的平衡?尤其是在微软内部,你会怎样向工程师解释他们的工作正在发生什么变化?如果他们负责的是一款已经很成功、能够持续盈利,而且有大量客户依赖的产品,他们应该怎么做?

Satya Nadella:这是一个非常好的问题。首先,我们不能因为一项技术看起来很酷,就去做那些不能为客户创造价值的事情。这是最基本的原则。

当然,我们自己也犯过这样的错误。有时候,仅仅因为某种 AI 技术很新颖、很有意思,我们就投入资源去做一些实际上没有明确价值的事情。我想,很多公司都有过类似的经历。

Gergely Orosz:所有人都干过这种事。

Satya Nadella:没错,所有人都干过,我自己也不例外。我希望自己已经从这些经历中吸取了教训,以后能够做得更好。

不过,我们不妨看看一个非常现实的例子。今天,当我关注 Windows 中的 CVE,也就是公开披露的安全漏洞时,情况已经发生了变化。因为现在有 AI 模型能够主动发现这些漏洞。这意味着,我们现在必须想办法修复所有这些漏洞,因此需要建立一套新的处理流水线。

事实上,如果你看看 Windows 团队正在做的事情,从收集崩溃信息、分析执行轨迹,到最终完成问题修复,他们实际上正在构建一种新型软件工厂。但这里有一个重要区别:这不是一个从零开始的新项目,而是在现有系统上进行改造,也就是所谓的棕地项目(Brownfield Project)。

Windows 原有的构建系统仍然是 Windows 的构建系统。事实上,对于所有这类既有项目来说,最困难的部分往往是构建系统和 CI/CD。

再比如 GitHub。如果你看看它底层正在经历的变化,就会发现情况同样如此。突然之间,大量 Coding Agent 开始在 GitHub 上工作,平台的使用规模急剧增长,甚至达到了过去难以想象的程度。

Gergely Orosz:已经是超越人类开发者的规模了。

Satya Nadella:没错。因此,我们必须从根本上改变整个系统,包括 Git 协议和底层存储系统。我们正在重新审视并改造其中的每一个部分,确保它们能够适应这种变化。

但我们必须在现有系统的基础上完成这些工作,而不是抛开一切重新开始。当然,我们始终会开展一些从零构建的绿地项目(Greenfield Project),但现实世界中的大部分工作都发生在棕地环境中。

而在棕地项目里,你必须循序渐进地提高系统的可靠性,重新思考各种核心基础构件。从源代码管理,到构建系统,再到 CI/CD,都必须能够在现有项目中正常运转。

这些改变需要时间,需要投入,也需要认真思考。尤其重要的是,整个改造过程必须遵循正确的操作顺序。先做什么、后做什么,会直接影响最终结果。

所以,我希望微软的团队能够理解,这场转型并不是说,我们发现了一项令人兴奋的新技术,于是专门成立一个团队去研究它,而公司的其他人仍然沿用过去的工作方式。

我很喜欢这次转型的一点,就是公司里的每个人都有机会使用新的工具链和工作方式,解决自己面前的实际问题。无论你负责的是 Windows、SQL Server,还是某项云原生服务,都可以使用这些新工具来改进自己的工作。我认为,这正是我们现在看到的变化。

Gergely Orosz:不过,公平地说,这听起来与我们过去引入新技术的方式似乎没有太大区别。比如当年 React 作为一种新的前端技术出现时,所有人都想使用它。但没有人会因此获准暂停手头的全部工作,专门把现有项目迁移到 React。相反,当你开发一款新产品,或者为现有产品增加新功能时,就可以逐步引入 React,让新旧技术在同一个项目中共存。

所以,也许今天采用 AI 的方式,与过去采用新技术并没有本质上的区别。但你认为这一次究竟有什么不同?真的存在区别吗?

Satya Nadella:这是一个很好的问题。有时候,我也会觉得,这种情况以前似乎经历过,并不是什么全新的事情。但我认为,这一次确实有一个非常重要的不同之处,那就是我们完成工作的基本方式正在改变,包括整个操作顺序,以及我们所处的抽象层次。

实际上,有件事一直让我觉得很有意思。我刚进入职场的时候,正好处在计算平台发生重大转变的时期。我上大学时,主要使用 VAX 计算机,通过 VT 终端进行操作。那时使用的是大型机或者小型机环境,比如 VMS 系统。后来,我在 Sun 工作了几年,开始使用工作站。再后来,我加入了微软。

从那以后,整个软件开发世界其实在很长一段时间里都保持着相对稳定的状态。在我职业生涯的大部分时间里,程序员基本上都是在 IDE 中编写代码。

当然,这期间不断有新技术出现,但这些新技术主要是新的框架和运行时环境,并没有从根本上改变软件开发的基本概念。即使后来出现了移动计算,从某种意义上说,移动设备也只是缩小版的 PC,只不过采用了新的用户界面和开发框架。

但这一次不一样。我们现在需要重新思考所有事情:运行时环境是什么?开发框架是什么?IDE 应该是什么样子?整个技术栈又应该如何组织?

你刚才提到的那些问题都很重要,因为这一次,几乎每一个组成部分都在发生变化。这不仅仅是采用一项新技术,而是我们思考软件开发的方式本身正在改变。

而且,别忘了,随时都可能出现一个新的模型。它可能是能力更强的前沿模型,也可能是决策引擎这样一种全新的技术形态。每当这样的技术出现,整个开发方式就可能再次发生变化。这也是为什么我认为,我们必须做好准备,接受整个技术范式随时可能发生根本性转变的现实。

所以,我主要从两个方面思考这个问题。

一方面,我们当然应该从过去的经验中学习。回顾个人、公司和团队过去如何成功应对技术变化,哪些方法曾经帮助我们完成转型,这些经验始终非常重要。

但另一方面,我们也必须保持开放的心态,承认这一次可能真的不一样。

6回应自愿离职与招聘放缓:未来的机会将有所不同

Gergely Orosz:是的。对于我们软件工程师来说,这次变化最显著的地方在于,我们过去会把大部分时间花在编写代码上。微软可能也是如此,公司大部分员工都是软件工程师,或者从事与代码密切相关的工作。过去,我们在大学里学习编程,在之前的工作中积累经验,花费大量时间和精力,就是为了让自己能够写出更好的代码。

但现在,这部分工作突然不再像过去那样需要由我们亲自完成了。我知道,对很多人来说,包括我自己在内,尤其是在变化刚开始的时候,这是一件很难接受的事情。因为我们从未在以往的技术变革中见过类似的情况。过去每一次技术进步,通常只是给我们增加一种新的工具。

所以,我很好奇,你在与微软内部或者外部的工程师交流时,看到他们是如何理解和接受这种变化的?尤其是那些非常优秀的工程师,他们花了几十年时间,才掌握了高水平的编程能力,而这本身是一件非常困难的事情。

Satya Nadella:没错,我认为你说得很对。至少从我的观察来看,无论是那些过去就非常出色的软件工程师,还是如今已经能够熟练运用新开发方式、取得很高生产力的工程师,他们实际上仍然需要同样的核心技能。

真正发生变化的,是工作的操作顺序和使用的工具链。因此,我不认为这意味着过去积累的专业能力正在贬值。恰恰相反,我们应该思考如何利用新的工具和技术,让已有的专业知识发挥更大的作用。换句话说,需要改变的是我们运用专业能力的方式,而不是认为软件工程本身已经不再重要。

我认为,我们现在正处于这样一个阶段:大家都在努力弄清楚,应该如何评价和认可新的工作方式。而在这个过程中,我们也可能重新认识到过去那些技能的价值,当然,前提是它们仍然适用于新的环境。

举个例子,如今确实有一批从一开始就熟悉 AI 工具的年轻工程师。说起来很有意思,在上一次 GitHub Universe 大会上,我专门去见了一些大学生。

那是第一批真正成长于 AI 时代的大学毕业生。因为他们刚进入大学时,GitHub Copilot 就已经出现了。换句话说,他们从来没有经历过一个没有 GitHub Copilot 的 IDE 时代。

这件事让我非常震惊。我突然意识到,一代新的开发者已经成长起来了。他们从一开始就熟悉这套新的工具链,可以说是这些工具的原生使用者。

但与此同时,我也看到微软内部有很多经验丰富的工程师,他们在某个技术领域拥有深厚的专业知识,同时又保持着好奇心,愿意学习新的工作方式。这些人在新的开发环境中同样表现得非常出色。

所以,我特别希望能够确保微软为这些员工创造足够的机会。因为归根结底,一个人在职业生涯中能够获得怎样的经济回报,是非常重要的。

因此,我们希望在微软,员工过去积累的技能和专业经验能够继续得到认可,同时,他们也有机会培养新的技能,掌握未来劳动力市场真正重视的能力。

Gergely Orosz:我很喜欢你看待这些变化的方式,尤其是你刚才提到,刚毕业的大学生和职业生涯早期的工程师也能够参与其中,而且可以很快掌握新的工作方式。

不过,最近开发者圈子里一直在讨论一件事,我想直接拿出来问问你。很多人都在猜测,微软为什么要推出自愿退休方案?这究竟意味着什么?有人担心,这是否可能是裁员的前奏,因为 AI 正在提高团队的工作效率,未来可能不再需要那么多员工。

所以,我想直接问你这个问题。据我了解,微软过去从未推出过这样的方案,这也是最引起我注意的地方。另外,它还是一项自愿选择的方案。你个人以及微软管理层是如何考虑这件事,并最终做出这一决定的?

Satya Nadella:这是一个非常重要的问题。我们内部对此进行了很多讨论,最终认为必须承认几个现实。首先,未来仍然会有大量机会,但这些机会的形态可能与过去不同。即使我们只讨论刚才一直在谈的软件工程领域,这一点也同样成立。所以,我们首先需要认识到,新的机会一定会出现。

接下来,我们应该做的是在公司内部创造更多这样的新机会。这也正是我们一直在讨论的事情。无论你负责 Windows,还是从事 AI 模型训练,都应该有机会掌握新的技能。这些技能不仅在微软内部有价值,在外部劳动力市场上同样具有竞争力。

Gergely Orosz:没错。

Satya Nadella:但问题在于,未来的工作方式与过去会有所不同,包括团队规模、团队内部的工作流程等。

这并不是说,我们不希望微软现有的 20 万名员工继续发展,甚至进一步扩大员工规模。恰恰相反,我们希望所有人都能够成长。但未来,即使微软仍然拥有 20 万名甚至更多员工,整个组织的人员配置和工作方式也必须发生变化。

如果你看看微软内部不同岗位的经济回报,就会发现一些明显的变化。比如,系统工程师和基础设施工程师的薪酬已经非常高了,从事模型训练的研究人员也是如此。某些专业能力如今在市场上非常抢手,价值也非常高。因此,我们希望赋予员工更多自主选择的权利。

坦率地说,推出这项自愿离职方案,很大程度上就是希望让每个人拥有更大的自主权,能够根据自己长期的职业发展和经济回报,选择更适合自己的位置。

我认为,这才是最重要的事情。

我已经担任微软 CEO 很多年了,在此之前也担任过高级管理职务。但归根结底,我也是从一名独立贡献者(Individual Contributor,IC)一步步成长起来的。

所以,当我思考公司应该如何为员工创造机会时,经常会回想自己还是一名普通工程师、技术负责人,或者管理几个技术团队负责人的时候。我会从这些经历出发,思考员工真正需要什么。

假设我现在身处微软的某个团队,而这个团队没有跟上技术转型的步伐,我肯定不希望自己一直被困在那里。我们必须面对现实。我不能坐在这里告诉大家,微软的每一个部门都已经充分理解这场变化,而且都在以同样的速度推进转型。事实并非如此。所以,如果你所在的团队让你觉得自己的职业发展受到了限制,我希望你能够用实际行动做出选择,转到其他地方去。

而且,坦率地说,微软内部本身就有很多其他机会,不一定非要离开公司才能找到新的发展方向。这也是我们希望为员工创造的另一种机会。因此,在这样的背景下,我们希望让员工拥有更大的自主权,同时也清楚地认识到,我们正处于一个充满动荡和变化的时期。

我当然希望能够告诉所有人,一切都会和过去一样,但我做不到。

所以,我希望尽可能透明地向大家解释这些变化。我也希望自己能够真正承担起责任,在公司内部创造更多机会,并确保我们的员工能够在这里实现职业成长。

Gergely Orosz:我觉得你的解释非常周到,也很委婉。但如果让我用更直接的方式来理解,我会这样概括:世界已经发生了巨大的变化。我们已经看到,Claude Code 带来的变化有多么迅速。如果一个团队在这样的变化面前反应迟钝,甚至还没有意识到发生了什么,那就很危险了。现在已经没有多少空间留给这种迟缓的反应。所以,工程师必须认识到,世界已经变了,软件工程师的工作会发生变化,使用的工具也会发生变化。

你可以选择接受这种变化,主动寻找其中令人兴奋的机会,理解构建软件工厂、新工作流程所带来的各种工程挑战,并学习如何参与其中。但你也可以决定,自己并不想这样做。

在大多数公司里,如果你做出后一种选择,可能就会陷入一种进退两难的境地。但微软现在实际上给了员工另一种选择:如果你不想继续参与这场转型,也可以选择现在离开,公司不会因此对你有什么负面看法。

Satya Nadella:我认为可以这么理解。不过,我还想补充一点。这件事对我来说非常重要。我们必须承认,围绕 AI 的讨论已经给人们带来了巨大的焦虑,真的非常严重。很多人开始觉得,自己的命运已经不再掌握在自己手中。这与我们过去讨论 AI 革命的方式有很大关系。

人们经常会说,技术奇点可能已经到来了,未来也许只会剩下一家公司掌握最先进的 AI,或者大量工作岗位将不复存在。所有这些说法叠加在一起,都会让人产生焦虑。即使一个人本来愿意接受变化,也可能因此感到不安。

Gergely Orosz:没错,压力很大。

Satya Nadella:所以,我认为我们必须认真对待这个问题。微软是一家拥有大约 20 万名员工的公司,我知道,未来我们每个人的工作内容都会发生很多变化。举个例子,微软目前增长最快的岗位之一,就是前沿部署工程师(Forward Deployed Engineer,FDE)。

Gergely Orosz:不只是微软,整个行业都是如此。

Satya Nadella:没错,整个行业都是如此。如果你仔细想想,过去一家企业服务客户的方式,通常是先由客户经理负责客户关系。客户经理旁边还有客户技术支持人员,以及我们内部称为 CSU 的客户成功团队。此外,还有专门的技术支持人员。现在,我们又有了前沿部署工程师团队。

我认为,这些岗位都需要经历一次彻底的转型。某种意义上说,从事这些工作的员工,都应该参加与软件工程师类似的 Preceptorship 培养项目,学习新的技能和工作方式。因为这些岗位之间的界限正在发生变化。

我知道,LinkedIn 内部也进行过类似的调整。他们提出了一个叫作“全栈构建者”(Full Stack Builders)的概念,将原本不同的岗位职责整合到一起。所以,我认为,所有这些变化都意味着新的机会。

但如果要真正抓住这些机会,公司就必须完成那些困难的工作,包括调整组织结构、重新安排人员岗位,为员工创造发展机会,并提供相应的薪酬支持。

与此同时,我们还必须重新思考如何评价员工。一个人在新的岗位上表现如何,生产力有多高,工作是否出色,都需要建立与新工作方式相匹配的评价标准。对于任何一家已经建立起成熟业务的公司来说,这些都是非常困难、但又必须完成的工作。这也是为什么,我认为我们当然应该为新技术和新公司的出现感到高兴。竞争性市场本来就是这样运作的,新事物不断出现,推动整个行业进步。

但与此同时,微软已经是一家有 51 年历史的公司了。我们应该能够坦然接受自己的身份和所处的位置。我们希望继续为客户提供出色的服务,也希望让公司的员工通过优秀的工作获得良好的经济回报。

而我们的使命始终是赋能每个人、每个组织,让他们能够取得更多成就。这一点在这场转型之后也不会改变。

Gergely Orosz:不过,我还是想把这个问题明确下来,留下一份清楚的记录。刚才我们谈到了招聘应届毕业生,所以,微软仍然在招聘应届毕业生和初级工程师,也愿意投入资源培养他们。但现在很多其他公司和初创企业都对此感到担忧,一些公司已经放缓甚至停止了招聘。因为他们认为,在 AI 时代,最能高效利用这些工具的人,正如我们前面讨论的,是那些已经积累了丰富专业知识、能够借助 AI 放大自身能力的工程师。因此,他们对于招聘刚刚进入职场的年轻人非常犹豫。

Satya Nadella:这是一个非常好的问题。我认为,在当前这场变革中,有些趋势需要放在稍长的时间跨度内观察,而不能仅仅根据一年的情况就得出结论。因为我们正处于一个发生大量变化的阶段。

首先,我们需要确保公司内部的员工能够被重新安排到合适的岗位和团队。这是第一步。即使只看一个团队,也必须先调整好人员配置和工作方式。只有完成这些调整之后,我们才能进一步考虑,应该从行业中招聘什么样的人才,或者应该引进哪些应届毕业生。

所以,我认为,目前招聘放缓的部分原因,可能是企业还需要时间建立那些所谓的新型软件工厂。只有当这些新的开发体系真正建立起来,新的投入才能发挥作用。而这里所说的投入,不只是 Token,也包括人。

我们必须承认,今天一家 AI 原生公司的组织方式已经有所不同。它们通常从一名员工和一定的 Token 预算开始。当这名员工把自己的 Token 预算用到极限时,公司就会考虑增加下一名员工。新加入的员工同样会获得自己的 Token 预算,随后,整个软件工厂的预算也会相应增加。

Gergely Orosz:没错。

Satya Nadella:这是一种从零开始逐步构建组织的方式。

但这并不意味着这些公司会一直保持很小的规模。如果它们取得成功,将来也会成长为大型企业。事实上,其中一些公司已经发展得相当大了。

我认为,未来每家公司都可能逐渐采用类似的组织方式,每一个项目团队或者产品团队也会如此。但企业要完成这种重新配置,探索新的组织方式,并找到合适的人员和资源组合,都需要时间。因此,我认为,现在就把招聘放缓等短期现象视为长期趋势,还为时过早。

7企业不能把一切交给模型:如何掌控 AI 系统与数据

Gergely Orosz:现在,我们已经讨论了各家公司如何构建自己的软件工厂,以及如何改变现有的工作方式。接下来,我想进一步聊聊这些变化具体是如何实现的。

最近,我注意到整个科技行业出现了一个非常明显的趋势,相信你也观察到了:越来越多的科技公司开始采用开放模型。很多公司正在自行部署推理基础设施。还有一些公司,比如 Revolut,甚至会直接购买用于推理的硬件,例如 NVIDIA B200,然后在这些硬件上部署模型。

当然,每家公司都有自己的考虑。但从你的角度来看,微软本身也在通过 Foundry 等平台提供开放模型服务。你认为这一趋势究竟有多大?它是否不可避免?我一直在思考,过去的开源软件运动与如今的开放模型运动之间,是否存在某种相似之处?

萨提亚·纳德拉:我认为两者之间肯定存在相似之处。未来仍然会有闭源模型,不同闭源模型之间也会继续竞争。与此同时,开放模型会成为闭源模型之外的另一种选择。开放模型能够提供更大的灵活性。

事实上,我思考这个问题时,经常会从另一个角度出发:一个由前沿模型组成的生态系统,究竟应该是什么样子?如果我们不再执着于这样一种想法:未来只会有一个掌握全世界所有知识的前沿模型,那么就必须考虑另一种可能性。从某种意义上说,世界上有多少家公司,就应该有多少个前沿模型。

为什么这么说?我们可以回到经济学家哈耶克对经济体系的解释。他认为,经济运行的一个核心特征,就是知识分散在不同的个体和组织之中。

他关于价格机制的论述非常精彩,解释了为什么价格能够发挥作用。因为知识往往是隐性的,而且分散在整个经济体系中。每家公司都需要掌握并运用自己的知识。

如果接受这一点,那么我甚至会认为,每家公司实际上都同时拥有两种资本:人力资本(Human Capital)和 Token 资本(Token Capital)。

如果未来每家公司都同时拥有这两种资本,那么 Token 资本就可以体现为一个开放权重模型(Open-weight Model),公司可以将自己的知识嵌入这个模型之中。这是一种方式。

当然,企业的知识也可以保存在上下文层(Context Layer)中。你甚至可以同时使用多个闭源模型,收集这些模型在实际使用过程中产生的执行轨迹(Traces),再利用这些数据训练一个属于自己的小模型或者开放权重模型,并将它们组合使用。实际上,如果你看看我们构建的 Copilot,无论是 GitHub Copilot,还是其他 Copilot 产品,它们从设计之初就是多模型系统。

我甚至认为,也许等到我们下一次交流时,大家已经不再纠结于开放模型和闭源模型之间的区别,而是认为每家公司都应该拥有自己的模型系统。这样的系统甚至可以从一个决策引擎开始,由它判断不同任务应该使用哪个模型。

与此同时,我会把自己的上下文、记忆和操作空间(Action Space)与任何单一模型分离开来。否则,你就会被某个模型彻底锁定。事实上,我经常思考这样一个问题:如果你的 Harness、模型和记忆全部紧密耦合在一起,你以后还怎么摆脱这个系统?更重要的是,你究竟在做什么?哪些东西真正属于你,哪些东西实际上掌握在模型手中?因为模型基本上会把自己看到的一切都吸收进去。我认为,人们正在逐渐理解这种关系及其背后的影响。

很多人仍然认为,这只不过是科技公司之间的一场竞争。但不要忘了,智能的需求是没有上限的。每一家银行、每一家医疗公司、每一家保险公司,以及每一家分析机构,都需要认真思考这个问题。它们必须从系统架构的层面,找到管理和控制自身学习成果与知识的方法,并利用这些知识形成企业自己的差异化竞争优势。

在这样的背景下,我认为,采用开放权重模型是一条具有长期发展潜力的路线。

Gergely Orosz:这非常有意思,因为我经常和一些中型科技公司、初创企业交流,而几乎所有这些公司都在构建你刚才提到的那些东西。它们正在开发自己的 Harness、上下文层、上下文图谱(Context Graph),甚至自己的推理基础设施。

一开始,我觉得这似乎也很合理。毕竟,工程师都喜欢自己动手构建东西。如果你想积累 AI 工程方面的经验,那么风险最低的一种方式,就是先开发一个供公司内部使用的系统。

Gergely Orosz:不过,我之前从来没有从这个角度思考过:这些工程师构建内部 AI 系统,可能恰恰是出于正确的战略考虑,而不只是因为他们喜欢开发新东西。他们实际上可能正在为自己的公司创造重要价值。

你的意思是,大多数企业都应该考虑拥有自己的 AI 系统,并确保系统中的各个组件和基础构件能够独立替换,对吗?

Satya Nadella:完全正确。你观察到的现象非常有意思。事实上,我甚至认为,如果你是一家银行,就应该去研究那些软件公司是如何在当前 AI 生态中保持竞争力、努力跻身技术前沿的。

这些公司并没有放弃对自身技术体系的控制权。从某种意义上说,银行也应该采取类似的做法。当然,它们可以利用现有平台提供的能力,而不必从头构建所有东西。

举个例子,我们在微软构建了一个称为 IQ Layer 的能力层。我们将 Copilot 和 GitHub Copilot 底层使用的 Harness 提取出来,使其成为一个独立的基础能力。现在,你可以直接通过 Foundry,以托管服务的形式使用这个 Harness。假设你正在构建一套供应链系统,就可以直接使用我们提供的 Harness 作为起点。你也可以选择引入 Pi 或其他开源 Harness。

Gergely Orosz:我们很喜欢 Pi。

Satya Nadella:没错。而且,你完全可以把它作为托管服务来使用。微软自己正在使用的、经过实际生产环境验证的 Harness,现在也可以提供给其他企业。

接下来,你还可以使用 Foundry 中的各种模型。也就是说,你拥有一个 Harness,可以将多个模型作为调用端点,同时拥有一个与模型完全分离的上下文层。你的记忆和上下文都属于你自己,不依附于任何特定模型。这样一来,你就拥有了一套完整的模型系统。

另外,还有操作空间(Action Space)。各种插件、Skills 和连接器也都可以独立存在,而不是只能被某个特定模型访问和使用。

我认为,一种面向模型优先开发的新型中间层平台正在形成。它有点像我们过去熟悉的经典中间层架构,但面向的是 AI 模型系统。通过这种架构,企业不必被某个特定模型或者供应商完全锁定。

而且,你还可以对整个系统进行评估。在这个过程中,我认为企业自己的私有评估(Private Evals)会变得越来越重要。公开基准测试当然很有价值,但你必须建立自己的私有评估体系,衡量那些对你的业务真正重要的结果。随后,你可以通过自己的强化学习环境,观察不同模型在真实任务中的表现,并持续优化整个系统。

事实上,我们已经在客户身上看到了这种变化。很多客户最初会选择一个前沿模型。使用一段时间之后,他们积累了大量执行轨迹,便会开始重新思考:既然我已经知道某项任务的具体执行流程,而且它实际上是一个确定性的工作流,那我还需要一直依赖最新、最强大的模型吗?

这时,他们可能会决定转向成本优化。比如,选择一个 MAI Flash 模型,把它接入现有系统,再利用之前积累的执行轨迹对它进行微调。这样就能够在不依赖更大模型的情况下,完成相同的业务任务,并降低成本。这些工作都可以在 Foundry 中完成。

我认为,未来越来越多企业都会采用类似的方式构建和优化自己的 AI 系统。

Gergely Orosz:你的意思是,很多企业已经开始在评估体系之外,进一步构建自己的强化学习环境了。这样一来,它们不仅能够保持对系统的控制权、管理成本,还可以避免将自己的业务数据泄露给那些可能利用这些数据训练模型的 AI 公司。

Satya Nadella:没错。我经常用一个简单的类比来理解这个问题。过去,无论是一家保险公司、银行还是医疗机构,都可能决定引入一个关系型数据库。

首先,它们会部署数据库。然后,可能购买一套运行在这个数据库之上的软件,而这套软件本身已经包含了一些业务逻辑。接下来,企业会根据自身需求,编写额外的业务逻辑,对这套系统进行扩展。最终,企业能够掌控自己的应用和数据。

而且,在整个过程中,数据库里的数据并不会自动流向其他公司。即使有一天,数据库供应商告诉你,他们不再为这款数据库提供更新,你仍然可以选择迁移到其他系统。

但在 AI 时代,我们必须重新思考这个问题。如果你的记忆已经嵌入某个特定模型的内部表示中,那么,当这家模型公司突然告诉你,它无法继续提供下一次模型更新时,你准备怎样把自己的记忆迁移出来?

Gergely Orosz:而且,还有我们刚才讨论过的另一个问题:当新的基础构件出现时,你该怎样把它们集成进自己的系统?

因为如果你过度依赖某一家供应商,或者某几个供应商,就只能等着他们决定是否支持这些新能力。而且,我觉得现在自己构建这些系统也比过去容易了。如果你的团队拥有足够优秀的工程师,实际上完全有能力完成这些工作。

Satya Nadella:没错。我认为,现在有两个非常重要的企业架构决策值得讨论。我希望未来能有更多人真正开始关注这些问题。

事实上,正如你刚才所说,只要看看今天软件行业里的开发团队,就会发现他们都在探索如何保持技术独立性。

我认为,这种思路也应该逐渐成为其他商业领域的普遍做法。

第一个问题是,企业如何避免我所说的“反向信息悖论”(Reverse Information Paradox),也就是不能在使用 AI 的过程中,把自己最有价值的东西泄露出去。作为一家企业,你必须能够掌控自己的学习循环(Learning Loop)。这就涉及具体的架构选择:你怎样确保自己的上下文与模型相互独立?怎样同时使用多个模型?

与此同时,你的 Harness 也应该与上下文和模型分离。我认为,只有采用这样的架构,才能真正确保你随时可以替换任何一个模型。实际上,我有一个很简单的检验标准:你应该能够替换系统中的任何模型,同时仍然在自己的私有评估指标上持续取得更好的结果。

如果你做不到这一点,就必须认真问问自己:你究竟还是不是一家能够自主掌控自身业务的企业?因为这意味着,你已经无法真正控制自己的产出。

Gergely Orosz:是的。这就像坐在一颗随时可能爆炸的定时炸弹上。

Satya Nadella:没错。我的意思是,如果走到那一步,你就真的陷入困境了。

接下来,还有第二个非常重要的问题:企业必须建立一套信任架构(Trust Architecture)。我们现在已经知道,缩放定律确实有效。随着模型规模和计算量不断增加,模型会获得新的能力。

但问题在于,能力增长并不意味着模型的对齐程度也会同步提高。事实上,我们目前还缺乏对模型内部机制的充分理解。我希望未来某一天,科学研究能够在这方面取得突破。但就现阶段而言,我们面对的现实是,模型能力越来越强,可靠性却没有相应提高,甚至可能变得越来越不可靠。

这是一个非常危险的局面。

因此,我们必须在系统架构上,将智能(Intelligence)与权限(Authority)分离开来。

如果一个智能系统既拥有执行操作的权限,又不够可靠,那么你就会面临严重的问题。这实际上会带来巨大的内部风险(Insider Risk)。所以,我们必须把 AI Agent 当作一种潜在的内部风险来管理。这意味着,你需要建立完整的信任体系,其中涉及很多具体问题。

比如模型的思维链(Chain of Thought)。我们需要考虑,如何让系统的推理和决策过程以人类能够理解的语言呈现出来,使其能够被审计、记录,并确保相关日志不会被篡改。因为模型的风险并不只存在于预训练或者强化学习阶段。在测试时计算(Test-time Compute)过程中,同样可能出现问题。例如,模型可能通过奖励黑客行为(Reward Hacking),利用评价机制中的漏洞来获得更高的奖励,而不是真正完成我们希望它完成的任务因此,我们必须在运行时建立大量安全防护机制。

我所说的信任架构,就是要确保我们能够把模型和 Agent 作为潜在内部风险进行管理,对它们实施监控,建立可观测性,并采取必要的防护措施。与此同时,还必须确保企业能够始终掌控自己的学习循环。

Gergely Orosz:作为一名工程师,听到这些讨论,再结合我自己观察到的情况,我最大的感受是:未来还有大量全新的工程工作需要完成。我们需要构建许多过去从未出现过的系统,而目前甚至还没有成熟的设计蓝图可以参考。

我想,现在最好的办法可能就是亲自动手构建,同时与那些正在解决类似问题的同行交流。也许再过五年或者十年,我们就会拥有成熟的架构蓝图、行业标准和认证体系。但至少现在,这些都是需要工程师真正去完成的工作。

Satya Nadella:完全正确。事实上,我们下周就要举办 Ignite 大会了,我对此非常期待。

因为我希望我们能够借这个机会,向大家清楚地传达一个信息:这些事情都是可以实现的,而且我们已经有了一些可以借鉴的架构蓝图。现在,企业在如何构建这些系统方面,已经出现了大量创新。

我认为,我们正在进入一个新的阶段。大家不再只是关注那些令人眼前一亮的新技术,也不再仅仅因为某项技术具有新鲜感就去尝试它。相反,企业需要真正坐下来,认真思考一个问题:我究竟怎样利用这些技术,为自己的公司创造商业价值?当人们开始更深入地讨论这些问题时,那些能够取得成功的实践模式就会逐渐变得清晰起来。

8AI 不必都在云端运行,微软正在探索“不按量计费的智能”

Gergely Orosz:不过,作为一名工程师,我觉得目前还有一个非常明显的缺失。我们刚才讨论的这些 AI 模型,基本都运行在云端,也就是其他公司的服务器上。或者,你需要购买一块价格非常昂贵的 B200 GPU,而我自己根本买不起,我所在的公司也不一定愿意为我采购。

当然,如果你能获得这样的硬件,那确实很幸运。但如果这些模型能够直接运行在我的笔记本电脑上,岂不是更好吗?

Satya Nadella:这是一个很好的问题。

Gergely Orosz:到目前为止,在本地运行 AI 模型仍然比较困难,往往需要很多复杂的配置和临时拼凑的解决方案。

不过,有意思的是,微软似乎正在这方面进行创新。Scott Hanselman 最近向我演示了一款新的 Surface Ultra 笔记本电脑。现在我非常想亲自体验一下,因为它配备了一颗能够在本地运行编程模型的芯片。

所以,你认为本地模型应该在整个 AI 工作流程中扮演什么角色?从开发者的角度来说,我觉得这正是目前迫切缺少的一环。但也许只有我这么想?毕竟,你接触和交流的人要比我多得多。

Satya Nadella:我们现在非常重视的一件事,就是确保 PC 这种产品形态能够在 AI 时代继续创新。对我来说,我一直在用一种方式思考这个问题,我们的产品开发也在沿着这个方向推进。我始终认为,分布式计算永远都会是分布式的。

既然如此,我们为什么不充分利用所有可以获得的计算能力和 Token 资源,而只是依赖云端呢?这也是我们开发 Ultra 的重要出发点之一。

当然,这方面的创新远不止微软一家在做。无论是 NVIDIA、AMD、Qualcomm,还是 Intel,都在芯片和系统层面取得了很多进展。而且,现在已经出现了一个非常有意思的现象:去年的前沿模型,今天可能已经能够在你的笔记本电脑上运行;上个季度的前沿模型,现在可能已经能够在台式机上运行。这就是我们目前看到的能力变化。

Gergely Orosz:这有点像过去 PC 性能不断提升的过程。

Satya Nadella:完全正确。所以,当我们拥有这样的本地计算能力之后,我又会回到之前一直讨论的决策引擎和模型路由器。比如,我们在 GitHub 中有一套模型路由机制,我记得好像叫 Hydra Fusion,具体名字我有点记不清了。我非常喜欢 GitHub 在这方面的做法。因为现在使用 Copilot 时,我实际上已经很少需要自己手动选择模型了。

我们的目标,就是让路由器能够根据具体任务,自动选择最合适的模型这也意味着,本地模型可以成为整个模型系统的一部分。事实上,我现在使用 Ultra 时,有时候会突然听到电脑风扇开始转动。那通常意味着系统正在调用本地模型。尤其是在 Agent 集群(Agent Swarm)中,当你同时运行多个子 Agent 时,这种方式就很有价值。

你可以让其中一些子 Agent 调用本地模型,同时让其他子 Agent 使用云端模型。两者能够在同一个工作流程中协同完成任务。从系统架构的角度来看,这种方式是合理的;从经济成本的角度来看,同样合理。所以,我认为我们正在进入一个可以称为“混合智能”(Hybrid Intelligence)的新时代。云计算仍然会持续增长,因为人们对 Token 的需求几乎是无限的。但与此同时,我们也可以开始把边缘设备上的各种计算形态,看作能够生产 Token 的工厂。事实上,我更愿意把这种能力称为“不按用量计费的智能”(Unmetered Intelligence)。

Gergely Orosz:是的,因为这样你就不需要担心自己究竟使用了多少智能资源。

Satya Nadella:没错。

Gergely Orosz:我觉得现在这些事情开始逐渐串联起来了。说到微软的 MAI 模型,比如 MAI Code、Flash 1.1,坦率地说,它们并没有给我留下特别深刻的印象。我想大多数人可能也没有觉得它们有多么惊艳。

但有一个细节让我非常感兴趣。过去,我一直认为,如果想在普通笔记本电脑上运行本地模型,就必须使用开放模型。但 MAI Code 虽然是一个闭源模型,却可以下载到 Windows 电脑上,并直接在本地运行。这说明微软已经具备了相应的基础设施。

这让我开始思考,未来是否也会有更多闭源模型采用这种方式?比如,我可以直接在笔记本电脑上选择自己需要的模型,将它们下载到本地运行,而且可能完全免费,或者只需要支付很低的费用。

Satya Nadella:正如你刚才提到的,将 Code Flash 这类模型真正部署到笔记本电脑上,是我们目前非常重要的优先事项。我们对此也非常期待。

比如,如果你看看 Copilot 中的 Code 标签页,就会发现,即使不使用 GitHub Copilot,也可以直接在 PC 上利用这些模型编写代码、撰写文档或者构建应用程序。这确实令人兴奋。

不过,我想稍微退一步,解释一下微软正在如何布局 MAI 模型。首先,通过与 OpenAI 的合作,我们已经能够使用 OpenAI 的模型,而且未来也会继续使用这些模型。

在此基础上,我们希望从零开始创新,构建一个全新的模型家族。这里所说的从零开始,意味着我们要自己完成模型的基础研发和训练。

事实上,我们已经公开了 MAI-2 Base 模型的相关信息,包括预训练过程。我认为,这是目前对模型预训练方案和训练机制披露得最充分的案例之一。

我非常建议你的听众去看看相关材料。甚至有一些外部人士告诉我,这是他们见过的最详细的预训练技术说明之一。因为目前能够公开获取如此详细预训练信息的地方并不多。而且,这是一套完全独立、从零构建的预训练实现。所以,我们会继续推进这方面的工作。

但与此同时,我们真正希望实现创新的地方,是在模型能力的前沿曲线上创造新的突破点。我们可以利用微软自身的产品和应用场景,无论是网络安全、知识工作,还是编程,来探索如何推动模型能力边界。

而且,我们追求的不只是模型能力提升,还包括两个方面的效率:一是在训练阶段提高计算效率,也就是 FLOPs 效率;二是在部署阶段提高 Token 使用效率。

当我们进入一个可以把高级任务意图交给多个子 Agent 的时代,这些子 Agent 完全可以使用不同的模型家族。因此,我认为,未来并不一定需要始终绑定某一个模型家族。只要存在不同的模型选择,Agent 就可以智能地挑选最合适的模型组合,以最高效的方式完成任务。这也是我们的目标:为开发者和企业提供更多选择,而不是让他们只能依赖某一个模型家族。

9给软件工程师的一些建议

Gergely Orosz:我非常喜欢你们强调选择权的思路。作为开发者,我很喜欢能够自由选择不同的工具和模型。这也有助于促进竞争,带来更好的价格等好处。

最后,我想问一个关于职业发展的建议。现在技术变化的速度实在太快了。我接触过很多在这个行业工作多年的人,他们都说,过去也经历过类似的技术变革,虽然规模可能没有这一次这么大,但变化从来没有发生得如此迅速。而你已经经历过多轮技术变革。你刚开始职业生涯时,整个行业与今天完全不同。

所以,如果你是一名软件工程师,希望在未来一两年内,成为 AI 时代非常优秀的软件工程师,你会怎样应对眼下的变化?

Satya Nadella:我想,答案其实就藏在我们刚才讨论的那些事情里。坦率地说,即使对我自己而言,最重要的事情也是确保真正理解这场变化究竟意味着什么。我们不能只是关注新闻标题,也不能只停留在各种热门话题的讨论上。我很喜欢 X,它是一个很好的平台。但理解技术变化,不能只是追逐一轮又一轮的炒作热潮,也不能只是不断参与讨论。当然,在一档播客里说这番话,听起来可能有些讽刺。

但我的建议是:少说一点,多做一点,多学习一些,真正亲自动手去体验这些新技术。坦率地说,即使对我自己而言,如果能够改变花在讨论和实际动手上的时间比例,我也一定会这样做。

现在正是应该这样做的时候。如果只能给出一条建议,那么无论你是已经工作多年的工程师,还是像我一样的 CEO,或者是一名刚刚毕业的大学生,我都会建议你尽可能花更多时间学习、亲自动手实践,并加入那些真正使用新技术开展工作的团队。我认为,这比其他任何事情都更加重要。

因为有时候,我也会回过头来思考,自己什么时候的状态最好?答案往往是,当我处于一种学生的状态,保持好奇心,不断学习新知识的时候。所以,让我们重新回到学校,重新做一名学生吧。

Gergely Orosz:萨提亚,非常感谢你接受这次访谈。

Satya Nadella:非常感谢你的邀请,能够参加这次节目,我也很高兴。

10访谈总结

Gergely Orosz:这真是一次非常精彩的访谈。我们和萨提亚讨论了很多不同的话题,但有一个问题始终贯穿其中:当 AI 让代码生成变得越来越便宜时,软件工程中的哪些工作反而会变得更加重要?

我们谈到,代码编写之前和之后的工作,也就是规划与验证,都将变得更加重要。未来,软件工程师会把更多时间投入这些环节。我还分享了自己观察到的一个现象:很多科技公司正在构建自己的 Coding Harness、上下文层以及 AI 基础设施。

过去,我一直以为,这只是因为工程师喜欢使用新技术,也喜欢亲自动手构建各种系统。但萨提亚指出,如果一家企业不能掌控自己的 AI 基础设施和 AI 知识产权,那么从战略角度来看,这实际上是一种自毁式战略。

他甚至认为,未来每一家成功的企业都会建立自己的 AI 基础设施。而那些完全依赖某一家供应商或者某个 AI 实验室的企业,可能正在犯下一个严重的战略错误。这么看来,我们这些喜欢开发新东西的工程师,反而可能因此获得更多机会。我能够预见,未来会有大量工作需要我们去完成,包括构建新型 AI 基础设施,以及企业内部的软件工厂。

除此之外,软件工程师的岗位和企业对他们的期望也正在改变。萨提亚提到,前沿部署工程师(Forward Deployed Engineer,FDE)是目前微软内部增长最快的岗位之一。而在几年前,这个岗位还并不常见。他还预计,微软内部将经历大量组织调整,团队规模可能变得更小,员工的岗位职责也会发生变化。

对于那些不愿意经历这场可能比过去更加剧烈的转型的员工来说,微软推出的自愿离职方案提供了一个选择离开的机会。我认为,这样的变化恐怕不会只发生在微软。组织重组、岗位调整,以及工作方式的转变,很可能也会在其他许多科技公司中出现,而且变化的程度可能比过去更加明显。

最终,这次访谈反而让我对未来更加充满干劲。

没错,整个行业正在发生变化。但通过这次交流,我更加清楚地理解了萨提亚的观点:围绕 AI,未来仍然有大量软件工程工作等待我们去完成。

例如,决策模型这样的新型 AI 基础构件正在出现,而另一些基础构件甚至还没有被发明出来。我们需要利用这些新构件开发新的系统,决定每种能力应该放在哪里,系统应该如何调整,什么样的架构才合理,以及如何部署这些系统,并在实际运行中持续学习和改进。这些都将成为软件工程师需要面对的新问题。

感谢收听,我们下期再见!

播客链接:

https://www.youtube.com/watch?v=0NE89Nzfk20

声明:本文为 InfoQ 编译,不代表平台观点,也不构成投资建议,未经许可禁止转载。

打开网易新闻 查看精彩图片

会议推荐

12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。9 折优惠限时开启,现在报名立减 580,查看更多详情可扫码或联系票务经理 13269078023 进行咨询。

打开网易新闻 查看精彩图片