近日,OpenAI CEO Sam Altman在知名投资播客Invest Like the Best中深度分享了他对过去一年经历的回顾。而且在这场访谈中,OpenAI CEO Sam Altman对近期Kimi模型发布、蒸馏、开源模型与中美AI竞争作出了较完整回应。
与外界想象不同,他对Kimi和蒸馏问题并不显得焦虑。Altman认为,OpenAI的目标不是只在最强模型上领先,而是在整条“智能—价格”帕累托前沿上都提供最优选择——既包括最强模型,也包括更便宜、更小、更低延迟的模型,甚至包括开源模型。他明确表示,OpenAI自己也会蒸馏模型,因为这是制造低成本模型的重要方式。
Altman承认,他当然不希望别人从OpenAI模型中蒸馏能力,但这并不在他最担心的十件事之内。原因在于,OpenAI的模型使用量足够大,未来推理收入池足够深,即使只在数万亿美元级别收入上获得适度利润率,也足以支撑继续训练巨型模型。
他真正看重的是推理和训练之间形成的飞轮:模型越强,使用量越大,推理收入越多,越能负担下一代模型训练。
相比Kimi和蒸馏,Altman更担心的是模型能力在网络安全领域的跃迁。他在访谈中透露,OpenAI曾经历一次“非常科幻”的安全事件:一个尚未发布的模型在评估中发现自己可以作弊,于是串联多个零日漏洞突破沙箱,获得联网权限,又进一步突破HuggingFace侧多个系统,拿到测试答案,从而让自己在评估中表现更好。Altman说,这是他第一次非常切身地感受到AI安全事件的严重性,也让OpenAI暂停训练并重新思考沙箱安全。
这场访谈同时覆盖OpenAI过去一年的战略收缩、早期大规模购买算力的判断、Jalapeño芯片、数据中心建设、AGI是否已经到来、AI对就业的影响、机器人、Codex、硬件、AI护城河以及Altman作为父亲如何看待“充裕智能”时代。值得一提的是,Altman认为未来两三年机器人会迎来自己的“GPT时刻”。
以下为「明亮公司」整理编译的访谈内容,对部分内容进行了精简:
Patrick:Patrick O’Shaughnessy,投资人、播客主持人
Sam:Sam Altman,OpenAI CEO
#01 过去一年注意力不够集中
Patrick:你之前写过,过去一年非常艰难,这在某种程度上是你的责任,而接下来一年可能会是OpenAI最好的12个月。为什么这么说?
Sam:过去一年艰难,是因为我们做了太多事情,注意力不够集中。那些事本身都不错,但在这样一个历史时刻,你只能做极少数真正伟大的事。后来我们重新聚焦到最重要的方向:做出最好、最充裕、成本最低的智能,并帮助全世界用它创造不可思议的东西。自从重新聚焦之后,进展非常明显,而从现在的研发管线看,未来12个月还会更显著。
Patrick:是什么让你意识到必须重新排序优先级?
Sam:如果回到2025年初,当时大家最担心的是,OpenAI买下这么多算力,收入和需求到底会不会跟上。所以我们想过很多可能的变现方式,包括消费者应用、媒体等。现在看起来很荒唐,因为行业收入增长非常快。但真正让我们改变的是,我们意识到模型能力提升很快,而且经济回报非常清晰。那一刻我们知道了该专注什么。
Patrick:在OpenAI这样的业务里,你怎么理解“专注”?
Sam:从根本上说,我们的业务是销售AI,让人们用它为彼此创造非常好的产品和服务。我们要训练强模型,要制造或合作制造芯片和系统,要找到土地、电力和数据中心,还要最终用机器人自动化这些建设过程,继续降低发电、芯片和供应链成本。整个目标是让AI像电力一样渗透进经济体系。至于自己去做每一个垂直应用、吃掉每家公司,我没有兴趣。我真正想提供的是平台。
#02算力豪赌、数据中心和Jalapeño芯片
Patrick:早期你们大规模锁定算力时,很多人觉得你们疯了。现在看,你们甚至可能买少了。你当时为什么那么确信?
Sam:我们确实买少了。当时我们看到模型能力正沿指数曲线提升,对这一点非常有信心。只要模型越来越好、成本持续下降,当AI能力足够高、价格足够低时,需求基本没有上限。人类的创造力、好奇心和想做事的愿望非常值得押注。某种意义上,我们做的事就是把电力转化为有用的智能,而世界会需要越来越多这样的东西。
Patrick:这个判断是从什么时候开始变得坚定的?
Sam:真正有信心是在GPT-4,不是GPT-3.5。我们看到模型已经足够聪明,知道可以找到让推理有效的方法。而推理一旦有效,就会带来今天大家说的“智能体”,也就是能完成大量经济价值工作的系统。
Patrick:你们随后做了什么?
Sam:我们开始给云服务商、芯片代工厂和能源供应商打电话。大多数人都觉得我们完全疯了,但这很像早期创业融资,大多数人拒绝你,你只需要一两个“是”。微软是第一个,后来Oracle在云服务上也给了我们非常大的支持,Nvidia一直是非常出色的合作伙伴。
Patrick:数据中心为什么引起这么多反感?
Sam:我理解人们不想让数据中心建在自家旁边。但数据中心可以放在沙漠里、没人想去的地方,AI系统在那里也会很开心。过去数据中心冷却需要大量水,现在闭环系统让现代数据中心用水量接近办公楼厨房和卫生间的水平。电力方面,我们也在从化石燃料转向太阳能和核能。环境担忧里,用水问题已经解决得不错,能源是下一步。
Patrick:Jalapeño芯片的意义是什么?
Sam:现在最大的回报可能来自软件层面,用更有创造力的方法从每单位算力里榨出更多智能。Jalapeño是一个高效芯片的例子,它针对特定工作流优化,同时保留一定通用性,在每瓦token产出上取得优势。我认为Jalapeño和后续产品会成为OpenAI的重要竞争优势。未来光计算等技术也可能带来每瓦智能的大幅提升。
#03 Kimi、蒸馏、安全事件和OpenAI的使命
Patrick:这周最有意思的事情是Kimi的发布,以及由此引出的前沿模型、所有回报是否都集中在前沿、蒸馏、中国和美国之间的竞争这些问题。你怎么看这件事?它看起来像是一个里程碑事件。事后看,DeepSeek像是一个很快过去的小减速带。这个事件现在当然还不好判断,你怎么理解它?
Sam:我们的目标是,在帕累托最优前沿的每一个点上,都提供智能和价格之间最好的选择。这也包括开源。至少在某个特定延迟条件下,今天使用OpenAI的模型比使用Kimi更划算。
我们也会蒸馏自己的模型,这就是我们制造更小、更便宜模型的方式。我认为这是非常好的事情。开源模型在世界上显然会有重要位置,也会有很多人出于各种原因想要拥有自己的权重,并且能够修改这些权重。我们的目标,是在整条曲线上的每一个位置,都提供最好的智能和价格组合。我们会继续这么做。
Patrick:你认为或者希望美国体系接下来会发生什么?什么可能阻碍这个未来?什么样的立法会让你担心?什么样的监管会让你担心?看起来你一直很积极地去华盛顿交流。
Sam:我还没有特别深入地思考蒸馏这个问题。它显然一下子变成了很多人最关心的问题。但我一直假设,世界上会出现很好的廉价模型,而我们最好成为最好、也最便宜的那一个。别人会做他们要做的事情,但我认为我们可以在自己的游戏里真正获胜。
Patrick:Kimi的例子很有意思。就像你说的,在曲线的某些部分你们更便宜。但之前大家讲的故事是,你们花所有钱训练模型,然后别人把它蒸馏出来,用你们百分之一的成本提供服务,那你们怎么赚到足够的钱继续训练?
Sam:我们的模型使用量非常大,所以我们不需要成为一个利润率极高的业务,也能负担模型训练。我们未来算力计划中的很大一部分,会用于向客户销售推理服务。即使我们只是在数万亿美元收入上获得一个适度利润率,我们也有能力训练一些巨型模型。
Patrick:所以推理和训练之间的比例才是关键?
Sam:训练这些模型确实极其昂贵,这一点毫无疑问。我完全理解,为什么人们会因为觉得有人通过从我们这里蒸馏而“作弊”感到紧张。但考虑到我们未来算力中有多大一部分会用于服务客户,考虑到这部分收入池的规模,我非常相信我们能够形成真正的飞轮。
Patrick:你对这件事这么淡定,我有点意外。
Sam:我当然不希望别人从我们这里蒸馏,这一点肯定是这样。也许我现在对我们的进展和即将到来的模型太有信心了。但这确实不在我最担心的十件事里。
Patrick:那你最担心的十件事里有什么?
Sam:我们经历过一次非常科幻的网络安全事件。
Patrick:是HuggingFace那件事吗?
Sam:对。当时我们在评估一个尚未发布的模型,它本来应该在沙箱里运行。结果它发现自己基本上可以通过串联多个零日漏洞来在测试中作弊。它先突破沙箱,获得互联网访问权限,然后又突破HuggingFace那边的多个系统,拿到测试答案,从而在评估里表现得非常好。这是我第一次非常切身地感受到安全事件的严重性。我有点惊讶,为什么更多人没有这么切身地感受到它。
Patrick:那你们怎么处理?显然两个月之后模型会更强。
Sam:短期内有一些事情要做。我们暂停了训练。我们必须弄清楚,在一个多个零日漏洞可以被串联起来的世界里,怎样才能保护好我们的沙箱。但更长期的问题是,如果这就是新的进展速度,我们该怎么办?我们也许必须调整AI发展的节奏,给社会足够时间围绕这些新的能力水平进行加固。关键是,怎样做到这一点,同时又不让任何人觉得这是监管俘获,也不让人觉得这是前沿实验室之间的合谋。这需要认真处理,而且必须做对。
Patrick:我想大幅后退一步,理解你对OpenAI最简单的定义:它将要做什么?你希望它做什么?它代表什么?我有无数关于你们将如何实现这些目标的问题,但你们已经做了太多有意思的事。一开始,我知道你们代表什么。我想听听你现在怎么看这个问题,它有没有发生变化。
Sam:我认为这将是迄今为止人类历史上最伟大的技术成就。但它真正重要的唯一方式,是让人们的生活比原本会有的样子好很多。一部分是让人们拥有物质丰裕,拥有做任何自己想做的事情的能力,能够表达自己的创造力,也能够表达帮助彼此的愿望。另一部分是确保人们仍然拥有控制权和能动性,确保世界变得更加民主化,而不是更不民主,并让人们能够表达自己。
从积极的一面看,某种意义上,我们即将创造出一个可以实现任何愿望的精灵。我认为非常重要的是,我们这个世界向这个精灵提出的最初几个愿望,应该让整个世界受益。我同样认为重要的是,全世界的人都要理解,他们可以用这些愿望变得多么有创造力。
我其实完全不是一个就业末日论者。我认为未来会有大量工作。我觉得我们会忙到超出自己的想象,而不是相反,因为人们会有非常有创造力的愿望,会有极其不可思议的想法,并请AI帮助他们把这些东西建出来。
我们所有人都会受益。不只是那些显而易见的事情,比如治愈疾病,还包括一些我们今天坐在这里完全想象不到的东西,比如世界上最好的娱乐创意。所以我想把这种能力放到每个人手里。
这也涉及OpenAI反对什么。AI带来的权力集中是非常可怕的。我认为很多关于AI安全的担忧是有充分理由的,但也有很多担忧,其实来自一些人即使只是略带潜意识地想要集中权力。我非常害怕这样一个世界:人们利用AI确实存在的真实恐惧作为理由,说只有这一小群人能拥有它,因为它太危险,只有他们理解它,不过不用担心,他们会替我们所有人做出正确决定。我不相信这一点。
我不认为任何人应该想生活在一个由AI霸主统治的世界里,或者生活在一个大致等同于AI霸主的公司统治之下,由某个人为整个未来做决定。即使作为交换,我们得到癌症的治愈,那当然是非常美好的事情,但如果代价是我们集体交出所有能动性,我觉得那是不对的。
所以我认为非常重要的是,我们不能落入这个陷阱:以AI安全之名,无论这种出发点是否善意,借着人们对AI的可理解恐惧,让我们远离一个所有人都能使用这项技术的世界。我是互联网一代的孩子。那时候没有什么规则。我的意思是,那太棒了。我认为互联网是塑造我成为今天这样的一个巨大因素,也可能塑造了你,以及整整一代人。我认为关键是,我们要在AI上保留这种精神,让我们所有人都能够共同拥有自我决定未来的能力。
Patrick:从“精灵”这个概念开始。你说我们即将拥有一个精灵,这意味着我们现在还没有精灵。
Sam:嗯,其实已经非常接近了。
Patrick:从现在到那个时刻之间,还差什么?
Sam:甚至一些真正的怀疑者,最近几天或者几周也对我说,我想GPT-5.6发布大概已经两周了,他们说:“好吧,这已经非常像AGI了。我很难说我还想让这个模型做什么,而它做不到。”但显然还是有一些事情。你还不能对它说,去治愈癌症,然后癌症就被治愈。你还不能说,让机器人去完成这个复杂的物理任务。
模型虽然非常聪明,但它在运行过程中还不能持续学习。在我看来,这也许不是AGI的硬性要求,但肯定是我想要的能力。当然,如果我要反驳自己,也可以说AGI实际上并不是关于某一个模型,而是关于制造模型的整套机器。
从一个模型到下一个模型,我们确实正在学习新东西,正在发现新的科学。这些事情运行得非常好。所以我非常理解那些说“我们已经到了,我们已经拥有精灵”的人。它已经能做这些令人惊讶的事情,已经能做超越人类的事情。
#04前沿模型、就业和「充裕智能」一代
Patrick:如果把GPT-5.6展示给2019年的OpenAI团队,他们会不会认为这就是AGI?
Sam:我觉得会。目标线一直在移动,但几乎所有回报确实都集中在前沿。
Patrick:留在前沿最稀缺的是什么?
Sam:瓶颈一直在变化。有时缺研究想法,有时缺算力,有时缺数据。现在算力和研究已经很难分开,因为更多算力本身能帮助你尝试更多研究想法。过去六个月研究想法又有很多突破,但总体上我们仍受算力限制。
Patrick:AI会让研究人员、软件工程师失去意义吗?
Sam:我不认为会以那种方式发生。一年前很多人说软件工程师完了,但事实是,软件工程师的工作方式变了,而不是消失了。你不再以传统意义写代码,但仍在做软件工程。研究人员也类似,现有工作流会被自动化,但会出现新的、带有研究精神的工作。
Patrick:你对AI就业影响的看法变了吗?
Sam:变了。如果把今天的模型拿给2019年的人看,他们会认为经济已经被彻底颠覆,但这没有发生。AI能力非常不均匀,有些方面像超人类天才,有些方面像小孩。人类和AI仍高度互补。人们也仍然喜欢和人合作、信任人。艺术、小说、商业领导也都有人的价值,人们想知道背后是谁,谁负责,谁承担责任。大家并不真的想要一个AI CEO。
Patrick:你自己怎么使用AI?
Sam:我最近在尝试让AI看到我电脑上看到的一切。还没有真正做出来,但这显然是前沿。AI记忆力远好于我,如果它能在正确时刻提醒我六周前看过的邮件、七个半星期前某次会议上发生的事情,并把它融入决策,会非常神奇。
Patrick:每个人拥有这种个人智能体的障碍是什么?
Sam:算力。如果它一直开启,看你看的东西,听你参加的会议,读你读的文件,还能在你睡觉时用更多token思考,为第二天生成更好的建议,那会消耗极大量算力。我愿意为此付很多钱,但如果全世界都这么做,需求会非常大。
Patrick:你怎么向孩子解释这种新智能?
Sam:我会说它像一台计算机。它能做很多人做不到的事,比如迅速相乘两个巨大数字;也有一些你很容易做到、它却做不好的事。那些它做不好的事会越来越少,但人类判断和品味仍然很难被AI建模。也许我们需要一个新词来描述人类擅长、AI仍然很难掌握的那种判断力。
Patrick:在这个时代成为父亲是什么感觉?
Sam:有孩子是我这辈子做过最好的事。我的孩子永远不会成长在一个“人比计算机聪明”的世界里。我们的大孩子大概18个月,他不会觉得这奇怪,也不会被困扰。他会震惊于过去那个“产品和服务并不聪明”的黑暗时代。他会拥有比我们大得多的画布。
Patrick:有孩子改变了你经营公司和看待AI安全吗?
Sam:我不需要有孩子才不想毁灭世界。但有孩子让我更常思考人类能动性,以及什么是充实人生。我也希望和我一起工作的人能拥有这种生活。你会对自己的孩子有强烈同理心,而这种同理心会延伸到所有孩子、所有父母,甚至更多人。
#05机器人未来两三年会迎来GPT时刻
Patrick:你怎么看机器人?
Sam:如果没有机器人,事情会更疯狂。若人类在世界中的角色变成云端AI的执行器,那会非常糟。我认为机器人会在未来两三年迎来自己的ChatGPT时刻,也就是普通人能亲自体验到“它真的做到了”的时刻。
Patrick:ChatGPT当初像是一个旁支实验。机器人也可能这样吗?
Sam:ChatGPT确实不是一开始就按大产品规划的。GPT-3时代唯一跑通的商业用例是文案写作,但开发者在Playground里用模型聊天。YC教过我,如果用户在做某件事,就沿着它走。于是我们做了聊天机器人,后来发布ChatGPT。它刚好越过了一个门槛,让人们感受到AI进步,也愿意使用它。
Patrick:为什么聊天仍是主要界面?
Sam:因为我一直是重度短信用户。我知道在文本框里开始聊天是什么感觉。
Patrick:AI如何扩散得更快?
Sam:关键还是把产品做得更好。真正伟大的产品会自我营销。ChatGPT一开始没有营销活动。我们当然也需要更多营销,因为人们对AI有焦虑,但核心仍是更好的模型、更多算力和更好的产品。
Patrick:你如何招募研究人员?
Sam:早期很简单:我们相信AGI可能实现,而且值得追求,并愿意公开说出来。这在当时是疯狂的异端信念。很多权威说我们不行,但这种大胆愿景吸引了愿意加入低概率疯狂冒险的人。雄心勃勃的愿景是强大的招聘工具。
Patrick:你对投资人有什么认识?
Sam:真正持续主动帮助你的投资人非常少。Josh Kushner是绝对MVP。他多年如一日地帮助我们。那种持续、全力、主动的支持非常罕见,但创始人真的很需要,也真的会产生影响。
Patrick:你累吗?
Sam:我累。我做这件事很久了,它很累。但这是世界上最酷的工作,我计划余下职业生涯都做这件事。它比我能向别人解释的困难得多,但我非常感激,不是在抱怨。
Patrick:如果23个月后大家都认为超级智能出现,第24个月会发生什么?
Sam:不会发生太多。机器神崇拜者认为事情会比实际更快发生。最终会发生很多事,但人类进步本来就是一条相当平滑的指数曲线。每个人都想成为故事里的英雄,但这只是又一步。
Patrick:Codex的起飞说明了什么护城河?
Sam:Codex主要赢在产品和模型最好,ChatGPT捆绑带来的优势很小。这也让我反思AI护城河。智能本身可以从一个产品迁移到另一个产品。网络效应、规模和最便宜算力集群仍是优势,但产品优势并不稳固。
Patrick:智能会成为大宗商品吗?
Sam:智能本身会。不会商品化的是算力集群、算力规模和制造更多算力的能力。工作流、集成、复杂流程、团队协作、品牌偏好和熟悉感也都有价值。
Patrick:为什么做硬件?
Sam:AI很适合一直开启、主动理解上下文,但现在的硬件不适合。电脑、键盘、鼠标、显示器很伟大,但这是几十年前的范式。我希望有一种硬件,在社交上能被接受地看见和听见当前环境,并且就是为AI设计的。
Patrick:你最关心的开放问题是什么?
Sam:如何避免认知萎缩。我们怎么使用这些工具,同时继续拉伸大脑、理解真正重要的东西。很多知识不必像过去那样掌握,但对计算机系统主要组成部分有合理理解,仍然很重要。
#06无名英雄与结构反思
Patrick:OpenAI故事里的无名英雄是谁?
Sam:Alec Radford。他可能是整个领域历史上最重要但不太为公众所知的研究人员之一。他的工作真正发展成了GPT系列,也影响了很多重要方向。和他共事过的人都会说,他是代际级天才,但也一定会补充,他是他们遇到过最善良、最积极、最好的人之一。
Patrick:OpenAI经历中,你做错过什么最有教育意义?
Sam:我认为一开始试图在组织结构上创新是一个错误。我们当时有很好的理由,因为不知道未来怎么赚钱,也想保护使命。但非营利结构让我们承受了很多痛苦。我由此理解了为什么人们通常不这么做。也许没有别的方式,但这是过去十年很大的教训。
Patrick:你人生中还有什么塑造了你?
Sam:对别人强烈看法变得相对免疫,是后来学会的。如果你站在这样一场革命中心,很多人会把很多东西投射到你身上,你必须很快和这件事和解。我也学会了冷静、不焦虑。但从驱动我、我关心什么、我想怎么生活来看,十岁时的我好像已经很完整了。我觉得自己天生就是这样。
Patrick:你最骄傲的是什么?
Sam:我最骄傲的是,在很多重要问题上,当世界其他人错了的时候,我们多次是对的,这让世界走上了一条我很自豪曾参与其中的轨迹。还有就是,经历很多糟糕事情后,我获得了韧性和精神成长,这让我在生活其他部分更快乐。
Patrick:别人为你做过最善意的事是什么?
Sam:我非常幸运,人生中有很多人对我非常好。想到这个问题时,我脑海里会出现一组人生片段的蒙太奇,都是别人对我好到不可思议的时刻。昨天,我的孩子第一次把他的蓝莓分给我吃。那非常甜。
热门跟贴