机器之心报道
机器之心编辑部
山姆・奥特曼开始反思了。
2025 年到来还不到 1 周时间，在刚刚接受了彭博社专访之后不久，这位著名却又备受争议的 CEO 又发布了一篇题为「反思」的博客文章；其中回顾了 ChatGPT 的发展历程，并尤其强调了 OpenAI 创立以来他们面临的各种「冲突和误解」。
他表示，之前的解雇事件是善良的人进行治理的一个巨大失败（a big failure of governance by well-meaning people）。他还表示，现在他们已经知道如何构建 AGI 了。
反思
一个多月前，ChatGPT 刚刚过了 2 岁生日，而现在我们已经进入了下一个能实现复杂推理的模型范式。新年的到来总会让人忍不住反思，我也想要分享一些个人的想法，涉及到迄今为止的发展情况以及我一路上学到的东西。
随着我们离 AGI 越来越近，感觉是时候审视一番我们公司的发展情况了。需要理解的东西还有很多，未知也还有很多，目前仍是早期阶段。但我们现在知道的东西已经远远超过一开始的时候了。
大概九年前，我们创立了 OpenAI，因为我们相信 AGI 可能实现，而且这会成为人类历史上最具影响力的技术。我们想弄清楚如何构建它并使其广泛造福世界；我们激动地想要在历史上留下我们的印记。我们志向远大，我们也相信这项工作可能会以同样非凡的方式造福社会。
那时候，很少有人关注我们，就算关注，也主要是因为他们认为我们没有机会成功。
2022 年，OpenAI 还是一个安静的研究实验室，正在研究一个暂时被称为「与 GPT-3.5 聊天」的东西。（相比于起名，我们更擅长研究。）我们一直在观察人们使用我们 API 的 playground 功能，并且知道开发者真的很喜欢与模型交谈。我们想着可以围绕这种体验构建一个演示，向人们展示一些关于未来的重要信息，并帮助我们使我们的模型变得更好、更安全。
最后，我们为其起名 ChatGPT，并在 2022 年 11 月 30 日发布了它。
一直以来我们都隐约明白，我们会在某个时候到达某个临界点，AI 革命将就此开始。但我们不知道那究竟会是何时。令我们惊讶的是，ChatGPT 就是那个临界点。
ChatGPT 启动了一条我们前所未见的增长曲线 —— 不管是在我们公司，还是这个行业，或者整个世界。我们终于看到了我们一直希望从 AI 获得的巨大好处，而且我们可以看到很快将会到来的远远更多好处。
这并不容易。道路并不平坦，也没有显而易见的正确选择。
在过去的两年里，我们不得不围绕这项新技术几乎从头开始建立一家公司。我们没有培训人们为此做好准备的办法，只能亲自上手去做，而且这是一个全新的技术类别，根本没有人能告诉你应该怎么做。
培训如此之少，又必须以非常快的速度构建一家公司，于是一切都变得混乱不堪。我们经常出现前进两步又倒退一步的情况（有时候甚至前进一步倒退两步）。我们会在前进路上纠正错误，但对于这种没有先例的工作，我们实际上没有任何手册或指南。在未知的水域快速航行是一种令人难以置信的体验，但对所有玩家来说也是一种巨大的压力。冲突和误解如影随形。
这些年是我迄今为止人生中度过的回报最多、最有趣、最美好、最紧张，尤其是过去两年最不愉快的时光。我心中充满了感激。我知道自己有一天会退休，「在我们的牧场看着植物生长」，会有点无聊，也会感慨自己能做从小就梦想的工作是多么酷。我试着在任何一个周五记住这一点，即使到下午 1 点就会有七件事变得很糟糕。
一年多前的一个周五（2023 年 11 月 18 日），最不顺心的事就是我在视频通话中被突然解雇。然后刚挂断电话，董事会就发布了一篇关于此事的官宣文章。当时我在拉斯维加斯的一间酒店房间里，那种感觉几乎无法解释，就像一场梦境出错了。
毫无征兆地在公众面前被解雇，这开启了几个小时的疯狂，以及此后相当疯狂的几天。最奇怪的是「战争迷雾」（谁主导了此次事件）。我们当中没有人能得到关于「发生了什么」或「为什么发生」的满意答案。
在我看来，整个事件是包括我在内的善良的人治理的巨大失败。回首往事，我当然希望自己能做些不同的事情，而且我相信自己今天比一年前是一个更好、更有思想的领导者。
我还学习到，在管理一系列复杂挑战时，拥有多元化观点和丰富经验的董事会的重要性。良好的治理需要很大的信任和可信度。我很欣赏这么多人共同努力为 OpenAI 建立更强大的治理体系，这使我们能够追求「确保 AGI 造福全人类」的使命。
我最大的收获是：我要感谢很多人。感谢在 OpenAI 工作并花费时间和精力追求梦想的每一个人，感谢帮助我们度过危机时刻的朋友，感谢支持并信任我们帮助他们取得成功的合作伙伴和客户，感谢我生命中向我展示他们有多关心我的人。
我们都以更加团结和积极的方式重新投入工作，我为我们从那时起的专注感到非常自豪。我们所做的研究无疑是有史以来最好的研究。OpenAI 的周活跃用户从大约 1 亿增长到 3 亿多。最重要的是，我们继续将人们真正喜欢的技术推向世界，并解决实际问题。
九年前，我们真的不知道自己最终会变成什么样子；即使是现在，我们也只是略知一二。人工智能的发展经历了许多转折，我们期待未来会有更多转折。
其中一些转折让人欣喜，一些转折让人心酸。看着源源不断的研究奇迹出现，很多反对者变成了真正的信徒，这很有趣。我们也看到一些同事分道扬镳，成为竞争对手。团队往往会随着规模的扩大而更替，而 OpenAI 的规模扩大得非常快。我认为这其中有些是不可避免的：初创公司通常会在每一个新的主要规模级别上出现大量人员流动，而在 OpenAI，每隔几个月就会有数量级的人员流动。过去的两年就像是普通公司的十年。当任何一家公司发展壮大得如此之快时，利益自然会产生分歧。而当任何一家公司在重要行业处于领先地位时，很多人都会出于各种原因攻击它，尤其是试图与其竞争时。
我们的愿景不会改变，但我们的策略会不断发展。例如，当我们开始创业时，我们根本不知道我们必须建立一家产品公司；我们以为我们只是要做伟大的研究。我们也不知道会需要如此疯狂的资金。现在，我们必须去建立一些几年前我们还不了解的新事物，未来还会有我们现在几乎无法想象的新事物。
我们为迄今为止的研究和部署记录感到自豪，并致力于继续推进我们在安全和利益共享方面的思考。我们始终认为，确保人工智能系统安全的最佳方式是迭代式地逐步将其推向世界，让社会有时间适应该技术并与之共同发展，从经验中吸取教训，不断提高该技术的安全性。我们相信，在安全和调整研究方面成为世界领先企业，并通过实际应用的反馈来指导研究工作，是非常重要的。
我们现在确信，我们已经知道如何构建我们传统上理解的 AGI 了。我们相信，在 2025 年，我们可能会看到第一批 AI Agent「加入劳动力大军」，并实质性地改变公司的产出。我们仍然相信，不断地将优秀的工具交到人们手中，会带来伟大的、影响广泛的成果。
我们开始把目标转向更远的地方，转向真正意义上的超级智能。我们热爱我们现有的产品，但我们在这里是为了辉煌的未来。有了超级智能，我们可以做任何其他事情。超级智能工具可以大大加快科学发现和创新的速度，远远超出我们自己的能力，进而大大增加财富和繁荣。
这听起来就像科幻小说，甚至说起来都有点疯狂。没关系，我们曾经经历过，也愿意再次经历。我们坚信，在未来几年里，每个人都会看到我们所看到的一切，我们必须谨慎行事，同时最大限度地扩大受益面和赋权，这一点非常重要。鉴于我们工作的可能性，OpenAI 不可能是一家普通的公司。
能够在这项工作中发挥作用，我感到非常幸运和谦卑。
在那几天里，有很多人为帮助 OpenAI 和我个人做了大量令人难以置信的工作，但有两个人脱颖而出。
Ron Conway（注：硅谷著名天使投资人）和 Brian Chesky（注：Airbnb 联合创始人兼首席执行官）的工作远远超出了我的职责范围，我甚至不知道该如何形容。当然，Ron 的能力和坚韧不拔的精神我早有耳闻，在过去的几年里，我花了很多时间和 Brian 在一起，获得了大量的帮助和建议。
但是，没有什么能比得上与人们一起在散兵坑里看看他们到底能做些什么。我有理由相信，如果没有他们的帮助，OpenAI 早就分崩离析了。他们夜以继日地工作了好几天，直到事情完成。
虽然他们的工作辛苦得令人难以置信，但他们始终保持冷静，有着清晰的战略思维和很好的建议。他们阻止了我犯的几个错误，自己却没有犯任何错误。他们利用自己广阔的人际关系网为我提供一切所需的服务，并能在许多复杂的情况下游刃有余。我相信他们还做了很多我不知道的事情。
不过，我最难忘的还是他们的关怀、同情和支持。
我以为我知道支持一位创始人和一家公司是什么样子，在某种意义上，我确实知道。但我以前从未见过，甚至从未听说过这些人所做的任何事情，现在我更充分地理解了他们拥有传奇地位的原因。他们与众不同，都完全配得上自己真正独特的声誉，但他们在移山填海、助人为乐方面的非凡能力，以及在需要时坚定不移的承诺，却又是相似的。有他们两位在，科技行业会更好。
像他们这样的人还有很多。这是我们这个行业的一个了不起的特殊之处，他们为这个行业的发展做出的贡献远比人们意识到的要多得多。我期待着将这种精神发扬光大。
就我个人而言，我要特别感谢 Ollie 在那个周末以及一直以来对我的支持。他在各方面都非常出色，没有人可以找到比他更好的 partner。
博客链接：https://blog.samaltman.com/reflections
热门跟贴