(关注公众号并设为标,获取最新人工智能资讯和产品)
全文约4,000 字,阅读约需7 分钟
昨天,Anthropic七位核心创始人Chris Olah、Jack Clark、Daniela Amodei、Sam McCandlish、Tom Brown、Dario Amodei和Jared Kaplan罕见地进行了一次深度对话。在这次长达数小时的访谈中,他们首次详细披露了从相识、共识到最终创立公司的完整历程,展现了一家与众不同的科技公司的诞生故事。
这次对话的独特之处在于,它不仅仅是一个简单的创业故事,更是一个关于理想主义者如何在AI发展的关键时期做出务实选择的深度记录。创始团队的每一位成员都怀着对AI未来的深切关注和责任感,在不同的时间点、因为不同的契机加入到了这个充满挑战的领域。
一个颇具代表性的细节是,在2018年时,没有人会想到他们会被总统召集到白宫讨论语言模型的发展。正如Jared所说:"如果是2018年,你可能不会想到'总统会召集你们到白宫告诉你他们在密切关注语言模型的开发。'"这个细节生动地展现了AI技术发展之快、影响之深。
在这次完整的对话中,我们将看到:
团队成员如何在2014-2017年间通过Google、OpenAI等公司相识,经历从GPT-2到GPT-3的技术突破;
他们如何在2020年因GPT-3的成功而感受到紧迫感,最终决定创建新的机构;
Anthropic独特的公司文化是如何形成的,他们如何平衡安全与发展;
创始团队对AI未来的展望,从解释性研究到生物学应用;
那些鲜为人知的AI发展历史细节,见证了这个领域的快速演变。
这是一个关于选择的故事:当理想主义者面对现实,当科学家需要成为创业者,当对技术的热爱遇到对安全的担忧,一群人最终如何做出了创建Anthropic这个决定
一、团队的形成:从相识到共识
团队成员大多在2014-2017年间通过Google、OpenAI等公司相互结识。Chris回忆说,他在19岁时第一次来到湾区,遇到了当时还是博士后的Dario和Jared。之后在Google Brain工作时,他与Dario成为了邻座同事,也和Tom共事过。后来在OpenAI期间,他有机会与团队的其他成员合作。这种长达十多年的交集,为日后的深度合作奠定了基础。
Jack Clark则是在2015年作为记者认识了Dario。当时,他试图采访Dario,但需要先阅读完其所有研究论文。这次接触让Jack对AI领域产生了浓厚兴趣。Dario当时正在撰写《人工智能安全的具体问题》这篇重要论文,这篇论文后来对整个领域产生了深远影响。
在OpenAI时期,团队见证了重要的技术突破:从GPT-2到扩展法则,再到GPT-3。Sam回忆说,正是扩展法则的突破让事情开始运转起来。这些经历让团队成员对AI的潜力有了更深的认识,也让他们意识到了潜在的风险。
二、从理想到现实:公司的创立动因
创立Anthropic并非团队最初的计划。Chris回忆说,他本来只想继续当物理学教授,发明和发现一些能为人类带来益处的东西。随着AI影响力的快速提升,他意识到仅凭个人力量难以推动这个领域朝正确方向发展。AI需要大量工程工作,最终也需要很多资本投入。如果不以一种合适的方式来做,比如创建公司,很多事情都会重复他在科技界看到的一些令他失望的模式:相同的人、相同的态度和相同的思维定式。
团队成员在加入AI领域时都经历过质疑和挣扎。Jack回忆说,当他在2016年决定从记者转向AI领域时,收到了很多警告邮件,说他在"犯下人生中最大的错误"。但他每天阅读arXiv上的论文,深感"这里正在发生一些非常疯狂的事情",最终决定带着信念下注这个方向。Jared则花了约六个月时间反复纠结是否要转向AI领域。在那个时期,几乎没人谈论工程师对AI的影响,似乎只有研究人员才能从事AI工作。
2020年GPT-3的突破成为一个重要转折点。团队强烈感觉到,如果不尽快采取行动,就会错过改变行业生态的机会。如果他们想改变环境,就必须立即行动。与此同时,他们也认识到随着AI影响力的增长,安全问题变得越来越重要。创立公司的过程充满争议和考量。Chris最初强烈反对创立公司,他争论了很长时间,认为应该创立一个专注于安全研究的非营利组织。他不确定为世界再增加一个AI实验室是否是件好事。但最终,务实的态度和对现实约束的直面,让团队选择了公司这种形式。正如Dario所说:"通常事情顺利的关键在于你不是为了自我利益、权力或者其他东西,而是真正关心实现某个现实世界的目标,然后找到实现它的方法。"
三、公司文化:务实理想主义的实践
Anthropic的公司文化具有鲜明特色。团队之间存在着深厚的互信,这种信任不仅体现在核心团队之间,也在公司扩张过程中得到了很好的延续。Jared特别强调,这种信任在硅谷是非常罕见的。在Anthropic,几乎没有政治斗争,每个人都比较谦逊,没有太大的自我意识。公司的面试过程和员工选拔对"政治化行为"有一种"过敏反应"。
公司特别强调务实主义。在处理安全和发展的关系时,他们不走极端,而是努力寻找平衡点。这种平衡体现在多个方面:产品团队、研究团队、信任与安全团队、市场团队和政策团队都在为同一个目标和使命努力。Chris观察到,当一个组织出现问题时,通常是因为不同部门认为它们在完成不同的事情,或者认为其他部门在破坏自己的工作。而在Anthropic,大家都明白这些都是统一"变化理论"下的不同职能。
这种文化也反映在公司的决策机制上。他们避免将所有权衡都推给高层管理者,而是让每个团队都理解并参与权衡过程。如Daniela所说,一个失能的世界是这样的:你有一群人,他们认为安全就是"我们永远必须这样做",产品团队则认为"我们必须永远那样做",研究团队则只关心"这是我们唯一关心的事情",然后所有权衡都堆到顶层管理者身上。而在Anthropic,他们将权衡分散到每个人身上,让每个人都能从自己的岗位和职责出发,参与到整体的权衡过程中。这种文化在实践中得到了验证。例如,当看到工程师Mike Krieger为安全问题辩护,讨论为什么某些产品还不能推出,同时也看到其他团队成员在探讨如何让产品成功上线,这种平衡令人印象深刻。深耕技术安全的团队成员会考虑如何构建实用的产品,而推理工程师也会关注安全问题。这种全方位的思考方式让Anthropic形成了独特的组织氛围。
四、负责任扩展政策(RSP):安全发展的实践
RSP是Anthropic的核心机制,被比作公司的"宪法"。这个政策最初由Paul Christiano和Dario在2022年底讨论形成,目的是在扩展AI能力的同时确保安全。政策设计采用多阶段阈值方法,在每个阈值上都需要进行能力验证测试,同时采取相应的安全措施。
RSP的重要性体现在多个方面:首先,它推动了组织内部的一致性。如果某个部门不符合安全价值观,就会通过RSP显现出来。其次,它提供了清晰的框架,帮助内部和外部人员理解公司的安全考虑。最后,它创造了健康的激励机制,将每个团队的激励与安全对齐。
RSP的实施效果超出预期。在Anthropic发布RSP后几个月,三家主要的AI公司也发布了类似的政策。正如Dario所说,这证明了"向上竞争"的可能性:如果一家公司能证明在不牺牲竞争力的情况下做到安全,这种双赢的方案就会激励其他人效仿。
五、未来展望:科技向善的愿景
在这次深度对话中,Anthropic的创始团队成员从各自的专业视角和关注点,分享了他们对AI未来发展的期待和愿景:
Chris Olah的愿景:解释性研究与科学突破
Chris对解释性研究领域充满热情。他认为神经网络就像一个充满未解之谜的新领域,内部蕴含着令人惊叹的结构和美。他将神经网络比作生物进化,认为如同每一种动物都充满了难以置信的复杂性和结构,神经网络的训练过程也创造了一种"人工生物学"。
Chris描绘了一个令人向往的愿景:大约十年后,人们可以走进书店,买到关于神经网络解释性研究的教科书,或者一本真正讲述"神经网络生物学"的著作。他相信未来几年里,我们将开始发现大量令人惊叹的内容。
特别值得注意的是,Chris认为解释性研究可能带来医学领域的重大突破。作为曾经的神经科学家,他推测许多尚未解决的精神疾病,如精神分裂症或情绪障碍,背后可能存在某种更高层次的系统性问题。虽然人类大脑过于复杂难以直接研究,但通过对神经网络的研究,可能帮助我们更好地理解这些问题。他甚至大胆预测,这一领域的研究可能会获得诺贝尔医学奖级别的突破。
Daniela Amodei的期待:AI助力人类福祉
Daniela对AI在改善人类生活方面的潜力感到无比兴奋。她特别关注AI在医疗健康领域的应用,提到目前Claude在疫苗开发、癌症研究和生物学研究中已经发挥的作用令人震撼。她期待在未来三到五年内,这种影响力会进一步扩大。
结合她在国际发展领域的经验,Daniela认为AI可以大大提高人道主义工作的效率。她回忆起自己过去在国际发展领域工作时的经历,相信如果能有Claude这样的AI助手,将能够更高效地完成许多重要但效率低下的工作。
Jared Kaplan的期望:AI赋能企业转型
Jared特别关注AI在商业领域的应用前景。他期待将Claude这样的AI系统融入到企业环境中,不仅限于单个公司,而是推广到全球各类企业。他相信AI可以帮助企业提升效率,改变工作方式。
Dario Amodei的观察:技术与政策双重进步
Dario从个人使用体验和政策发展两个维度分享了他的观察。在个人使用层面,他注意到最近几个月在代码编写方面发生的巨大变化。他提到在YCU的一次演讲中,当问到有多少人使用Claude编写代码时,几乎95%的人举手,这与四个月前的情况完全不同。
在政策层面,Dario对政府建立专门机构来测试和评估AI系统感到振奋。他将这比作政府为应对新技术建立的"大使馆",认为这表明我们的社会正在建立起应对技术变革的国家能力,而不仅仅依赖于企业的单打独斗。
团队共同的关注:民主增强与生物学突破
整个团队都特别关注两个重要领域:一是如何让AI成为增强民主而非威权主义的工具,虽然这个领域还处于早期阶段,但他们认为其重要性不亚于其他技术突破;二是AI在生物学领域的应用,他们认为这是一个极具挑战性但充满潜力的方向。团队提到了AlphaFold获得化学诺贝尔奖的例子,期待能够开发出更多类似的突破性工具。
通过这些愿景可以看出,Anthropic团队既有对具体技术突破的期待,也有对社会影响的深度思考,既关注短期可实现的目标,也着眼于长远的发展方向。
六、反思与启示
这次深度对话揭示了几个重要启示:首先,在AI快速发展的今天,需要有人挺身而出,承担起引导技术向善发展的责任。Anthropic团队的经历表明,当理想主义者保持务实态度时,是可能推动积极改变的。其次,安全与发展并非对立关系。通过精心设计的机制和政策,可以在推动技术进步的同时确保安全。这种做法不仅有利于单个公司,也能带动整个行业向好发展。最后,建立正确的公司文化至关重要。Anthropic的经验表明,深厚的互信和共同的使命感,能够帮助团队在面对挑战时保持正确的方向。
Anthropic的故事展现了一种难得的科技创业范式:不是为了商业成功而创业,而是出于对技术发展方向的责任感;不是一味追求理想,而是在保持理想主义的同时也注重务实;不是单打独斗,而是致力于推动整个行业的良性发展。在AI技术日新月异的今天,这种思维方式和实践经验值得深入思考和借鉴。
正如Dario所说:"世界需要的是找到一条路,成功地从技术不存在,发展到技术非常强大,并且社会能够很好地管理它。"在AI发展的关键时期,这种探索显得尤为重要和珍贵。
看到很多读者在问"如何开始AI转型",我们建了个实战派AI团队(成员来自复旦、浙大、华为、阿里等),专注帮企业做"轻量级"AI落地:
公司该从哪个环节开始用AI?
️ 具体怎么落地才不会踩坑?
投入产出比怎么才最大?
我们团队专注企业AI解决方案
业务流程AI优化 提升运营效率 降低人力成本 定制AI应用开发 场景化解决方案 快速交付落地 AI转型咨询规划 专业评估诊断 精准转型方案
联系负责人:Milo-1101(仅限企业客户)
原视频链接:https://www.youtube.com/watch?v=om2lIWXLLN4
素材来源官方媒体/网络新闻
热门跟贴