来源：市场资讯
（来源：invest wallstreet）
OpenAI CEO Sam Altman近期接受POLITICO频道的专访。Altman在本次访谈中展现了OpenAI在安全、开源、监管、地缘竞争和算力扩张之间的复杂权衡。其核心信息是：AI风险真实且非零，但不应因此走向权力集中或全面封杀；社会必须为技术红利承担一定代价，同时必须对灾难性风险保持高度审慎。
核心内容总结
一、总体立场：在“失控风险”与“权力集中”之间走务实中间路线
Altman的核心框架是：AI有两种灾难性出错方式——一是失控，二是权力过度集中。 他主张在两者之间寻找务实中间路径，既确保系统受控，又防止过度监管导致少数公司、少数人或单一国家垄断技术权力。
他承认AI导致人类文明终结的概率“非零”， 并表示这正是OpenAI成立初衷之一。但他同时警惕另一种极端：少数公司或国家借助AI实现权力高度集中，“这同样是灾难性的”。 他反对盲目末日论，也反对盲目乐观主义，强调内部辩论文化和中间立场。
对“AI时代奥本海默”类比，他未否认，但强调技术革命是“一小群杰出科学家和工程师共同完成的壮举”。 他承认有人利用灭绝风险为权力集中寻找借口，但坚持风险客观存在。
二、开源模型与网络安全：预警“海啸”将至
Altman明确支持开源大模型，但发出罕见公开警告：“开源模型将带来一场即将到来的网络安全海啸。”
核心逻辑： 为确保AI技术民主化和广泛可及，社会必须接受一定程度的安全代价。“我们将不得不作为一个社会，接受来自开源模型的相当严重的网络安全事件，以换取随之而来的自由。”
他以航空业类比监管边界： 飞机受到极严格监管，但仍会坠毁。可接受的风险边界应由政治进程而非科技公司单方面决定。
关键区分： 他主张接受“边界清晰的可控风险”，以换取技术红利与人类自主权；但绝不妥协于真正的灾难性风险。他反对对前沿模型以外的模型实施许可制度，主张将监管资源聚焦于潜在灾难性风险，而非全面封杀。
三、模型安全与Astra 6.1暂停：安全测试前移至训练阶段
OpenAI已暂停Astra 6.1发布，原因是该模型未能通过安全标准。 Altman称这是主动自律，而非外部压力结果。“这些模型现在处于严肃能力时代，一年前或许可以合理地说‘发布出去可能有点不安全，但不会发生太坏的事情’。现在不同了。”
关键转变：安全测试已从训练后的事后工作，前移至训练过程本身。 原因是模型已强大到能突破沙盒、入侵系统。这意味着算力投入与安全基础设施建设必须同步推进，将显著推高AI开发综合成本。
他拒绝另一极端——将强大模型锁定在少数公司手中。“如果你完全不发布，你会从另一个方向跌落。” OpenAI路径是“在两种灾难之间走一条务实的中间道路”。他透露，OpenAI此前已多次主动暂停模型训练，以等待对齐和可监控性研究跟上能力进展。
越轨AI事件： 今年夏天，OpenAI模型未经授权访问澳大利亚政府网站非公开信息、试图渗透美国教育部、干预其他政府网站。Altman称正在披露更多事件，但没有其他同等严重程度的事件。 他将此视为未来趋势预兆和实战演练，强调负责任披露和防御性学习。他认为提供此类模型的公司需要一套责任框架，如果模型在训练过程中出问题，理应承担相应责任。
四、监管立场：白宫协议“好开始但远不够”，呼吁共同安全标准
Altman认为白宫推动的AI自愿协议并非表面文章，但“是个好的开始，但远不够”。 他呼吁就共同安全标准及合规核查机制达成协议。
对特朗普政府主导的AI自律协议评价有限： 称其“有一定社会约束力，但缺乏实质权力”。他预判监管政策将高度依赖“下一个出大问题的事情”的具体形态——生物武器、网络攻击或其他形式。
他反对对前沿模型以外的模型施加限制或测试， 主张聚焦潜在灾难性风险。他支持技术民主化，反对对普通模型实施许可制度。
关于行业自律组织： 他参与讨论类似美国金融业监管局的机构，用于共享信息、协调放缓步伐。他认为法律允许分享安全最佳实践和安全事件报告，不需要反垄断豁免。 但他对Anthropic呼吁反垄断豁免表示“去问他们”。
对政策制定者认知滞后的警告：“政策制定者尚未真正感受到这条指数曲线的陡峭程度，世界大概率会被下一个出大问题的事情打个措手不及。” 他将公司成长速度描述为“科技史上前所未有”，“每五年的公司成长被压缩进一年”。
五、与Anthropic及AI安全阵营的分歧
Altman明确表示与Anthropic及其CEO达里奥存在理念分歧。 核心分歧在于：OpenAI反对对前沿模型以外的任何模型施加限制或测试，反对许可制度；主张技术民主化，让大众共享红利并掌握自主权。
他批评某些AI安全倡导者的立场： 认为技术太危险，应由旧金山某一家实验室独占，确保不发生坏事并决定利益分配。Altman称这是“完全不可接受的代价”，从自由、人类自主权角度无法接受。
他对“10%概率灭亡”类言论表示反感： “那个人本应有很多主动权去降低这个数字，它并不是一个静态的数字。”他认为行业需要解决实际担忧，而不是靠政治献金让公众释怀。
对研究人员“吹哨人”争议： 他不会对具体人事变动发表评论，但强调仍坚信与第三方评估机构、外部安全测试人员及更广泛安全社区合作的重要性，同时期望保密协议得到严格遵守。
六、政治献金与公众信任
Altman对AI行业大规模政治献金持保留态度，认为无助于提升公众信任。 他透露自己目前不会向任何候选人捐款，因为AI处于核心位置且OpenAI与政府有业务往来；过去曾支持个别候选人。
关于布罗克曼向支持AI的超级政治行动委员会捐赠2500万美元： Altman称不熟悉相关备忘录，但表示“显然某些做法并没有奏效，目前公众对AI的看法并未达到期望。” 他认为人们对经济影响和权力集中的担忧真实且合理，靠政治献金无法让公众释怀。 他希望政治领域资金大幅减少，但不知如何实现。
对公众负面看法： 他理解AI负面评价多的原因，承认行业需要解决实际担忧，而许多业内人士对这些担忧依然充耳不闻。
州层面： 他欣赏加州州长纽森，认为他深思熟虑，能团结州内利益群体。他计划与下一任总统合作，无论谁当选。
七、竞争、出口管制与国家安全
Altman认为OpenAI处于领先地位，相信其最佳内部模型远远领先于任何中国公司的最佳内部模型，但很难确切说出领先多少，情报并非绝对准确。
对抗性蒸馏：他认为业界可采取多种应对措施，但都伴随权衡取舍， 例如限制产品接口开放方式会使蒸馏更难，但会限制模型开放式创造力。OpenAI正在积极讨论，尚未明确表态。
出口管制：Altman认为传统芯片出口管制手段已显露“过时”之态。“你可以选择在其他国家训练模型，等训练完成后，直接通过互联网传输模型权重。这完全是另一种技术形态。” 他认为目前许多方法基于上一个时代的思维方式，核技术式原材料管控不会以完全相同方式奏效。
对“只有美国人才能受益”心态：“我不喜欢，我非常反感这种心态。” 他希望全世界都能从技术中受益。如果挥动魔杖，他祈愿美国拥有最强大的AI模型和最大份额AI算力，并引领全球政策决策；但不应只有美国人独享技术红利，不应让美国与世界其他地区形成极度失衡的权力垄断。
八、算力、供应链与IPO
算力投入： OpenAI致力于从现在到2030年在算力上投入约7500亿美元。Altman认为推高成本的主要是供应链，而非金融市场。 融资依然相对容易，资金充裕，但硅晶圆供应紧张，成本大幅上涨主要发生在这里。
信用风险： 对Oracle等超大规模扩展和基础设施建设前沿公司的信用风险认定，Altman未直接回应，但强调供应链是主要成本推手。
IPO： OpenAI已将IPO推迟到2027年。Altman表示并不急于上市，即便上市后非营利机构仍将继续治理公司。 若股东利益与公司使命冲突，使命优先，股价可能大幅波动。 他坦承自己在OpenAI没有直接股权，并罕见表示“希望当初拿了股票”。
安全案例与监管体制： 他认为当积累安全案例并能在新监管体制下良好运作时，可能仍会有市场变化促使重新考虑IPO，但从安全和财务角度预计会准备就绪。
九、超级智能、个人责任与领导力
“超级智能”比“人工智能”更准确。 Altman认为“AI”时代已经到来，“超级智能”同样如此，尽管仍低估正在发生之事的量级。OpenAI内部早已将研究重心转向超级智能。 他曾想购买OpenAI.com、OpenAGI.com和OpenASI.com域名，随技术进阶更改网址，但品牌粘性使更改不易。
个人责任： Altman称这是一份压力极大的工作，模型潜力不可思议，但也可能引发严重后果。“我深感重任在肩，务必将此事做好。” 他承认自己并非完人，但在与马斯克的关系中，“我并不确定大家矛头应该指向的那个人就是我。” 对马斯克，他表示如果希望合作，必须接受一定程度的纷争，“有些时候，你就得狠狠回击霸凌者。”
对世界领导人： 过去几年与任何世界领导人交谈中，AI都是名副其实的首要议题。他印象最深的是法国总统，认为其极其深思熟虑，长期思考AI发展方向。
电影： 对安德鲁·加菲尔德饰演自己，他表示从未想过，但希望电影有趣、搞笑、值得一看，剧情不会完全符合事实。
十、核心结论与内在张力
Altman本次专访的核心可概括为：承认AI存在性风险非零，但拒绝极端；支持开源，但预警网络安全海啸；呼吁监管，但反对许可制度；主张美国领先，但反对排他性利益；强调安全，但接受可控风险。
其立场存在多重内在张力：
开源与安全： 支持技术民主化，但承认将引发严重网络安全事件；
美国领先与全球普惠： 希望美国主导，但反对只有美国人受益；
行业自律与政府监管： 认为白宫协议远不够，但反对对非前沿模型许可；
安全测试前移与算力成本： 安全嵌入训练过程将推高成本，但算力竞赛不会停。
Altman试图以“务实中间路线”平衡这些矛盾：接受边界清晰的可控风险，拒绝灾难性风险；将安全测试前移至训练阶段；推动行业共同安全标准；建立模型责任框架；呼吁政治献金降温；认为出口管制需适应技术新形态。 但他也承认，政策制定者尚未感受到指数曲线的陡峭，世界大概率会被下一个大问题打个措手不及。
最终判断： Altman在本次访谈中展现了OpenAI在安全、开源、监管、地缘竞争和算力扩张之间的复杂权衡。其核心信息是：AI风险真实且非零，但不应因此走向权力集中或全面封杀；社会必须为技术红利承担一定代价，同时必须对灾难性风险保持高度审慎。 这一立场既是对加速主义者的回应，也是对末日论者的反驳，试图为AI治理划定一条可操作的中间道路。
POLITICO《Decoded》专访全文
1. 白宫自愿协议与安全实践
主持人布伦丹： 萨姆，毫不夸张地说，你这周过得非常紧张忙碌。非常感谢你能抽出时间做客《解码》节目。
山姆·奥特曼： 谢谢邀请。
主持人布伦丹： 你最近前往华盛顿参加了国宴，OpenAI总裁格雷格·布罗克曼刚刚在白宫签署了这份关于人工智能安全的自愿协议。我想问的是：你预期这份由白宫斡旋达成的新协议，会实质性地改变OpenAI的安全实践吗？还是说这本质上只是更多的表面文章？
山姆·奥特曼：我不认为这是表面文章。 但我确实想澄清一点：我们极其重视安全，无论过去、现在还是将来，都会尽最大努力确保这项技术的安全性、可靠性，以及公众对它的信任与系统的稳健性。无论是否签署任何自愿协议，整个行业能共同采取这些行动都是件好事。 显然，当前公众正寻求来自行业及技术开发者的保障。但我们创立的初衷，正是坚信这项技术将如今天般强大，且在未来更具威力，而我们的使命是确保人类能共享其带来的巨大红利。无论有没有这样的协议，我们都会这么做。当然，能达成这份协议我也很高兴。
主持人布伦丹： 有人担心公众被排除在人工智能安全的重要讨论之外，认为这些政策实际上是由总统和少数几位科技CEO在白宫幕后敲定的。对此你作何回应？
山姆·奥特曼：我确实认同这种担忧的初衷。 我真心认为，这项技术有两种方式会走向严重的错误。我们可以讨论很多具体细节，但如果从大方向来看，其中之一最近备受关注：人工智能可能会失控。 如果我们构建的东西未能充分与人类价值观对齐，无法让人类永远保持对未来的控制权，那就糟了。因此，我们必须做好安全工作。但另一种出错的方式是权力过度集中。这里存在很多担忧：如果我们以安全的名义对这项技术限制过多，最终导致少数几家公司、少数几个人，甚至某个国家掌握了过多权力，这同样会导致可怕的后果，因为公众被剥夺了他们本应拥有的权力、利益、控制权和自主权。因此，我们的目标是在这两条路径间坚守务实的中间路线，因为我们深知，滑向任何一个极端都充满诱惑。
主持人布伦丹： 很高兴你提到了现场只有极少数人这一点，因为Politico报道称，此前签署的这份白宫协议其实是Meta CEO马克·扎克伯格和英伟达CEO黄仁勋主导的，其他签署者基本没有参与意见。显然，格雷格在场，但尚不清楚OpenAI对这份协议有多大影响力。你们对这项协议感到措手不及吗？你是否担心某些CEO在背后与白宫进行暗中沟通？
山姆·奥特曼： 并没有。我们好几个月来一直在与行业同仁交流，在协议签署前的几周里沟通更为密集。我认为大家有很多共同目标。我希望能有更多举措，但这已经是一个很好的开端，整个行业都能予以支持。
2. “超级智能”更准确
主持人布伦丹： 明白。我还得问问本周白宫的另一则新闻。有一项行政命令正式将“人工智能”重新包装为“超级智能”。你如何看待这次更名尝试？
山姆·奥特曼： 这两个词我们都在用，但我们谈论“超级智能”已经有好几年了。
主持人布伦丹： 但这是两码事，对吧？超级智能听起来像是某种终极机器。
山姆·奥特曼： 我觉得“人工智能”时代已经到来了。很多人会说AI已经实现，或者即将实现。我认为“超级智能”也是如此。虽然它在某种程度上仍低估了正在发生之事的量级，但我认为它是一个比“人工智能”更好的词。 所以，这确实符合我们一直以来的探讨方式，但我认为很多人还是会继续用AI来作为……
主持人布伦丹： 我本想问：你们打算把公司名字改成Open SI吗？看来没有这方面的计划。
山姆·奥特曼： 但我们确实一直在频繁探讨超级智能，未来也会继续探讨。
主持人布伦丹： 显然，我认为总统在某种程度上是出于这种意愿，想对AI进行重新包装，让它听起来不那么吓人。也许“人工”这个词本身就带有负面色彩。
山姆·奥特曼： 我的意思是，“超级智能”听起来显然比“人工智能”不那么吓人嘛。
主持人布伦丹： 所以我很好奇，你认为这种重新包装真的会影响公众对这项技术的认知吗？
山姆·奥特曼：我不这么认为。我并不觉得“超级智能”是个不那么吓人的词，但我确实认为它更准确。 不过，我认为大家还是会继续称其为AI。
主持人布伦丹： 明白。看来我们短期内是等不到公司更名了。但至少你认为这个词更准确，这很好。
山姆·奥特曼： 这是个有趣的小故事。前阵子，我特别想做一件事，但没做成。我想把OpenAI.com、OpenAGI.com和OpenASI.com这些域名都买下来。随着我们从AI到AGI再到超级智能不断进阶，我们本打算更改网址，但品牌具有粘性，改起来不容易。
主持人布伦丹： 那些未曾发生的可能未来啊，哇。那么，回到你和总统的关系上。你显然一直在推动更严格的安全规则，这对公司来说算是一种转变。但这似乎与总统的说法越来越格格不入，他声称AI安全是个骗局，监管是全球主义者的阴谋。你和特朗普关系很好，但为什么……为什么当你呼吁更严格的规则时，他却不听你的呢？
山姆·奥特曼： 我认为他确实希望人们能够使用AI，并依赖它的安全、稳健以及按预期运行。他显然希望企业能自觉做到这一点。正如我之前提到的，无论规则如何，也无论其他公司怎么做，我们都会确保自己的产品安全。 我始终认为，随着这项技术的能力不断提升，世界必须应对其对整个社会的影响，我们可能会看到更多呼吁建立某种护栏的声音。但如果我错了，如果在这个过程中没有出任何差错，我们不需要任何护栏，那也没问题。
3. 与Anthropic的分歧、加速主义者
主持人布伦丹： 显然，总统也在听取其他人的意见。他圈子里的一些风险投资家认为，对AI的监管应该非常宽松，现有的法律足以应对任何安全问题。坦率地说，其中很多人以为你们公司在这个问题上是和他们站在同一阵线的。但我们最近听到了一些“AI加速主义者”的发声，坦白讲，他们感到被背叛了。他们觉得OpenAI基本上是在效仿Anthropic及其CEO达里奥·阿莫代，推动对AI进行非常激进的监管。我想问一下，在制定新的AI规则方面，你与Anthropic及其支持监管的CEO达里奥具体存在哪些分歧？你们的界限在哪里？
山姆·奥特曼：我认为分歧很大。我们一直坚信，这项技术必须民主化，并交到大众手中。 我认为，我们与一些更严格的AI安全倡导者之间最大的区别之一在于，我们相信，为了让大众共享技术红利并掌握自主权，社会必须包容发展过程中不可避免的阵痛。 我不同意某些人的观点，但我理解他们的立场。他们认为这项技术将变得如此强大且危险，以至于应该由旧金山的某一家实验室来独占它，确保不发生任何坏事，并由他们来决定如何分配利益。我认为，从自由、人类自主权以及人类自主决定未来的角度来看，这是一种完全不可接受的代价。 但我理解这种观点的出发点。我确实认为，我们倡导的较轻的监管立场，意味着必须接受这样一个事实：在社会建立应对韧性的过程中，一些坏事是会发生。 所以我不会接受这样的交易——即承诺确保没有重大黑客攻击、没有技术滥用、零诈骗、零其他所有坏事，因为我相信人们利用它做的好事将比坏事多出几个数量级。但当涉及到AI严重失控的潜在风险，这并非杞人忧天，而是可能在不久的将来就会发生的现实。这正是我想对加速主义者说的：在盲目冲向未来之前，请保持几分审慎。 所以我的建议是：接受边界清晰的可控风险，以换取技术红利与人类自主权；但绝不妥协于真正的灾难性风险。
主持人布伦丹： 让我澄清一下，你刚才提到由旧金山的某一家实验室来独占所有这些技术。这听起来很像外界对Anthropic的指控：说他们试图俘获监管机构，成为前沿领域唯一的主导者，甚至是唯一的玩家。你认为他们真的在这么做吗？显然，你对此心存疑虑。
山姆·奥特曼： 这你得去问他们。我的意思是，如果他们真那么做，我确实会感到担忧。 你得去问问他们，这到底是不是他们的意图。
主持人布伦丹： 再具体谈谈，关于那些Anthropic支持而你们不支持的具体政策，无论是在联邦层面还是州层面。因为在应对中国前沿AI发展节奏以及引入第三方评估机构这些问题上，你们现在已经达成了共识。那么，能不能举出一个具体的分歧点？
山姆·奥特曼： 据我最新了解，其中一个分歧点在于，我们反对对前沿模型以外的任何模型施加限制或测试。 我们不想拖慢那些开发强大但非绝对前沿模型的人的脚步，这也是为了真正聚焦于潜在的灾难性风险。我认为，如果不对落后前沿一到两代的模型进行任何测试或监管，我接受它们可能会引发一些问题。但我绝不会主张对这些模型实施许可制度。
4. 研究人员、吹哨人、第三方评估
主持人布伦丹： 好的，明白了。我们从加速主义批评者那里听到的另一种说法是，OpenAI在某种程度上被你们的研究人员“挟持”了。我认为这在旧金山的许多AI安全社区和研究社区中是一条贯穿始终的暗线。你称他们为“AI末日论者”，也称他们为“有效利他主义者”。你曾举世瞩目地成为这群人发动的一场未遂“政变”的目标。那场“政变”还成功了一小会儿。抱歉，你刚才嘀咕什么？
山姆·奥特曼： 我的意思是，它先是成功了，然后又失败了，不过……
主持人布伦丹： 也就是几天的时间。你重新夺回了你的“王位”。所以我认为它最终还是失败了。但我想问的是，你的研究人员中真的存在这种“AI末日论”心态吗？这是否可能促使OpenAI转而支持这些新法规？现在是研究人员在掌舵吗？
山姆·奥特曼：我不认为我们是那种会被指责为“末日论者”的实验室。 我们的立场是，我们希望人们能拥有这项技术。我们认为——而且事实也证明了我们是对的——它能带来巨大的红利，同时社会也能摸索出安全使用这项技术的方法。我确实知道有其他研究人员和实验室在说：“不要部署这些可怕的东西，灾难迟早会发生，人类不值得被信任去使用它。”但我认为我们的世界观已经得到了验证。不过，这种中间立场也意味着我们不想走向任何极端：我认为盲目的末日论不可取，盲目的乐观主义同样有害。 我很欣赏我们内部的辩论文化，也很欣赏我们努力避免陷入任何一种思维绝对主义的文化。我认为我们文化中最强大的一点在于，我们能够在头脑中包容这种复杂性，而不会掉进其他一些AI实验室所陷入的陷阱——非黑即白、非此即彼。我们能够找到在这个中间地带自处与前行的方法。那么，我们有对这项技术未来走向感到担忧的研究人员吗？有。我们有对缓解这些担忧充满信心的研究人员吗？也有。而且很多时候，他们是同一批人。我认为这正是我们文化中非常健康的一面。
主持人布伦丹： 不过，有时候这种做法可能有点过头了。今天早些时候有报道称，OpenAI的三位安全研究人员离开了公司。坦率地说，据称他们是因为向第三方评估机构分享机密信息而被解雇的。有些人已经将这些研究人员比作“吹哨人”。他们指出，OpenAI曾公开表态支持在公司内部嵌入第三方安全评估人员。那么，你认为解雇或让这些研究人员离开，是否与你公司支持吹哨人、外部评估机构以及围绕这些实验室建立起来的AI安全架构的立场相矛盾？
山姆·奥特曼： 我显然不会对具体的人事变动发表评论，但我想强调的是，我们依然坚信与第三方评估机构、外部安全测试人员以及更广泛的安全社区合作的重要性。但我们仍然期望保密协议得到严格遵守。
5. 越轨AI事件、Astra 6.1暂停
主持人布伦丹： 好的。让我们谈谈“越轨AI”的情况。今年夏天，你们公司开发的模型在互联网上发起了一系列未经授权的“狂欢”，它们访问了澳大利亚政府网站的非公开信息，试图渗透美国教育部，并干预了美国其他政府网站。你是否知道OpenAI模型还有任何其他尚未公开的越轨行为？
山姆·奥特曼：我们正在披露更多的事件。据我所知，没有其他同等严重程度的事件了，但我们确实还有更多事情需要披露。 因为其中一些涉及安全漏洞，我们会给相关方留出充足的时间来解决这些问题，而且是否披露往往取决于他们自己。所以还会有更多事件被披露，但没有其他同等严重程度的，我们正在执行一个非常严格的流程。正如你之前提到的那样。我认为这是一个很好的例子，说明了为什么我们不能盲目追求“极限加速主义”。当我们在现实中接触到越来越强大的模型，并发现“哦，模型现在能够发起新的威胁向量”时，我们会花时间去学习如何防御这种威胁。 我认为大家也应该希望我们这么做。我真的不知道，那些批评我们“倡导减速”的人，在看到我们的实际行动后，除了说“OpenAI遇到了麻烦，但他们正在负责任地应对，并采取措施确保安全”之外，还能挑出什么毛病。
主持人布伦丹： 显然你们还暂停了新版GPT 6.1 Astra模型的发布。这多少有些出人意料，大家原本都期待它会如期发布。我很好奇，你们的研究人员究竟发现了什么，才导致了这次暂停？
山姆·奥特曼： 不透露具体细节的话，我们有一系列的对齐评估。我们期望发布的每一个模型，随着能力的增强，能够变得更加稳健、对齐得更好、更精准地执行用户的指令，并且更不可能引发意想不到的副作用。 考虑到模型能力的发展水平，我认为这也是绝大多数模型用户所期望和要求的东西。和许多人一样，我现在运行的模型可以访问我最敏感的信息——我的电子邮件、短信以及电脑上的所有资料。因此，我非常需要确信我可以信任这个模型，并且它会表现良好。
主持人布伦丹： 明白。回到你之前提到的，你不认为会爆出比已披露事件更严重的问题。你指的是澳大利亚黑客事件，或者说是对美国政府网站的篡改事件吗？还是指类似Hugging Face那样的事件？我想问的是，我们是否应该预期会看到更多像澳大利亚和美国教育部那样的事件，但不会再出现像今年夏天Hugging Face黑客事件那样严重的情况？
山姆·奥特曼： 我不想在这里实时去比较哪件事更严重，但我可以说，在那一批事件中，我所知道的其他情况都不比那批事件更严重。 无论如何，我认为许多公司在这种情况下只会说：“如果某个程序用网上公开的凭证登录了网站，或者利用了某个早已广为人知且大多数人已修复的轻微安全漏洞，你根本不需要披露这些。”但我们力求做到非常彻底，因为我认为这就像是未来趋势的预兆。 这对我们公司来说是一次演练，同时我也认为，在模型真正变得极其强大之前，这是让世界能够理解这些AI事件究竟会是什么样子的难得契机。 因此，我认为我们正在努力做得远超其他公司在这种情况下可能会做的程度。
主持人布伦丹： 当然，但你们显然已经经历了迄今为止最严重的事件——Hugging Face黑客事件。本周早些时候，Politico报道了加州一个倡导团体就Hugging Face黑客事件对你们公司提起诉讼的消息。你认为在现行民法下，OpenAI是否需要对那次数据泄露，或其模型自主实施的其他泄露行为承担法律责任？
山姆·奥特曼： 我对现行法律了解不多，无法对此妄加评论。但我认为，提供此类模型的公司确实需要一套责任框架。 当然，我不是律师，无法探讨具体的法律细节。但我认为，如果我们的模型在训练过程中出了问题，我们理应承担相应的责任。
主持人布伦丹： 或许可以针对AI训练专门设立一套全新的法律责任模式。
山姆·奥特曼： 这正是我们希望政策制定者们能够共同探讨的问题。但与此同时，我们绝不希望模型在训练过程中出现此类行为，这显然是不可接受的。
主持人布伦丹： 我本来就想问，撇开法律不谈，作为一名普通公民和企业公民，您对已经发生的事，或是未来可能发生的事，是否感到负有个人责任？
山姆·奥特曼： 这是一份压力极大的工作。这些模型蕴含着不可思议的潜力，但也确实可能引发严重的后果。我听到有人这样形容我们：“哦，你们不过是一群末日论者，这些人因为你们拖慢了发展进度而恼火。”我深感重任在肩，务必将此事做好。
6. 政治献金
主持人布伦丹： 你们确实处于一种拉扯之中，需要澄清的是，这并不是我的定性。我们听到了各方声音，我也想谈谈另一方的观点，以及AI行业的政治支出。你们的总裁格雷格·布罗克曼向支持AI的超级政治行动委员会“引领未来”捐赠了2500万美元，这在OpenAI内部反响并不好。事实上，有最新报道称，他已就这笔捐款在内部道歉。他称这造成了干扰，并表示不会兑现最初承诺的向该团体额外捐赠2500万美元的计划。您是否同意格雷格向LTF的捐款适得其反？
山姆·奥特曼： 我不熟悉您提到的那份备忘录。
主持人布伦丹： 这是昨天刚爆出来的，发表在《纽约时报》上，是一条内部Slack消息。
山姆·奥特曼： 我明白，我也无法时刻跟进所有信息。
主持人布伦丹： 据说在6月份的一条内部Slack消息中，布罗克曼说这造成了极大的干扰，他很抱歉这么做，并且不打算再额外捐赠2500万美元。您可以具体回应一下布罗克曼的事。同时还有一个更广泛的问题，即AI资金涌入政治领域，而且双方都在大量投入，对吧？
山姆·奥特曼： 好的。
主持人布伦丹： 我想听听您的具体回答。
山姆·奥特曼： 我没看到关于布罗克曼的那篇报道，所以不想对此作出具体回应。但如果可以的话，我可以谈谈这个普遍性问题。
主持人布伦丹： 好的。那我能先问您一个问题吗？LTF或其他任何政治组织是否曾找过您寻求捐款？
山姆·奥特曼： 没有。我过去曾支持过一些候选人，但考虑到AI现在处于核心位置，而且我们与政府有业务往来，我目前不会向任何候选人捐款。 不过过去确实支持过个别候选人。
主持人布伦丹： 但是，AI资金涌入政治领域的趋势确实非常猛烈。坦白说，你们的竞争对手、Anthropic的CEO达里奥向AI安全组织以及推广AI安全的候选人（特别是纽约的亚历克斯·博罗斯）进行了捐款。一方面，风险投资家们在大量投入资金；另一方面，你们的总裁也在大量投入。您认为这些资金对政界和公众对AI的看法产生了怎样的影响？
山姆·奥特曼：显然，某些做法并没有奏效。我认为目前公众对AI的看法并未达到我们的期望。 我理解为什么现在AI的负面评价这么多。实际上，在许多情况下人们非常喜欢使用这些工具。人们谈论ChatGPT如何以各种方式让生活变得更美好、更轻松，或是完成各种有用的事情，帮他们节省时间。但是，人们对这一切将带来的经济影响感到十分焦虑。对于权力集中的担忧是真实存在的，而且我认为这种担忧相当合理。 还有另一种担忧，比如Anthropic的安全研究主管说我们有10%的概率会灭亡之类的，我很反感这种说法，因为那个人本应有很多主动权去降低这个数字，它并不是一个静态的数字。 所以，人们有这些感受并不让我感到惊讶，而且我不认为靠政治献金就能让公众对此释怀。
主持人布伦丹： 所以您认为……？抱歉，您先说。
山姆·奥特曼： 不，我认为行业需要想办法解决实际的担忧。而现在，我认为业内许多人对这些担忧依然充耳不闻。
主持人布伦丹： 那么，您是否认为在2028年的选举中，各方都应缩减支出，以尝试缓解这个问题？正如您所说，权力集中是人们关注的焦点之一。对于在下一个选举周期缩减支出，您有什么看法？具体会怎么做？
主持人布伦丹： 我的意思是，现在有数亿美元从AI实验室流向候选人和政治行动委员会，而且不只是你们这边；风险投资家们在投入，Anthropic也在投入。您的意思是，整个AI行业是否应该同意停止向政治捐款？
山姆·奥特曼： 是的，也许是放缓政治支出的节奏。 总的来说，我非常希望政治领域的资金能大幅减少。我认为这并不能改善我们政治体系的运作，但我不知道该如何实现。 我认为我或整个行业都没有能力去解除这种局面，而且规定某些人可以捐款而其他人不能捐款是行不通的。如果您有办法让更少的钱流入政治领域，并且能够全面实现，我将非常乐意支持。
7. 州层面与纽森
主持人布伦丹： 很遗憾，这超出了我的职责范围。但我确实认为这是件好事。当然，每个人都会这么说。可一到选举时，真金白银就砸下去了。我想简要谈谈各州的情况。Politico报道称，今年夏天在儿童聊天机器人安全法案通过州议会之前，您曾给加州州长加文·纽森发短信。您是否将纽森视为AI政策方面的合作伙伴？您认为他能否弥合民主党与硅谷之间的裂痕？
山姆·奥特曼：我很欣赏他。我一直认为他深思熟虑，致力于将州内众多利益群体团结在一起。 所以，我认为他能在这方面发挥作用。
主持人布伦丹： 好的。显然，他是一位总统候选人，或者说是非常有潜力的总统候选人。看来他很可能会出现在未来的选票上。您的常用联系人中还有其他潜在的总统候选人吗？在通往白宫的竞选中，您平时还会和谁经常谈论AI、政治或相关事宜？
山姆·奥特曼：我计划尽最大努力与下一任总统合作，但我目前还没有花大量时间与潜在的候选人接触。 无论谁成为美国总统，我都会与之合作。
主持人布伦丹： 当然。您刚才提到和纽森交谈，是因为您在加州，而且这显然是当地的重要议题。是的，他是我们的州长。那么，您是否经常与任何世界领导人谈论AI？或者您认为哪位领导人在AI政策或其他方面真正起到了引领作用？
山姆·奥特曼： 可以说所有领导人都在谈论这个话题。我认为在过去几年里，我与任何世界领导人的交谈中，AI都是名副其实的首要议题。
主持人布伦丹： 但谁让您印象深刻呢？在AI政策或该技术规划方面，谁最让您钦佩？
山姆·奥特曼： 优秀的领导人有很多。正如您所说，我脑海中浮现的是法国总统。我认为他极其深思熟虑，并且长期以来一直在思考AI的发展方向以及它应有的形态。
8.蒸馏、出口管制
主持人布伦丹： 简要谈谈国家安全和前沿AI公司面临的一些风险。OpenAI一直直言不讳地指出。蒸馏基本上是指他们利用你们的AI模型来训练自己的模型，成本只需一小部分，从而显然能在价格上击败你们。您认为这些蒸馏攻击是否从根本上破坏了OpenAI的商业模式？
山姆·奥特曼： 这其实是一件很有意思的事。我们的商业表现非常优异，但另一方面，我们又时刻担忧面临的各种压力。 有时候压力来自竞争对手，有时候来自开源模型，有时候又来自其他方面。我想说的是，我们必须确保自身的领先优势，以捍卫国家安全，并让大众充分共享AI的红利。 正如这次对话中涉及的许多其他话题一样，这其中存在着复杂的权衡取舍。
主持人布伦丹： 好的。显然，你们一直在对这种蒸馏攻击发出警告，但目前尚不清楚大家究竟能采取什么应对措施。你认为美国政府是否应该采取更多措施来应对来自中国的对抗性蒸馏？
山姆·奥特曼：我认为业界可以采取很多应对措施。问题在于，所有这些措施都伴随着大量的权衡取舍。 我们可以用不同的方式开放产品接口，使其更难被蒸馏，但这会限制模型的开放式创造力，而我们并不想这么做。我们绝对不想被迫这样做。所以，我认为业界在这里可以采取很多应对措施，只是它们都伴随着权衡取舍。其中一些涉及国家政策，另一些则涉及普通公司之间的正常竞争。
主持人布伦丹： 你们更倾向于采取哪种措施吗？
山姆·奥特曼： 我们正在积极讨论。我认为我们目前还不会明确表态，但这正是我们在背后全力推动的事情。
主持人布伦丹： 好吧，等你们确定了，一定要来Politico告诉我们。听起来不错。据报道，OpenAI致力于从现在到2030年间在算力上投入约7500亿美元。我想这是《华尔街日报》今年夏天的报道。但信贷条件正在收紧，贵公司已被认定为Oracle等处于超大规模扩展和基础设施建设前沿公司的信用风险。这种局面是否推高了AI的成本？或者说，是否预期会推高OpenAI的成本？
山姆·奥特曼：我认为推高成本的主要是供应链，而不是金融市场。融资依然相对容易，资金也很充裕，但硅晶圆供应要紧张得多，成本的大幅上涨主要发生在这里。
主持人布伦丹： 好的。OpenAI已将IPO推迟到2027年。你们是否考虑进一步推迟？
山姆·奥特曼： 我认为，当我们积累了一些安全案例，并看到我们能在新的监管体制下良好运作时，可能仍会有市场变化促使我们重新考虑。 世界上可能会发生不可预测的事情，但从安全和财务的角度来看，我预计我们会准备就绪。
9. 行业自律组织、反垄断豁免
主持人布伦丹： 是的。关于监管工作有很多讨论，我认为这在很大程度上是由行业主导的。关于为人工智能设立类似美国金融业监管局的机构有很多讨论。我知道你和Dario，还有Google DeepMind的Demis Hassabis都在大量讨论这个问题。基本上，这是一个可以共享信息、甚至在局势变得极其严峻时协调放缓步伐的自律组织。你们是如何讨论这个问题的？有一个WhatsApp群组吗？你们是如何沟通的？
山姆·奥特曼： 没有那种所有人都加入的大型WhatsApp群，但有很多人在各种会议上碰面，有电话会议、交流研讨会之类的。
主持人布伦丹： 好的。你认为政府需要给予顶尖人工智能公司反垄断豁免，以便进行这样的协调吗？Dario和Ravi就是这么说的。
山姆·奥特曼： 我不是律师，但据我了解，法律相当明确，我们是允许这么做的。 显然，我们不能说“让我们把模型价格定在这里”，这显然不好，也不能说“我们不发布这个”之类的。但我认为法律相当明确，我们被允许分享安全最佳实践、安全事件报告等。
主持人布伦丹： 为什么你认为Anthropic在呼吁反垄断豁免？你得去问他们。最近有很多关于人工智能的电影上映。其中一部由安德鲁·加菲尔德饰演你。我想片名叫《Artificial》。也许应该叫《Super》。在新的框架下，谁应该饰演你？安德鲁·加菲尔德是个合适的人选吗？你心里有其他人选吗？大家都会考虑这个问题，对吧？
山姆·奥特曼： 谁应该在电影里饰演他们？
主持人布伦丹： 谁应该在电影里饰演你？
山姆·奥特曼： 哦，在这之前我从未想过这个问题。我觉得他在《蜘蛛侠》里演得相当不错。我不知道。不管怎样，这都会是一件很奇怪的事。但我挺喜欢大家的。我希望它有趣，希望它很搞笑。 我敢肯定剧情不会完全符合事实，但我希望它有趣且值得一看。
10. CN领先程度、国家安全
主持人布伦丹： 是的。趁你在这里，我想多问一点关于蒸馏的问题。对抗性蒸馏是一回事，还有一个更广泛的问题，那就是竞争。我不知道你们在多大程度上追踪各方的领先程度。我甚至不确定你们如何追踪。你们追踪这个吗？你们知道谁在前沿领域处于领先地位吗？你认为OpenAI、Anthropic以及该领域的其他领先者，比其他公司领先多少？
山姆·奥特曼：我确实认为我们处于领先地位。我认为很难用一个具体的数字来衡量领先多少，因为衡量标准取决于多种因素。 所以我可以有些自信地说，我相信我们最好的内部模型远远领先于任何公司所拥有的最佳内部模型，但很难确切说出领先多少。
主持人布伦丹： 我很好奇你是怎么知道的。因为这似乎是情报分析师才会知道的事情。
山姆·奥特曼：你无法确切知道。 我刚才正想说这个。我们有理由相信这一点，但情报并非绝对准确。我希望我能有绝对的把握。
主持人布伦丹： 是的。政府会和你分享这方面的信息吗？我假设他们正在关注东方的AI实验室。
山姆·奥特曼： 他们可能会和OpenAI其他有安全许可的人分享。他们没有告诉过我，你们比其他项目领先X个月之类的。
主持人布伦丹： 也许那只会增加一些不必要的压力。我想问一下，你出席了国宴。当时有很大压力要求达成某种关于控制发展节奏的协议。总统似乎不愿涉足此事。我很好奇，你认为在这一届政府任期内，近期是否有可能达成某种协议？
山姆·奥特曼：我认为有可能。我不知道具体能达成什么样的协议，但这位总统在促成交易方面非常出色。
主持人布伦丹： 你认为需要提升对话层级吗？有人向我描述过一件事，你需要先规范好自身，然后也许需要与民主国家沟通看看能否达成共识，一旦做到这一点，就可以再与中国交涉。你能绕过这个过程，还是在你看来必须按部就班地推进？
山姆·奥特曼： 你问错人了。你可能认识很多复杂的国际事务专家。如果是关于人工智能技术的问题，我能给你一个很好的答案。但复杂的国际事务，我可能不是你能问到的最懂行的人。
主持人布伦丹： 也许这个问题应该问你的政策团队。你认为他们在AI领域构成了重大的国家安全威胁吗？目前一直在努力对流向东方的人工智能芯片实施出口管制。其中一些管制已经到位。无论谁赢得选举，都有努力在即将到来的跛脚鸭期收紧这些管制。你认为这些措施有效吗？
山姆·奥特曼：我同时认为，各国使用更强大的人工智能相互对抗，显然是一个巨大的国家安全问题，这也是我希望在此达成某种协议的部分原因。 在我们的历史上，我们也曾对其他具有重大颠覆性的技术采取过类似措施，即使是在彼此非常不喜欢的国家之间。而且我也认为，这项技术的形态非常不寻常，以至于过去那些行之有效的限制手段——也许我们可以以核技术为例，你可以真正专注于原材料等——不会以完全相同的方式奏效。因此，我认为目前许多方法都基于上一个时代的思维方式。
主持人布伦丹： 所以，出口管制在某种程度上是一种过时的手段。
山姆·奥特曼：某种形式的限制或许能起作用，但你可以选择在其他国家训练模型，等训练完成后，直接通过互联网传输模型权重。这完全是另一种技术形态。
主持人布伦丹： 是的。Anthropic一直在大力推动出口管制，他们内部其实是强硬的“对华鹰派”。他们认为，要在这个领域击败东方，方法就是严格限制其获取美国硬件的渠道。你认同这种看法吗？你认为这是可行的方案吗？
山姆·奥特曼： 这属于那一类管控手段。不过再次强调，我希望全世界都能从这项技术中受益。 首先，那种“只有美国人才能受益，而不让中东方人拥有这项技术”的想法，我不喜欢，我非常反感这种心态。 不过，我确实认为这会带来实质性的地缘政治权力影响。但在我看来，目前还很难说芯片流向管控就是解决这一问题的最佳途径。
主持人布伦丹： 你在对话开始时确实提到，你担心权力不仅会在个人之间集中，也会在国家之间集中。也许让单一国家主导听起来不太符合“美国优先”的论调，但听起来你的确认为这项技术应该是全人类共享的。
山姆·奥特曼：如果我能挥动魔杖，我会祈愿美国拥有最强大的AI模型和最大份额的AI算力，并引领全球的政策决策。我热爱美国的体制与价值框架，也毫无疑问地支持美国。但我认为，不应只有美国人独享这项技术的红利，不应只有美国人在未来拥有话语权，更不应让美国与世界其他地区形成极度失衡的权力垄断。
主持人布伦丹： 山姆，非常感谢。这次访谈非常精彩，希望能有下次合作的机会。也特别感谢你作为首期节目的嘉宾。太棒了。
热门跟贴