智东西7月13日消息，微软CEO萨提亚·纳德拉（Satya Nadella）昨日在X上发了一篇题为“反向信息悖论”（The Reverse Information Paradox）的长文，质疑当前AI行业存在的“学习不对称”现象。
纳德拉的这篇文章被外媒Business Insider认为是在讽刺Anthropic、OpenAI等大模型厂商在AI训练机制上的“双重标准”，这些大模型厂商一方面允许自身利用公开数据和用户交互数据持续学习，另一方面却限制其他企业通过模型蒸馏获取模型能力。
此前，Anthropic曾多次公开谴责其他AI公司通过模型蒸馏复制Claude能力，并多次呼吁加强对模型能力的保护。
纳德拉在文中指出，在这种机制下，企业为了使用AI能力，需要不断向模型提供自身的数据、流程、反馈和专业知识，而这些内容也可能成为模型持续学习的重要来源。如果学习过程长期只向模型提供商单向流动，企业创造的知识价值最终可能不断向掌握AI基础设施的一方集中。
基于此，纳德拉提出，AI时代企业需要建立新的“信任边界”（Trust Boundary），确保数据、反馈、评估体系以及组织知识能够沉淀在企业内部，形成属于自身的持续学习和智能积累能力。
以下为纳德拉关于“The Reverse Information Paradox”的全文编译：
在智能时代，企业应该如何保护自己的核心知识产权？
诺贝尔经济学奖得主肯尼斯·阿罗（Kenneth Arrow）曾提出了信息市场中的一个悖论。他曾指出：“对于购买者而言，信息的价值在获得信息之前是未知的；但一旦获得信息，购买者实际上已经在没有成本的情况下拥有了这些信息。”
在阿罗提出的“信息悖论”（Information Paradox）中，卖方为了出售知识，面临着不得不先泄露知识的风险。
而人工智能带来了一个相反的问题。在AI时代，买方为了使用自己购买的智能能力，反而面临泄露自身知识的风险。
实际上，你需要为获得知识付出两次代价：第一次是金钱成本，第二次则是更加宝贵的东西，即为了让智能真正发挥作用，你必须向它提供的专有知识。而且，你希望模型表现得越好，就必须向它输入越多这类知识。
随着时间推移，信息不对称的现象会变得越来越严重。卖方会随着你对产品的使用，不断了解更多关于你的信息；但你却很少知道卖方正在从你这里学习了什么。
这就是我所说的“反向信息悖论”（Reverse Information Paradox）。
专利制度解决了阿罗悖论中的一个问题。它允许发明者公开自己的想法，同时又不会简单地将其拱手送出。而反向信息悖论，也需要一种类似的解决方案。
这不仅仅是数据保护的问题。模型会从各种“经验”中学习，包括人们输入的提示词、Agents使用的工具，以及当模型出现错误时，人们进行的修正。
每一次纠正，都会被模型提炼为组织层面的知识。这类知识是竞争对手永远无法购买的，也是最容易在不知不觉中泄露的内容：一点一点的痕迹，一次又一次的修正，一轮又一轮的评估。
在使用智能的过程中，你也在创造智能。而你创造出来的东西，应该属于自己。这是你的特定知识，用哈耶克的话说：那些关于时间、地点和具体环境的知识，是任何其他人都无法拥有的。它了解你的思考方式，了解你的价值取向，也了解你衡量成功的标准。
虽然，模型供应商拥有合理使用权，利用公开数据训练模型所带来的巨大创新是必要的，但讽刺的是当前的行业现状：一方面，模型提供商可以利用公开数据进行学习；另一方面，他们却对模型蒸馏（distillation）施加限制性条款，并保留从客户使用数据和交互数据中学习的权利。
如果学习过程只朝一个方向流动，那么经济价值最终会不断向掌握学习基础设施的企业集中流动，而不是流向真正创造知识的人。
因此，让每一家企业都拥有自己的学习基础设施，并能够掌控自己的学习闭环，是至关重要的。
正如Alex Karp所说：“技术客户真正想要的是控制自己的计算资源、模型、数据栈，以及自己的核心优势。他们希望确保，自己拥有生产资料，而这些东西不会被转移给其他人。”而当前的行业模式，恰恰造成了Karp和企业所担忧的资源转移。
这也是为什么企业需要为其自身建立一个真正的“信任边界”（trust boundary），目的是让自身的人力资本和“Token资本”能够不断积累和增长。
在这个边界内，企业的数据、信息痕迹、评估体系、调整后的模型权重以及组织记忆能够共同积累，并持续改进。同时，这也是一道严格的边界：未经企业授权，任何东西都不应该跨越这条边界，包括所谓的“智能残留”（intelligence exhaust）。
企业将要求拥有使用模型输出进行微调和训练自身模型的权利。我认为，这是每一家企业根据自身责任要求，对模型进行调整和适配的基本权利。
在云计算时代，企业积累的是数据。而在AI时代，企业积累的是“学习能力”。因此，信任边界也必须随之变化，从过去保护信息，转变为保护企业学习、适应以及积累智能的机制。
为了确保这一点，每个企业都必须做到以下几点：
控制（Control）
企业内部需要创建自己的私有评估体系，因为评估标准决定了组织内部对于“什么是好的结果”。同时，企业需要保留对自身组织记忆、信息痕迹、反馈、决策以及制度背景的所有权，并能够将模型输出应用于企业自身的任务和查询中。
能力（Capability）
企业需要在租户边界内部建立自己的专有学习环境来训练或调整模型。在这样的环境中，模型可以在不泄露公司知识的情况下基于真实业务流程进行学习。
选择（Choice）
企业需要确保编排层（orchestration layer）不会与任何单一模型绑定。并且应该问自己：如果正在使用的某一个模型被移除，你是否仍有能力使用其他模型来运行和优化你的评估。即使某个“通用”模型被拿走，你企业自身的资深能力（veteran capability）是否仍然留在自己手中？
成本（Cost）
通过将编排层与单一模型解耦，企业可以更加高效、更具成本效益地组合上下文、模型和任务，同时不会降低质量。
复合（Compound）
将以上四点结合起来，企业就能够建立自己的持续学习闭环，也就是一种“爬坡机器”（hill climbing machine）。这种闭环能够让企业的AI投资不断积累价值，并推动企业智能能力持续增长。
换句话说：企业应该能够使用模型，并且不必交出些使自己具有独特性的知识。这正是我们需要面对的“反向信息悖论”。
结语：AI时代，企业需要掌握自己的智能资产
AI时代，企业竞争不再只是比拼数据规模和模型能力，更重要的是能否持续积累和利用自身知识。纳德拉提出的“反向信息悖论”，揭示了企业在拥抱AI过程中面临的新挑战：如何让AI提升企业能力，而不是让企业知识成为模型能力训练的资源。
未来，建立属于自己的智能基础设施，或将成为企业AI战略的重要方向。
来源：X、Business Insider
热门跟贴