周一，马克·扎克伯格发布了一篇长达6500字的AI宣言，主要阐述他对Meta AI正在构建的"个人超级智能"系统的展望。文中的观点并非全新——几个月前，这篇文章的简版曾刊登于《华尔街日报》，他也曾在Meta财报电话会议上多次提及这些想法。但这应该是他迄今分享的最详尽版本。

有人将其定性为一篇反"末日论"文章，但这并不准确。更确切地说，这是扎克伯格讲述自己为何对AI改变社会的方式充满个人热情的文字。然而，尽管他极力描绘超级智能丰裕时代即将到来的美好未来，却不断提醒我们这一切可能出错的方式。

AI同样令我兴奋——这也是我持续撰写相关内容的原因——但大众对AI的观感往往是令人不安甚至反感的。因此，有必要厘清这其中发生了什么，以及为何扎克伯格这类文章对整个AI行业并无裨益。

社交媒体至今仍是科技行业的敏感话题，我们无需在此对外界对Facebook的每一项批评逐一评判。可以明确的是，Facebook作为产品、扎克伯格作为个人，在美国公众中的口碑都不太好。近期一项调查显示，64%的美国人认为社交媒体对民主造成了危害，类似比例的人认为应对其加强监管，这一数据在党派立场上几乎没有差异。就在上周末，一家法院还以对儿童造成伤害为由，对该公司处以5.67亿美元的罚款。整体氛围相当负面。

提及这些，并非是要暗示扎克伯格应该羞愧地退出公众视野——但社交媒体带来的反噬，正是当下社会对AI社会影响充满焦虑的核心原因之一。无论是否公平，公众并不相信科技高管能够确保新技术对社会产生正面影响。这篇文章非但没有正视这一现实、尝试重建信任，反而一再展示出信任最初是如何流失的。

这篇宣言有很大篇幅充斥着关于"智能"的模糊泛论——与扎克伯格和多西过去关于"言论自由"的空洞表述如出一辙。例如这段话：

"随着每个人都拥有更强大的工具，每个人塑造未来的能力将会增强，而非减弱……利益相互竞争的人和机构会自然形成制衡，引导走向积极的结果。通往积极AI未来最好也最现实的路径，就是将超级智能普及给所有人。"

这话说得似是而非。我能想到不少利益冲突导致糟糕结果的例子，但先放一边。更奇怪的是，这些话被呈现为一种真诚的哲学结论，而非Meta正在推向市场的一款名为"个人智能"的具体产品。如果你本就对此人心存戒备，你可能会担心他写这些文字不过是在说服自己——一切都不会出错。

当扎克伯格举出具体例子时，这种感觉愈发强烈，因为其中许多例子与AI工具实际使用现状严重脱节。例如，他这样描述AI在教育领域的应用：

"每个人都将拥有一位在各个学科拥有博士学位、且有无限耐心帮助你学习任何知识的个性化导师和教练。学生将在薄弱领域获得额外帮助，这种帮助目前只有有钱的家长才能为子女提供。成年人将拥有一个超级智能学习助手，它能精准了解如何教你掌握新工作技能、新语言、新爱好，或任何你感兴趣的内容。"

当然，扎克伯格所描述的产品已经存在——这就是ChatGPT、Claude和Gemini这类消费级聊天机器人。如果你想深入了解某个话题，这些工具确实很有帮助，但它们在教育领域最普遍的使用方式，恰恰是用来逃避学习——因为你的个性化导师可以替你做作业、写指定的论文，而且由于缺乏健全的水印系统，教师根本无法判断哪些文章是由AI生成的。

这只是AI危害中风险相对较低的一个例子，但它是实实在在正在发生的事情。有时你设计一项技术是为了做好事，但它会产生意想不到的后果，反而让事情变得更糟。而世界上最有权势的人之一拒绝正视这一点，只会让人们的不安情绪更加有据可依。

扎克伯格还举例说明AI将如何改善法律体系：

"做个思想实验：假设只有一个人拥有一位超级智能律师，他在法庭上将拥有不公平的优势——即便他在实质上是错误的一方。这将导致一个更糟糕的社会。但现在假设每个人都拥有一位超级智能律师。在这种情况下，正义的实现将比今天更加公平高效——毕竟当前的诉讼中，双方在技能和资源上往往严重失衡。"

这同样是一个充满预设的例子。当然，法律AI的普及或许能带来更公正的社会，但它也可能让本已令人窒息的官僚体制更加复杂，或者催生新一波滥用诉讼者，用法律版本的垃圾邮件堵塞整个司法体系。面对这一切，很难保持平静，而扎克伯格的毫不在意，反而让我更加忧虑。

在其他地方，即便是对Meta现有商业实践的描述，也开始呈现出一种奇怪的抽象色彩。例如，扎克伯格这样描述Meta对免费增值模式的承诺：

"每个人都将能够免费或以可负担的价格获取这些工具……我们将提供数十亿人可以使用的免费版本。对于那些希望付费使用更多算力的人，将设有一种动态拍卖机制，确保每个人以尽可能低的价格获得所需的智能和算力，同时保证算力被用于人们集体认为最有价值的用途。这将确保超级智能的红利得到广泛分配。"

从宏观上看，他说的这些我基本认同。扎克伯格说得对，算力获取是一个现实问题，免费增值模式确实比要求每个人预先付费更能扩大覆盖面。现货算力的动态市场早已存在，所以他描述的也并非什么离经叛道的东西。但消费级AI产品之所以无一例外地将用户与算力现货价格隔离，自有其道理。动态定价是极差的用户体验，在你工作中真正依赖的工具上尤为如此。

同样，我只能假设扎克伯格心里清楚这一点，他并非真的打算通过动态拍卖来定价Token。但读完这篇文章后，我对此的把握反而比读之前更小了。

当然，谈论这些话题有更好的方式。尽管存在诸多缺点，山姆·奥特曼和达里奥·阿莫代伊在与公众直接沟通时通常表现不错。他们做到了扎克伯格在这篇文章中刻意回避的事：承认AI的危险，强调自身的预防措施，并努力让听众相信他们是值得信赖的。

这种沟通所能发挥的作用毕竟有限。有时（尤其是近期），安全防护会失效，整个行业内在的风险会暴露无遗。但如果没有某种形式的信任积累，这个行业或许无法在每一次失败面前都安然无恙。

Q&A

Q1：扎克伯格这篇AI宣言主要讲了什么？

A：扎克伯格发布了一篇长达6500字的宣言，核心是阐述他对Meta AI正在构建的"个人超级智能"系统的展望，包括AI在教育、法律等领域的应用前景，以及通过免费增值模式将超级智能普及给所有人的构想。文章试图描绘一个AI丰裕时代的美好图景，但批评者认为其中许多判断与AI工具的实际使用现状严重脱节。

Q2：扎克伯格举的教育和法律领域AI例子有什么问题？

A：在教育领域，他描述的个性化AI导师已经以ChatGPT、Claude、Gemini等形式存在，但现实中这些工具最普遍的用途是帮学生逃避学习，替其完成作业和论文，且缺乏有效的水印识别机制。在法律领域，AI普及虽可能提升司法公平，但也可能加剧官僚体制的复杂性，甚至引发滥用诉讼的问题。这些潜在负面后果，扎克伯格在宣言中几乎只字未提。

Q3：为什么说扎克伯格的宣言对AI行业没有好处？

A：公众对科技高管普遍缺乏信任，社交媒体带来的负面影响是AI焦虑情绪的重要根源。奥特曼和阿莫代伊在公众沟通中会主动承认AI的风险并强调安全措施，而扎克伯格的宣言回避了这些，充斥着模糊的哲学泛论，并对AI负面影响的现实视而不见，这种态度只会加深公众的不信任感，对整个行业的形象有害无益。