DeepMind上线了一个新站点：institute.deepmind.com。它的名字叫DeepMind Institute，开篇给出的理由只有一句话——随着我们逼近AGI，迫切需要跨学科的思考，来更好地理解它对人类产生的深远影响。

这个研究所不是发布模型的地方。它更像一个把问题摊开来讲的窗口，讨论的是AGI到来前后，社会该提前想清楚的那些事。

打开网易新闻 查看精彩图片

先盯住"思考过程"这扇窗

打开网易新闻 查看精彩图片

研究所抛出的第一个议题，关于AI的"思维链"。读一个AI的思维链，等于获得了一扇观察它推理过程的窗口，而我们可以借这扇窗去监测它是否在谋划、是否在欺骗。

结论也很直接：必须努力让这扇窗保持敞开。一旦推理过程变得不可读，监测就无从谈起。

十一套政策，应对经济冲击

第二个议题指向经济。研究所评估了社会可以实施的十一项政策，用来管理由日益先进、日益普及的AI所带来的潜在经济扰动。

这里的关键词是"潜在"和"扰动"——不是已经发生的失业潮，而是需要提前准备的冲击面。

如果AGI要改造社会，先决定改成什么样

打开网易新闻 查看精彩图片

第三个议题更根本：如果AGI注定要改造社会，那我们必须决定，究竟想要什么样的改造。

研究所从二十世纪的动荡中吸取教训，提出了一种"务实乌托邦主义"——由谦逊与希望构成。这个提法本身，就是对"技术自动带来好结果"这种想法的修正。

测试前沿模型，要动态地测

第四个议题落在测试方法上。研究所主张用动态的方式测试前沿AI模型的能力，既能支持创新，又能激励负责任的行为。

这四篇内容放在一起看，指向同一件事：AGI不只是一个技术进度条，它同时是经济问题、治理问题和价值选择问题。研究所要做的，是把这些问题在到达终点之前先摆上桌面。