我们开发了一款网页游戏,用于演示AI研发背后的经济学原理。在游戏中,你扮演一家AI实验室,从零开始引导人工超级智能的诞生:需要将劳动力、算力和数据持续投入研发,直到系统能够实现自我维持的加速进展。
这款游戏的灵感来自近期发表的论文《递归自我改进的经济学》,以及经济学与计算机科学领域的其他基础研究。它建立在论文中的真实经济模型之上,但并非要做出现实预测——模型高度依赖参数设定,游戏中的参数以教学效果为优先,而非预测准确性。
为了理解未来轨迹如何受关键参数影响,我们还做了一个探索器,方便你深入底层模型进行模拟。AI发展虽然复杂、快速且难以预测,但已在某些统计规律(尤其是模型训练的规模法则)上展现出惊人的一致性。我们期待游戏和模拟器能够帮助我们找到并理解更多关于AI研究轨迹的有用模型。
理解AI能力的轨迹是预测未来最重要的课题之一。尤其值得关注的是,AI如何加速AI自身的研究——即所谓的递归自我改进。它可能让能力提升速率出现陡峭拐点。我们致力于量化递归自我改进并预测其轨迹,也因此对《递归自我改进的经济学》论文尤为兴奋。该论文来自近期成立的“弹性研究所”经济学家团队,其中包括METR的Tom Cunningham。我们欣赏他们的研究思路,并制作了这款游戏和探索器,以便更直观地理解模型及其启示。
热门跟贴