当“Pacing the Frontier”等项目试图借助大型实验室来确保AI研究安全时，开源模型却成了行业的“痛点”。由于可以免费分发且难以控制使用方式，开放权重模型不易被约束，这让一些实验室将其视为“可怕的存在”。 然而，上周在拉斯维加斯举行的Ai4大会上，三位全球最受尊敬的AI研究者——诺贝尔奖得主杰弗里·辛顿、World Labs首席执行官兼联合创始人李飞飞、Coursera联合创始人吴恩达——就这一议题发表了看法。尽管他们在具体策略上存在分歧，但三位都强烈主张：AI应当保持开放。 三人的核心担忧，是让少数大型AI公司掌控技术进步的速度。当少数公司控制一项技术的入口时——就像苹果和谷歌掌控移动操作系统那样——创新可能放缓，掌握平台的公司还能左右开发者在上面构建什么。 吴恩达表示，他担心AI领域出现类似格局。“我不希望有‘守门人’，”他说，“那会限制所有人接触AI的机会。” 企业有动力保护自身竞争优势，包括通过影响行业规则来实现。这可能导致一种局面：只有那些规模最大、资金最雄厚、有能力构建最先进AI系统的巨头才能胜出。 吴恩达的解决方案是维持多元供给，让不同模型和公司相互竞争，而不是让少数玩家主宰行业。“如果要我开一个药方，那就是促进开放，”吴恩达说，“因为AI是惊人的技术，我希望它掌握在每个人手中。” 但并非所有人都认同开放权重模型有助于维持这种状态。辛顿尤其强调了开源软件与开放权重模型之间的区别：前者公开底层代码供人检查和修改，后者则直接发布训练好的参数——这些参数可以被微调，也可能被滥用于不可控的目的。即便如此，辛顿也承认，完全封闭并非答案；真正的挑战在于找到平衡点，既保留开放的创新活力，又防范潜在的恶意使用。 李飞飞则从更宏观的视角指出，开放是AI研究长期以来的传统，也是科学进步的基础。她呼吁政策制定者不要因噎废食，而应通过透明、责任和社区参与来管理风险，而不是简单地将模型锁进少数公司的保险柜。 三位学者的共识是：AI的未来不应由一小撮巨头独占。开源与开放权重模型可能是危险的，但比“危险”更可怕的，是让少数人垄断智能的入口。
热门跟贴