AI社区对新的开源推理模型DeepSeek R1议论纷纷
埃默里大学信息系统助理教授曹汉成表示:“这可能是一个真正的均衡突破,对于资源有限的研究人员和开发人员来说非常有用,特别是来自全球南方国家的研究人员和开发人员。”
鉴于中国 AI 公司面临的美国尖端芯片出口管制增加等限制,DeepSeek 的成功更加引人注目。但早期证据表明,这些措施并未发挥预期作用。制裁并没有削弱中国的 AI 能力,反而似乎在推动 DeepSeek 等初创公司以优先考虑效率、资源池和协作的方式进行创新。
为了打造 R1,DeepSeek 必须重新设计其训练流程,以减轻其 GPU 的压力。据前 DeepSeek 员工、现任西北大学计算机科学博士生王子涵 (Zihan Wang) 介绍,Nvidia 针对中国市场发布的多种 GPU 的性能上限是其顶级产品的一半。
DeepSeek R1 因其处理复杂推理任务的能力而受到研究人员的称赞,尤其是在数学和编码方面。该模型采用了类似于 ChatGPT o1 使用的“思路链”方法,它可以通过逐步处理查询来解决问题。
微软 AI Frontiers 研究实验室首席研究员 Dimitris Papailiopoulos 表示,R1 最令他惊讶的是其工程简单性。“DeepSeek 旨在提供准确的答案,而不是详细说明每个逻辑步骤,从而大大缩短了计算时间,同时保持了高水平的效率,”他说。
DeepSeek 还发布了六款 R1 的较小版本,这些版本足够小,可以在笔记本电脑上本地运行。该公司声称,其中一款甚至在某些基准测试中优于 OpenAI 的 o1-mini。Perplexity 首席执行官 Aravind Srinivas 在推特上表示:“DeepSeek 在很大程度上复制了 o1-mini,并将其开源。”DeepSeek 没有回复《麻省理工技术评论》的评论请求。
尽管 R1 备受关注,但 DeepSeek 仍然鲜为人知。该公司总部位于中国杭州,由浙江大学信息与电子工程专业校友梁文峰于 2023 年 7 月创立。该公司由梁文峰于 2015 年创立的对冲基金 High-Flyer 孵化。与 OpenAI 的 Sam Altman 一样,梁文峰的目标是打造通用人工智能 (AGI),这是一种可以在一系列任务上匹敌甚至超越人类的人工智能。
训练大型语言模型(LLM)需要一支训练有素的研究团队和强大的计算能力。资深企业家、前谷歌中国区负责人李开复最近在接受中国媒体 LatePost 采访时表示,由于资源密集型工作,通常只有“前排玩家”才会参与 ChatGPT 等基础模型的构建。美国对先进半导体的出口管制使情况变得更加复杂。
然而,High-Flyer 进军人工智能领域的决定与这些限制有直接关系。早在预期的制裁实施之前,梁小平就购买了大量 Nvidia A100 芯片,这种芯片目前被禁止出口到中国。中国媒体 36 氪估计,该公司库存超过 1 万片,但人工智能研究咨询公司 SemiAnalysis 的创始人 Dylan Patel估计,库存至少有 5 万片。正是认识到这些储备对于人工智能训练的潜力,梁先生创立了DeepSeek,该公司能够将它们与低功耗芯片结合使用来开发其模型。
阿里巴巴和字节跳动等科技巨头以及少数拥有雄厚资金投资者的初创公司主导着中国人工智能领域,这使得中小企业难以竞争。像 DeepSeek 这样没有融资计划的公司非常罕见。
DeepSeek 前员工王子涵 (Zihan Wang) 向《麻省理工技术评论》透露,在 DeepSeek 工作期间,他可以获得丰富的计算资源,并可以自由地进行实验,“这是任何公司应届毕业生都无法享受到的奢侈”。
梁先生在 2024 年 7 月接受媒体 36Kr 采访时表示,除了芯片制裁之外,中国公司面临的另一个挑战是他们的人工智能工程技术往往效率较低。“我们(大多数中国公司)必须消耗两倍的计算能力才能达到同样的结果。再加上数据效率差距,这可能意味着需要高达四倍的计算能力。我们的目标是不断缩小这些差距,”他说。
但 DeepSeek 找到了减少内存使用量和加快计算速度的方法,同时又不会显著牺牲准确性。“团队喜欢将硬件挑战转化为创新机会”,王说。
梁本人仍然深度参与 DeepSeek 的研究过程,与他的团队一起进行实验。“整个团队都具有合作文化,并致力于核心研究”,王说。
除了优先考虑效率之外,中国企业也越来越多地采用开源原则。阿里云已发布 100 多个新的开源 AI 模型,支持 29 种语言,并满足各种应用需求,包括编码和数学。同样,Minimax 和 01.AI 等初创公司也开源了他们的模型。
根据中国信息通信研究院去年发布的白皮书,全球人工智能大型语言模型数量已达 1,328 个,其中 36% 来自中国。这使中国成为仅次于美国的第二大人工智能贡献者。
塔夫茨大学技术政策助理教授曹启桐表示:“这一代年轻的中国研究人员非常认同开源文化,因为他们从中受益匪浅。”
卡内基国际和平基金会的人工智能研究员马特·希恩 (Matt Sheehan) 表示:“美国的出口管制实际上将中国公司逼入了绝境,它们必须利用有限的计算资源提高效率。未来我们可能会看到大量与计算资源匮乏相关的整合。”
这可能已经开始发生了。两周前,阿里云宣布与李开复创办的北京初创公司零一人工智能合作,合并研究团队,建立“工业大模型实验室”。
塔夫茨大学教授曹志军表示:“人工智能行业出现某种分工是节能且自然的。人工智能的快速发展要求中国企业保持敏捷才能生存。”
免责声明:
本文所发布的内容和图片旨在传播行业信息,版权归原作者所有,非商业用途。如有侵权,请与我们联系。所有信息仅供参考和分享,不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。投资有风险,入市需谨慎。
关注我们,一起探索AWM!
2024-12-18
2025-01-15
2024-12-14
热门跟贴