“人工智能女王”李飞飞，又忍不住发声了——这次是为帮高校研究员争取算力和数据资源。
“这个计划的重要性可以类比‘登月投资’。”3月7日，这位人工智能科学家在演讲中提到「建立国家级算力与数据集仓库」计划。
从资料看，这个堪比登月的计划，旨在帮助人工智能研究者获得充足的资源，让美国的顶尖人工智能研究人员与科技巨头保持竞争力。
外媒介绍，李飞飞等学者认为，开展人工智能项目的高昂成本，加大了研究人员从事该领域的难度，损害了这一新兴技术的独立研究性。
一个例证是，Meta可以为模型训练采购高达35万个GPU，而斯坦福大学的自然语言处理小组，总共却只拥有68个GPU。
在李飞飞看来，这种巨大的差距已经让学术界和产业界渐行渐远。
来自斯坦福大学的报告显示，2022年行业里出现了32个重要的机器学习模型，来自顶尖高校的学者们却只贡献了其中的三个。这与2014年的情况发生了显著逆转——当时，大多数人工智能突破源自大学。
中美AI研究人员现状：缺钱缺卡
资金短缺是制约高校AI研究人员做出成绩的原因之一。
GPT-3的单次训练成本约为460万美元。而在算力方面，微软为 OpenAI 训练 GPT-3 模型提供了1024张英伟达A100 GPU，单张卡的市场价约为9,900美元，总计成本超过1,000万美元。
在推理环节，根据2023年4月的数据，OpenAI 维持ChatGPT单日运转的成本约在70万美元左右。
从算力到训练再到推理，动辄数千万美元的成本，让AI研究机构只能向公有云厂商寻求支持与赞助，换取免费的算力额度以支撑 AI 模型训练。
有研究机构甚至将研究方向从技术创新，转为探讨如何用更低的成本训练模型。
斯坦福大学就是一个鲜明的例证。
作为世界QS排名第五的学校，斯坦福大学在AI领域有着包括李飞飞、吴恩达、黄仁勋在内的知名校友。ChatGPT项目中，也有多达16名开发人员来自于斯坦福。
但即使是这样的一所大学， AI预算相比产业也“捉襟见肘”。
这从HAI （斯坦福旗下的一个人工智能机构）的报道可见一斑。报道显示，在2023-2024学年，HAI 将投入220万美元用于资助校内35个人工智能项目的早期研究，平均每个优秀项目能获得6.29万美元的赞助。
而在 HAI 官网中检索关键字“预算”，就能看到 HAI 关于帮助优质研究项目寻求大企业算力资助的提案—— 向AWS、Google Cloud 和 Azure 等公司寻求免费算力支持。
大洋彼岸另一端的顶级学府，伦敦帝国理工学院也面临相似问题。
公开资料显示，2023年8月，帝国理工学院3个研究人工智能与健康领域的创新项目，获得英国国家研究与创新基金会约180万英镑资助，平均每个项目60万英镑。这个数额，仅是GPT-3一次训练所花成本的16%。
另一项2023年帝国理工与麻省理工联合成立的旨在帮助早期优秀研究项目启动的种子基金，仅能为每个申请项目提供不超过5万美元的资助。
在中国，高校做研究时缺卡也非常常见。
据「四木相对论」观察，国内的TOP级院校也不一定有充足的备卡。
相关专业学生表示，一个顶尖的实验室里，大模型团队每十人可以拥有十块A800，非大模型团队则6个人只有4块3090（3090是英伟达的游戏显卡）。甚至有一些学校实验室只能用V100卡，而这种卡基本跑不起来大模型。
当然，现在有很多开源大模型。但即便在开源模型上只做fine-tune（微调）或者inference（推理），百亿参数规模的大模型也需要用到大显存、高配置的GPU，这是很多高校研究组无力承担的。
有学生在知乎上无奈发问：“实验室一块GPU都没有怎么做研究？”、“一个985的深度学习实验室只有两块显卡，这像话吗？”
评论区也是大型献智献策现场，为提问的学生想了各种“薅羊毛”（如使用Google colab）的办法，更多人只能劝说提问者勒紧裤腰带自掏腰包攒一块能凑合用的显卡，否则实验难有结果，找工作也技能受限。
高校人才难以为继：硅谷高薪抢人，博士退学成常态
除去难以逾越的算力门槛，大量人才外流也让各大高校、研究机构痛苦不堪。
2018年《卫报》就报道过硅谷科技巨头不断挖走英国顶尖高校里的优秀研究人才。
“为了苹果公司的6位数薪水，我的学生离开了学校。这个价格比我能提供的高了5倍。”帝国理工学院一位教授在采访中表示，她的一名博士生甚至选择在学业最后一年提前离校，立刻开始公司工作。
另外2023年也有一份报告显示，北美各大高校的计算机与人工智能博士中有超过70%选择加入私营企业工作，而非继续从事科学研究。
即便是羽翼未丰的学生，在整个求学生涯中也需不断抵御企业的“金钱诱惑”。
AI领域的博士生是业界的“香饽饽”，往往从第一学年开始，就会不断收到猎头和企业HR发来的邀请，劝其退学并加入公司。
在博士生被筛选完毕后，大公司的金钱力量甚至会继续席卷流向研究生与本科生。
为了尽早与学生建立联系，科技公司会为还没有毕业的学生提供兼职工作的机会，甚至还有公司会在高中物色最好的“苗子”。
卡内基梅隆大学人工智能与创新硕士项目的主任表示，此类兼职工作的年薪大都超过了35万美元。这些学生毕业后拿到的全职岗位年薪会更高，可能接近50万美元。
“研究生与博士生越来越少，学生群体正在逐渐消失。”康奈尔大学计算与信息科学系主任卡维塔·巴拉（Kavita Bala）感慨。
不仅是学生，科技公司还在坚持不懈地挖高校计算机领域研究机构的成员，“科技巨头企业们正在吸干高校的血”，英国华威大学伦敦学院院长阿卜比尼·默图（Abhinay Muthoo）表示。
在大公司的花式攻势下，越来越多的人不愿投身学术界。如果能加入大公司，既不会再为资源和钱发愁，又有做出更具影响力项目的可能，何乐而不为？
为了留住学生干活，一些企业甚至会想出“黑招”。「四木相对论」此前就曾听闻，国内某背靠高校的大模型明星创企，早前甚至以“不给毕业”等理由“强迫”学生留在实验室为项目打工。
拥有产业和科研双重背景的李飞飞，自然了解双方的利益与矛盾。如果再不能拿到足够的资源和资金，即便人工智能再火热，学术界也只会更加边缘。
对全球来说，都是如此。
参考链接：
[1]:https://www.washingtonpost.com/technology/2024/03/10/big-tech-companies-ai-research/
[2]:https://www.theguardian.com/science/2017/nov/01/cant-compete-universities-losing-best-ai-scientists
[3]https://lambdalabs.com/blog/demystifying-gpt-3
[4]https://www.theguardian.com/science/2017/nov/01/cant-compete-universities-losing-best-ai-scientists
[5]https://www.businessinsider.com/tech-companies-raid-top-university-campuses-rare-artificial-intelligence-talent-2023-4
热门跟贴