AI正在消耗大量能源，并因此引发人们对未来AI引发能源危机的担忧。
内存计算芯片被视为一种解决方案，包括中国在内的国家、企业正在加大对内存计算企业的投资。
“AI迫切需要节能的解决方案，”有专家表示，“否则它很快就会自我毁灭。”
AI耗能：相当于传输数十亿本书
为了理解AI为何如此耗费能源，我们可以将计算机芯片想象成当地图书馆的分支机构，而人工智能算法则是一位拥有借阅权限的研究人员。每当算法需要数据时，他就会前往被称为内存芯片的“图书馆”，取出数据并带到另一个被称为处理器的芯片上执行功能。
AI需要海量数据，这意味着相当于数十亿本书在这两个芯片之间来回运送，这个过程会消耗大量电力。至少十年来，研究人员一直尝试通过构建可以在存储数据的位置对其进行处理的芯片来节省电能。
“与其将书从图书馆搬回家，不如直接去图书馆完成你的工作，”斯坦福大学教授、内存芯片顶尖专家菲利普·王（Philip Wong）说道，他同时也是台积电的顾问。
这个过程通常被称为“内存计算”，曾面临技术挑战，直到现在才刚刚迈出研究阶段。随着人工智能的电力消耗引发对其经济可行性和环境影响的严重质疑，能够提升人工智能能源效率的技术可能会带来巨大回报。这使得内存计算成为让业界兴奋的话题。
诸如台积电、英特尔和三星等主要的芯片制造商都在研究内存计算。英特尔实验室的资深首席工程师Ram Krishnamurthy表示，英特尔公司已经生产了一些用于研究的内存计算芯片，但他拒绝透露内存计算如何融入英特尔的产品线。
OpenAI首席执行官Sam Altman等个人、微软等公司以及来自中国、沙特阿拉伯等国家的官方附属实体都投资了开发这项技术的初创公司。
去年11月，美国迫使沙特阿拉伯能源公司沙特阿美的风险投资基金从Rain AI撤资。Rain AI是一家位于旧金山的初创公司，专注于内存计算。据知情人士透露，沙特阿美的风险投资部门正在寻找美国以外从事内存计算的公司，包括在中国寻找目标。
中国尤其对这项技术表现出越来越浓厚的兴趣。据追踪投资数据的PitchBook公司称，少数中国初创公司（例如PIM Chip、Houmo.AI和WITmem）正从知名投资者那里筹集资金。普林斯顿大学教授、同时也是内存计算初创公司EnCharge AI的联合创始人Naveen Verma表示，他过去经常被邀请到中国公司和大学就这个主题进行演讲。“他们正积极尝试理解如何构建系统——尤其是内存计算系统和更先进的系统，”。Verma表示，他已经有好几年没有去过中国，并且只在亚洲就他的学术研究进行过演讲，并没有谈论EnCharge的技术。
内存计算芯片：聚焦推理 而非训练
这种芯片技术能否成为人工智能计算未来重要的一部分还远未可知。传统上，内存计算芯片对环境因素（例如温度变化）很敏感，这会导致计算错误。初创公司正在尝试各种方法来改善这种情况，但这些技术都还比较新。切换到新型芯片代价高昂，除非客户确信能带来显著改进，否则通常会犹豫不决。因此，初创公司需要让客户相信这些收益值得冒险。
目前，内存计算初创公司并没有涉足人工智能计算中最难的部分：训练新模型。这个过程需要算法分析PB级的数据来提取用于构建其系统的模式，主要由像英伟达这样的公司设计的高端芯片来处理。英伟达一直在致力于改善自身芯片的能效，例如缩小晶体管尺寸以及提升芯片间通信效率等。
内存计算芯片初创公司并没有正面挑战英伟达，而是将业务目标放在“推理”方面，即利用现有模型接收指令并输出内容。推理不像训练那么复杂，但它会大规模进行，这意味着专门为提高推理效率而设计的芯片可能存在着良好市场前景。
d-Matrix是一家位于硅谷的芯片初创公司，已经从微软和新加坡国家投资机构淡马锡控股等投资者那里融到了1.6亿美元。Sid Sheth指出，用于推理的英伟达主要产品——图形处理器芯片的耗电量非常高，它不是一个高效率的推理选择。
该公司创始人CEO Sid Sheth表示，在人工智能热潮兴起之前，向投资者推销他们的产品颇具挑战。他说：“2023年上半年，由于ChatGPT的缘故，每个人都明白了这项技术的重要性。”该公司计划今年售出第一批芯片，并于2025年实现大规模生产。
内存计算公司仍在摸索其产品的最佳用途。其中一家位于荷兰的内存计算初创公司Axelera正将目标瞄准汽车和数据中心里的计算机视觉应用；位于德克萨斯州奥斯汀市的Mythic公司则将内存计算视为短期内人工智能安防摄像头等应用的理想选择，但他们最终希望这项技术能用于训练AI模型。
庞大的AI能源消耗为所有人寻找提升该技术能效的方法带来了紧迫感，半导体研究公司 （一个行业智库）的首席科学家Victor Zhirnov说。“AI迫切需要节能的解决方案，”他说，“否则它很快就会自我毁灭。”
触动财经编译自外媒
热门跟贴