8—15瓦的功耗,跑出最高214 TOPS的INT8推理算力——单看这几个数字,你可能会以为这是某款旗舰GPU在极限喷气。但它的载体只是一块M.2或PCIe扩展卡,而且走的并不是传统GPU架构。东擎(ASRock Industrial)最近在官方声明中确认,其边缘AI平台正式导入Axelera AI的Metis AIPU加速器,让这个“低功耗高算力”的组合开始进入企业部署的菜单。
长久以来,边缘AI推理一直被困在两类方案的拉扯中。一边是GPU,算力堆得够,但功耗动不动就大几十瓦甚至上百瓦,散热和供电让很多户外设备、嵌入式终端根本吃不消,整体拥有成本(TCO)自然水涨船高。另一边则是各类定制的神经处理单元,虽然省电,但在复杂模型上的吞吐量和兼容性未必能稳住。企业想把AI从概念验证推到产线上跑着用,往往就被卡在“部署起来费钱、简化下去没力”的两难里。
Axelera AI给出的解法是用数字内存计算(D-IMC)重新排了芯片设计。Metis AIPU基于三星5纳米制程,算力密度直接做进存储单元中,减少数据搬运的同时把典型功耗压到8—15瓦。相比传统GPU架构,东擎与Axelera AI都强调,这组加速器在AI推理性能上有提升,更关键的是把功耗和总拥有成本往下拉。对边缘场景而言,这相当于同时解开“功率封顶”和“省不下钱”两个结。
更务实的看点是,东擎这次不只是给平台多了一种加速卡选项,而是把Metis AIPU列进了边缘平台的正式支持清单。两家公司的合作覆盖了从开发、验证到部署的流程简化,底层思路很明确:不让企业再将算法适配和硬件适配分开折腾。东擎在声明里直说,客户能够在“最具价值的应用场域”直接绑上AI,那些过去因为功耗过高、部署太复杂被搁置的视觉检测、实时分析类的规模化项目,现在多了一条可走的通路。
当然,要让边缘AI从POC实验室走到分布式现场持续运行,单凭芯片参数是不够的。这种合作的价值最终得看整套算力平台能不能在不额外增加维护人力的前提下跑稳。但至少,当主流边缘硬件开始把“低功耗高算力”的加速方案直接写进配置单时,过去那种“边缘AI必须跟着GPU功耗曲线走”的默认假设,已经裂了一条缝。
热门跟贴