美国AI三巨头不仅在大模型赛道争奇斗艳,还纷纷卷起自研AI芯片。昨天“AI界汪峰”谷歌刚推出新款云端定制芯片,今天Meta就将硅谷注意力吸引走,重磅宣布推出第二代自研AI训练和推理芯片MTIA v2。
Meta 发布新一代自研AI芯片
Meta 去年公开首款自研芯片MTIA(Meta Training and Inference Accelerator)成果,第一代MTIA(MTIA v1)即采台积电7 nm制程,下一代MTIA 同样委由台积电生产。
在英特尔、Google 发表最新AI芯片之后,Meta 10 日也公开自研芯片开发成果。MTIA v1后继产品官方称为下一代MTIA(Next Gen MTIA),它执行的模型用于处理与AI 推荐系统相关的工作。与台积电7nm制程建构的MTIA v1 相比,下一代MTIA 采用5nm制程。
据介绍,此次发布的新一代 MTIA 与第一代 MTIA 相比,显著改进了性能,并有助于强化内容排名和推荐广告模型。其架构从根本上侧重于提供计算、内存带宽和内存容量的适当平衡。
下一代MTIA 配备更多处理核心,拥有更多on-chip memory(256MB 对比MTIA v1 128MB)和off-chip LPDDR5(128GB 对比MTIA v1 64GB),并以更高的平均时脉速度运行,从800MHz 上升到1.35GHz,同时功耗增加(90W 对比MTIA v1 25W)。
Meta 指出,下一代MTIA 目前已投入16 个资料中心区域使用。Meta 评估的四个关键模型中,下一代MTIA 性能比MTIA v1 提升3 倍,「由于我们控制整个堆叠,所以与商用GPU 相比,可以达成更高的运算效率」,Meta 部落格文章写道。
专为大模型定制AI芯
去年5月,Meta首次展示了最新芯片系列——「Meta训练和推理加速器」(MTIA),旨在加快并降低运行神经网络的成本。
MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。
内部公告称,Met首款芯片将在2025年投入使用,同时数据中心开启测试。不过,据路透社报道,Artemis已经是MTIA的更高级版本。
其实,第一代的MITA早就从2020年开始了,当时MITA v1采用的是7nm工艺。
该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。
在芯片的内存和网络部分,Meta表示,依然有不少工作要做。
免责声明:
1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此声明不承担信息可能产生的任何责任、任何后果。
2、 本号非商业、非营利性,转载的内容并不代表赞同其观点和对其真实性负责,也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误,负任何直接或间接责任。
3、本号部分资料、素材、文字、图片等来源于互联网,所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品,请与我们取得联系,我们会及时修改或删除。
热门跟贴