快科技8月26日消息,三星宣布,全球首次研发出面向移动端及端侧AI设备的下一代内存——LPDDR-PIM,该技术将运算功能集成于移动内存中,可有效提升AI处理速度并降低功耗。

打开网易新闻 查看精彩图片

在美国斯坦福大学举行的半导体学术会议Hot Chips 2026上,三星相关负责人首度公开展示了LPDDR5X-PIM的结构、规格及验证结果——该产品本月初刚在FMS 2026内存会议上斩获下一代内存奖项,但详细参数直到此次会议才正式披露。

PIM(内存内运算)技术通过在内存中嵌入运算单元,使部分计算可直接在内存内部完成,无需像传统架构那样将数据频繁搬运至CPU或GPU再传回内存。

对于AI运行而言,数据搬运是主要性能瓶颈之一,应用PIM后,简单运算就近处理,从而在提升速度的同时显著降低功耗

打开网易新闻 查看精彩图片

在测试环节,三星以参数规模达80亿的Meta开源AI模型Llama 3.1为基准,结果显示LPDDR5X-PIM的处理时间为5.4秒,较普通LPDDR5X的12.3秒快了约2.3倍;每秒令牌处理量达81.3 TPS,为现有产品27 TPS的三倍。

事实上,三星早在2021年便公布了面向高带宽内存的HBM-PIM技术并完成开发验证。此次将PIM落地于智能手机等移动设备广泛采用的LPDDR低功耗内存,正是顺应大语言模型向小型化、高效化演进的新趋势。

相关负责人指出,虽然HBM是目前AI内存的标准方案,但并非所有场景都非它不可,LPDDR-PIM兼具高带宽与低功耗,为端侧AI开辟了新的可能。

打开网易新闻 查看精彩图片

随着生成式AI直接在智能手机、PC等终端设备上运行的端侧AI趋势不断扩展,LPDDR-PIM的应用前景持续看涨——电力与空间受限的移动设备,亟需在提升AI算力的同时严控功耗。

在兼容性方面,该产品沿用与通用LPDDR相同的阵列设计,无需大幅改动系统即可部署。目前,三星正提供软件开发工具包和模拟器等资源,积极推动生态建设。

继LPDDR5X-PIM之后,三星已启动LPDDR6-PIM的标准化工作,AI内存竞争正从以HBM为中心的数据中心,延伸至智能手机和PC等端侧领域,内存也正从单纯的数据存储设备,向直接参与运算的关键组件演进。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片