【CNMO科技消息】据CNMO科技了解,三星宣布全球首次开发出面向移动端等端侧AI设备的下一代内存LPDDR-PIM。该技术将运算功能集成至移动内存中,可有效提升AI处理速度并降低功耗。

三星
三星相关负责人近日在美国斯坦福大学举行的半导体学术会议Hot Chips 2026上,公开了将内存内运算技术与低功耗内存LPDDR相结合的LPDDR5X-PIM的结构、规格及验证结果。该产品本月初在FMS 2026内存会议上获得下一代内存奖项,但详细规格系首次对外披露。
PIM技术通过在内存中嵌入运算单元,使部分计算可直接在内存内部完成。传统架构下,内存中存储的数据需传送至中央处理器或图形处理器进行计算,随后再传回内存。应用PIM后,相对简单的运算可在内存内部处理,从而减少AI运行中主要瓶颈之一的数据搬运,在提升速度的同时降低功耗。
三星以参数规模达80亿的Meta开源AI模型Llama 3.1为对象进行测试,结果显示LPDDR5X-PIM的处理时间为5.4秒,较普通LPDDR5X的12.3秒快约2.3倍。每秒令牌处理量达到81.3TPS,为现有产品27TPS的3倍。

半导体晶圆
三星曾于2021年公开将PIM应用于高带宽内存的HBM-PIM技术并完成开发验证。此次则选择将PIM应用于智能手机等移动设备广泛使用的低功耗LPDDR内存。公司方面判断,随着AI模型日益小型化和高效化,并非所有AI设备都需要HBM。
相关负责人表示,AI支持的标准化内存方案虽为HBM,但随着近期大语言模型向小型化、高效化发展,HBM未必始终是最佳选择,因此开发了兼具高带宽与低功耗的LP-PIM。随着生成式AI直接在智能手机或个人电脑等设备上运行的端侧AI趋势扩大,LPDDR-PIM的应用前景也在增长,原因在于电力和空间受限的移动设备既需提升AI运算性能,又需降低功耗。
在兼容性方面,该产品采用与通用LPDDR相同的阵列设计,无需大幅改动系统即可使用。三星目前正提供软件开发工具包和模拟器等资源,推进相关生态建设。继LPDDR5X-PIM之后,三星已启动LPDDR6-PIM的标准化工作。以HBM为中心的AI内存竞争正扩展至智能手机和PC等端侧领域,内存正从数据存储设备向直接参与运算的方向演进。
版权所有,未经许可不得转载
来源:手机中国