三星全球首创 LPDDR-PIM 内存 手机 AI 处理提速 2.3 倍
5 小时前

三星全球首发了面向端侧AI设备的下一代内存——LPDDR-PIM,并在近期学术会议上公布了LPDDR5X-PIM的结构、规格及验证结果,该产品此前已荣获下一代内存奖项。PIM技术能在内存内部直接完成部分运算,减少数据搬运,从而提升运算速度并降低功耗。测试显示,LPDDR5X-PIM处理Llama 3.1模型的速度是普通LPDDR5X的2.3倍,每秒令牌处理量更是达到现有产品的3倍。鉴于AI模型小型化、高效化的发展趋势,三星在曾开发HBM-PIM技术的基础上,此次将PIM技术应用于移动设备常用的LPDDR内存。该产品兼容性强,三星正积极推进相关生态建设,并已启动LPDDR6-PIM的标准化工作,标志着内存正从单纯的数据存储设备向直接参与运算的方向演进。