英伟达旗下AI推理芯片公司Groq计划在下一代LPU中采用3D堆叠DRAM技术,替代现有的SRAM方案。此举旨在通过提升芯片存储容量,满足日益增长的大型AI模型需求。SRAM虽速度快但容量有限,而DRAM更适合大容量设计。3D堆叠技术通过垂直堆叠芯片,减小表面积并提高能效,为AI芯片的容量和性能提升提供新路径。