搜索
消息称美光正探索开发近GPU NAND闪存以运行更大的LLM
14 小时前
据报道，美光正研究高耐久性NAND闪存模块的开发方案，探索将NAND闪存更靠近GPU的布局，以处理无需传统HBM或常规DRAM模块那样高延迟和高带宽的工作负载。这一架构被称为“近GPU NAND”，旨在平衡存储密度与耐久性。该方案允许GPU访问密度低于传统TLC或QLC NAND的存储池，重点提升I/O速度、带宽和读取速度。此技术将使GPU可直接访问数百GB的存储池，大型语言模型（LLM）将不再受内存限制。
