美光探索近 GPU NAND 闪存,可支撑更大规模 AI 模型
2 天前

美光正研发「近 GPU NAND」高耐久性NAND闪存模块,计划部署在GPU封装内部或PCB上,靠近GPU。该模块在存储密度和耐久性间做了折中,虽存储密度低于传统TLC或QLC NAND,但提升了I/O速度与带宽。它作为显存和普通存储间的高速缓冲层,能让GPU直接访问数百GB存储池,适合运行大规模AI大语言模型,有望打破LLM推理的显存容量限制。