搜索
Google第八代TPU搭配2PB HBM 成功打破被视为AI瓶颈的内存墙
2 小时前
内存价格近一年上涨3-5倍，PC和手机消费意愿受挫，根源在于AI需求激增。AI对内存容量和带宽要求极高，以谷歌第八代TPU为例：其训练芯片TPU 8t单颗配备216GB HBM，内存带宽达6.5TB/s，单Pod可互联9600块芯片，共享2PB内存，算力达121 exaflops（FP4）；推理芯片TPU 8i单颗配备288GB HBM，内存带宽8.6TB/s，片上SRAM达384MB（为上代3倍），算力10.1 petaFLOPS（FP4）。戴尔CEO更预警，到2028年AI加速器内存需求将较2023年激增625倍，供需失衡将持续至2028年。
