搜索
谷歌新算法引发美股存储板块集体下挫
3 小时前
周三，美股存储板块整体表现疲软，美光科技连续5个交易日下跌，闪迪等公司股价也同步下滑。市场将此波动归因于谷歌发布的新型内存压缩算法TurboQuant。该技术针对大语言模型和向量搜索引擎内存占用问题，可将KV缓存压缩至3bit精度，且几乎不影响准确率。对于开源模型，该技术能实现约6倍的KV缓存内存压缩效果，在英伟达H100加速器上性能最高可提升8倍，应用场景还可拓展至向量检索领域，谷歌计划于4月正式展示。尽管技术落地前景尚不明朗，但市场已提前对AI内存需求前景的转变做出反应。分析师表示，若该技术广泛应用，市场将重新评估AI所需的内存容量规模，不过其推广和落地仍面临较大不确定性。
