IT之家 4 月 21 日消息,gigglehd 最新报告指出,在 RAG(检索增强生成)AI 基准测试中,相比较非 X3D 型号处理器,AMD 的 3D V-Cache 处理器性能最高可提升 88%。
IT之家注:RAG(检索增强生成)是一种结合外部数据库检索与生成能力的 AI 架构。传统大语言模型依赖预训练数据,面对未知数据时存在局限。RAG 通过实时检索外部知识库,为模型提供精准上下文,从而生成更准确、详尽的回答,广泛应用于企业知识库与智能问答系统。

摩根士丹利采用开源 X3D RAG 基准,模拟 10 万至 20 万向量规模的单节点场景。结果显示,在 100K 批量搜索测试中,AMD Ryzen 3D V-Cache 处理器速度比非 X3D 芯片快 88%。

X3D RAG 是开源基准测试工具,用于衡量 CPU 缓存和架构如何影响本地 / 内部 RAG 流水线中基于图的向量搜索及相关阶段。


在 200K 批量搜索中,Ryzen 7 9850X3D 性能较 Ryzen 7 9700X 提升超 50%,这颗 8 核处理器甚至超越了 16 核的 Ryzen 9 9950X。



在技术实现方面,该机构认为大容量缓存显著优化了 HNSW(分层可导航小世界)算法的图检索效率。在索引构建测试中,100K 规模耗时缩短 50%,200K 规模缩短 39%,并发 RAG 吞吐量测试同样表现优异。



参考
X3D가 게임 전용이라고? 대용량 CPU 캐시의 새로운 활용처 RAG
