搜索
九天睿芯实现单卡跑万亿参数模型
3 小时前
近日，深圳存算一体AI芯片企业九天睿芯发布面向超大MoE模型的推理部署方案。该方案采用“单卡+4 SSD”配置，使DeepSeek-V4在decode阶段速度达约20 TPS，具备实际可用吞吐量。据悉，九天睿芯自去年起与关键存储伙伴合作，率先研发基于HBF和SRAM存算一体堆叠的万亿参数AI推理芯片，成为国内首家布局该技术路线的企业。
