助力国产芯片突破FP8模型部署及DeepSeek部署成本及效率难题,清华团队开源大模型推理引擎“赤兔Chitu”
2025-03-14

清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布开源大模型推理引擎“赤兔Chitu”。该引擎首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型,为国产AI芯片生态带来了新突破。这一成就降低了大模型落地门槛,推动了国产AI算力的发展。