无问芯穹携手清华上交开源 APXInf 推理引擎,为具身智能规模化落地按下加速键
13 小时前

具身智能技术在落地过程中遭遇端侧推理性能瓶颈,为此,无问芯穹携手高校团队,共同研发并开源了具身智能端侧推理引擎APXInf。该引擎兼容主流计算平台,借助多层优化策略、独创技术与创新架构,显著降低了端侧推理延迟,有效解决了推理抖动问题。同时,引擎还引入了「敏捷推理」理念,提升了模型接入效率。目前,APXInf已支持两款具身模型,并正积极拓展模型及硬件适配范围。此次开源不仅填补了具身智能技术链的空白,实现了从模型训练到本体部署的完整技术闭环,还降低了具身智能技术的落地门槛。项目团队已向全球开发者发出共建邀请。