京东开源基于国产芯片自研的xLLM大模型推理引擎
4 天前

9月29日,京东开源基于国产芯片自研的大模型推理引擎xLLM。该引擎已应用于京东AI助手京言、智能客服、风控、供应链助手及广告等场景,实现效率提升5倍以上,机器成本降低90%。