Google近日推出JavaScript库LiteRT.js,旨在提升浏览器端机器学习与AI工作负载的处理速度。该库将移动端优化的LiteRT运行时引入Web平台,使AI模型能在本地浏览器中高效运行,无需依赖服务器处理。LiteRT.js支持浏览器内硬件加速推理,通过WebGPU和WebNN API实现GPU及专用硬件的优化,并具备多框架兼容性,可直接编译PyTorch、JAX或TensorFlow模型。此外,它还支持TensorFlow.js架构的无缝集成,简化了模型转换与部署流程,为网页端AI应用提供了高性能、低延迟的解决方案。
