Google 推出 LiteRT.js:高性能 Web AI 推理运行时
阅读原文· developers.googleblog.comGoogle 将 LiteRT 扩展到了浏览器端,让 Web 开发者可以直接在客户端跑 AI 推理,但发布缺少性能数据和对比,实质价值还要看后续的 benchmark。
Google 发布 LiteRT.js,这是 LiteRT 跨平台边缘 AI 运行时的最新成员,专为 JavaScript 开发者设计,可直接在浏览器中运行机器学习模型。LiteRT.js 基于 WebGPU 和即将推出的 WebNN 实现 SOTA 推理性能,同时支持回退到 WebAssembly CPU 方案。
我们非常高兴地介绍 LiteRT.js,LiteRT 家族的最新成员!LiteRT.js 是我们强大的解决方案,能够直接在浏览器中运行机器学习模型,将 Google 的跨平台边缘 AI 运行时扩展到 Web 端。LiteRT.js 专为 JavaScript 开发者打造,在 WebGPU 和即将推出的 WebNN 上提供最先进的 ML 模型推理性能,并可回退到基于 WebAssembly 的 CPU 方案。本文将带您快速了解 LiteRT.js,并为 Web 开发者提供上手所需的一切信息。