Google Developers Blog·· 21 天前精选AI 评分62
Google 发布 LiteRT Tensor API,用 C++ 手工构建端侧模型
Native Model Authoring for Edge with LiteRT Tensor API
AI 导读
Google 发布 LiteRT Tensor API,作为 LiteRT 栈中的轻量 C++ 建图层,支持逐算子构建计算图,同一计算图可在 CPU、GPU 与 NPU 上运行,也可经 XNNPACK 无模型文件直接在 CPU 执行。
推荐理由
为需要手工控制模型的开发者提供折中路径,同一份 C++ 计算图可跑 CPU、GPU 和 NPU,免去按后端重写的工程量。
来源:Google Developers Blog · developers.googleblog.com