且构网

分享程序员开发的那些事...
且构网 - 分享程序员编程开发的那些事

TensorFlow Lite 2019 年发展蓝图

更新时间:2022-08-16 21:37:07

雷锋网(公众号:雷锋网) AI 科技评论按,本文原载于公众号 「TensorFlow」,雷锋网 AI 科技评论获得授权转载。

TensorFlow Lite 2019 年发展蓝图分为四个关键部分:易用性、性能、优化和可移植性。非常欢迎您在 TensorFlow Lite 论坛中评论我们的发展蓝图,并向我们提供反馈。

我们希望您了解一下 TensorFlow Lite 2019 年规划的总体概览,可能会因各种因素而随时变化,并且下列内容的先后顺序并不反映优先次序。从原则上说,我们通常优先解决大多数用户提出的问题,所以此列表基本反映这一点。

易用性

支持更多 op

根据用户反馈优先处理更多 op

op 版本控制和签名

op 内核将获得版本号

op 内核将可以通过签名识别

新转换器

实现新的 TensorFlow Lite 转换器,该转换器将能更好地处理图形转换(即控制流、条件语句等)并取代 TOCO

继续改进 TF Select Op

支持更多使用 TF Select(例如哈希表、字符串等)的转换类型

在通过 op 剥离使用 TF Select Op 时支持更小的二进制文件大小

支持长短期记忆 (LSTM) / 循环神经网络 (RNN)

增加对 LSTM 和 RNN 的完整转换支持

图形可视化工具

提供增强版图形可视化工具

预处理和后处理支持

针对推理的预处理和后处理提供更多支持

控制流和设备端训练

增加对控制流相关 op 的支持

增加对设备端训练的支持

新 API

将新的 C API 作为语言绑定和大多数客户端的核心

iOS 版 Objective-C API

iOS 版 SWIFT API

更新后的 Android 版 Java API

C# Unity 语言绑定

添加更多模型

向网站的支持部分添加更多模型

性能

更多硬件委派

增加对更多硬件委派的支持

支持 NN API

持续支持并改进对 NN API 的支持

框架可扩展性

通过自定义优化版本支持简便的 CPU 内核重写

GPU 委派

继续扩展对 OpenGL 和 Metal op 的总支持 op

开源

提升 TFLite CPU 的性能

优化浮动和量化模型

优化

模型优化工具组

训练后量化 + 混合内核

训练后量化 + 定点内核

训练时量化

为更多技术提供更多支持

RNN 支持

稀疏性 / 精简

支持较低位宽

可移植性

微控制器支持

增加对一系列 8 位、16 位和 32 位微控制器 (MCU) 架构语音和图像分类用例的支持

雷锋网版权文章,未经授权禁止转载。详情见转载须知。