今天，谷歌在 GitHub 与 TFHub 上同时发布了 EfficientNet-Lite，该模型运行在 TensorFlow Lite 上，且专门针对移动设备 CPU、GPU 以及 EdgeTPU...EfficientNet-Lite 为边缘设备带来了 EfficientNet 上强大的性能，并且提供五个不同版本，让用户能够根据自己的应用场景灵活地在低延迟与高精度之间选择。...幸运的是，借助 TensorFlow Lite 中提供的训练后量化流程来对模型进行量化处理，能够在最大程度上降低对其准确率的影响。 其次是异构计算设备带来的问题。...研究者还分享了一些有关训练后量化的经验。他们表示，在首次尝试利用训练后量化时，准确度出现了大幅度下降：ImageNet 数据集上的 Top-1 准确度由 75% 降至 46%。...以下为使用 EfficientNet-Lite0 进行图像分类的代码，只需要五行就够了。
如何启用训练后整型量化 我们的整型量化工具需要使用一个小型代表性数据校正集。只需为转换器提供 representative_dataset 生成器，优化参数便会对输入模型执行整型量化。...例如，我们仅使用 ImageNet 数据集中的 100 张图像对模型进行校准后，即得出了以下准确率。 结果 延时 与浮点模型相比，量化模型在 CPU 上的运行速度提升了2到4倍，模型压缩提升4倍。...准确率 仅使用 ImageNet 数据集中的 100 张校准图像，完全量化的整型模型便获得了与浮点模型相当的准确率（MobileNet v1 损失了 1% 的准确率）。 ?...整型模型的工作原理 记录动态范围 以上新工具的工作原理是：记录动态范围，在浮点 TensorFlow Lite 模型上运行多个推理，并将用户提供的代表性数据集用作输入。...每轴（也称为“每通道”）或每层权重以 int8 二进制补码表示，数值范围为 [-127, 127]，零点时则等于 0。
这里使用的神经网络框架是Tensorflow，Tensorflow提供了丰富的资料和工具支持，比如通过TensorBoard，训练过程的准确率收敛情况、模型的图等都可以很直观的看到。...MobileNet的，因此我们最终选择了Tensorflow Lite。...Tensorflow的模型一般为pb格式，图数据和参数数据都固化在pb文件里，Tensorflow提供了命令行，可以把pb文件转化成Tensorflow Lite支持的tflite文件。...此外，官方提供了Tensorflow Lite的sample例子 (https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib...GPU加速模型 虽然借助Tensorflow平台和Tensorflow Lite，模型已经可以在终端工作起来做图像识别分类了，但是Tensorflow Lite是基于CPU去做推断预测的，推断预测的速度不够理想
如今，越来越多移动设备内置了专门的自定义硬件以更加有效地处理机器学习工作负载。...安卓和 iOS 上都有相同的库； 编译器：使用一组运算符来执行模型。编译器支持选择性操作员加载。没有运算符的情况下，只有 70KB，加载了所有运算符，有 300KB。...TensorFlow Lite 已支持多个面向移动端训练和优化的模型 MobileNet：一类能够识别 1000 个不同的对象的视觉模型，专门为移动和嵌入式设备而设计； Inception v3：一种功能类似...MobileNet 的图像识别模型，虽然体积更大，但能提供更高的准确率； Smart Reply：一种设备上的对话模型，能对接收到的会话聊天信息提供触发性应答。...你可以通过迁移学习，在自己的图像数据集上重新训练。
因为我想将边缘模型与云模型进行比较，所以我决定对精度进行优化。 ? ? ? 结果 在“评估（EVALUATE）”选项卡中，我们能够看到模型的执行效果。云模型的准确率为94.5％。...边缘模型的准确率为95.5％。让我惊讶的是，云模型的表现竟然稍差一些，特别是考虑到它的培训成本要更高之后！ 总的来说，我对两个模型的性能都很满意。...边缘案例 Google AutoML为你提供了模型在哪些方面表现良好以及哪些地方出错的细目。和我的keras模型一样，儿童和不寻常的面部角度都是个问题。以下屏幕截图中显示了误报的案例。 ? ? ?...每种方法都非常强大： TF Lite:允许你在移动设备上运行模型 （TF Lite：https://www.tensorflow.org/lite） TensorFlow.js：允许你在网络浏览器中运行模型...我下载了Tensorflow.js 模型，并构建了一个使用Edge模型和网络摄像头的demo示范。注意：此模型不会将你的图像上传到服务器，所有内容都在本地运行！
Lite在Android手机上实现图像分类 前言 Tensorflow2之后，训练保存的模型也有所变化，基于Keras接口搭建的网络模型默认保存的模型是h5格式的，而之前的模型格式是pb。...有了tensorflow-lite-support库，数据预处理就变得非常简单，通过ImageProcessor创建一个数据预处理的工具，之后在预测之前使用这个工具对图像进行预处理，处理速度还是挺快的，...要注意的是图像的均值IMAGE_MEAN和标准差IMAGE_STD，因为在训练的时候图像预处理可能不一样的，有些读者出现在电脑上准确率很高，但在手机上准确率很低，多数情况下就是这个图像预处理做得不对。...到这里Tensorflow Lite的工具就完成了。...result = cursor.getString(idx); cursor.close(); } return result; } 摄像头实时预测 在调用相机实时预测我就不再介绍了
概述 3.17日谷歌在 GitHub 与 TFHub 上同步发布了 EfficientNet-lite，EfficientNet的端侧版本，运行在 TensorFlow Lite 上，针对端侧 CPU、...EfficientNet-lite提供五个不同版本（EfficientNet-lite0~4），让用户能够根据自己的应用场景和资源情况在延迟、参数量和精度之间做选择。...EfficientNet-Lite4 是计算量最大的版本，在 ImageNet上的top-1准确率达到了80.4%，同时能够以30ms/image的速度运行在 Pixel 4 的 CPU 上。...但量化使用了定点数，表示范围相对于浮点数小很多，必然存在精度的损失。借助 TensorFlow Lite 中提供的训练后量化流程来对模型进行量化处理，尽可能地降低了对准确率的影响。...通过量化，模型大小减少为1/4，推理速度提升近2倍。 EfficientNet-lite0 浮点模型float32与int8量化版本在模型尺寸、精度及时延的对比： ? 结构和算子优化。
今年 5 月，谷歌曾在 I/O 大会上宣布即将推出 TensorFlow Lite，今日，谷歌终于发布了新工具的开发者预览版本，这是一款 TensorFlow 用于移动设备和嵌入式设备的轻量级解决方案。...当加速器硬件不可用时，TensorFlow Lite 返回至经优化的 CPU 执行操作，确保模型仍然可在大量设备上快速运行。 架构 下图展示了 TensorFlow Lite 的架构设计： ?...：一种图像识别模型，功能上类似于 MobileNet，但能提供更高的准确率（当然模型也更大）； Smart Reply：一种设备端对话模型，能对接收到的会话聊天信息提供触发性应答。...TensorFlow Lite 模型示例 作为 TensorFlow Lite 库的一部分，我们还发布了一个设备端对话模型和演示 APP，该 APP 提供了一个基于 TensorFlow Lite 的自然语言应用...我们还设计了可兼容不同机器学习方法的架构，例如，当使用 TensorFlow 进行深度学习的时候，我们是为背后的模型学习了一个轻量神经网络（ProjectionNet），然而当用另一个不同的架构（ProjectionGraph
本教程就是介绍如何使用Tensorflow2的Keras接口训练分类模型并使用Tensorflow Lite部署到Android设备上。...Tensorflow Lite工具编写一个TFLiteClassificationUtil工具类，关于Tensorflow Lite的操作都在这里完成，如加载模型、预测。...有了tensorflow-lite-support库，数据预处理就变得非常简单，通过ImageProcessor创建一个数据预处理的工具，之后在预测之前使用这个工具对图像进行预处理，处理速度还是挺快的，...要注意的是图像的均值IMAGE_MEAN和标准差IMAGE_STD，因为在训练的时候图像预处理可能不一样的，有些读者出现在电脑上准确率很高，但在手机上准确率很低，多数情况下就是这个图像预处理做得不对。...到这里Tensorflow Lite的工具就完成了。
选自Google 机器之心编译 机器之心编辑部 今年 5 月，谷歌曾在 I/O 大会上宣布即将推出 TensorFlow Lite，今日，谷歌终于发布了新工具的开发者预览版本，这是一款 TensorFlow...当加速器硬件不可用时，TensorFlow Lite 返回至经优化的 CPU 执行操作，确保模型仍然可在大量设备上快速运行。 架构 下图展示了 TensorFlow Lite 的架构设计： ?...：一种图像识别模型，功能上类似于 MobileNet，但能提供更高的准确率（当然模型也更大）； Smart Reply：一种设备端对话模型，能对接收到的会话聊天信息提供触发性应答。...TensorFlow Lite 模型示例 作为 TensorFlow Lite 库的一部分，我们还发布了一个设备端对话模型和演示 APP，该 APP 提供了一个基于 TensorFlow Lite 的自然语言应用...我们还设计了可兼容不同机器学习方法的架构，例如，当使用 TensorFlow 进行深度学习的时候，我们是为背后的模型学习了一个轻量神经网络（ProjectionNet），然而当用另一个不同的架构（ProjectionGraph
有了现成的教程，我对实现狗狗的图像识别信心满满，认为重点在于信息的展示及狗狗信息的收集。...然而多年的开发经验告诉我，真正自己做起来，一定会碰到问题，特别是像tensorflow lite这种频繁迭代的产品。果然，我就一头栽进了tensorflow lite 的巨坑里。...开始，我猜测是代码中tensorflow lite没有初始化好就调用其识别过程。但我在测试代码中加入延时，没有效果。加入循环，对一个图片反复识别几次，后面的识别就正常了。...这时，我算是明白，我真的跌进tensorflow lite的巨坑里面了。...Tensorflow Lite出现这样一个问题也真是匪夷所思，同样的输入和同样的处理，输出结果却不同，真的颠覆了我对编程的理解。 ? 当年爱因斯坦面对量子力学，提出了“上帝是在执骰子吗？”的疑问。
为提高大家对空气污染的意识，提高环境保护的觉悟，来自印度的几个小哥哥利用机器学习设计了一款 APP 来检测空气质量。 像德里这样的大城市可能会遭受空气污染，尤其在冬季。...来自 Marconi Society 的 Celestini Project India 给了我们很大的启发，并为我们提供了在德里印度理工学院（IIT Delhi）实习的机会，以及开发所需的资源。...使用 TensorFlow Lite 预测空气质量 我们开发的应用程序从手机相机收集图像，然后在设备上利用 Tensorflow Lite 处理图像，得到 AQI 估计。...用于获取图像和预测 AQI 值。应用程序可以在手机上处理图像。 TensorFlow Lite 用低精度的数据类型进行计算（当带宽受限时，对下载速度有优势），用训练好的机器学习模型在手机上进行推理。...我们决定结合两个模型的结果，其中一个是基于图像的模型，一个是使用气象参数的时间模型。在基于图像的机器学习模型进行训练时，使用气象参数的时间模型有助于实现更高的推理精度，为用户提供一定结果。
最近一直在考虑在Android系统上做一些AI的项目，但现在的AI项目大多数采用Python语言。在网上搜了一些移动端AI的例子，觉得Google的TensorFlow Lite比较适合。...看到这样一篇介绍Android上的TensorFlow Lite的文章，翻译出来和大家分享。翻译并非逐句翻译，加入了我的一些理解。如果有问题请参看原文或和我联系。...TensorFlow Lite中使用MobileNet 例如，在这幅图像中，我将相机指向了我最喜爱的咖啡杯，可以看到它主要被分类为“杯子”。考虑到其形状，很容易理解！...构建TensorFlow Lite Android应用程序 要构建使用TensorFlow Lite的Android应用程序，您需要做的第一件事就是将tensorflow-lite库添加到应用程序中。...解释器加载一个模型，并提供一组输入来运行它。 然后TensorFlow Lite将执行该模型并写到输出，非常简单。
正如我们在第 1 章，“移动 TensorFlow 入门”中提到的那样，Google 还提供了 TensorFlow Lite（可替代 TensorFlow Mobile 的版本）在移动设备上运行模型。...的确，Inception 3 模型的准确率比 MobileNet 模型要高，但是在许多使用情况下，可以忽略很小的准确率差异。...图 11.2 比较了用于加载和处理图像文件数据的 TensorFlow Mobile 和 Lite 代码： 图 11.2：TensorFlow Mobile（左）和 Lite 代码，用于加载和处理图像输入...我们提供了有关如何开发 TensorFlow Lite iOS 和 Android 应用以从头开始对图像进行分类的分步教程。...Core ML 是 Apple 为移动开发人员提供的将机器学习集成到 iOS 应用中的框架，它对转换和使用 Scikit Learn 构建的经典机器学习模型提供了强大的支持，并为基于 Keras 的模型提供了良好的支持
Learn2Compress 可直接将 TensorFlow 模型压缩为 TensorFlow Lite 中的设备内置（on-device）模型，可在移动设备上高效运行，而无需担心内存优化和速度问题。...Learn2Compress 支持 TensorFlow Lite 中的自定义设备内置深度学习模型，可在移动设备上高效运行，而无需担心内存优化和速度问题。...用于图像分类的 Learn2Compress 将很快可用，研究者可以通过 ML Kit 获取。Learn2Compress 最初将提供给少数开发人员，并在未来几个月里扩大范围。...它将用户提供的大型预训练 TensorFlow 模型作为输入，执行训练和优化，然后自动生成规模较小、内存效率更高、功耗更低、推断速度更快且准确率损失最小的即用设备内置模型。 ?...联合训练（joint training）和精炼（distillation）：该方法使用老师-学生的学习策略，即使用较大的老师网络（该案例中是用户提供的 TensorFlow 模型）来训练一个紧凑的学生网络
提供了有关 MPII 数据集的信息，以解释如何训练沙漏模型进行人体姿势估计。 在大约 20,000 次训练迭代中，所有关节的平均准确率达到大约 70%，最大准确率大约为 80%。...目前，TensorFlow Lite 为具有内置或外部摄像头的 PC，Android 设备，iOS 设备，Raspberry Pi 和微型微控制器提供推理支持。...对 Raspberry Pi 3 重复了上述步骤，没有发生错误。 接下来，按照以下链接提供的步骤安装 TensorFlow Lite 目录和文件。...与其他任何工具一样，如果遇到此处未涉及的任何问题，请提交工作单。 我发现了与该工具有关的一个问题：输出不一致表示对于某些图像，它将绘制边界框标注，而对于其他图像，则不会。...我从上一篇文章开始，但是发现必须精简许多部分，并且需要添加其他详细信息才能使其在我的 Ubuntu PC 上运行。 以下小节提供了使用 GCP 训练目标探测器的分步过程。
ImageClassifier 图像分类器是机器学习的一种常见用例，用于识别图像所代表的内容。例如，我们可能想知道给定图片中出现了哪种动物。...ObjectDetector 物体检测器可以识别一组中可能存在哪些已知物体，并提供这些物体在给定图像或视频串流中的位置信息。...可对该通用 API 进行配置，使其可以加载任何支持文本输入和分数输出的 TFLite 模型。...模型 https://tfhub.dev/tensorflow/lite-model/albert_lite_base/squadv1/1 为您的用例构建一个 Task API 如果现有 Task 库不支持您的用例...近期的路线图如下： 改善 C++ Task Library 的易用性，例如为希望从源代码构建的用户提供预构建的二进制文件并创建人性化工作流。 使用 Task Library 发布参考示例。
（如著名画家的作品），并将其融合交织在一起，使输出图像看起来就像是以参考风格图像中的风格“画出”了内容图像。...针对移动设备优化的预训练风格转化模型，以及在 Android 和 iOS 上的示例应用，可用来为任何图像转换风格。...此应用通过采集一张风格图像与一张内容图像，输出将输入图像的风格和内容相融合的图像。 通过手机摄像头的 Camera2 API 拍摄内容图像后，应用提供了一系列名画作为风格图像的可选项。...我们在 GitHub 中提供了示例，应用风格的主类为 StyleTransferModelExecutor。...TensorFlow Hub 中提供了 float16（预测网络、转换网络）和 int8 量化版本（预测网络、转换网络）两种模型版本。我们迫不及待地想要看看您的作品！不要忘了与我们分享您的创作。
Inception v3：图像识别模型，功能与 MobileNet 相似，它提供更高的精度，但相对来说更大。...大家可以利用迁移学习来轻松地对自己的图像数据集进行再训练。...更多相关发布 作为软件资源库的一部分，谷歌也发布了一个可以运行在设备上的聊天模型以及一个demo app，它们是谷歌编写的运行在TensorFlow Lite上的自然语言应用的样例，供开发人员和研究者们研究学习...在推理过程中，训练后的投影模型会被编译成一系列 TensorFlow Lite 的操作，而这些操作都是为移动平台的快速执行优化过的，可以直接在设备上执行。...它背后的模型和谷歌在自家应用中提供“智能回复”功能的模型有一些区别。 在聊天模型之后 有趣的是，上面描述的机器学习架构保证了背后隐含的模型具有各种灵活的选择。
这些设备可以通过检测对象、人脸识别等功能提供更智能的应用。...这些应用可以提供更丰富的用户体验。...TensorFlow Lite 图像分类在嵌入式系统上使用TensorFlow Lite进行图像分类。需要先准备一个TensorFlow Lite模型（.tflite文件），该模型用于图像分类任务。...TensorFlow Lite来运行图像分类和语音识别任务。...确保模型已经经过Edge TPU的编译，并且在运行时正确加载了硬件加速器。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
