坊间传闻：「TensorFlow 适合业界，PyTorch 适合学界」。都 2022 年了，还是这样吗？
11 月， eKuiper 团队转入 1.8.0 版本的开发周期之中，目前已完成了一部分实用的新功能：添加了视频流 source，将边缘流式处理能力扩展到视频流领域，可以处理摄像头的视频流或者网络中的直播视频流；发布了通用的 tfLite 函数，用户只需上传训练好的 Tensor Flow Lite 模型，无需额外编写插件或代码即可在 eKuiper SQL 中调用模型进行流数据的 AI 推断，进一步简化了 AI/ML 处理的难度；针对边缘环境运维不便的特点进一步优化了规则自动化运维的能力，为规则添加了自动重启策略的配置，Portable 插件添加了热更新功能；继续完善了有状态分析函数的支持，增加 WHEN 子句进行按条件计算。
TensorFlow Lite是TensorFlow针对移动和嵌入式设备的轻量级解决方案。它可以在移动设备上高效运行机器学习模型，因此您可以利用这些模型进行分类、回归或其他功能，而无需和服务器交互。
我们知道大多数的 AI 是在云端运算的，但是在移动端使用 AI 具有无网络延迟、响应更加及时、数据隐私等特性。
TensorFlow Lite 是用于移动设备和嵌入式设备的轻量级解决方案。TensorFlow Lite 支持 Android、iOS 甚至树莓派等多种平台。
对于Tensorflow最大需求是能够在桌面系统中训练并运行模型，这种需求影响了很多设计决策，例如为了更低的延迟和更多的功能而增加可执行文件的大小。云端服务器上，RAM以GB为衡量单位，存储空间以TB为单位，几百兆字节的二进制文件通常不是问题。
同时，产品团队也重构了文档结构，更新了安装和应用场景文档，方便用户快速找到有用的文档信息。
大家好，很高兴能够参与这次腾讯云AIoT应用创新大赛，非常希望能够在这次比赛中得到收获与提升，同时也希望能够通过这次比赛能与各位交流学习。
原先识别人体骨骼，使用的Google的 MLKit 框架 。方便简单，直接通过Gradle添加相关依赖库。就可以使用了。
GitHub 地址：https://github.com/edvardHua/PoseEstimationForMobile
https://mp.weixin.qq.com/s/ASnaFA7D4jfHWoO_IqQ6aQ
AidLux是成都阿加犀智能科技有限公司自主研发的融合架构操作系统，支持Android/鸿蒙和Linux系统的生态融合。其核心优势包括操作系统多样性、广泛芯片适配、以及AI模型转换和计算单元调度的高效性。
初步学习了Unity后，觉得上手很快，也很好玩。 然后最近生日，媳妇给送了一个Oculus Quest2，是Facebook搞的VR眼镜，而恰好Unity对VR和AR的支持比较早，基于它去学VR游戏开发，应该不难。 所以我想着边学边做，看能不能搞出个VR游戏来，最后真做出来了，是一个结合TensorFlowLite、Unity、Oculus SDK以及Google开源手绘数据集做的游戏，玩法很简单，AI出题，玩家画，画的像就过关（你画我猜的玩法），视频演示如下： 过关会随机放不同款式烟花。 接下来，
update：在 0x08. 中更新了代码 + 视频 + PPT 以保证作品完整性
AI 科技评论按：11 月 14 日，谷歌正式发布 TensorFlow Lite 开发者预览版，这是针对移动和嵌入式设备的轻量级解决方案。在介绍中，谷歌表示，TensorFlow Lite 是一种全新的设计，具有三个重要功能——轻量级（Lightweight）、跨平台（Cross-platform）、快速（Fast）。关于 TensorFlow Lite 的详细介绍，可以参见 AI 科技评论之前报导： Google 正式发布 TensorFlow Lite 预览版，针对移动/嵌入设备的轻量级解决方案 而在
本文翻译自：《Optimizing AI models for Arm Ethos-U NPUs using the NVIDIA TAO Toolkit》
它允许您使用一组TensorFlow操作并注释构造，以便toco知道如何将其转换为tflite。这在张量流图中嵌入了一个伪函数。这允许在较低级别的TensorFlow实现中嵌入高级API使用信息，以便以后可以替换其他实现。本质上，这个伪op中的任何“输入”都被输入到一个标识中，并且属性被添加到该输入中，然后由构成伪op的组成ops使用。
MobileAI的各大竞赛已经落下帷幕，冠亚军排名也相继确定，笔者近期会逐步将相关领域的竞赛结果进行一下简单总结，同时也将对这其中的冠军军及优秀方案进行一番解读，感兴趣的朋友可以关注一波...
TinyML最近几年才提出，TinyML的书去年才见到，中文版今年在国内才买到。TFLite micro技术也就今年左右才成熟。之前所有的依靠动物身上传感器进行姿态识别的，有一说一，应该都是经典的特征抽取，加上随机森林之类的经典算法实现的。实现起来，需要领域专家进行特征抽取，选择特征反复迭代；部署嵌入式由于实现困难有可能返回去修改模型，重新搞一套；解决完一个问题，新问题又得再来一次流程....
是否能够更快地训练和提供对象检测模型？我们已经听到了这种的反馈，在今天我们很高兴地宣布支持训练Cloud TPU上的对象检测模型，模型量化以及并添加了包括RetinaNet和MobileNet改编的RetinaNet在内的新模型。本文将引导你使用迁移学习在Cloud TPU上训练量化的宠物品种检测器。
我们尝试去工程化深度神经网络并最终落地，当中的一些实践经验通过本文记录下来。
对于开发者来说，在移动设备上运行预先训练好的模型的能力意味着向边界计算(edge computing)迈进了一大步。[译注：所谓的边界计算，从字面意思理解，就是与现实世界的边界。数据中心是网络的中心，PC、手机、监控照相机处在边界。]数据能够直接在用户手机上处理，私人数据仍然掌握在他们手中。没有蜂窝网络的延迟，应用程序可以运行得更顺畅，并且可大幅减少公司的云服务账单。快速响应式应用现在可以运行复杂的机器学习模型，这种技术转变将赋予产品工程师跳出条条框框思考的力量，迎来应用程序开发的新潮流。
大家好，我是来自Google Research的高级软件工程师汪启扉，首先感谢LiveVideoStack邀请我在此处演讲。今天，我的主题是高效终端设备机器学习的最新进展 。
竞赛结果及相关论文可见：https://arxiv.org/pdf/2105.08630.pd
scikit-learn 官方文档：https://scikit-learn.org/stable/#
AI其中一个很重要的应用就是物体识别。 今天我们来看看如何在Android上实现这个功能。
作者 | Lu Wang、Chen Cen、Arun Venkatesan 和 Khanh LeViet
TFLM(Tensorflow lite micro)验证嵌入式端模型运行，直截了当做法是：对比PC端和嵌入式端运行的tflite模型的输入输出。笔者就TinyML的HelloWorld例程，实践了PC端tflite模型运行情况和MCU端RT1062部署后运行情况。
嵌入式系统是一种专用计算机系统，通常嵌入到大型系统中，执行特定任务。典型的嵌入式系统包括微控制器（MCU）、单板计算机（SBC）和专用AI加速器。嵌入式系统的主要特点包括：
Tensorflow2之后，训练保存的模型也有所变化，基于Keras接口搭建的网络模型默认保存的模型是h5格式的，而之前的模型格式是pb。Tensorflow2的h5格式的模型转换成tflite格式模型非常方便。本教程就是介绍如何使用Tensorflow2的Keras接口训练分类模型并使用Tensorflow Lite部署到Android设备上。
技术到了最后，都是要在实际生活中实践，才有活力；而不是曲高和寡，光是鼓吹技术多牛逼，没有切实改变生活，提高体验，产生经济价值，那样的技术都是耍流氓。
先解释一个东西：MDLC模型开发生命周期。用来描述一个机器学习模型开发的全过程：从data explore到model deployment。（这词也不是什么专有名词，明显是从PDLC/SDLC拿过来用的）。
Yolov8 是一种流行的物体检测 AI。Android是世界上用户最多的移动操作系统。
工业视觉缺陷检测系统是一种利用计算机视觉技术，通过分析生产过程中的图像和视频数据，来检测工业产品是否存在缺陷或质量问题的系统。有幸参与到Aidlux夏令营活动中，跟着东哥做了医疗注射器缺陷检测系统项目，在这个过程中我收获到了很多之前没有接触到的算法和实践。本项目旨在开发一种高效的工业视觉缺陷检测系统，利用YOLOv8模型进行目标检测，并基于AidLux平台完成本地终端部署推理，以满足工业生产中对产品质量控制的需求。
不过从我对文档的理解来看，感觉更像是添加的一种硬件后端（代理我想应该只是调用调用层面，不是底层实现，另外在Hexagon DSP的委托代理部分，文档坦言说Hexagon DSP的代理就是为了补充NNAPI，特别是针对那些NNAPI不可用DSP加速的、老旧驱动的设备，毕竟这些老旧设备也没有NNAPI这个东西，但有DSP硬件），交给模型的子图来去执行。比方原始模型的CPU执行Graph如上图。交给GPU的委托代理后，原Graph变为下面这样：
MediaPipe Face Mesh：不够高清，case也不够丰富，暂时看不出问题。
yolov5 release 6.1版本增加了TensorRT、Edge TPU和OpenVINO的支持，并提供了新的默认单周期线性LR调度器，以128批处理大小的再训练模型。YOLOv5现在正式支持11种不同的权重，不仅可以直接导出，还可以用于推理(detect.py和PyTorch Hub)，以及在导出后对mAP配置文件和速度结果进行验证。
有了能做出惊人预测的模型之后，要做什么呢？当然是部署生产了。这只要用模型运行一批数据就成，可能需要写一个脚本让模型每夜都跑着。但是，现实通常会更复杂。系统基础组件都可能需要这个模型用于实时数据，这种情况需要将模型包装成网络服务：这样的话，任何组件都可以通过REST API询问模型。随着时间的推移，你需要用新数据重新训练模型，更新生产版本。必须处理好模型版本，平稳地过渡到新版本，碰到问题的话需要回滚，也许要并行运行多个版本做AB测试。如果产品很成功，你的服务可能每秒会有大量查询，系统必须提升负载能力。提升负载能力的方法之一，是使用TF Serving，通过自己的硬件或通过云服务，比如Google Cloud API平台。TF Serving能高效服务化模型，优雅处理模型过渡，等等。如果使用云平台，还能获得其它功能，比如强大的监督工具。
如果您使用过 TensorFlow 1.x，则本部分将重点介绍迁移到 TensorFlow 2.0 所需的总体概念更改。 它还将教您使用 TensorFlow 可以进行的各种 AIY 项目。 最后，本节向您展示如何将 TensorFlow Lite 与跨多个平台的低功耗设备一起使用。
在本文中，我们将看到如何将Pytorch模型移植到C++中。Pytorch通常用于研究和制作新模型以及系统的原型。该框架很灵活，因此易于使用。主要的问题是我们如何将Pytorch模型移植到更适合的格式C++中，以便在生产中使用。
本教程介绍如何使用 tf.Keras 时序 API 从头开始训练模型，将 tf.Keras 模型转换为 tflite 格式，并在 Android 上运行该模型。我将以 MNIST 数据为例介绍图像分类，并分享一些你可能会面临的常见问题。本教程着重于端到端的体验，我不会深入探讨各种 tf.Keras API 或 Android 开发。
在深度学习算法优化系列三 | Google CVPR2018 int8量化算法 这篇推文中已经详细介绍了Google提出的Min-Max量化方式，关于原理这一小节就不再赘述了，感兴趣的去看一下那篇推文即可。昨天已经使用tflite测试了训练后量化，所以今天主要来看一下训练时量化时怎么做的。注意训练中的量化实际上是伪量化，伪量化是完全量化的第一步，它只是模拟了量化的过程，并没有实现量化，只是在训练过程中添加了伪量化节点，计算过程还是用float32计算。然后训练得出.pb文件，放到指令TFLiteConverter里去实现第二步完整的量化，最后生成tflite模型，实现int8计算。
工业视觉缺陷检测是一种利用计算机视觉技术，对工业制品进行自动化检测，以识别和分类可能存在的缺陷的方法。它是现代工业生产中的重要环节，可以大大提高生产效率，降低产品缺陷率，提高产品质量。
The TensorFlow Lite Model Maker library simplifies the process of adapting and converting a TensorFlow neural-network model to particular input data when deploying this model for on-device ML applications. 解读: 此处我们想要得到的是 .tflite 格式的模型，用于在移动端或者嵌入式设备上进行部署
AI 科技评论按：TensorFlow 是目前最流行的深度学习库，它是 Google 开源的一款机器学习开发框架。Tensor 的意思是张量，代表 N 维数组；Flow 的意思是流，代表基于数据流图的计算。把 N 维数字从流图的一端流动到另一端的过程，就是人工智能神经网络进行分析和处理的过程。
机器之心发布 机器之心编辑部 MAI（Mobile AI Workshop）是由 CVPR 主办的 Workshop 竞赛。近期，来自字节跳动智能创作团队的 ByteScene 团队在 MAI 2021 实时移动端场景检测项目上，以 163.08 分的绝对优势夺得冠军。 竞赛结果及相关报告见：https://arxiv.org/pdf/2105.08819.pdf 竞赛项目介绍 MAI 2021 实时移动端场景检测竞赛：基于 RGB 图像的实时高性能移动端场景类别预测，任务要求在移动端硬件上对摄像头输入的
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
