首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

谷歌TensorFlowLite正式发布,机器学习框架向移动端大步挺进!

TensorFlow Lite 模型文件被应用在移动应用程序中 Java API:安卓设备上适用于 C++ API 的便利封装; C++ API:加载 TensorFlow Lite 模型文件并启动编译器...这比 TensorFlow Mobile 所要求的 1.5M 的明显低得多; 在选定的安卓设备上,编译器将使用安卓神经网络 API 实现硬件加速,或者在无可用 API 的情况下默认执行 CPU。...TensorFlow Lite 已支持多个面向移动端训练和优化的模型 MobileNet:一类能够识别 1000 个不同的对象的视觉模型,专门为移动和嵌入式设备而设计; Inception v3:一种功能类似...第一方和第三方通信应用可以在 Android Wear 上使用该功能。 Inception v3 和 MobileNets 已经在 ImageNet 数据集上训练。...你可以通过迁移学习,在自己的图像数据集上重新训练。

1K70

谷歌终于推出TensorFlow Lite,实现在移动设备端部署AI

△ 安卓工程副总裁Dave Burke 自谷歌公布这个计划以来,已经涌现出了很多移动端部署AI的产品,包括苹果的CoreML、Clarifai移动端训练AI的云服务、还有像华为Mate 10上的硬件麒麟...TensorFlow Lite模型之后会被部署到手机APP中,包括: Java API:安卓上C++ API的轻便封装 C++ API:加载TensorFlow Lite模型文件并调用编译器,在安卓和iOS...在选中的安卓设备上,编译器将用安卓神经网络API实现硬件加速,如果无API可用,将默认用CPU执行。 开发人员也可以使用C++ API实现自定义的内核,也可以被编译器使用。...第一方和第三方的讯息App在Android Wear上使用这个特征。 Inception v3和MobileNet已经在ImageNet数据集上进行了训练。...你可以通过迁移学习在你的图像数据集上重新训练这些数据。 未来 目前,TensorFlow已经可以通过TensorFlow Mobile API支持移动嵌入设备中的模型部署。

1.1K90
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    谷歌正式发布移动端深度学习框架TensorFlow Lite

    跨平台:运行时的设计使其可以在不同的平台上运行,最先允许的平台是安卓和 iOS。 快速:专为移动设备进行优化,包括大幅提升模型加载时间,支持硬件加速。...然后将 TensorFlow Lite 模型文件部署到移动 App 中: Java API:安卓设备上适用于 C++ API 的便利封装。...C++ API:加载 TensorFlow Lite 模型文件,启动编译器。安卓和 iOS 设备上均有同样的库。 编译器(Interpreter):使用运算符执行模型。...在选择的安卓设备上,编译器将使用安卓神经网络 API 进行硬件加速,或者在无可用 API 的情况下默认执行 CPU。 开发者还使用 C++ API 实现自定义 kernel,它可被解释器使用。...Inception v3 和 MobileNet 都在 ImageNet 数据集上训练过,你可以通过迁移学习轻松地在自己的图像数据集上重新训练这些模型。

    1K80

    谷歌移动端深度学习框架TensorFlow Lite正式发布

    跨平台:运行时的设计使其可以在不同的平台上运行,最先允许的平台是安卓和 iOS。 快速:专为移动设备进行优化,包括大幅提升模型加载时间,支持硬件加速。...然后将 TensorFlow Lite 模型文件部署到移动 App 中: Java API:安卓设备上适用于 C++ API 的便利封装。...C++ API:加载 TensorFlow Lite 模型文件,启动编译器。安卓和 iOS 设备上均有同样的库。 编译器(Interpreter):使用运算符执行模型。...在选择的安卓设备上,编译器将使用安卓神经网络 API 进行硬件加速,或者在无可用 API 的情况下默认执行 CPU。 开发者还使用 C++ API 实现自定义 kernel,它可被解释器使用。...Inception v3 和 MobileNet 都在 ImageNet 数据集上训练过,你可以通过迁移学习轻松地在自己的图像数据集上重新训练这些模型。

    1.3K80

    在自己的数据集上训练TensorFlow更快的R-CNN对象检测模型

    在本示例中,将逐步使用TensorFlow对象检测API训练对象检测模型。尽管本教程介绍了如何在医学影像数据上训练模型,但只需进行很少的调整即可轻松将其适应于任何数据集。...更快的R-CNN是TensorFlow对象检测API默认提供的许多模型架构之一,其中包括预先训练的权重。这意味着将能够启动在COCO(上下文中的公共对象)上训练的模型并将其适应用例。...TensorFlow甚至在COCO数据集上提供了数十种预训练的模型架构。...除此之外,笔记本还是按原样训练的! 关于此笔记本电脑,需要注意以下几点: 为了运行初始模型,训练步骤的数量限制为10,000。增加此值可改善结果,但请注意不要过度拟合!...在笔记本中,其余单元格将介绍如何加载创建的已保存,训练有素的模型,并在刚刚上传的图像上运行它们。 对于BCCD,输出如下所示: 模型在10,000个纪元后表现不错!

    3.6K20

    如何基于Flutter和Paddle Lite实现实时目标检测

    如果你有其他框架训练出来的模型,如caffe、tensorflow、onnx等,可以利用X2Paddle来转换。...准备Paddle Lite的预测库和模型文件 由于我们使用的是安卓原生代码,所以我们需要在Android端进行开发,而不是Flutter端。...我们在Paddle Lite提供的预编译预测库里面下载需要的预编译库,放到Android端的相应文件夹内,和原生安卓的目录类似。...更改模型和优化方案 如何使用其他模型 我们是参考群友的解决方案(参考链接里面给出)适配的YOLO v3,主要的修改在Predictor内的模型输入以及MainActivity的初始化。...错误: 不兼容的类型: MainActivity无法转换为FlutterEngine 很可能你看的教程是旧版本,请直接参考官方文档写原生安卓。我们在原生安卓开发的时候指定了v2。 3.

    2.3K20

    谷歌发布TensorFlow Lite:移动端+快速+跨平台部署深度学习

    谷歌在其开发者博客中指出,TensorFlow Lite的主要亮点是: 跨平台:可以在许多不同平台上运行,安卓和iOS应用开发者都可以使用 快速:针对移动设备进行了优化,包括快速初始化,显著提高的模型加载时间...TensorFlow Lite框架如下图所示: 其组件包括: TensorFlow 模型(TensorFlow Model):保存在磁盘中的训练模型。...伴随着TensorFlow Lite的发布,也有少量预训练AI模型面世,比如MobileNet、用于计算机视觉物体识别的Inception v3、用于自然语言处理的Smart Reply(Gmail和谷歌的聊天软件...TensorFlow Lite上也可以部署用自己的数据集定制化训练的模型。...TensorFlow Lite使用的是Android Neural Networks API,可以在没有硬件加速时调用CPU处理,确保模型在不同设备上的运行。

    67030

    用 TensorFlow 目标检测 API 发现皮卡丘!

    这个库的功能正如它的名字,是用来训练神经网络检测视频帧中目标的能力,比如,一副图像。 需要查看我之前的工作的话,请查看文末链接,我解释了在安卓设备上采用 TensorFlow 识别皮卡丘的整个过程。...这就是皮卡丘 模型优化 如上面所述,在以前的工作中,我对皮卡丘检测模型做了初始的训练,这个模型的目的是在安卓设备或 Python notebook 上进行皮卡丘检测。...所以,用于训练的数量不多,虽然这在技术上不是问题(因为模型是在执行「okayish」),但我在训练集里增加了 70 张图片(总数依然不是很多,不过总比没有要好)。...文章开头,介绍了一些我之前的工作,使用模型的早期版本在安卓设备上进行目标检测。至于模型,尽管它做了该做的工作,但也有一些我想要解决的问题;这些优化使我完成了这个项目并建立了一个用于视频的检测模型。...安卓上用 TensorFlow 识别皮卡丘: https://towardsdatascience.com/detecting-pikachu-on-android-using-tensorflow-object-detection

    81750

    教程 | 如何用TensorFlow在安卓设备上实现深度学习推断

    她在 Insight 工作的时候,在安卓系统上用 TensorFlow 部署了一个 WaveNet 模型。本文详细介绍了部署和实现过程。...在 Insight 任职期间,我用 TensorFlow 在安卓上部署了一个预训练的 WaveNet 模型。我的目标是探索将深度学习模型部署到设备上并使之工作的工程挑战!...这篇文章简要介绍了如何用 TensorFlow 在安卓上构建一个通用的语音到文本识别应用程序。 ? 图 1. 流程概述。将 WaveNet 安装到安卓的三个步骤。...第三步:在安卓上的数据预处理 最后,让我们将输入数据处理成模型训练所需格式。对于音频系统来说,原始的语音波被转换成梅尔频率倒谱系数(MFCC)来模拟人耳感知声音的方式。...如果您正在训练自己的模型或重训练一个预先训练好的模型,那么在处理训练数据时,一定要考虑设备上的数据通道。最终,我在 Java 中重写了 librosa MFCC 来处理转换问题。

    1.9K50

    【技术创作101训练营】TensorFlow Lite的 GPU 委托(Delegate)加速模型推理

    TensorFlow LIte 的 GPU 代理 [图3 TensorFlow Lite的Demo展示安卓 GPU 推理] 图 TensorFlow Lite的Demo展示安卓 GPU 推理 没说安卓的其他设备...Caffe的MobileNetV1结构是没有reshape2和squeeze2操作的,其实在做端侧框架性能调研时,源自不同训练框架的模型会有不同,结合本身推理框架的底层实现上,对性能可能有不小的影响;...但是,以 Image2D 的RGBA形式来说,其最后一个通道的长度是 4,即RGBA四个值,是固定的,如果大于4,需要考虑重新排布,而且计算逻辑上也要重新设计为适应排布的方式。...Android C++ API 使用 GPU 代理 关于如何在TF提供的演示应用的APP里使用安卓和 iOS (metal) 的 GPU 委托代理,参考安卓使用 GPU 的委托代理和 iOS 如何使用...下面是在部分安卓手机上在armv7环境测试tensorflow MobileNetV2的GPU性能: [图4 部分安卓手机上在armv7环境测试tensorflow MobileNetV2的GPU性能]

    5.4K220191

    重磅实战:如何用TensorFlow在安卓设备上实现深度学习,附Demo和源码

    在 Insight 任职期间,我用 TensorFlow 在安卓上部署了一个预训练的 WaveNet 模型。我的目标是探索将深度学习模型部署到设备上并使之工作的工程挑战!...这篇文章简要介绍了如何用 TensorFlow 在安卓上构建一个通用的语音到文本识别应用程序。 ? 图 1. 流程概述。将 WaveNet 安装到安卓的三个步骤。...现在可以将这个模型文件移动到安卓项目中的「assets」文件夹。...第三步:在安卓上的数据预处理 最后,让我们将输入数据处理成模型训练所需格式。对于音频系统来说,原始的语音波被转换成梅尔频率倒谱系数(MFCC)来模拟人耳感知声音的方式。...如果您正在训练自己的模型或重训练一个预先训练好的模型,那么在处理训练数据时,一定要考虑设备上的数据通道。最终,我在 Java 中重写了 librosa MFCC 来处理转换问题。

    2.3K30

    机器学习:如何在安卓上集成TensorFlow

    #.aoq0izsg6 我们都知道,谷歌有一个开源库叫做TensorFlow,可被用在安卓系统中实现机器学习。...换言之,TensorFlow是谷歌为机器智能提供的一个开源软件库。 我在网络上搜寻了很久,都没有找到在安卓上搭建TensorFlow的简单的方法或实例。仔细查阅许多资料以后,我终于可以搭建它了。...从搭建安卓上的机器学习模型过程讲起 我们需要知道的几个要点: TensorFlow的核心是用C++编写的; 为了在安卓上搭建TensorFlow,我们需要用JNI(Java本地接口)来调用C++函数,比如说...但是,我们需要预训练模型和标签文件。 在这个例子中,我们会使用Google预训练模型,它实现了在一张给定的照片上做目标检测。...现在,在Android Studio上创建安卓示例工程吧。

    1.4K50

    教程 | 如何在手机上使用TensorFlow

    翻译 | AI科技大本营 参与 | zzq 审校 | reason_W 我们知道,TensorFlow是一个深度学习框架,它通常用来在服务器上训练需要大量数据的大模型。...下面我将给出两个教程,一个是在安卓系统运行机器学习模型的方法,另一个则是在ios设备上运行机器学习模型的方法。 我们以在手机上实现一个图像分类功能为例。...总体思路十分简单:首先使用Inception-v3模型,只对它的最后一层重新训练,然后对模型进行优化,最后嵌入到手机设备上就可以使用了。...在本教程中,ios设备需要6步,而安卓设备仅需要5步,我们将首先介绍这两种设备中相同的前三步,然后分别介绍之后的步骤。...首先是对所选网络最后一层重新训练以后的模型版本: 之后,你会得到两个文件。

    2.6K70

    AI 开发者看过来,主流移动端深度学习框架大盘点

    TensorFlow Lite 具备以下三个重要功能: 轻量级(Lightweight):支持机器学习模型的推理在较小二进制数下进行,能快速初始化/启动 跨平台(Cross-platform):可以在许多不同的平台上运行...模块如下: TensorFlow Model: 存储在硬盘上已经训练好的 TensorFlow 模型 TensorFlow Lite Converter: 将模型转换为 TensorFlow Lite...Inception v3 和 MobileNets 已经在 ImageNet 数据集上训练了。大家可以利用迁移学习来轻松地对自己的图像数据集进行再训练。.../ Github 地址:https://github.com/xmartlabs/Bender 百度开源移动端深度学习框架 MDL,可在苹果安卓系统自由切换 ?...它上层的计算图优化算法可以让符号计算执行得非常快,而且节约内存,开启 mirror 模式会更加省内存,甚至可以在某些小内存 GPU 上训练其他框架因显存不够而训练不了的深度学习模型。

    2.3K30

    TensorFlow 一个用于人工智能的开源神器

    这种多平台的支持,可以帮助到最多的用户和应用场景,我们同时也非常感谢很多业界的同行对我们的支持,比如说在美国Intel和英伟达都在帮助我们优化TensorFlow在他们各自硬件上的性能。...在垃圾邮件过滤中,可以使用TensorFlow训练的模型,同时在安卓的应用程序推荐上,也上线了TensorFlow的模型等等。很多TensorFlow应用都是发生后台,大多数用户可能没有直接的体验。...应用场景 安卓手机自拍功能 比如说,安卓手机最近的版本当中增加了一个自拍功能,这个自拍功能就是通过应用深度学习训练出来的视觉模型,可以非常准确地分离前景像素和后景像素,对前景像素和后景像素分别处理,这样就可以实现背景虚化...邮件自动回复功能 利用深度学习技术,我们不仅可以大幅度的提高已有产品的功能和性能,我们还开发了一些过去很难想象的新功能,比如说邮件自动回复的功能,安卓上的邮箱软件可以分析用户的邮件。...智能医疗 由于TensorFlow是一个通用的框架,他们可以很方便地重用现在已有的图像识别模型或者是自然语言处理的模型,针对特定的应用领域和数据,重新训练微调一下模型,就可以在检测视网膜病变任务上面获得超过

    53610

    【大咖来了】有道周枫:苹果Core ML对移动端深度学习的意义

    【新智元导读】在WWDC2017(全球开发者大会)上,苹果发布了支持移动端深度学习的 CoreML 框架。...网易有道 CEO 周枫指出,这个新框架能够解决以往云端数据处理的一系列问题,而且相对安卓的 TensorflowLite 更加成熟,值得人工智能的开发者关注。...和Tensorflow、Caffe等深度学习框架不同,CoreML是完全聚集于在设备端本地进行深度学习推理的框架,而其它框架除了支持本地设备端同时也支持云端,能够推理也支持训练。...集中力量的一个结果是CoreML性能更优。苹果宣传Inception v3速度是Tensorflow的6倍,这是通过MetalAPI对于GPU能力充分利用的结果。...这样就可以利用各个模型的训练阶段,而不像TensorflowLite只能使用Tensorflow模型。

    1.2K90

    【Google.AI+AutoML】谷歌IO重磅发布第二代TPU,Pichai主旨演讲

    谷歌的一个新的大型翻译模型,以前要 32 颗商业上最好的 GPU 花费一整天的时间来训练——现在,只需一个下午,8 个第二代 TPU 就能达到同样的训练精度。 ?...或 Cloud TPU 上训练机器学习模型,而且只需很少的代码更改。...另外,谷歌的AR功能将会被增加到Google Map上。 手机上的TensorFlow:TensorFlow Lite 安卓将迎来新的版本Android O。...这一新库将允许开发者构建用于在安卓智能手机上运行的深度学习模型。...在演讲中你可以学到如何将神经网络模型移动到安卓系统,并在手机中进行预测(prediction),比如图像识别、运动识别。但是,在移动端运行神经网络的挑战是模型大小和 CPU 消耗。

    1.3K70

    TensorFlow可以做什么?让Google Brain首席工程师告诉你

    在垃圾邮件过滤中,我们也使用了TensorFlow训练的模型,同时在安卓的应用程序推荐上,也上线了TensorFlow的模型等等。...安卓手机自拍功能 比如说,安卓手机最近的版本当中增加了一个自拍功能,这个自拍功能就是通过应用深度学习训练出来的视觉模型,可以非常准确地分离前景像素和后景像素,对前景像素和后景像素分别处理,这样就可以实现背景虚化...其中一些语言之间的翻译,几乎可以达到人工翻译的效果 邮件自动回复功能 利用深度学习技术,我们不仅可以大幅度的提高已有产品的功能和性能,我们还开发了一些过去很难想象的新功能,比如说邮件自动回复的功能,安卓上的邮箱软件可以分析用户的邮件...由于TensorFlow是一个通用的框架,他们可以很方便地重用现在已有的图像识别模型或者是自然语言处理的模型,针对特定的应用领域和数据,重新训练微调一下模型,就可以在检测视网膜病变任务上面获得超过95%...Lite模式 另外,TensorFlow在过去一年中主要推进的项目是TensorFlow Lite模式,这个模式是专门针对移动和嵌入式应用场景打造的机器学习平台,它的目标是希望把在云端训练的机器学习模型

    83950
    领券