首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

资源 | 一文盘点10大移动端机器学习框架

MXNet MXNet 是该列表中的第一个 Apache 项目;它是一个有前景、活跃的框架,可应用于移动端,即你可以在任何安卓或 iOS 设备上训练数据、运行计算集(computed set),该框架也可在...移动端机器学习框架 谷歌 TensorFlow Lite 目前最完整的免费移动端解决方案就是 TensorFlow Lite,它最初适用于安卓机,不过一些人也在 iOS 设备上实现了该框架。...其关键特征是低延迟进行实时图像处理、可用于安卓机的硬件加速,以及使计算速度快于 TensorFlow 完整版的量化内核(quantized kernel)。...该框架使用 iPhone 的移动 GPU 着色器工具包 Metal Performance Shaders,允许 iPhone 用户利用 GPU 运行机器学习算法,尽管它主要还是用于运行预训练数据,像...结论 看起来大多数企业仍然使用 API 调用来与强大的服务器进行通信,这种方法仅将最少量的信息发送回手机进行计算。

91140

【技术创作101训练营】TensorFlow Lite的 GPU 委托(Delegate)加速模型推理

TensorFlow LIte 的 GPU 代理 [图3 TensorFlow Lite的Demo展示安卓 GPU 推理] 图 TensorFlow Lite的Demo展示安卓 GPU 推理 没说安卓的其他设备...Android C++ API 使用 GPU 代理 关于如何在TF提供的演示应用的APP里使用安卓和 iOS (metal) 的 GPU 委托代理,参考安卓使用 GPU 的委托代理和 iOS 如何使用...编译带 GPU 委托代理的TFLite并在ADB环境Benchmark 6.1 编译benchmark android-armv7:ADB环境 由于历史依赖库都是v7的原因,安卓平台在实际中多为armv7...仅适用于iOS的GPU设备。...下面是在部分安卓手机上在armv7环境测试tensorflow MobileNetV2的GPU性能: [图4 部分安卓手机上在armv7环境测试tensorflow MobileNetV2的GPU性能]

5.4K220191
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Google的开源人工智能引擎预示着重大硬件变革

    在Google内部,处理诸如图像识别、语音识别和语言翻译等任务时,TensorFlow依赖于GPU以及GPU集群。...深度学习依赖于神经网络,一种模拟人类大脑中神经元的系统,这些网络可以用来快速分析大量数据。举个例子,为了训练神经网络识别一只猫,需要输入无数张猫的图像,而GPU即擅长处理此类任务。...通常情况下,当收到手机App发来的请求后,服务器每次仅处理一个请求,而如果使用GPU并行处理收到的每个请求,则很难保证GPU有足够多的线程能够有效运行。因此GPU从未真正在实际中使用过。...驱动这些AI应用产品的系统包括数以千计台的机器,而且这些系统在我们日常生活中的地位日益重要。现在Google的深度学习技术不仅用来识别照片、识别语音、机器翻译,还用来提高搜索质量。...例如,在安卓手机上执行一个命令,此命令必须传到Google的数据中心,通过那里的庞大的CPU或GPU网络才能处理。 Google一直在提升自己的AI引擎,使得可以在手机端就自动完成某些任务。

    86160

    我的HarmonyOS实战——鸿蒙系统初定义

    ,应用在智能设备上,比如摄像头、体温计等设备利用软总线将各个设备连接起来。...1.2鸿蒙和安卓的对比 ·内核方面的对比 安卓系统是基于inux的宏内核设计,宏内核包含了操作系统绝大多数的功能和模块,而且这些功能和模块都具有最高的权限,只要—个模块出错,整个系统就会崩溃,这也是安卓系统容易崩溃的原因...鸿蒙操作系统是微内核设计:微内核仅包括了操作系统必要的功能模块(任务管理、内存分配等)处在核心地位具有最高权限,其他模块不具有最高权限,也就是说其他模块出现问题,对于整个系统的运行是没有阻碍的。...作为手机操作系统的对比 安卓和鸿蒙都是基于安卓开源项目(AOSP)进行开发的而安卓开源平台是可以在开源许可下自由使用和修改的。...鸿蒙的出现并不是为了取代安卓,而是把眼光放在下下一个时代,也就是5G时代。在5G时代中最重要的是万物互联的华为是想要在5G时代占据主导权 1.4几张图说明鸿蒙 ? ? ? ?

    1.1K30

    Tensorflow Lite人体姿势跟踪功能上线:基于PosNet的实时人体姿态估计

    怀着激动的心情,我们发布了一个「TensorFlow Lite」示例应用程序(https://www.tensorflow.org/lite),通过它在安卓设备上通过使用「PoseNet」模型来实现人体姿势估计...TensorFlow Lite 分享了一个安卓示例应用程序,该应用程序利用设备的摄像头来实时地检测和显示一个人的关键部位。 ?...PoseNet 示例应用程序 与现有的以 JAVA 写的安卓示例相反,PoseNet 示例应用程序是在 Kotlin 上开发的。...将位图裁剪并缩放到模型输入的大小,以便将其传递给模型。 从 PoseNet 库中调用「estimateSinglePose()」函数来获取「Person」对象。...「SurfaceView」通过获取、锁定和在「View」画布上绘图,无延时地将安卓的 surface 对象显示在屏幕上。

    2.1K30

    天猫魔盒2评测报告

    (13分) 4.2安兔兔视频测试(12分) 4.3分辨率支持(5分) 4.4无线性能(5分) 5.系统平台(40分) 5.1用户体验(9分) 5.2内容平台(31分) 总结 在reizhi网络机顶盒评测标准发布之后...4.性能(35分) 4.1安兔兔测试(13分) 安兔兔得分为26370,本项计10分。虽然这个成绩相比于主流安卓手机并不算高,但在机顶盒阵营中已经处于较为优秀水平,足以应对各类 APP。...4.2安兔兔视频测试(12分) 安兔兔视频测试831分,本项计满分12分。由于加入了杜比以及 DTS 支持,831分的成绩甚至比大多数安卓手机还要好。...4.3分辨率支持(5分) 通过安兔兔可以看到真实分辨率为 1080P,CPU 为 Amlogic AML8726-MB 四核 1.6GHz,运行内存1GB,GPU 为 Mali-450 MP。...操作方式上,天猫魔盒2与主流安卓机顶盒并没有太大区别,值得一提的是天猫魔盒2的遥控器支持声控操作,创新性值得肯定。易用性给予2分。

    2.3K10

    MediaPipe:Google Research 开源的跨平台多媒体机器学习模型应用框架

    (安卓和苹果 iOS)和嵌入式平台(Google Coral 和树莓派)中作为设备端机器学习推理 (On-device Machine Learning Inference)框架。...同时,在移动端和嵌入式平台,MediaPipe 也支持设备本身的 GPU 加速。...MediaPipe 演示案例 在今年六月举行的 CVPR 会议上,Google Research 开源了 MediaPipe 的预览版。为方便开发者学习和使用,我们提供了多个桌面系统和移动端的示例。...作为一款应用于多媒体的框架,现已开源的安卓和苹果 iOS 示例包括: 3D 手部标志追踪(3D Hand Tracking) BlazeFace 人脸检测(Face Detection) 改换发色(Hair...教程和代码 MediaPipe 安卓 Hello World! 教程和代码 机器感知实例 —— 手部关键点追踪 一个使用 MediaPipe 的实例是在图片或视频中检测手部关键点。

    6.1K42

    【Google.AI+AutoML】谷歌IO重磅发布第二代TPU,Pichai主旨演讲

    当说到安卓的未来时,工程部副总裁 Dave Burke 宣布了 TensorFlow 的新版本,其专为手机做出优化,称为 TensorFlow Lite。...这一新库将允许开发者构建用于在安卓智能手机上运行的深度学习模型。...当安卓遇上 TensorFlow:如何用 AI 加速你的 APP,北京时间 19 日晚 23:30 【视频直播】https://www.youtube.com/watch?...便携性是 TensorFlow 的优点之一。在演讲中你可以学到如何将神经网络模型移动到安卓系统,并在手机中进行预测(prediction),比如图像识别、运动识别。...但是,在移动端运行神经网络的挑战是模型大小和 CPU 消耗。因此,本场演讲的主要内容是探讨将 AI 带入安卓系统应用的各种技术和技巧。 2.

    1.3K70

    教程 | 如何将模型部署到安卓移动端,这里有一份简单教程

    截至 2018 年,全球活跃的安卓设备已经超过了 20 亿部。安卓手机的迅速普及在很大程度上得益于各种各样的智能应用,从地图到图片编辑器无所不有。随着深度学习技术的兴起,移动应用注定会变得更加智能。...使用 TensorFlow Mobile 将模型部署到安卓设备上包括三个步骤: 将训练好的模型转换成 TensorFlow 格式; 向安卓应用添加 TensorFlow Mobile 依赖项; 编写相关的...在本文中,我将带你熟悉以上的整个流程,最终完成一个嵌入图像识别功能的安卓应用。 环境设置 在本教程中,我们将使用 Pytorch 和 Keras,选择你偏好的机器学习框架,并按照说明进行操作。...最近,在安卓 8 及更高版本中,TensorFlow Lite 使用安卓神经网络 API 进行加速。...要想获得更令人兴奋的体验,你应该实现一些新功能,从安卓文件系统加载图像,或者使用相机获取图像,而不是使用资源文件夹。 总结 移动端的深度学习最终将改变我们构建和使用 app 的方式。

    3.3K10

    摩尔线程发布全新多功能GPU及软硬件产品,构建以MUSA为核心的全栈能力

    ,为摩尔线程GPU在众多行业的应用落地铺平了道路。...目前,MTT S3000兼容PyTorch、TensorFlow、百度飞桨(PaddlePaddle)、计图(Jittor)等多种主流深度学习框架,并实现了对Transformer、CNN、RNN等数十类...安卓容器云加速技术ACX:使用GPU安卓容器透传技术和渲染编码一体化技术,可以加速安卓云手机解决方案,减少应用延迟,增加并发路数。...通过原生支持OpenGL ES、OpenGL渲染框架,和ETC/ETC2等安卓游戏材质压缩算法硬件加速,可以提供更佳的安卓云游戏渲染效果和兼容特性。...在云游戏领域,摩尔线程与腾讯先锋联合打造领先的安卓云游戏解决方案,与蔚领时代共同打造卓越的PC云游戏解决方案,致力于为广大游戏爱好者带来高画质、流畅的云游戏体验。

    83120

    教程 | 如何用TensorFlow在安卓设备上实现深度学习推断

    她在 Insight 工作的时候,在安卓系统上用 TensorFlow 部署了一个 WaveNet 模型。本文详细介绍了部署和实现过程。...在 Insight 任职期间,我用 TensorFlow 在安卓上部署了一个预训练的 WaveNet 模型。我的目标是探索将深度学习模型部署到设备上并使之工作的工程挑战!...这篇文章简要介绍了如何用 TensorFlow 在安卓上构建一个通用的语音到文本识别应用程序。 ? 图 1. 流程概述。将 WaveNet 安装到安卓的三个步骤。...第二步:适用于安卓的 TensorFlow 库 要用 TensorFlow 构建安卓应用程序,我推荐从 TensorFlow Android Demo开始。...第三步:在安卓上的数据预处理 最后,让我们将输入数据处理成模型训练所需格式。对于音频系统来说,原始的语音波被转换成梅尔频率倒谱系数(MFCC)来模拟人耳感知声音的方式。

    1.9K50

    【重磅】谷歌正式发布TensorFlowLite,半监督跨平台快速训练ML模型

    这个架构支持基于应用程序需求配置模型大小和预测质量。在GitHub库上我们提供了一个示例消息列表。系统还可以从聊天对话中观察到的流行回复意图中学习并编译的固定集的回复。...跨平台:可以在多个平台运行,包括安卓和iOS。 快速:针对移动设备进行了快速优化,包括模型加载时间显著加快,并支持硬件加速等。 越来越多的移动设备采用专用的定制硬件来更有效地处理机器学习工作负载。...TensorFlow Lite支持安卓神经网络API,以充分利用这些新的加速器。...TensorFlow Lite模型文件被应用在移动应用程序中: Java API:在安卓平台上围绕着C++ API的包裹器。...这比TensorFlow Mobile所要求的1.5M的明显降低。 在选定的安卓设备上,Interpreter将使用安卓神经网络API实现硬件加速。若无可用,则默认为CPU执行。

    1.1K90

    实时单人姿态估计,在自己手机上就能实现 : ) 安卓和iOS都可以哦~

    选自GitHub 作者:edvardHua 参与:路 本文介绍了如何使用 TensorFlow 在智能机上(包括安卓和 iOS 设备)执行实时单人姿态估计。...github.com/edvardHua/PoseEstimationForMobile/tree/master/training/src 该库包含: 训练 CPM 和 Hourglass 模型的代码; 安卓...demo 由于 mace 框架,你可以使用 GPU 在安卓智能机上运行该模型。...至于如何调用模型、解析输出,可以参见安卓源代码:https://github.com/edvardHua/PoseEstimationForMobile/tree/master/android_demo...以下是该 repo 作者构建该 demo 的环境: 操作系统:macOS 10.13.6(mace 目前不支持 windows) Android Studio:3.0.1 NDK 版本:r16 在构建

    2K20

    重磅实战:如何用TensorFlow在安卓设备上实现深度学习,附Demo和源码

    在 Insight 任职期间,我用 TensorFlow 在安卓上部署了一个预训练的 WaveNet 模型。我的目标是探索将深度学习模型部署到设备上并使之工作的工程挑战!...这篇文章简要介绍了如何用 TensorFlow 在安卓上构建一个通用的语音到文本识别应用程序。 ? 图 1. 流程概述。将 WaveNet 安装到安卓的三个步骤。...现在可以将这个模型文件移动到安卓项目中的「assets」文件夹。...第二步:适用于安卓的 TensorFlow 库 要用 TensorFlow 构建安卓应用程序,我推荐从 TensorFlow Android Demo开始。...第三步:在安卓上的数据预处理 最后,让我们将输入数据处理成模型训练所需格式。对于音频系统来说,原始的语音波被转换成梅尔频率倒谱系数(MFCC)来模拟人耳感知声音的方式。

    2.3K30

    TensorFlow 一个用于人工智能的开源神器

    它灵活的架构让你可以在多种平台上展开计算,例如台式计算机中的一个或多个CPU(或GPU),服务器,移动设备等等。...在垃圾邮件过滤中,可以使用TensorFlow训练的模型,同时在安卓的应用程序推荐上,也上线了TensorFlow的模型等等。很多TensorFlow应用都是发生后台,大多数用户可能没有直接的体验。...应用场景 安卓手机自拍功能 比如说,安卓手机最近的版本当中增加了一个自拍功能,这个自拍功能就是通过应用深度学习训练出来的视觉模型,可以非常准确地分离前景像素和后景像素,对前景像素和后景像素分别处理,这样就可以实现背景虚化...邮件自动回复功能 利用深度学习技术,我们不仅可以大幅度的提高已有产品的功能和性能,我们还开发了一些过去很难想象的新功能,比如说邮件自动回复的功能,安卓上的邮箱软件可以分析用户的邮件。...自动驾驶 在自动驾驶方面,利用TensorFlow不断改进自动驾驶系统当中的深度模型,包括对路况场景的分割、雷达信号的处理等等。

    53610

    探秘|谷歌把 AI 用到手机上,竟然只是为了方便复制粘贴?

    谷歌工程副总裁大卫·布克预言,新一轮安卓智能手机的浪潮将会触及当代生活的痛点,即将一款APP的内容复制粘贴到另一款APP上。 谷歌公司的年度I/O会议在硅谷圆满召开。...这就是TensorFlow Lite,它是精简版的开源软件引擎,可以在谷歌的数据中心内驱动神经网络。TensorFlow Lite虽小,但运行速度极快,大大改变了公司搭建和运行线上服务的方式。...此外,Facebook还发布了一款类似于TensorFlow Lite的开源软件引擎。 与Facebook不同的是,谷歌控制着主流的智能手机操作系统,可更快地推广移动技术,并扩大到更广阔的受众群体。...但谷歌认为纯粹基于手机的AI系统最终也将开始为自己学习。 谷歌明确阐述了AI的研发愿景,将进一步展开深入研究。在I/O会议上,谷歌推出了用于训练和运行神经网络的定制芯片。...当问及谷歌是否会以同样的方式制造移动芯片时,谷歌公司首席执行官Sundar Pichai表示公司暂无这样的计划,但不排除其可能性。他说:“如果在外面没有找到最先进的技术,我们便自主研发。”

    721100

    现场直击 | 谷歌云大会最后一天解读开放性:从TensorFlow开源到开放云平台

    然后谷歌架构副总裁 Eric Brewer 详细地介绍了谷歌在开源项目的贡献,比如谷歌主导的开源项目安卓、Kubernetes、TensorFlow 和 Chrome 等都已经在各自领域取得了领先。...从 2015 年底的最初开源到 1.0 版本的发布,他们对 TensorFlow 做出了大大小小的修改与性能添加。...Jeff 还重点说到,TensorFlow 另一重要的特性就是支持多种平台:CPU、GPU、TPU、安卓、iOS、树莓派等。 ?...他介绍说,来自谷歌外的贡献者就有近 500 个,仅去年对他们源代码的评论或更新有近 1.5 万条,且被越来越多的教授机器学习课程的大学使用,其中包括多伦多大学、斯坦福等。...开放云意味着要接受开源并回馈开源、开放权限(没有进入或退出的障碍)以及开放生态系统。 ?

    94070

    业界 | 谷歌发布TensorFlow 1.3.0版本,新加多个分类器、回归器

    我们预期在 TensorFlow 1.4 中用 cuDNN7 import tensorflow 运行地更快 向 GCS 文件系统中增加了一个文件缓存(file cache),可对文件内容配置最大的...增加了 Mobilenet 支持,进行 Poets 训练脚本 向 GCS 文档系统增加了一个块缓存(block cache),可配置块的大小和计算 增加了 SinhArcSinh bijector...增加了 Dataset.list_files API 为 Cloud TPU 引入了新的运算和 Python 捆绑 为了与 tensorflow-安卓对称,增加了 TensorFlow-iOS...1 单位权重时返回 nan 在 contrib 中添加时序模型,详情查看:contrib/timeseries/README.md 在 tensorflow/contrib/lite/schema.fbs...中添加 FULLY_CONNECTED 运算 已知问题 Tensorflow_gpu 用 Bazel 0.5.3 编译失败 本文为机器之心编译,转载请联系本公众号获得授权。

    99740

    深度|整容式的美颜2.0技术如何实现?聊一聊背后的图像识别技术

    二、图像识别的一些具体实现:比如,智能鉴黄 当们我们具备了相关的深度学习技术后,就可以在服务端上构建应用了。 比如做智能鉴黄,一路视频流输入,解码以后拿到每一帧,识别出有问题的部分,对它进行处理。...最后说下手机端上的经验:涂图的产品在人脸检测性能方面的测试指标。 比如 iOS 和安卓平台上面我们做的测试,在 iPhone 6 上,40 特征点抓取需要 40 毫秒,相当于一秒内可以处理 25 帧。...安卓方面,相对于 iOS 平台的表现确实要差一些,不论是 API 的封装,还是整个硬件的搭配,可能同样一个 GPU 型号,用在安卓的设备上就没法达到跟 iOS 同样的表现,iOS 平台确实在各方面上要做得比安卓好一点...但问题是,专门做训练的 GPU 设备非常贵,七八千块钱的 GPU 在机器训练里面都不算好的,而且为了在复杂的场景中不耽误时间,比如像 AlphaGo 做训练一样,只能用海量的设备来弥补,这个成本可想而知...所以深度学习一路发展下来,实际上一直都卡在计算上,计算能力远远跟不上我们软件的要求,最后就又变成了比拼硬件的时代。

    1K90
    领券