微软发布嵌入式学习库ELL,想在面包屑大小的芯片上运行神经网络

李林 编译自 ZDNet 量子位 报道 | 公众号 QbitAI

微软昨天发布了一个嵌入式学习库(Embedded Learning Library, ELL),包括一个用在树莓派上等开发板上的预训练图像识别模型。

比如说把图像识别模型放到树莓派上,连接一个摄像头,它不用联网就能认出很多日常物体,然后在树莓派接入的显示器上显示一个标签:

微软一直想缩小机器学习模型,让它们能在各种设备的低能耗芯片上运行,这样,我们身边的摄像头、家用电器不用联网,也能智能起来。这也就是微软CEO纳德拉在今年Build开发者大会上所强调的边缘计算。

ELL正是成果之一。

ELL的早期预览版已经放到了GitHub上,C++和Python都可用。地址: https://github.com/Microsoft/ELL

Ofer Dekel

微软Redmond研究院的Ofer Dekel领导了这项研究,他带领着30人的小组,其中包括Redmond和印度班加罗尔的计算机科学家、软件工程师、研究实习生。

微软Redmond研究院参与这项研究的部分成员
微软班加罗尔研究院参与这项研究的部分成员

微软在官方博客中说,在树莓派上运行神经网络并不是他们的终极目标,这个团队最终想把模型压缩到更小,小到能在面包屑大小的ARM Cortex-M0上运行,也就是上图Dekel手中的那个芯片。

他们现在已经把机器学习模型压缩到了原来的1/10,甚至1/100,不过要在M0上运行,需要压缩到1/1000-1/10000。

目前,微软研究员们尝试过的最小的芯片是Arduino Uno,RAM只有2 kilobytes。

为了将机器学习模型缩小,Dekel的团队尝试了各种方法,其中之一叫做权重量化(weight quantization),不用标准的32比特来表示神经网络参数,而是用个位数的比特值,甚至1比特。

同时,这个团队也在尝试剪枝的方法,或者叫稀疏化。这种方法想通过去除神经网络的冗余部分,来压缩模型大小。

当机器学习模型能在极小的芯片上运行,会给我们的世界带来很多新型智能设备,比如在边远地区自动探测土壤湿度的灌溉设施,比如植入人脑的芯片。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-07-01

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

百度为人工智能测试违规道歉

303100
来自专栏机器人网

力传感器在机器人上的应用

力矩传感器首次制造出来,是用于打磨、抛光等应用。由于这些应用都很难实现自动化,因为机器人需要某些力反馈来确定它推动的力够不够。

13110
来自专栏机器人网

力传感器在机器人上的应用

1.恒力 力矩传感器首次制造出来,是用于打磨、抛光等应用。由于这些应用都很难实现自动化,因为机器人需要某些力反馈来确定它推动的力够不够。 通过在程序中引入力...

30850
来自专栏腾讯开源的专栏

腾讯优图首个开源项目ncnn加入ONNX 将AI带到用户指尖

近日,腾讯优图首个AI开源项目ncnn 正式加入ONNX,现已支持将ONNX文件转换为ncnn模型。此后,AI开发者能更快实现从研究到模型的落地部署,也能更方...

3.4K80
来自专栏QQ大数据团队的专栏

手Q游戏中心的个性化推荐实战

自手Q游戏中心V6.0改版以来,产品形态发生了较大的转变,不再是纯粹通过app列表做游戏分发,而是试图通过内容来带游戏分发,全新的产品形态给推荐算法带来了许多的...

1.1K90
来自专栏AI研习社

资源 | Facebook 17 篇 ECCV 2018 录用论文打包

计算机视觉领域在深度学习时代高速发展,无论是新任务的探索还是已有任务的新方法都不断出现有趣的新成果。Facebook 人工智能研究院 (Facebook AI ...

14630
来自专栏AI研习社

Facebook 开源深度学习框架 Caffe2,让 AI 从云端走向终端

AI 研习社按:在昨晚开幕的 F8 年度开发者大会上,Facebook 发布了一款全新的开源深度学习框架 Caffe2。按照官网介绍,它最大的特点就是轻量、模块...

358130
来自专栏PPV课数据科学社区

【新闻】大数据可视化的新动态

大数据可视化的新动态 Intetix Foundation(英明泰思基金会)由从事数据科学、非营利组织和公共政策研究的中国学者发起成立,致力于通过数据科学改善...

41050
来自专栏新智元

【黑科技】新一代脑机接口技术基石:通过大脑扫描数据重建图像

【新智元导读】 中国科学院自动化研究所的研究团队提出了一种令人既兴奋又恐慌的大脑黑科技——读脑术算法。“新提出的技术有效克服了这个领域的一系列难点,能够更加精...

38160
来自专栏数据的力量

我的数据心经06:如何结合活动,设计科学的模型效果评估方案

以连载的方式,记录自己学习数据分析的所想所得,共勉,不定期发布。如果文章内容有用,请你分享给有需要的朋友,谢谢支持。

9710

扫码关注云+社区

领取腾讯云代金券