专栏首页arxiv.org翻译专栏探索由电池供电的移动设备上深度卷积神经网络的训练:设计与应用(CS LG)
原创

探索由电池供电的移动设备上深度卷积神经网络的训练:设计与应用(CS LG)

移动设备上快速发展的智能应用利用预训练的深度学习模型进行推理。然而,这些模型通常不会在此后进行更新。这给适应新的数据分布留下了很大的差距。在本文中,我们进一步将深度神经网络的训练纳入到电池供电的移动设备上。我们从性能和隐私方面发现了阻碍动态移动环境下有效学习的几个挑战。我们将问题重构为度量学习来解决超拟合问题,并在内存约束下通过数据解析扩大样本空间。我们还使该方案能够抵御侧通道攻击和运行时的波动。我们进行了一个基于深度行为认证的案例研究。实验表明,在三个公共数据集上的准确率超过 95%,在较少的数据下多类分类的准确率提高了 15%,并且对暴力攻击和侧通道攻击的鲁棒性分别达到 99% 和 90% 的成功率。我们展示了使用移动 CPU 进行训练的可行性,训练 100 个 epoch 只需不到 10 分钟,并且通过特征转移可以提升 3 - 5 倍。最后,我们对内存、能量和计算开销进行了剖析。我们的研究结果表明,训练比看视频消耗的能量要低,比玩游戏消耗的能量略高。

原文题目:Explore Training of Deep Convolutional Neural Networks on Battery-powered Mobile Devices: Design and Application

原文:The fast-growing smart applications on mobile devices leverage pre-trained deep learning models for inference. However, the models are usually not updated thereafter. This leaves a big gap to adapt the new data distributions. In this paper, we take a step further to incorporate training deep neural networks on battery-powered mobile devices. We identify several challenges from performance and privacy that hinder effective learning in a dynamic mobile environment. We re-formulate the problem as metric learning to tackle overfitting and enlarge sample space via data paring under the memory constraints. We also make the scheme robust against side-channel attacks and run-time fluctuations. A case study based on deep behavioral authentication is conducted. The experiments demonstrate accuracy over 95% on three public datasets, a sheer 15% gain from multi-class classification with less data and robustness against brute-force and side-channel attacks with 99% and 90% success, respectively. We show the feasibility of training with mobile CPUs, where training 100 epochs takes less than 10 mins and can be boosted 3-5 times with feature transfer. Finally, we profile memory, energy and computational overhead. Our results indicate that training consumes lower energy than watching videos and slightly higher energy than playing games.

原文作者:Cong Wang, Yanru Xiao, Xing Gao, Li Li, Jun Wang

原文地址:https://arxiv.org/abs/2005.12901

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 实例感知的图像着色(CS CV)

    图像着色本来就是一个具有多模态不确定性的问题。以往的方法利用深度神经网络将输入的灰度图像直接映射到可信的颜色输出。尽管这些基于学习的方法展示了令人印象深刻的性能...

    刘持诚
  • 基于云计算的人脸和语音识别应用于门禁控制应用(CS CV)

    本文介绍了一种通过人脸图像和语音文字识别来识别想要进入实体办公室的员工和访客的系统应用。该系统通过人脸识别帮助员工解锁入口门,不需要标签钥匙或卡片。为了防止恶意...

    刘持诚
  • 共享抓取的操纵(CS RO)

    共享抓取是指被操纵对象与机器人手和环境之间的接触形成的抓取。通过将手部接触换成环境接触,共享抓取需要与手部较少的接触,即使在不可能完全抓取的情况下也能实现操纵。...

    刘持诚
  • 图像检索中的DELF模型(DEep Local Features)实践

      近日,抽空跑通了delf模型,它已经成为tensorflow models中research的一个子工程(见网址:https://github.com/te...

    sparkexpert
  • 电力系统建模与分析的符号-数值混合库( CS SY)

    最近,随着科学计算、电力系统模拟的开源软件包的蓬勃发展,人们正在重新审视电力系统模拟,以减少建模和分析的编程工作量。现有的开源工具需要手工开发数值方程和稀疏雅各...

    用户6853689
  • Monkey's Audio vs. WavPack vs. FLAC By HKL,

    For a long time I’ve been thinking about getting a HTPC running Windows Media Ce...

    hiplon
  • Efficient Deep Learning for Stereo Matching:代码

    在今年6月于美国拉斯维加斯召开的CVRP大会上,多伦多大学的Raquel Urtasun教授和她的学生改进了深度学习中的Siamese网络,用一个内积层代替了拼...

    用户1908973
  • 对具有对抗性噪声的可压缩信号进行恢复保证

    摘要:我们为已经被噪声破坏的可压缩信号提供恢复保证,并扩展了[1]中引入的框架,以防御神经网络对抗l0范数和ℓ2范数攻击。具体地说,对于在某些变换域中近似稀疏并...

    罗大琦
  • 独家 | 9位全球顶尖学者,研讨因子投资和Smart Beta

    荷兰历史最悠久、规模最大的资管公司Robeco(荷宝)近期发布了一份题为《Exploring the world of factors》的报告。

    量化投资与机器学习微信公众号
  • 惊闻NBC在奥运后放弃使用Silverlight

    奥运初始的时候,媒体对于NBC使用Silverlight技术进行了高调的宣传,没想到奥运会结束刚刚三周的时间,NBC就弃用了Siverlight,重新采用Ado...

    大江小浪

扫码关注云+社区

领取腾讯云代金券