专栏首页arxiv.org翻译专栏异构数据感知的联合学习(CS AI)
原创

异构数据感知的联合学习(CS AI)

联合学习是一个很有吸引力的概念,它可以在保持数据私密性的同时进行神经网络的分布式训练。随着FL框架的产业化,我们发现了几个阻碍其成功部署的问题,例如非i.i.d数据的存在、不相交的类、跨数据集的信号多模式。在这项工作中,我们提出了一种新的方法来解决这些问题,该方法不仅(1)在服务器上(例如,在传统的FL中)聚合通用模型参数(例如,一组通用的任务神经网络层),而且(2)保留一组特定于每个客户端的参数(例如,一组特定于任务的神经网络层)。我们在传统使用的公共基准(如Femnist)和专有收集数据集(如流量分类)上验证我们的方法。结果表明了该方法的优越性,在极端情况下具有明显优势。

原文题目:Heterogeneous Data-Aware Federated Learning

原文:Federated learning (FL) is an appealing concept to perform distributed training of Neural Networks (NN) while keeping data private. With the industrialization of the FL framework, we identify several problems hampering its successful deployment, such as presence of non i.i.d data, disjoint classes, signal multimodality across datasets. In this work, we address these problems by proposing a novel method that not only (1) aggregates generic model parameters (e.g. a common set of task generic NN layers) on server (e.g. in traditional FL), but also (2) keeps a set of parameters (e.g, a set of task specific NN layer) specific to each client. We validate our method on the traditionally used public benchmarks (e.g., Femnist) as well as on our proprietary collected dataset (i.e., traffic classification). Results show the benefit of our method, with significant advantage on extreme cases.

原文作者:Lixuan YangCedric BeliardDario Rossi

原文地址:https://arxiv.org/abs/2011.06393

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 新冠肺炎高原:适应性预防策略下的流行病发展现象(CS SI)

    自新冠肺炎扩散开始以来,关于流行病模型的研究数量急剧增加。对于决策者来说,了解疾病将如何传播,以及政策和环境对传播的影响是很重要的。在本文中,我们对标准传染病模...

    识檐
  • 基于图论的分布式网格恢复(CS SC)

    随着智能电网作为广域配电的主要手段的出现,提高其故障和灾难恢复能力的重要性日益增加。配电系统的可靠性取决于其对攻击的容忍度和攻击发生后的恢复效率。本文提出了一种...

    识檐
  • 学习丢弃:基于拓扑去噪的鲁棒图神经网络(CS AI)

    形神经网络已被证明是图形分析的强大工具。关键思想是沿着给定图的边递归地传播和聚集信息。尽管已经取得了成功,但是现有的神经网络通常对输入图的质量很敏感。真实世界的...

    识檐
  • nodejs事件和事件循环详解

    上篇文章我们简单的介绍了nodejs中的事件event和事件循环event loop。本文本文将会更进一步,继续讲解nodejs中的event,并探讨一下set...

    程序那些事
  • MySQL常用语句

      今天天气很好,大晴天,心情也好好的。就将MySQL常用的语句总结一下,记录在随笔里,也顺便分享分享。日后,这篇随笔我将会持续更新,作为我自己的MySQL语句...

    那一叶随风
  • 三体云智能获ISO27001信息安全管理体系认证&ISO9001企业质量管理体系认证|腾讯SaaS加速器·学员动态

    ? 来源 |  腾讯SaaS加速器首期项目-三体云动 ---- 日前,三体云智能科技有限公司顺利通过ISO27001信息安全管理体系认证和ISO9001企业质...

    腾讯SaaS加速器
  • 微信小程序Ⅰ [关于微信支付的一点思路]

    版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/u011415782/article/de...

    泥豆芽儿 MT
  • 速读原著-TCP/IP(IP记录路由选项)

    p i n g程序为我们提供了查看 I P记录路由(R R)选项的机会。大多数不同版本的 p i n g程序都提供-R选项,以提供记录路由的功能。它使得 p i...

    cwl_java
  • dotnet core系列之Background tasks with hosted services (后台任务)

    使用到System.Threading.Timer类。定时器触发任务的DoWork方法。定时器在StopAsync上停止,并且释放是在Dispose上

    Vincent-yuan
  • 【教程】快速入门,十天学会ASP

    落叶大大

扫码关注云+社区

领取腾讯云代金券