联邦学习作为新一代人工智能基础技术，通过解决数据隐私与数据孤岛问题，重塑金融、医疗、城市安防等领域。...本文将介绍Pulsar在Angel PowerFL 联邦学习平台中的应用，探索MQ和联邦学习的跨界合作过程。...01 背 景 Angel PowerFL联邦学习平台及其通信模块要求 Angel PowerFL联邦学习平台构建在Angel之上，利用AngelPS支持万亿级模型训练的能力，将很多在Worker上的计算提升到...Angel PowerFL联邦学习已经在金融云、广告联合建模等业务中开始落地，并取得初步的效果。...数据安全 虽然Angel PowerFL所有数据都通过加密模块进行了加密，但参与联邦学习的业务可能分布在不同公司，跨公网进行传输，需要通信模块足够安全，不易被攻击。
此外介绍两篇 FTL 相关的方法，其中一篇关注联邦域适应（Domain Adaption）的问题，属于直推迁移学习方法在联邦学习框架中的应用，另外一篇为微软研究院的工作，重点关注 FTL 中的梯度聚合方法...本文为微软的研究成果，介绍了一个联邦学习仿真平台，该平台的目标应用场景是声学模型训练。作者表示，这是第一次尝试将 FL 技术应用到语音识别任务中。...具有联邦会话自适应的分层无监督训练 ? 2.4.6 本文小结 本文提出了一个新的应用于语音识别任务的联邦学习平台。...三、结束语 在这篇文章中我们重点关注了联邦学习中的联邦迁移学习问题。在回顾联邦学习、迁移学习的基础上，依托四篇文章对联邦迁移学习的基本架构、知识以及应用情况、算法等进行了讨论。...但是，对于多参与方、小样本数据、数据分布差异大、已标记样本缺乏等大量存在的实际应用场景来说，联邦迁移学习有着非常好的应用价值。
在近日GDG举办的“AI 隐私保护：探索跨域数据的安全流动”活动中，VMware中国研发云原生实验室资深研究员、联邦学习开源项目 FATE/KubeFATE代码维护者彭麟，分享了云原生联邦学习平台的题目...回放链接请戳 《联邦学习与云原生联邦学习平台》彭麟 人工智能的三大要素分别是算法、算力和数据，但数据的现状并不理想，存在数据孤岛、数据分布不均的问题。...为了解决数据方面的问题，有三种常见的解决方案：生成式对抗网络、迁移学习和联邦学习，此处重点讲解联邦学习。 联邦学习和传统的机器学习相比，传统的机器学习是模型不动、数据动；而联邦学习是数据不动、模型动。...联邦学习又可细分横向联邦学习与纵向联邦学习，分别用于应对两种不同的数据孤岛情况。 数据孤岛情况 1: 样例分散在不同的组织，单个组织样例不足以支持优质训练，适用使用横向联邦学习。...一个实际的案例是跨银行反洗钱应用，在符合法规情况下，组合各银行数据成大量实证案例，可以提高 AUC14%。
推荐系统作为人工智能领域最振奋人心的应用之一，与联邦学习相结合的研究也越发受到工业界和学术界的关注。...最近，中国科学：信息科学 杂志最新综述《基于联邦学习的推荐系统》（以下简称“联邦推荐”）概述了一些联邦学习和推荐系统结合的研究工作，非常适合对联邦学习和推荐系统感兴趣的同学阅读。...如图 1 所示，我们可以从架构设计、系统的联邦化和隐私保护技术的应用三个角度，论述基于联邦学习的推荐系统的研究进展。...图3 推荐模型的联邦化 2.3 隐私保护技术的应用 基于不同的隐私保护技术，联邦推荐算法可以分为基于同态加密的联邦推荐算法、基于差分隐私的联邦推荐算法、基于本地差分隐私的联邦推荐算法和基于安全多方计算的联邦推荐算法...图 4 总结了一些隐私保护技术在联邦推荐算法设计中的应用。
Centralized Training Data》可以看出来谷歌对于联邦学习的基本定义是，无需通过中心化的数据，即可训练一个机器学习模型。...谷歌提出的联邦学习思想中，可以参考另一个介绍文章[2]，给出的例子是toC的训练，例子中数据保存在个人移动设备中（手机），不需要数据上传，大体的思路是： ?...（图片引用自维基百科） 引申发展 在谷歌提出联邦学习问题之后，结合其他如隐私数据等研究，一部分人，如微众银行与后续他们组织的fedai等组织，以及相关提出的白皮书[3][4]，给出了提出了一些新的应用场景...谷歌提出的toC应用中，每个训练终端相当于有且只有一个用户（因为是手机嘛），但是用户特征高度重叠（例如都是搜索引擎点击记录），这种情况下被[4]称为横向联邦学习。...这种情况下被文献[4]称为纵向联邦学习。
产业互联网时代， 在应用AI挖掘大数据潜在价值的趋势下， “联邦学习”成为推动AI落地的关键能力之一。 企业应该如何应用“联邦学习”技术， 打破“数据孤岛”，助力业务服务创新创效？...一张图，带您了解腾讯安全联邦学习应用服务 长图final.png
来自美国的研究团队在《Journal of Healthcare Informatics Research》发表综述文章，对联邦学习进行概述并通过成功研究说明了联邦学习方法在医疗领域的应用潜力，还讨论了未来其在医疗领域应用的主要机遇和开放性问题...，其中w为要学习的模型参数： 联邦学习框架示意图 联邦学习算法面临的挑战及其解决方案 联邦学习算法主要面临三大挑战：1....隐私保护方案 联邦学习的应用 医疗领域 医疗领域联邦学习近期案例总结 电子病历（EHR）已经成为现实世界医疗数据的一个重要来源，被用于重要的生物医学研究，包括机器学习研究。...其他 联邦学习的一个重要应用是用于自然语言处理（NLP）任务，例如虚拟键盘预测；其他应用包括智能零售和金融。随着联邦学习的成长和发展，有许多公司或研究团队开发了各种面向科学研究和产品开发的工具。...如果错误，医生将进一步指导人工智能，在训练过程中提高机器学习模型的准确性。 激励机制。随着物联网和各种第三方门户网站的出现，越来越多的智能手机医疗保健应用程序与可穿戴设备兼容。
1.png 2.png 3.png image.png 5.png 6.png 7.png 8.png 9.png 10.png 11.p...
来源：专知本文为书籍介绍，建议阅读5分钟研究进展和联邦学习(FL)的最先进的发展，从领域的最初概念到第一个应用和商业使用。...联邦学习:方法和应用的全面概述为研究人员和实践者提出了联邦学习最重要的问题和方法的深入讨论。 联邦学习(FL)是一种机器学习方法，其中训练数据不是集中管理的。...这本书解释了最近的研究进展和联邦学习(FL)的最先进的发展，从领域的最初概念到第一个应用和商业使用。...为了获得这一广泛和深入的概述，领先的研究人员解决了联邦学习的不同视角:核心机器学习视角、隐私和安全、分布式系统和特定的应用领域。...另一部分重点关注如何以一种可针对特定用例定制的方式选择隐私和安全解决方案，而另一部分则考虑运行联邦学习过程的系统的实用主义。本书还介绍了联邦学习的其他重要用例，如分离学习和垂直联邦学习。
为了帮助读者们更好地将联邦学习进行落地应用，博文视点特地邀请到微众银行资深人工智能算法专家黄安埠老师为大家直播分享“实践中的联邦学习——落地应用案例讲解”，从实战的角度，讲述联邦学习部分已落地的应用案例...分享主题：实践中的联邦学习——落地应用案例讲解 分享概要： 联邦学习的视觉案例 联邦学习的个性化推荐案例 当前联邦学习的研究和落地进展，相关资源 嘉宾简介： 黄安埠，微众银行资深人工智能算法专家。...▊《联邦学习实战》 杨强 黄安埠 刘洋 陈天健 著 经典案例一手实践 配套Python代码和丰富线上教学资源（含视频） 本书以实战为主（包括对应用案例的深入讲解和代码分析），兼顾对理论知识的系统总结。...第一部分简要介绍了联邦学习的理论知识；第二部分介绍如何使用Python 和FATE 进行简单的联邦学习建模；第三部分是联邦学习的案例分析，筛选了经典案例进行讲解，部分案例用Python 代码实现，部分案例采用...FATE 实现；第四部分主要介绍和联邦学习相关的高级知识点，包括联邦学习的架构和训练的加速方法等；第五部分是回顾与展望。
随着大数据、边缘计算、大型云计算平台和各种开源框架的发展，机器学习等人工智能技术以前所未有的速度应用到各个行业。 然而，人工智能技术在为我们带来机遇的同时，也带来了新的挑战。...定价难，数据作为一种无形资产，其价值也随着应用场景不断变化，因此数据产权难以确定、交易标的难以确定。 而联邦学习提供了一种解决数据安全和“数据孤岛”问题的可行性方向。...这项技术于 2016 年被谷歌提出，在 2019 年年初被引入国内，在 2020年即已出现数十家企业提供的产品，并出现了大规模的商业应用。...并且越来越多的人关注到联邦学习这个新兴技术，希望系统地掌握联邦学习的原理，并在产业应用中解决具体问题。 《联邦学习技术与实战》正是在这样的背景下撰写和出版的。...本书介绍了联邦学习技术的原理和实战经验，主要内容包括隐私保护、机器学习等基础知识，联邦求交、联邦特征工程算法，三种常见的联邦形式，以及工程架构、产业案例、数据资产定价等。
随着大数据、边缘计算、大型云计算平台和各种开源框架的发展，机器学习等人工智能技术以前所未有的速度应用到各个行业，人工智能技术带来了新的挑战，数据的隐私和安全引起了全世界的重视。...定价难，数据作为一种无形资产，其价值也随着应用场景不断变化，因此数据产权难以确定、交易标的难以确定。 而联邦学习提供了一种解决数据安全和“数据孤岛”问题的可行性方向。...这项技术于 2016 年被谷歌提出，在 2019 年年初被引入国内，在 2020年即已出现数十家企业提供的产品，并出现了大规模的商业应用。...并且越来越多的人关注到联邦学习这个新兴技术，希望系统地掌握联邦学习的原理，并在产业应用中解决具体问题。 《联邦学习技术与实战》正是在这样的背景下撰写和出版的。...本书介绍了联邦学习技术的原理和实战经验，主要内容包括隐私保护、机器学习等基础知识，联邦求交、联邦特征工程算法，三种常见的联邦形式，以及工程架构、产业案例、数据资产定价等。
作为云原生应用的必备组件， Harbor 已经在多个开源项目中得到集成和应用，本文介绍 Harbor 在联邦学习开源项目 FATE 及 KubeFATE 中的应用。...FATE （Federated AI Technology Enabler）是一个工业级的联邦学习框架，由微众银行发起并开源，后捐赠给 Linux 基金会，成为社区共同维护的开源项目。...为进一步使用云原生技术来管理、运维联邦学习平台，VMware 和微众银行等社区用户开发了KubeFATE 项目，致力于降低联邦学习的使用门槛和运维成本。...KubeFATE 将 FATE 的部署和配置流程自动化，使联邦学习平台的多个分布式的节点可用 Docker Compose 和 Kubernetes 两种方式部署，并提供了 API 和命令行工具与系统集成...◎提供离线部署的能力，加速应用部署的速度。 ◎实现跨平台部署FATE集群。 ◎可按需灵活地实现多实例水平扩展。 ◎升级实例的版本并进行多版本的维护。 ----
这种共赢的机器学习方式，有助于打破数据孤岛、提升AI的应用效率，在市场监管、跨部门合作、数据隐私保护等领域，有着非常广阔的应用前景。 什么是腾讯安全联邦学习应用服务？...图片3.png 腾讯安全联邦学习应用服务的优势是什么？...图片4.png 腾讯安全联邦学习应用服务的适用场景是？ 金融风控、营销风控与智能终端应用 目前，腾讯安全联邦学习应用服务适用于金融风控、营销风控、智能终端等领域。...目前，腾讯安全联邦学习应用服务与银行、消金、互金等金融机构广泛开展合作，助力金融大数据信贷风控业务。 图片5.png 在营销风控领域，腾讯安全研发了航空票务营销风控场景联邦学习应用服务。...图片6.png 在智能终端领域，腾讯安全通过自研的“端-云”横向联邦学习框架，成功将联邦学习应用服务拓展到互联网海量终端设备之上，从而形成一个以智能终端（如安卓手机、平板、IoT设备）为计算节点、大规模分布式联邦学习框架
（本文作者陈家豪，系 VMware 中国研发云原生实验室工程师，联邦学习 FATE / KubeFATE 开源项目贡献者。本文节选自《Harbor权威指南》。）...作为云原生应用的必备组件， Harbor 已经在多个开源项目中得到集成和应用，本文介绍 Harbor 在联邦学习开源项目 FATE 及 KubeFATE 中的应用。...FATE （Federated AI Technology Enabler）是一个工业级的联邦学习框架，由微众银行发起并开源，后捐赠给 Linux 基金会，成为社区共同维护的开源项目。...为进一步使用云原生技术来管理、运维联邦学习平台，VMware 和微众银行等社区用户开发了KubeFATE 项目，致力于降低联邦学习的使用门槛和运维成本。...KubeFATE 将 FATE 的部署和配置流程自动化，使联邦学习平台的多个分布式的节点可用 Docker Compose 和 Kubernetes 两种方式部署，并提供了 API 和命令行工具与系统集成
计算框架：在计算和数据资源之上，PowerFL实现了一套针对联邦学习算法的计算框架，与传统的机器学习框架相比，这套框架重点解决了联邦学习算法和应用在实践过程中最常见的几个难点：1）安全加密：PowerFL...产品交互：从终端用户的角度，PowerFL作为联邦学习的应用产品，既支持以REST API的形式调起联邦任务，也支持各模型参与方在联合工作区上协同工作，以拖拽算法组件的方式来构建和配置联邦任务流，并进行用户...应用场景：在完善了上述联邦学习的基础设施之后，PowerFL可以在安全合规的前提下解决金融风控、广告推荐、人群画像、联合查询等多个应用场景下由于数据隔离和碎片化造成的“数据孤岛”问题，真正赋能遵守隐私规范的人工智能和大数据应用...总结 PowerFL从计算与数据资源、计算框架、算法协议、产品交互和应用场景五个层次从底向上夯实整个联邦学习的技术和生态，将整个系统以云原生的方式架构于k8s集群之上，并充分利用YARN集群的大数据生态...希望本文能帮助大家快速上手联邦学习，深入了解这一新的基于隐私保护的机器学习建模机制，并将其应用于电子商务、金融、医疗、教育、城市计算等更多的领域。 ? 扫码关注 | 即刻了解腾讯大数据技术动态
这样的共同建模需要满足以下三大前提： 1.双方均获得数据保护 2.共同提升模型效果 3.模型无损失 3.联邦学习分类 联邦学习依据分类方式划分有三种方式，分别为横向联邦学习（特征对齐的联邦学习），纵向联邦学习...鉴于目前的联邦迁移学习理论还不够成熟。下文中，我将当今最常用的纵向联邦学习来解释联邦学习在生活的应用。...目前所应用的联邦学习流程可以理解为如下几步： 1.参与方各自从第三方可信机构的服务器中下载需要训练的模型 2.每个参与方利用本地数据训练模型（无需上传本地数据），加密梯度数据上传给第三方可信机构，第三方可信机构聚合各用户的梯度更新模型参数...而纵向联邦学习的实现过程与上文中所提到的流程相同，在这里便不过多赘述。 在实际应用中，例如同一地区的银行和电商平台（此时的目标用户基本可以说是重合的）。...5.总结 虽然近几年联邦学习的概念非常火热，但是该领域仍然处于起步阶段。除了在科学领域的少量应用，在城市管理，商业领域的应用依然停留在理论和实验阶段。
在2019年大火的联邦学习，最新的研究进展怎么样了？ 文 | 蒋宝尚 编 | 贾 伟 联邦学习无疑是近期 AI 界最火爆的技术范式之一，在过去的2019年，涌现了大量联邦学习相关研究。...联邦学习最初只是强调移动和边缘设备应用，研究者并把这两种设置分别称作跨设备（cross-device）和cross-silo。...值得注意的是，这个定义完全将联邦学习与完全去中心化的学习技术做了区分。 跨设备联邦学习设置：上图展示了联邦学习训练的生命周期，以及联邦学习系统中的多个参与者。...两种分割学习设置 分割学习（Split Learning）：分割学习的关键思想是在客户端和服务器之间执行基于每层的分割模型，并应用于训练和推理。...对于一些应用程序，可以选择扩充数据，也可以用一些方法让跨客户端的数据更加相似。例如创建一个可以全局共享的小型数据集。
最后，总结了现有联邦学习的特点，并分析了当前联邦学习的实际应用。 1....表1给出了这些类别的优点和应用： 3.1 数据划分 根据数据的样本空间和特征空间的不同分布模式，联邦学习可以分为三大类：横向联邦学习、纵向联邦学习和联邦迁移学习。...3.3 可应用的机器学习模型 联邦学习逐渐渗透到当前流行的机器学习模型中，其目的是保证模型的私密性和效率。我们主要考虑联邦学习支持的三种模型：线性模型、决策树和神经网络。...本文介绍了联邦学习的基本定义、相关技术和具体分类，然后讨论了联邦学习的实际应用场景，梳理了联邦学习目前面临的挑战和未来的研究方向。...相信在不久的将来，联邦学习可以为更多的应用提供安全、共享的安全服务，促进人工智能的稳定发展。
近两年，联邦学习技术 (Federated Learning)迅速发展，为跨团队数据合作，打破“数据孤岛”提供了新的解决思路，并开始从理论研究迈向批量应用的落地阶段。...联邦学习两种形态：横向、纵向联邦在理论发展的同时，联邦学习技术在工业界也逐渐开始实践。...AngelFL联邦学习平台 业务需求 AngelFL联邦学习的发展，主要来自业务需求的驱动。...整个平台构建在Angel智能学习平台的基础之上，Angel 已应用于微信支付、QQ、腾讯视频、腾讯社交广告及用户画像挖掘等业务，随着广泛的应用，在保护数据隐私的前提下，联合多方数据建模的需求日益凸显。...联邦学习扩展了机器学习能触达的边界。随着人工智能技术的不断落地，将在跨部门合作、数据隐私保护等方面将会发挥越来越重要的作用，有着广阔的应用前景。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
