关注腾讯云大学,了解行业最新技术动态
戳阅读原文观看完整直播回顾
讲 师 介 绍
正现负责腾讯“神盾-联邦计算”平台的底层安全与隐私保护系统的设计与搭建,分别于2019年与2015年获得澳大利亚国立大学和清华大学的工学博士和工学学士学位,申请和拥有隐私保护相关专利十余篇,在Automatica, IEEE/ACM Transactions on Networking等国际学术期刊与会议上发表论文十余篇,研究兴趣包括联邦学习、面向隐私保护的分布式计算、多智能体网络系统等。
| 导语 在过去的几年中,我们见证了大数据及人工智能技术的飞速发展,许多机构却依旧苦于数据数量少、质量低等难题而无法将前沿理论商业化落地。助力像石油般宝贵的数据突破隐私保护的条框限制并实现其价值的流通,对相关产业的发展起着至关重要的作用。在上一篇文章中,我们简要介绍了腾讯“神盾-联邦计算”平台的诞生背景和数据安全与隐私保护技术亮点。这次,我们着重选取本产品首推的“非对称联邦学习” (Asymmetrical Federated Learning, AFL) 范式进行介绍。该范式旨在全面保护数据集的样本ID、特征和标签的隐私安全,彻底解除在不平衡的 (unbalanced) 联邦计算系统中,中小企业对敏感用户ID泄露问题的担忧。
Alice观察ID落在哪个区域 | 区域占比 | Alice猜测ID属于Bob掌握的概率 | 备注 |
---|---|---|---|
(a, b) 或 (d, e) | 6 / 14 | 2 / 6 = ab / (ab + de) | Alice无法完全确认该ID的所属区间 |
(b, c) | 6 / 14 | 1 | Alice完全确认该ID属于交集,即属于Bob掌握 |
(c, d) | 2 / 14 | 1 | Alice完全确认该ID既不属于交集又被自己掌握,即Bob不掌握 |
Alice观察ID落在哪个区域 | 区域占比 | Alice猜测ID属于Bob掌握的概率 | 备注 |
---|---|---|---|
(a, b) 或 (d, e) | 6 / 14 | 0.001 / 6 | Alice无法完全确认该ID的所属区间 |
(b, c) | 0.005 / 14 | 1 | Alice完全确认该ID属于交集,即属于Bob掌握 |
(c, d) | 7.995 / 14 | 1 | Alice完全确认该ID既不属于交集又被自己掌握,即Bob不掌握 |
与标准联邦学习范式相比,腾讯“神盾-联邦计算”平台独创的非对称联邦学习范式通过对原有的两个环节——加密实体对齐和加密模型训练——做针对性的非对称协议改造[2],实现对弱势方隐私数据的全面保护。接下来,我们依次介绍两环节的改造内容。
在数据输入到非对称联邦计算系统后,首先要做的就是非对称版本的加密实体对齐环节。分别从两个参与方的角度去看:
标准联邦学习范式 | 非对称联邦学习范式 | |
---|---|---|
平衡联邦计算系统 | 25.0% | 25.0% |
不平衡联邦计算系统 | 130000% | 25.0% |