首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

安全多方计算之前世今生

这就导致,如何在保证各机构/企业/个人数据私密性的前提下,实现多方数据的联合查询、统计与建模,成为了数据处理领域新的研究方向。 安全多方计算技术刚好能够满足上述需求。...,隐私数据查询等。...五、安全多方计算特点及优势 安全多方计算技术在需要秘密共享和隐私保护的场景中具有重要意义,能解决比较底层的精确计算和数据库查询,其主要适用的场景包括联合数据分析、数据安全查询、数据可信交换等。...利用安全多方计算协议,一方面可以充分实现数据持有节点间互联合作,另一方面又可以保证秘密的安全性。 对于安全多方计算,在某些特定专用场景下也具有较好性能,隐私集合求交。...绿盟科技创新中心作为“中关村科技园区海淀园博士工作站分站”的重要培养单位之一,与清华大学进行博士联合培养,科研成果已涵盖各类国家课题项目、国家专利、国家标准、高水平学术论文、出版专业书籍等。

1.3K10

腾讯和微软谷歌等成立联盟,让客户数据更安全!

前几天在全国各地如火荼开展的国家网络安全周,再度掀起了社会大众对数据安全的重视。...这个由“图灵奖”获得者姚期智提出的“姚氏百万富翁难题”,就是如何保障数据使用过程中安全性的一个缩影。...一个小突破 “数盾”还在数据安全领域发明了一种效率更高的方案并申请了专利,以更优的方法,显著降低了联合营销推广、征信查询联合建模等场景下的数据泄露风险。...这其实也是目前产业需求中一类特殊的数据安全场景——密文交集计算:双方的合作中,需要知道交集的信息,但不希望对方知道非交集部分的数据。 ? 如何计算这个交集?...在“数盾”获得的发明专利中,基于一种能满足交换律的加密算法,从而实现客户A和B先用自己的密钥对数据集进行加密,随后将密文交给对方进行二次加密,公有云使用二次加密的数据来求交集

74840
您找到你想要的搜索结果了吗?
是的
没有找到

隐私计算:让数据成为信息时代的生产要素

秘密分享技术可以把隐私数据切割为2份或更多份,将随机分片分发给计算参与方,这个过程保护了数据隐私又允许多方联合对数据进行计算。...机构之间的黑名单共享和查询有助于帮助机构规避风险,多头借贷、多头骗保等,然而对于黑名单的明文共享既危害用户隐私也泄露商业机密。利用隐私计算进行的黑名单查询可以在保护隐私的情况下降低机构风险。...这类计算需要对比两组列表并找出其中重合的部分,这个过程应能保证参与方无法获得除结果外的信息,并可以规避被查询获得查询条件。 营销转化率计算 转化率计算这类数据共享问题即“隐私交集问题”。...例如,广告主希望知道“三十岁一下的男性消费总和是多少”,可以通过隐私计算在不共享数据和查询条件的情况下获得交集,计算转化率等指标。...ARPA是一家专注于隐私计算的研发型企业,公司的核心产品为基于密码算法的大数据隐私计算平台,赋能企业间高价值数据的安全查询联合分析与模型训练,可使用于金融联合风控、黑名单查询、跨部门数据协同等众多场景

42030

为了保障数据全生命周期安全,我们加入了一个组织

这个由“图灵奖”获得者姚期智提出的“姚氏百万富翁难题”,就是如何保障数据使用过程中安全性的一个缩影。...一个小突破 除此之外,“数盾”还在可信计算领域获得了一种高效率的数据安全保护方案发明专利,以更优的方法,显著降低了联合营销推广、征信查询联合建模等场景下的数据泄露风险。...这其实也是目前产业需求中一类特殊的数据安全场景——密文交集计算:双方的合作中,需要知道交集的信息,但不希望对方知道非交集部分的数据。 ?...(将密文交集计算问题转化为寻找“满足交换律加密算法”的问题) 如何求这个交集?腾讯云安全团队在否决了明文交集计算、常规加密交集计算、加盐哈希之后,将目光聚焦在能否有一个满足交换律的加密算法。...看看这几个案例 腾讯发布PCI DSS合规白皮书,填补数据安全合规标准空白 云上安全,让企业在产业互联网时代一往无前 腾讯安全和滴滴安全联合共建“互联网安全联合实验室” 六个行业小故事,带你看见安全的力量

63460

多个单列索引和联合索引的区别详解

2、索引合并的时候,会对索引进行并集,交集或者先交集再并集操作,以便合并成一个索引。 3、这些需要合并的索引只能是一个表的。不能对多表进行索引合并。...index_merge应用场景: 1.对OR语句求并集,查询SELECT * FROM TB1 WHERE c1="xxx" OR c2=""xxx"时,如果c1和c2列上分别有索引,可以按照c1和c2...条件进行查询,再将查询结果合并(union)操作,得到最终结果 2.对AND语句求交集查询SELECT * FROM TB1 WHERE c1="xxx" AND c2=""xxx"时,如果c1和c2...列上分别有索引,可以按照c1和c2条件进行查询,再将查询结果取交集(intersect)操作,得到最终结果 3.对AND和OR组合语句求结果 ---- 三、结论 通俗理解: 利用索引中的附加列,您可以缩小搜索的范围...但多个单列索引底层会建立多个B+索引树,比较占用空间,也会浪费一定搜索效率,故如果只有多条件联合查询时最好建联合索引!

1.1K10

对话腾讯大数据团队:自研联邦学习系统的技术实践和难点

在机器学习,尤其是深度学习中,模型的获得需要大量的训练数据作为前提。自 2016 年年初在腾讯内部上线以来,Angel 已应用于微信支付、QQ、腾讯视频、腾讯社交广告及用户画像挖掘等业务。...如何在保护用户隐私的前提下,联合多个数据源进行模型训练,成为 Angel 智能学习团队的一项新挑战。 2019 年 10 月初,团队内部成立专项组,着手研发联邦学习平台。...B 拥有标签,将作为训练的发起方,过程如下: 1)A、B 双方提取样本 ID,通过加密算法加密,在 B 方进行安全样本 ID 对齐(PSI),得到双方共同的 ID 集合的交集 A^B = {u2, u3...}; A,B 均不知对方除了交集外的部分; 2)根据交集 ID,双方提取相应样本的维度数据 X,先在计算本地模型数据梯度,然后 A 通过加密方式,将中间数据发送给 B,B 根据标签计算预测误差,并将模型更新信息加密后传回...利用这种特点,研发团队对需要双方交互的模型相关数据采用同态加密,直接发送给对方,对方在密文上完成训练所需的计算,然后将结果返回,接收方解密,能得到计算的结果,而无法获知其原始数据。

1.1K30

索引合并Intersection、union (3)--单表访问方法(三十八)

Intersection合并 顾名思义,这是交集的意思,就是将多少二级索引查询的数据取交集, SELECT * FROM single_table WHERE key1 = 'a' AND key3 =...'b'; 假如用intersection合并的方执行的话,这里有两个b+树,从key1和key3的索引树叶子节点查询到他们的交集数据id,再用交集id回表查询需要的数据。...,原因是二级索引不能范围查询联合索引必须所有列都在。...intersection合并索引查询,那如果吧他们建立一个联合索引直接用联合索引idx_key1_key3查询不也能搞定吧,但如果建立联合索引而放弃普通的单个二级索引的话,当需要把key3列单独查询,就没有索引了...总结:当二级索引两个列不是联合索引但是在一起查询的时候,有机会触发intersection合并查询和union查询

57530

腾讯 AngelFL 联邦学习平台揭秘

在人工智能时代,机器学习尤其深度学习模型的获得需要大量的训练数据作为前提。但是在很多业务场景中,模型的训练数据往往分散在各个不同的业务团队、部门、甚至是不同的公司内的。...例如,广告推荐的模型要想获得针对每个用户的精准的推荐效果,除了用户的基本自然属性之外,还需要这个用户的行为数据,比如网页浏览行为、上下文信息、购买支付行为等等。...如何在保护用户隐私的前提下,联合多个数据源进行模型训练,成为一个新的挑战。 数据孤岛与隐私 发展历程 针对数据孤岛问题,联邦学习,一种新的机器学习技术为这一挑战提出了一种的解决方案。...B 拥有标签,将作为训练的发起方,过程如下: 1)A、B 双方提取样本 ID,通过加密算法加密,在 B 方进行安全样本 ID 对齐(PSI),得到双方共同的 ID 集合的交集 A^B = {u2, u3...}; A,B 均不知对方除了交集外的部分; 2)根据交集 ID,双方提取相应样本的维度数据 X,先在计算本地模型数据梯度,然后 A 通过加密方式,将中间数据发送给 B,B 根据标签计算预测误差,并将模型更新信息加密后传回

3.5K30

TypeScript 5.3

但不太明显的区别是,运行时现在可以自由地使用属性来指导导入路径的解析和解释,而导入断言只能在加载模块断言某些特性。...因此,该功能在夜间模式下进行了试验,以获得更多的反馈。...通过比较非规范化相交进行优化 在TypeScript中,联合交集始终遵循特定的形式,其中交集不能包含联合类型。...|(SomeType & Type99999NINE)的联合。 当检查一个联合体是否可以赋值给某个目标类型时,我们必须检查联合体的每个成员是否都可以赋值给目标类型,这可能会非常慢。...在TypeScript 5.3中,我们可以看到我们能够隐藏的原始交集形式。 当我们比较类型时,我们做一个快速检查,看看目标是否存在于源交集的任何组成部分中。

18210

SQL多表查询常用语句总结

(在多表查询时,需要消除无效的笛卡尔积) (二)多表查询分类: 连接查询: ①内连接:相当于查询A,B交集部分数据 ②外连接: 左外连接:查询左表所有数据,以及两张表交集部分数据 右外连接...:查询右表所有数据,以及两张表交集部分数据 ③自连接:当前表与自身的连接查询,自连接必须使用表别名 子查询: 三、内连接 (一)内连接查询语法 隐式内连接 SELECT 字段列表 FROM 表...表1 RIGHT [OUTER] JOIN 表2 ON 条件.....; 相当于查询表2(右表)的所有数据包含表1和表2交集部分的数据 五、自连接 (一)自连接查询语法 SELECT 字段列表 FROM...(二)联合查询 联合查询-union,union all 对于union查询,就是把多查询的结果合并起来,形成一个新的查询结果集。...SELECT 字段列表 FROM 表A UNION ALL SELECT 字段列表 FROM 表B; 对于联合查询的多张表的列数必须保持一致,字段类型也需要保持一致。

32660

关于MySQL多表联合查询,你真的会用吗?

上节课给大家介绍了MySQL子查询的基本内容,具体可回顾MySQL子查询的基本使用方法(四),本节课我们准备给大家介绍MySQL的多表联合查询。...它是以左表为基础,根据ON给出的连接条件将两表连接起来。结果会将左表所有的记录列出,而右表只列出ON与左表满足条件的部分。...(使用苹果手机并且年龄大于30岁的男性乘客),符合ON连接条件且同时存在于左右两张表的记录都展示出来了,也就是求符合查询条件的左右两张表的交集。...三表及以上联合查询用法与两表联合查询用法基本一致,但通常建议一次性连接多表查询的数量不超过4个,表数量越多,可能影响最终的查询效率。 注意MySQL执行顺序。...04 总结 以上就是本节课要介绍的全部内容,下节课我们将继续介绍多表联合查询的其他内容以及多表联合查询与子查询的联系与区别,敬请关注!

8.5K22

MySQL Access Method 访问方法简述

而且这个过程也不用进行回表操作,所以直接遍历二级索引比直接遍历聚簇索引的成本要小很多联合索引由于最左匹配原则,如果前列未被使用,那么列的索引也会失效,因为联合索引会从最左索引开始进行比较all最直接的查询执行方式就是我们已经提了无数遍的全表扫描...,然后将从该二级索引中查询到的结果经过回表得到完整的用户记录再根据其余的 WHERE 条件过滤记录。...那就是取交集和并集了。...Intersection合并取交集。...,而读取多个二级索引之后取交集的记录数非常少,当节省的因为 回表 而造成的性能损耗比访问多个二级索引带来的性能损耗更高时,读取多个二级索引交集比只读取一个二级索引的成本更低。

21931

深入浅出搜索架构引擎、方案与细节(上)

a,b,c,d (a)search_index获得用户的搜索词,完成分词 (b)search_index查询倒排索引,获得“字符匹配”网页,这是初筛的结果 (c)rank对初筛的结果进行打分排序 (d)...网页内容分词,page_content会对应一个分词的集合list。...分词倒排索引: 我 -> {url1, url2} 爱 -> {url1, url2} 北京 -> {url1} 到家 -> {url2, url3} 美好 -> {url3} 由检索词item快速找到包含这个查询词的网页...(1)分词,“我爱”会分词为{我,爱},时间复杂度为O(1) (2)每个分词的item,从倒排索引查询包含这个item的网页list,时间复杂度也是O(1): 我 -> {url1, url2...} 爱 -> {url1, url2} (3)求list的交集,就是符合所有查询词的结果网页,对于这个例子,{url1, url2}就是最终的查询结果 看似到这里就结束了,其实不然,分词和倒排查询时间复杂度都是

4.4K51

MySQL中多表联合查询与子查询的这些区别,你可能不知道!

之前我们给大家介绍过MySQL子查询与多表联合查询 MySQL子查询的基本使用方法(四)、关于MySQL多表联合查询,你真的会用吗?、关于MySQL内连接与外连接用法,全都在这里了!...本节课我们想讲讲多表联查询与子查询的区别与联系。 01 多表联合查询 经过前几节课的讲解,大家应该知道了,多表联合查询包括内连接查询与外连接查询。...内连接查询表示左右两边需同时满足连接条件,它取的是两者的交集。 外连接查询包括左外连接、右外连接以及union/union all 连接。...左外连接以左表为基础,根据ON给出的连接条件将左右两表连接起来,同时结果会将左表所有的记录列出,而右表只列出ON与左表满足条件的部分。...右外连接以右表为基础,根据ON给出的连接条件将左右两表连接起来。结果会将右表所有的记录列出,而左表只列出ON与右表满足条件的部分。

2.4K20

隐私计算FATE-核心概念与单机部署指南

一、说明 Fate 是一个工业级联邦学习框架,所谓联邦学习指的就是可以联合多方的数据,共同构建一个模型; 与传统数据使用方式相比,它不需要聚合各方数据搭建 「数据仓库」,联邦学习在联合计算建模的过程中...如何在保护双方隐私的情况下,计算出谁更有钱呢? 此问题开创了安全多方计算领域,在如今以区块链为先导的一系列可信架构中,多方计算问题是建立机器信任的关键技术之一。...三、联邦学习 在联邦学习当中主要有两种模式: 横向联邦 指的是在联合的多方当中,「特征」 是相同的,但是 「用户」 不一样;那么通过联合呢,就可以在训练模型时 「扩展样本数量」; 例如:有两家不同地区银行...,用户的交集可能较大;由于银行记录的都是用户的收支行为与信用评级,而商场则保有用户的购买历史,因此它们的用户特征交集较小;这种场景就比较适合使用 「纵向联邦」 用于增加模型训练的特征数量 「扩展模型能力...docker ps -aqf "name=standalone_fate") bash 执行以下命令,启动 toy 测试: flow test toy -gid 10000 -hid 10000 成功显示以下内容

1.1K20

一款释放数据价值的项目,开源了!

PrimiHub 目前支持联合统计、隐私求交、匿踪查询、联邦学习等功能。...联合统计:多个参与方在不暴露私有数据的情况下,共同完成均值(AVG)、求和(SUM)、最大值(MAX)、最小值(MIN) 等计算 隐私求交:在不暴露参与方私有数据的情况下,实现两个或多个参与方之间的数据交集计算...文件 任务 mpc_statistics_sum_task_conf.json 联合统计三方求和(SUM)任务 psi_ecdh_task_conf.json 隐私求交求两个集合的交集 keyword_pir_task_conf.json...4.2.4 查看结果 在「节点 1」网页(检查院)的「隐匿查询」下可以查看上一步创建的「匿踪查询」任务状态,任务运行结束,点击「导出结果」即可下载结果文件,查看匿踪查询返回的记录。...在查询过程中,检察院仅获得查询对象的信息,公安机关也看不到检察院的查询记录,保证了检察院的办案独立性。

22920

Elasticsearch 原理(上) -- 文档存储结构与索引数据结构

多索引联合查询 如果进行多索引联合查询,mysql 会在优化环节找到最具选择性的索引,然后在遍历索引 B+ 树的同时在内存中进行计算和过滤。 而 Elasticsearch 的实现就相对复杂。...在多索引联合查询中,第一步,对每个索引单独进行查询,找到对应的存储 docid 列表构成的跳跃表结构。 这样,经过第一步,若干个索引联合查询我们就获得了若干个跳跃表。...接下来,找到这些结果中,docid 最少的 posting list 开始从小到大遍历每一个 docid,并用这个 docid 在其他所有跳跃表中检索,最终,就可以获取多索引联合查询结果交集的 docid..., idc:sz, value:10} {timestamp:12:05:01, idc:sz, value:12} {timestamp:12:05:02, idc:sz, value:13} 合并就可以变成...timestamp:12:05:02, idc:sz, value:13} ] } 这样,多个 doc 被放到了一个父 doc 中,既能够大幅压缩 posting list 的空间,也可以提升多索引联合查询时的效率

2.3K20

字节跳动破局联邦学习:开源Fedlearner框架,广告投放增效209%

为了基于 Fedlearner 联合训练模型,必须先把这两条数据记录对齐并生成一条样本。...每对 worker 中,担任 leader 的 worker 向 follower 顺序发送自己数据流中的 example_id,follower 收到和自己的本地数据流求交,然后把交集发送回 leader...所以在求交时,通常会使用 key-value 查询机制,这种查询机制是随机访问全量数据进行查询,但是随机访问全量数据的代价过大,比如为了处理大数据量,KV 数据库搭建和维护的成本就非常高。...吴迪说道,“训练数据是机器学习的核心基石,在联邦学习场景也不例外,选择与商业目标高度相关、表达能力强的训练数据,可以加快获得极致的商业价值。”...基于 Fedlearner,通过“联邦学习 - 巨量引擎单侧特征模型”的方法,可以实现巨量引擎侧和教育客户侧各自提供用户标识 + 特征 / 标签,数据取交集共同建模。

1.6K20
领券