学习
实践
活动
专区
工具
TVP
写文章

敏感数据,实现“一键脱敏”!

痛点二 对于一些为了快速上线而一开始没有实现合规脱敏的系统,如何比较快速的使得已有业务满足合规要求的同时,尽量减少对原系统的改造。 通常的这个过程至少包括: 新增脱敏列的存储 同时做数据迁移 业务的代码做兼容逻辑等 Apache ShardingSphere下面存在一个数据脱敏模块,此模块集成的常用的数据脱敏的功能。 脱敏配置Quick Start——Spring版 以下介绍基于Spring如何快速让系统支持脱敏配置。 1. 引入依赖 <! 创建脱敏配置规则对象 在创建数据源之前,需要准备一个EncryptRuleConfiguration进行脱敏的配置,以下是一个例子,对于同一个数据源里两张表card_info,pay_order的不同字段进行 ),对于新的系统,只需要设置脱敏列即可,所以以上示例为plainColumn为”“。

79020

敏感数据,“一键脱敏”,Sharding Sphere 完美搞定

此方法固然可行,但是使用起来非常不便捷且繁琐,使得日常的业务开发与存储合规的细节紧耦合 注 意 文末有:3625页互联网大厂面试题 痛点二 对于一些为了快速上线而一开始没有实现合规脱敏的系统,如何比较快速的使得已有业务满足合规要求的同时 (通常的这个过程至少包括: 1、 新增脱敏列的存储 2、 同时做数据迁移 3、 业务的代码做兼容逻辑等 Apache ShardingSphere下面存在一个数据脱敏模块,此模块集成的常用的数据脱敏的功能 其基本原理是对用户输入的SQL进行解析拦截,并依靠用户的脱敏配置进行SQL的改写,从而实现对字段的加密及加密字段的解密。最终实现对用户无感的加解密存储、查询。 脱敏配置Quick Start——Spring 显示配置: 以下介绍基于Spring如何快速让系统支持脱敏配置。 1、引入依赖 <! ),对于新的系统,只需要设置脱敏列即可,所以以上示例为plainColumn为”“。

53540
  • 广告
    关闭

    热门业务场景教学

    个人网站、项目部署、开发环境、游戏服务器、图床、渲染训练等免费搭建教程,多款云服务器20元起。

  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    如何对数据进行脱敏处理?

    一、背景 实际的业务开发过程中,我们经常需要对用户的隐私数据进行脱敏处理,所谓脱敏处理其实就是将数据进行混淆隐藏,例如下图,将用户的手机号、地址等数据信息,采用*进行隐藏,以免泄露个人隐私信息。 如果需要脱敏的数据范围很小很小,甚至就是指定的字段,一般的处理方式也很简单,就是写一个隐藏方法即可实现数据脱敏。 如果是需求很少的情况下,采用这种方式实现没太大问题,好维护! 那么问题来了,如何在序列化的时候,进行数据脱敏处理呢? 废话不多说,代码直接撸上! StringUtils.left(code, 2), StringUtils.length(code), "*"); } } 2.5、编写测试实体类 最后,我们编写一个实体类UserEntity,看看转换后的效果如何 ,可以有效的解决敏感数据隐私泄露的问题。

    15420

    聊聊如何自定义数据脱敏

    前言 什么是数据脱敏 数据脱敏是指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护 常用脱敏规则 替换、重排、加密、截断、掩码 良好的数据脱敏实施 1、尽可能地为脱敏后的应用,保留脱敏前的有意义信息 2、最大程度地防止黑客进行破解 今天我们聊聊如何自定义数据脱敏 整体思路 本示例通过替换的手段实现脱敏,然后配合常用的框架特性,比如mybatis的拦截器机制或者json的序列化来快速实现脱敏 具体落地 1、定义一个脱敏工具类 可以直接引用hutool工具包,不过它在5.6+版本以上才提供了这个工具 https://www.hutool.cn/docs/#/core/工具类/信息脱敏工具-DesensitizedUtil ;可以脱敏:用户id、中文名、身份证号、座机号、手机号、地址、电子邮件、密码 * @return 脱敏之后的字符串 * @author dazer and neusoft and qiaomu 它的实现原来其实就是在json进行序列化渲染给前端时,进行脱敏

    50320

    安华金和技术副总裁杨海峰:金融行业数据实时共享场景下的动态脱敏技术

    但当面对不同身份的访问者,如何实时提供不同的脱敏数据? 某银行搭建的数据集中管理平台中,客户信息、账务信息、银行卡信息等全部集中在大数据分析环境中,面向内部提供数据查询分析服务,面向外部应用端、征信机构、政府部门等则提供数据检索接口。 数据动态脱敏,需要满足一个重要的能力:针对目前各种主流的数据库中的敏感数据,在用户使用各种第三方客户端工具或应用程序实时访问数据过程中,能够依据用户角色、职责和其他 IT 定义规则,对敏感数据进行屏蔽、 遮盖、变形处理,来“隐藏”对敏感数据的访问,从而有效的防止敏感数据的泄漏。 如果选择脱敏处理,好处是不会造成通过精确查询进行数据的“猜测”引起的数据泄露;缺点是恐怕很难再通过脱敏字段作为条件进行查询,因为说不清查询的结果会如何,很大可能是查不到结果。

    68760

    如何使用Sentry实现HiveImpala的数据脱敏

    Fayson的github:https://github.com/fayson/cdhproject 提示:代码块部分可以左右滑动查看噢 1.文档编写目的 ---- 本文主要描述如何使用Sentry实现数据的脱敏 本文Fayson会以一个简单的实操例子来介绍如何使用Sentry实现Hive/Impala的数据脱敏。 当然Group A也被授权可以访问视图employees_masked,比如他想将数据下发时做敏感数据脱敏,则也可以从这个视图里取出数据。 而Group B只能访问employees_masked视图里的数据,这个是有敏感数据被屏蔽了的,因为Sentry的控制,他没权限直接访问employees表或者通过HDFS文件去获取真实的被屏蔽的值。 regexp_replace()函数通过正则表达式的方式敏感数据屏蔽,也可以通过自定义的UDF函数来等方式来实现敏感数据脱敏

    2.2K60

    数据治理之数据脱敏技术研究

    为了保证数据在企业内外部依法依规使用,需要相应的数据脱敏技术来实现对敏感数据的保护。 欧盟在2018年出台《通用数据保护条例》(GDPR),规定了企业如何收集、使用和处理欧盟公民的个人数据。 4)防数据推理原则 数据脱敏不需要将所有的数据进行脱敏处理,只处理被定义为敏感数据内容。 但需要注意的是有些非敏感数据能够被用来重新生成敏感数据或者能够回溯到敏感数据,这些非敏感数据同样需要进行脱敏处理。 5) 自动化原则 针对一个数据源只需要配置一次,就可以重复进行脱敏处理。 问2:如A经B到C,C经D到E,而给我们的关系脱敏后表现为A..B...D..E。类似的这类脱敏如何实现。 答:单独的客户信息,还是有需要进行脱敏处理的。

    2K21

    为何说敏感数据处理是数据安全防护线?如何处理敏感数据

    敏感数据就是指不宜轻易泄露和外流的数据,一旦敏感数据泄露,就会对公司经营带来风险,常见的敏感数据包括身份证号、银行卡号以及公司经营情况、IP地址列表等数据,为什么说敏感数据处理是数据安全防护线? 怎样处理敏感数据? 为何说敏感数据处理是数据安全防护线? 1、敏感数据处理能保护客户隐私。 之所以说敏感数据处理是数据安全防护线,是因为公司的一些数据属于商业机密,包括产品配料表、产品成本价以及销售计划书等,这些数据都属于商业机密,要妥善保护,要采用科学方式处理。 如何处理敏感数据? 处理敏感数据的方法包括动态脱敏和静态脱敏技术,动态脱敏就是抽取敏感数据,对这些数据进行漂白,它能够对敏感数据进行有效遮盖、屏蔽以及变形处理,从而保证敏感数据不泄露,静态脱敏技术的应用时间早,具有技术成熟的特点 为何说敏感数据处理是数据安全防护线?上文内容就是对该问题的解答,处理敏感数据的意义不可忽视,能够起到保护客户隐私和维护公司利益的作用,要采用专用技术和先进方案处理敏感数据

    27710

    云上数据安全防护,如何实现零改造、高性能、易运维?

    基于中间件,上层可以迅速搭建合规的密码应用架构。目前,腾讯云数据安全中台已广泛应用在智慧城市、政务云、金融云、智慧党建等多个行业领域。 02 零改造+高性能+易运维 CASB成为云上数据安全应用最佳实践 在采用密码技术进行数据全链路加密,解决海量数据在云平台的安全存储问题后,对于上层业务来说,聚焦敏感数据的安全保护,则需要更加精准的字段级加密和脱敏能力 为了解决这个问题,腾讯安全推出了一站式的数据安全保护方案CASB,从元数据管理到基于合规组的敏感数据识别,再到字段级加密和脱敏的策略配置,真正实现了应用免改造即可快速的实现数据的加密存储和基于动态脱敏的隐私保护 首先,基于云数据库中用户存储数据的敏感字段,CASB的敏感数据识别会自动发现,提示用户进行加密和脱敏策略的配置,配置完成后,业务应用需要用到该敏感字段时,会由CASB自动进行加密,数据库该字段最终存储的是安全加密后的密文 对于数据查询或者展示类的应用,通过CASB动态脱敏,在数据查询时由CASB自动将数据解密后再采用所选择的脱敏算法进行脱敏展示,整个过程中业务代码无需变更,具备零改造、高性能和易运维三大综合优势。

    31430

    企业如何管控敏感数据 | 研报×To B

    企业敏感数据不单单驻留在数据库中 ? 企业敏感数据主要驻留在数据库及文件系统中,但除此外,近 1/3 企业的敏感数据驻留在公有云及大数据平台中,甚至一小部分企业的敏感数据驻留在应用中。 企业敏感数据驻留在如此众多的位置,面临着更大的敏感数据泄露风险,企业在如此复杂的环境下究竟如何管控敏感数据? ---- 企业管控敏感数据以策略管理为主 加密技术为辅 ? 根据国际著名研究公司 Forrester 2012 年的研究报告显示,绝大多数的企业敏感数据泄露事件往往是由于企业内部事件产生的, 企业通过管理用户一方面可以界定敏感数据的管理责任人,另一方面可以阻止非责任人的访问 ,从而将敏感数据的传播途径控制在可控范围内。 另一方面又期望加密技术不影响敏感数据访问的实效性。而网络加密技术对于敏感数据访问的实效性影响较大,因此,其更重视数据加密技术的使用。

    80560

    《个人信息保护法》发布,互联网企业要配备什么数据安全手段?

    然而,大多数互联网相关企业用户量巨大且业务类型、场景复杂,企业应该如何结合法规要求,对云上资产做系统性的梳理?企业在做安全体系建设时,又应该如何场景化、业务化解决敏感数据问题? 互联网企业可以快速选择、组合所需的数据安全产品及能力,搭建适合自身数据安全解决方案。 点击链接,了解更多解决方案 数据安全审计https://cloud.tencent.com/product/dsaudit 三、数据脱敏敏感数据处理):个人信息高效匿名化 对于数据中敏感度较高的信息 如何进行敏感识别?如何确保敏感信息被妥善处理? 腾讯云的数据脱敏产品DMask,则围绕敏感数据自动发现、敏感数据变形处理、异构数据库同步、周期性数据处理、敏感数据匿名化、数据水印追踪、安全多方计算等8个方面对个人信息进行匿名化、去标识化处理,真正解决敏感数据安全

    27640

    大数据隐私保护技术之脱敏技术探究

    介绍 随着大数据时代的到来,大数据中蕴藏的巨大价值得以挖掘,同时也带来了隐私信息保护方面的难题,即如何在实现大数据高效共享的同时,保护敏感信息不被泄露。 数据安全是信息安全的重要一环。 数据脱敏就是对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护。 在涉及客户安全数据或者一些商业性敏感数据的情况下,在不违反系统规则条件下,对真实数据进行改造并提供测试使用,如身份证号、手机号、卡号、客户号等个人信息都需要进行数据脱敏。 首先遇到的问题就是如何识别敏感数据敏感数据的定义是什么?有哪些依赖?应用程序是十分复杂并且完整的。知道敏感信息在哪并且知道哪些数据参考了这些敏感数据是非常困难的。 选定了敏感数据和要施加的算法,剩下的就是如何实现了,在什么过程中进行脱敏呢? 难题的解决方案 1.如何识别敏感数据 现在有两种方式来识别敏感数据

    2.3K100

    数栈技术分享:数栈如何保障企业数据安全和隐私?

    二、数栈如何保证数据安全 数栈通过两种方式对数据进行权限管理:数据权限审批流和数据脱敏。 2、数据脱敏 「数栈」的数据脱敏管理模块,可以实现用户对脱敏的数据进行各类查询和操作,但不能查看、导出敏感数据的具体内容,实现“可操作,但不可见”的效果。 为了全方面保障数据安全,「数栈-数据地图」支持对数据血缘的实时解析,当用户对敏感数据插入其他表,或进行加工处理后,新的数据依然会保持脱敏状态,防止敏感数据外泄。 实际上产品的数据脱敏管理模块,可以实现用户对脱敏的数据进行各类查询和操作,但不能查看、导出敏感数据的具体内容,实现“可操作,但不可见”的效果。 为了全方面的保障数据安全,「数栈-数据地图」支持对数据血缘的实时解析,当用户对敏感数据插入其他表,或进行加工处理后,新的数据依然会保持脱敏状态,防止敏感数据外泄。

    25200

    手把手教你如何设计日志脱敏插件

    1.背景 我所在的公司最近要求需要在所有地方都要脱敏敏感数据,应该是受faceBook数据泄密影响吧。 说到脱敏一般来说在数据输出的地方需要脱敏而我们数据落地输出的地方一般是有三个地方: 接口返回值脱敏 日志脱敏 数据库脱敏 这里主要说一下如何进行日志脱敏,对于代码中来说日志打印敏感数据有两种: 敏感数据在方法参数中 LOGGER.info("person mobile:{}", DesensitizationUtil.mobileDesensitiza(mobile)); 2.敏感数据在参数对象中 Person person 在编译时期修改抽象语法树修改toString()方法,就像类似Lombok一样,这个之前调研过,开发难度较大,可能后会更新如何去写。 可以看到上面修改上面toString()方法三个都比较麻烦,我们可以换个思路,不利用toString()生成日志信息,下面的部分具体解释如何去做。

    3.1K81

    【金猿案例展】某农商行:数据脱敏系统经典实践

    4)自动创建文件脱敏任务 自动创建文件脱敏方案,根据文件源和敏感数据梳理结果进行脱敏方案的自动配置;自动创建文件脱敏任务,将脱敏方案关联到脱敏任务,并进行脱敏任务的自动执行。 8)敏感数据字典管理 以敏感数据为中心,对数据库字段进行分类管理;对同库多表、多库多表的同类敏感数据实施统一的脱敏算法和策略,保证同一组织内跨系统、跨库之间的脱敏一致性;并支持敏感数据字典导入、导出等功能 ,如果没有将生成敏感数据发现任务执行报告,并显示执行结果和消息提示;如果生成敏感数据,将根据脱敏方案模板自动生成脱敏任务,并执行脱敏任务; ●判断脱敏任务执行是否成功,如果出现异常将发送异常报告信息,并显示执行结果和消息提示 ;因此脱敏产品应该具有很好的识别敏感数据的能力,能够不依赖元数据中对表和字段的定义,而是根据数据特征自动的识别敏感数据并进行有效脱敏。 例如“身份证号”作为一类敏感数据,在该类管理所有数据库中的身份证号数据字段,并可实施统一的脱敏算法,并支持敏感数据字典的导入、导出等管理功能。

    38610

    动态脱敏典型应用场景分析——业务脱敏、运维脱敏、数据交换脱敏

    动态脱敏常用在访问敏感数据即时进行脱敏,一般用来解决在生产环境需要根据不同情况对同一敏感数据读取时进行不同级别脱敏的场景,如业务脱敏、运维脱敏、数据交换脱敏等场景。 业务脱敏 场景特点 ❏ 业务用户访问应用系统时,需明确用户身份的真实性。 ❏ 不同权限业务用户访问敏感数据时需采取不同级别的脱敏规则。 ❖ 特权账号访问控制,禁止DBA、SYSDBA、Schema User、Any等特权用户访问和操作敏感数据集合。 ❖ 对未授权的运维身份访问敏感数据实现动态脱敏功能。 美创数据脱敏系统内置敏感数据发现引擎,对源数据中的敏感数据按照脱敏规则,进行变形、漂泊、遮盖,保证脱敏后的数据保持数据的一致性和业务的关联性,应用于开发测试环境、数据交换、数据分析、数据共享等场景。 美创数据脱敏产品,帮您实现敏感数据可靠保护!

    79130

    RSA 创新沙盒盘点| Satori —合规、快速、高效的隐私保护解决方案

    Satori可以实时查看使用数据的用户,正在访问哪些数据,以及如何使用数据。 Satori能够自动识别敏感数据(例如:PII,个人医疗信息(PHI),支付卡行业信息(PCI)),并通过脱敏技术对敏感数据进行脱敏,使得敏感数据可以进行安全合规的数据分析。 2通用数据脱敏引擎 针对隐私数据的保护,Satori采用了通用数据脱敏(universalmasking engine)引擎实现合规的管理,机构或者组织可以安全的对脱敏后的敏感数据进行分析和使用。 通过脱敏配置文件实现敏感数据屏蔽;如(PII、PHI等)。 通过脱敏文件配置,不同的数据类型选择不同的的脱敏方式。 点评:Satori公司的产品提供了丰富的脱敏方法,并支持灵活的配置是其亮点之一。然而,Satori公司声称脱敏后的敏感数据可以合规使用和分析。

    43160

    金融科技&大数据产品推荐:金蜂巢大数据集成与脱敏系统

    脱敏后的数据主要用于:测试,开发,培训,外包,数据挖掘、研究等。数据脱敏的难点是保持数据的完整性,与数据加密有所不同数据脱敏是一个不可逆的过程。屏蔽非生产环境数据中敏感数据是做好数据安全工作的基础。 针对测试数据管理和敏感数据屏蔽提供统一的元数据管理,从而方便元数据的安装、使用、备份和维护,工具具备高可扩展的架构,可支持多个数据库的数据抽取和数据脱敏。 在涉及客户安全数据或者一些商业性敏感数据的情况下,在不违反系统规则条件下,对真实数据进行改造并提供测试使用。这样,就可以在开发、测试和其它非生产环境以及外包环境中安全地使用脱敏后的真实数据集。 数据脱敏系统优势如下: 高性能和大数据处理能力 高性能、集群化数据脱敏 支持导入元数据,自动配置关联模型 满足复杂的数据脱敏要求 内置众多通用脱敏函数 支持脱敏函数二次开发,复杂的数据脱敏要求 支持键值脱密 搭建了统一的敏感数据屏蔽运维管理方案 针对业务系统都实现测试数据的管理; 提高了效率 加快了测试数据发布的速度;建立了自动化的数据漂白流程,规范了生产数据的使用; 保持数据的有效性 确保了脱敏后系统内部以及业务系统之间的业务关联性

    64970

    静态脱敏典型应用场景分析——开发测试、数据共享、科学研究

    在数据流动、共享、交换成为趋势的今天,数据脱敏已经成为实现敏感数据保护的重要手段之一。数据脱敏产品也逐步被金融、政府、企业等行业客户广泛使用。 当前数据脱敏产品主要包括静态脱敏、动态脱敏产品两类。 ❖ 对于脱敏源中存在的脏数据(不符合敏感对象业务特征的数据),系统同样会对这部分数据进行变形处理,以避免隐形敏感数据泄露。 ❏ 大数据分析平台中包括海量的用户隐私和敏感数据,针对大数据环境进行数据脱敏,数据结构复杂,包括结构化、非结构化数据等,脱敏操作复杂。 美创数据脱敏系统内置敏感数据发现引擎,对源数据中的敏感数据按照脱敏规则,进行变形、漂泊、遮盖,保证脱敏后的数据保持数据的一致性和业务的关联性,应用于开发测试环境、数据交换、数据分析、数据共享等场景。 美创数据脱敏产品,帮您实现敏感数据可靠保护!

    63740

    关注

    腾讯云开发者公众号
    10元无门槛代金券
    洞察腾讯核心技术
    剖析业界实践案例
    腾讯云开发者公众号二维码

    相关产品

    • 云数据库 MySQL

      云数据库 MySQL

      腾讯云数据库MySQL是一种高性能、高可靠、高安全、可灵活伸缩的数据库托管服务,其不仅经济实惠,而且提供备份回档、监控、快速扩容、数据传输等数据库运维全套解决方案,为您简化 IT 运维工作,让您能更加专注于业务发展。

    相关资讯

    热门标签

    活动推荐

    扫码关注腾讯云开发者

    领取腾讯云代金券