首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

敏感数据,实现“一键脱敏”!

痛点二 对于一些为了快速上线而一开始没有实现合规脱敏的系统,如何比较快速的使得已有业务满足合规要求的同时,尽量减少对原系统的改造。...通常的这个过程至少包括: 新增脱敏列的存储 同时做数据迁移 业务的代码做兼容逻辑等 Apache ShardingSphere下面存在一个数据脱敏模块,此模块集成的常用的数据脱敏的功能。...脱敏配置Quick Start——Spring版 以下介绍基于Spring如何快速让系统支持脱敏配置。 1. 引入依赖 <!...创建脱敏配置规则对象 在创建数据源之前,需要准备一个EncryptRuleConfiguration进行脱敏的配置,以下是一个例子,对于同一个数据源里两张表card_info,pay_order的不同字段进行...),对于新的系统,只需要设置脱敏列即可,所以以上示例为plainColumn为”“。

1.9K20

敏感数据,“一键脱敏”,Sharding Sphere 完美搞定

此方法固然可行,但是使用起来非常不便捷且繁琐,使得日常的业务开发与存储合规的细节紧耦合 注 意 文末有:3625页互联网大厂面试题 痛点二 对于一些为了快速上线而一开始没有实现合规脱敏的系统,如何比较快速的使得已有业务满足合规要求的同时...(通常的这个过程至少包括: 1、 新增脱敏列的存储 2、 同时做数据迁移 3、 业务的代码做兼容逻辑等 Apache ShardingSphere下面存在一个数据脱敏模块,此模块集成的常用的数据脱敏的功能...其基本原理是对用户输入的SQL进行解析拦截,并依靠用户的脱敏配置进行SQL的改写,从而实现对字段的加密及加密字段的解密。最终实现对用户无感的加解密存储、查询。...脱敏配置Quick Start——Spring 显示配置: 以下介绍基于Spring如何快速让系统支持脱敏配置。 1、引入依赖 <!...),对于新的系统,只需要设置脱敏列即可,所以以上示例为plainColumn为”“。

1.3K40
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    聊聊如何自定义数据脱敏

    前言 什么是数据脱敏 数据脱敏是指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护 常用脱敏规则 替换、重排、加密、截断、掩码 良好的数据脱敏实施 1、尽可能地为脱敏后的应用,保留脱敏前的有意义信息...2、最大程度地防止黑客进行破解 今天我们聊聊如何自定义数据脱敏 整体思路 本示例通过替换的手段实现脱敏,然后配合常用的框架特性,比如mybatis的拦截器机制或者json的序列化来快速实现脱敏 具体落地...1、定义一个脱敏工具类 可以直接引用hutool工具包,不过它在5.6+版本以上才提供了这个工具 https://www.hutool.cn/docs/#/core/工具类/信息脱敏工具-DesensitizedUtil...;可以脱敏:用户id、中文名、身份证号、座机号、手机号、地址、电子邮件、密码 * @return 脱敏之后的字符串 * @author dazer and neusoft and qiaomu...它的实现原来其实就是在json进行序列化渲染给前端时,进行脱敏

    1.7K20

    如何对数据进行脱敏处理?

    一、背景 实际的业务开发过程中,我们经常需要对用户的隐私数据进行脱敏处理,所谓脱敏处理其实就是将数据进行混淆隐藏,例如下图,将用户的手机号、地址等数据信息,采用*进行隐藏,以免泄露个人隐私信息。...如果需要脱敏的数据范围很小很小,甚至就是指定的字段,一般的处理方式也很简单,就是写一个隐藏方法即可实现数据脱敏。 如果是需求很少的情况下,采用这种方式实现没太大问题,好维护!...那么问题来了,如何在序列化的时候,进行数据脱敏处理呢? 废话不多说,代码直接撸上!...StringUtils.left(code, 2), StringUtils.length(code), "*"); } } 2.5、编写测试实体类 最后,我们编写一个实体类UserEntity,看看转换后的效果如何...,可以有效的解决敏感数据隐私泄露的问题。

    3.6K20

    浅谈有赞大数据安全体系

    同时我们也会记录用户的申请和审批者的审批信息,作为重要的审计内容。 在用户申请数据访问权限的时候,我们也会要求用户提供数据的使用期限。...银行卡号 4.2.2 敏感数据识别优化 敏感数据识别程序作为个人隐私保护的重要技术保障,如何快速以及准确的定位到敏感数据是急需解决的问题。...4.3 数据脱敏 4.3.1 敏感数据识别 经过上述的步骤我们已经采集到每个表的抽样数据,接下来要做的是对采样数据进行特征识别,匹配是否为八种敏感数据类型。...,目前我们的等级定义为如下(仅供参考): 4.3.2 数据脱敏 对于敏感数据的识别结果,我们采用的是依赖ranger的mask功能进行不同等级的脱敏。...在敏感数据等级确定后,我们会通过 HTTP 的方式,将敏感数据的控制规则作为 policy 写入 ranger mask,实际的效果如下: 经过上述的数据脱敏流程后,用户在实际的数据开发过程时,涉及到敏感字段的信息都会自动进行一定程度的脱敏

    68630

    如何使用Sentry实现HiveImpala的数据脱敏

    Fayson的github:https://github.com/fayson/cdhproject 提示:代码块部分可以左右滑动查看噢 1.文档编写目的 ---- 本文主要描述如何使用Sentry实现数据的脱敏...本文Fayson会以一个简单的实操例子来介绍如何使用Sentry实现Hive/Impala的数据脱敏。...当然Group A也被授权可以访问视图employees_masked,比如他想将数据下发时做敏感数据脱敏,则也可以从这个视图里取出数据。...而Group B只能访问employees_masked视图里的数据,这个是有敏感数据被屏蔽了的,因为Sentry的控制,他没权限直接访问employees表或者通过HDFS文件去获取真实的被屏蔽的值。...regexp_replace()函数通过正则表达式的方式敏感数据屏蔽,也可以通过自定义的UDF函数来等方式来实现敏感数据脱敏

    3.2K60

    数据分类分级-隐私管理与保护

    但是,仅仅进行数据分类分级以满足监管相对应的要求是远远不够的,数据分类分级工作是合规的起点而不是终点,今天我们就继续探讨数据分类分级如何在隐私管理与保护中发挥作用,以实现数据合规建设工作中更多的应用与价值...那么,在整个PIA工作中,数据分类分级如何发挥作用呢?...联动数据分类分级,进行数据访问控制 1、在进行数据权限申请时,申请者和审批者均能直观看到所申请数据的标识、分类以及敏感级别,从而为申请者/审批者提供依据; 2、动态调整审批流程...,权限申请流程可根据敏感数据级别动态变化,如L1级别的数据无需审批直接通过,L3级别的数据则需直系主管审批,从而提升权限审批效率; 3、动态权限回收策略,根据敏感级别的变动进行权限回收,防止因权限过大导致的数据泄漏问题或因权限过小导致的生产事故...;基于分类分级结果,进行去标识化处理 1、基于已识别出的敏感标识,可配置不同的脱敏算法,以支持在使用数据时达到去标识化的效果; 2、基于sql解析,先执行sql语句再对结果进行脱敏

    41530

    API网关是如何提升API接口安全管控能力的

    API给企业带来的挑战有:1)资产理不清,有多少API对外开放、有多少敏感数据、有什么类型数据、是什么等级的数据;2)滥用管不住,API未经脱敏就直接使用、开放API被第三方系统滥用;3)审计日志不详细...以下从API资产管理、API安全防护、API风险溯源三个方面介绍API网关如何对API进行全生命周期的安全管理。...3)能力鉴权即使APPID认证通过,若该能力使用者调用未申请的接口,同样会被API网关拦截。...4)密钥更换API网关为每个系统或应用分配专属的秘钥,调用方系统使用秘钥才有权限调用申请的API,秘钥一旦泄露,第三方就可以非法调用API,该功能可以避免秘钥泄露导致的API安全问题。...数据脱敏数据脱敏(Data Masking),又称数据漂白、数据去隐私化或数据变形。数据脱敏的定义为:指对某些敏感数据通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护。

    37120

    互联网公司数据安全保护新探索

    但存量数据已经形成,日以万计的数据表在增长,这种情况下如何实现数据分类分级?人工梳理显然不现实,梳理的速度赶不上数据增长速度。...举例来说,小张缺钱,在互联网金融公司网站申请小额贷款,而互联网金融公司并不知道小张能不能贷,还款能力如何,因此要求小张提供在购物网站、邮箱或其他应用的账号密码,爬取小张的日常消费数据,作为信用评分参考。...1.5 数据脱敏 在应用系统中,总会有很多用户敏感数据。应用系统分为对内和对外,对外的系统脱敏,主要是防止撞号和爬虫。对内的系统脱敏,主要是防止内部人员泄漏信息。 对外系统的脱敏保护,可以分层来对待。...2.1 数据脱敏 数据仓库的脱敏是指对敏感数据进行变形,从而起到保护敏感数据的目的,主要用于数据分析人员和开发人员对未知数据进行探索。...另外复制一张表脱敏,是比较彻底的方式,但等于每张敏感数据表都要复制出来一份,对存储是个成本问题。而视觉脱敏,则是通过规则,动态的对数据展现进行脱敏,可以较低成本的实现脱敏效果,但存在被绕过的可能性。

    1.2K91

    为何说敏感数据处理是数据安全防护线?如何处理敏感数据

    敏感数据就是指不宜轻易泄露和外流的数据,一旦敏感数据泄露,就会对公司经营带来风险,常见的敏感数据包括身份证号、银行卡号以及公司经营情况、IP地址列表等数据,为什么说敏感数据处理是数据安全防护线?...怎样处理敏感数据? 为何说敏感数据处理是数据安全防护线? 1、敏感数据处理能保护客户隐私。...之所以说敏感数据处理是数据安全防护线,是因为公司的一些数据属于商业机密,包括产品配料表、产品成本价以及销售计划书等,这些数据都属于商业机密,要妥善保护,要采用科学方式处理。 如何处理敏感数据?...处理敏感数据的方法包括动态脱敏和静态脱敏技术,动态脱敏就是抽取敏感数据,对这些数据进行漂白,它能够对敏感数据进行有效遮盖、屏蔽以及变形处理,从而保证敏感数据不泄露,静态脱敏技术的应用时间早,具有技术成熟的特点...为何说敏感数据处理是数据安全防护线?上文内容就是对该问题的解答,处理敏感数据的意义不可忽视,能够起到保护客户隐私和维护公司利益的作用,要采用专用技术和先进方案处理敏感数据

    2.1K10

    106短信平台如何申请

    对于还没有接入短信平台的公司,下面给您分享如何申请接入。 申请渠道 申请渠道一:找电信运营商申请,但是必须得分别找移动、联通、电信单独申请,并且他们的接口协议不统一,操作起来不方便。...申请渠道二:找第三方短信平台申请,由短信平台去对接三大运营商。接口统一、并且没有使用套餐限制。更加省时、省心、省力。我们只需要提供申请材料给短信公司即可。...申请材料 申请短信平台必须要的材料有:营业执照,短信内容说明文档;对于短信签名与公司名称不相符的,需要提供产品证书、商标证书、域名证书等相关证明材料。...申请周期 视发送短信内容的情况(验证短信、营销短信、通知短信),申请周期一般在1~3个工作日,对于有特殊短信号码要求的,申请周期需要更久。...原文阅读:《106短信平台如何申请》_漫道短信平台

    16.3K150

    手把手教你如何设计日志脱敏插件

    1.背景 我所在的公司最近要求需要在所有地方都要脱敏敏感数据,应该是受faceBook数据泄密影响吧。...说到脱敏一般来说在数据输出的地方需要脱敏而我们数据落地输出的地方一般是有三个地方: 接口返回值脱敏 日志脱敏 数据库脱敏 这里主要说一下如何进行日志脱敏,对于代码中来说日志打印敏感数据有两种: 敏感数据在方法参数中...LOGGER.info("person mobile:{}", DesensitizationUtil.mobileDesensitiza(mobile)); 2.敏感数据在参数对象中 Person person...在编译时期修改抽象语法树修改toString()方法,就像类似Lombok一样,这个之前调研过,开发难度较大,可能后会更新如何去写。...可以看到上面修改上面toString()方法三个都比较麻烦,我们可以换个思路,不利用toString()生成日志信息,下面的部分具体解释如何去做。

    4.2K81

    企业如何管控敏感数据 | 研报×To B

    企业敏感数据不单单驻留在数据库中 企业敏感数据主要驻留在数据库及文件系统中,但除此外,近 1/3 企业的敏感数据驻留在公有云及大数据平台中,甚至一小部分企业的敏感数据驻留在应用中。...企业敏感数据驻留在如此众多的位置,面临着更大的敏感数据泄露风险,企业在如此复杂的环境下究竟如何管控敏感数据?...企业管控敏感数据以策略管理为主 加密技术为辅 目前,企业用户管控敏感数据主要以强身份认证、设置安全密码、集中式用户管理等策略管理为主,并使用数据加密、网络加密等加密技术为辅。...,从而将敏感数据的传播途径控制在可控范围内。...另一方面又期望加密技术不影响敏感数据访问的实效性。而网络加密技术对于敏感数据访问的实效性影响较大,因此,其更重视数据加密技术的使用。

    1.4K60

    有赞大数据平台安全建设实践

    数据脱敏,有些敏感数据即使是公司内部的数据开发人员,也需要限制其直接访问的权限。 明晰权责,各业务域数据都有相应的负责人,对自己的数据负责。...如何平衡安全和便利性的关系,尤为重要。 有赞大数据平台安全建设是在大数据平台本身的发展以及数仓元数据建设的过程中不断演进的。概括起来可以分为三个阶段。...数据开发人员可能在数据平台进行数据查询,发现没有数据访问权限之后,需要到 hue 上申请权限。权限审批人员收到申请通知之后,需要登录 ranger web UI,进行权限配置。...四、基于 column masking 的数据脱敏 随着公司业务的进一步增长,对敏感数据脱敏需求变的更加强烈。我们需要将各种手机号、邮箱地址之类的敏感字段进行脱敏处理,例如手机号只显示后四位。...因此,我们需要在数据平台层面,对数据进行脱敏。我们采用的方案是 SQL 重写。架构图如下: ?

    1.9K10

    信息泄露渠道及风险感知;数据脱敏规则探讨 | FB甲方群话题讨论

    | FB甲方群话题讨论 本期话题抢先看 1.大规模信息泄露,除了被拖库,是否还有其他获取渠道,企业如何增强数据泄露风险的感知? 2. 数据脱敏一般规则可以如何制定? 3....话题二  数据库脱敏会不会产生对重要数据进行破坏的可能?一般脱敏规则可以如何制定? A1: 脱敏为什么会对数据产生破坏? A2: 指混淆吧,直接做了处理再入数据库。...A12: 我看个人信息保护法里面有关于敏感数据匿名化就不是敏感数据了,如果是监管要求,监管拿过去也不能反向解密,这个数据没什么意义呀。 A13: 你想想你的匿名化算法是不是监管批准的?...因此,脱敏的第一步是要识别其中重要数据中的敏感数据,哪些能够脱敏;其次是要前端脱敏还是后端脱敏,是去标识化还是匿名化。要弄清各种含义的区别,对数据采取精细、准确的脱敏策略。...【申请流程:扫码申请-后台审核(2-5个工作日)-邮件通知-加入社群】 注:目前1群、2群已满,如有疑问,也可添加Kiki群助手微信:freebuf2022,备注:甲方会员 “FreeBuf甲方群”帮会已建立

    76630

    数据治理之数据脱敏技术研究

    为了保证数据在企业内外部依法依规使用,需要相应的数据脱敏技术来实现对敏感数据的保护。...欧盟在2018年出台《通用数据保护条例》(GDPR),规定了企业如何收集、使用和处理欧盟公民的个人数据。...4)防数据推理原则 数据脱敏不需要将所有的数据进行脱敏处理,只处理被定义为敏感数据内容。...但需要注意的是有些非敏感数据能够被用来重新生成敏感数据或者能够回溯到敏感数据,这些非敏感数据同样需要进行脱敏处理。 5) 自动化原则 针对一个数据源只需要配置一次,就可以重复进行脱敏处理。...问2:如A经B到C,C经D到E,而给我们的关系脱敏后表现为A..B...D..E。类似的这类脱敏如何实现。 答:单独的客户信息,还是有需要进行脱敏处理的。

    4.3K21

    大数据平台安全建设实践

    我自己整理的一份最新的大数据进阶资料和高级开发教程,大数据学习群: 740041381就可以找到组织学习 欢迎进阶中和进想深入大数据的小伙伴加入 数据脱敏,有些敏感数据即使是公司内部的数据开发人员...如何平衡安全和便利性的关系,尤为重要。 有赞大数据平台安全建设是在大数据平台本身的发展以及数仓元数据建设的过程中不断演进的。概括起来可以分为三个阶段。...数据开发人员可能在数据平台进行数据查询,发现没有数据访问权限之后,需要到 hue 上申请权限。权限审批人员收到申请通知之后,需要登录 ranger web UI,进行权限配置。...四、基于 column masking 的数据脱敏 随着公司业务的进一步增长,对敏感数据脱敏需求变的更加强烈。我们需要将各种手机号、邮箱地址之类的敏感字段进行脱敏处理,例如手机号只显示后四位。...因此,我们需要在数据平台层面,对数据进行脱敏。我们采用的方案是 SQL 重写。

    2.2K50
    领券