痛点二 对于一些为了快速上线而一开始没有实现合规脱敏的系统,如何比较快速的使得已有业务满足合规要求的同时,尽量减少对原系统的改造。 通常的这个过程至少包括: 新增脱敏列的存储 同时做数据迁移 业务的代码做兼容逻辑等 Apache ShardingSphere下面存在一个数据脱敏模块,此模块集成的常用的数据脱敏的功能。 脱敏配置Quick Start——Spring版 以下介绍基于Spring如何快速让系统支持脱敏配置。 1. 引入依赖 <! 创建脱敏配置规则对象 在创建数据源之前,需要准备一个EncryptRuleConfiguration进行脱敏的配置,以下是一个例子,对于同一个数据源里两张表card_info,pay_order的不同字段进行 ),对于新的系统,只需要设置脱敏列即可,所以以上示例为plainColumn为”“。
(通常的这个过程至少包括: 1、 新增脱敏列的存储 2、 同时做数据迁移 3、 业务的代码做兼容逻辑等 Apache ShardingSphere下面存在一个数据脱敏模块,此模块集成的常用的数据脱敏的功能 其基本原理是对用户输入的SQL进行解析拦截,并依靠用户的脱敏配置进行SQL的改写,从而实现对字段的加密及加密字段的解密。最终实现对用户无感的加解密存储、查询。 脱敏配置Quick Start——Spring 显示配置: 以下介绍基于Spring如何快速让系统支持脱敏配置。 1、引入依赖 <! 在创建数据源之前,需要准备一个EncryptRuleConfiguration进行脱敏的配置,以下是一个例子,对于同一个数据源里两张表card_info,pay_order的不同字段进行AES的加密 ),对于新的系统,只需要设置脱敏列即可,所以以上示例为plainColumn为”“。
精美礼品等你拿!
点击上方蓝色字体,选择“设为星标” 回复”学习资料“获取学习宝典原文:blog.csdn.net/weixin_61594803 1.SQL数据脱敏实现 MYSQL(电话号码,身份证)数据脱敏的实现 sql: SELECT mobilePhone AS 脱敏前电话号码,CONCAT(LEFT(mobilePhone,3), '********' ) AS 脱敏后电话号码 FROM t_s_user -- 身份证号码脱敏sql: SELECT idcard AS 未脱敏身份证, CONCAT(LEFT(idcard,3), '****' ,RIGHT(idcard,4)) AS 脱敏后身份证号 ,目前支持地址脱敏、银行卡号脱敏、中文姓名脱敏、固话脱敏、身份证号脱敏、手机号脱敏、密码脱敏 一个是正则脱敏、另外一个根据显示长度脱敏,默认是正则脱敏,可以根据自己的需要配置自己的规则。 根据定义的策略类型,对数据进行脱敏,当然策略可以自定义。
在涉及客户安全数据或者一些商业性敏感数据的情况下,在不违反系统规则条件下,对真实数据进行改造并提供测试使用,如身份证号、手机号、卡号、客户号等个人信息都需要进行数据脱敏。 ---- 上面说到,在“涉及客户安全数据或者一些商业性敏感数据的情况下”对数据进行改造,说明我们要进行改造的数据是涉及到用户或者企业数据的安全,进行数据脱敏其实就是对这些数据进行加密,防止泄露。 三、如何实现数据脱敏 ---- 按照脱敏规则,可以分为可恢复性脱敏和不可恢复性脱敏。 我们目前遇到的场景是日志脱敏,即在把日志中的密码,甚至姓名、身份证号等信息都进行脱敏处理。 脱敏前: ? 脱敏后: ? ---- 【 转载请注明出处——胡玉洋《数据脱敏——什么是数据脱敏》】
动态脱敏常用在访问敏感数据即时进行脱敏,一般用来解决在生产环境需要根据不同情况对同一敏感数据读取时进行不同级别脱敏的场景,如业务脱敏、运维脱敏、数据交换脱敏等场景。 业务脱敏 场景特点 ❏ 业务用户访问应用系统时,需明确用户身份的真实性。 ❏ 不同权限业务用户访问敏感数据时需采取不同级别的脱敏规则。 ❖ 特权账号访问控制,禁止DBA、SYSDBA、Schema User、Any等特权用户访问和操作敏感数据集合。 ❖ 对未授权的运维身份访问敏感数据实现动态脱敏功能。 美创数据脱敏系统内置敏感数据发现引擎,对源数据中的敏感数据按照脱敏规则,进行变形、漂泊、遮盖,保证脱敏后的数据保持数据的一致性和业务的关联性,应用于开发测试环境、数据交换、数据分析、数据共享等场景。 美创数据脱敏产品,帮您实现敏感数据可靠保护!
支持深度脱敏,支持复杂对象,嵌套对象,对象内多层级嵌套,自动寻找返回值中嵌套对象包含的需脱敏的属性; 最新版本 最新发布版已更新到mave中央仓库:[Maven Central][1.0.3-release enable: true depth: false packages: com.mos.secure 说明: 属性 默认值 取值范围 说明 enable true true/false 是否启用脱敏 ,全局生效,默认开启 depth false true/false 是否启用深度脱敏,为了性能考虑,默认关闭 packages 空 字符串 包路径,多个以英文逗号分隔 深度脱敏规则: depth为true ,且packages不为空,当方法返回值嵌套的属性包含在packages下,则自动进行脱敏。
数据脱敏指指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护,如我们日常可以看到的手机号“156**8888”等。 专注安全问题,解决脱敏需求,避免大家重复造轮子,secure-ext-spring-boot-starter控件已提供返回值脱敏的策略及使用方法。 ---》jsonObject is jsonObject {} ",jsonObject); 4.2 基于简单对象的脱敏 无侵入,继续使用logback语法即可,已有代码无需改造。 (语法有调整) 由于脱敏是基于key-value模式,因此需要指定key,才可以解析出脱敏规则,因此语法需稍微调整为:空格+key^{}+空格 ; log.info("基于字符串的脱敏---》name 脱敏控件(含demo) 开发脚手架eboot
首先贴成品链接:https://gitee.com/zhijiantianya/ruoyi-vue-pro/pulls/275
产品简介 中安威士数据库动态脱敏系统(简称VS-DM),通过截获并修改数据库通讯内容,对数据库中的敏感数据进行在线的屏蔽、变形、字符替换、随机替换等处理,达到对用户访问敏感数据真实内容的权限控制。 对存储于数据库中的敏感数据,通过脱敏系统,不同权限的用户将会得到不同结果展现。系统支持旁路代理和直路代理两种部署方式,具有性能卓越、配置灵活、使用简单、运行稳定等优势。 能帮助客户降低生产库中敏感数据泄露的风险,减少开发、测试和数据交付过程中的数据泄漏,轻松满足隐私数据管理的合规性要求。 产品功能 · 实时动态脱敏 对需要共享的生产数据或时效性要求很高的数据测试和培训场景,提供基于网关代理模式的动态脱敏技术,达到实时模糊敏感数据的效果。 动态脱敏可对业务系统数据库中敏感数据进行透明、实时脱敏。 ² 动态脱敏可以依据数据库用户名、IP、客户端工具类型、访问时间等多重身份特征进行访问控制。
脱敏后的数据主要用于:测试,开发,培训,外包,数据挖掘、研究等。数据脱敏的难点是保持数据的完整性,与数据加密有所不同数据脱敏是一个不可逆的过程。屏蔽非生产环境数据中敏感数据是做好数据安全工作的基础。 针对测试数据管理和敏感数据屏蔽提供统一的元数据管理,从而方便元数据的安装、使用、备份和维护,工具具备高可扩展的架构,可支持多个数据库的数据抽取和数据脱敏。 在涉及客户安全数据或者一些商业性敏感数据的情况下,在不违反系统规则条件下,对真实数据进行改造并提供测试使用。这样,就可以在开发、测试和其它非生产环境以及外包环境中安全地使用脱敏后的真实数据集。 数据脱敏系统优势如下: 高性能和大数据处理能力 高性能、集群化数据脱敏 支持导入元数据,自动配置关联模型 满足复杂的数据脱敏要求 内置众多通用脱敏函数 支持脱敏函数二次开发,复杂的数据脱敏要求 支持键值脱密 搭建了统一的敏感数据屏蔽运维管理方案 针对业务系统都实现测试数据的管理; 提高了效率 加快了测试数据发布的速度;建立了自动化的数据漂白流程,规范了生产数据的使用; 保持数据的有效性 确保了脱敏后系统内部以及业务系统之间的业务关联性
Machanavajjhala et al. [5] 引入了L-Diversity用于衡量属性泄露的风险,L-Diversity定义如下: 如果对于任意相等集内所有记录对应的敏感数据的集合,包含L个" 假设攻击者在访问数据集之前已知的个人信息为B0,然后假设攻击者访问所有半标识列都已移除的数据集,Q为数据集敏感数据的分布信息,根据Q,攻击者更新后的个人信息为B1.最后攻击者访问脱敏后的数据集,由于知道用户的半标识列的信息 ,攻击者可以将某用户与某相等集联系在一起,通过该相等集的敏感数据分布信息P,攻击者更新后的个人信息为B2. T-Closeness约束则期望减少B1和B2之间的信息量差距,减少攻击者从敏感数据的全局分布信息和相等集分布信息之间得到更多的个人隐私信息。 T-Closeness的定义如下: 如果一个相等类的敏感数据的分布与敏感数据的全局分布之间的距离小于T,则称该相等类满足T-Closeness约束。
4)自动创建文件脱敏任务 自动创建文件脱敏方案,根据文件源和敏感数据梳理结果进行脱敏方案的自动配置;自动创建文件脱敏任务,将脱敏方案关联到脱敏任务,并进行脱敏任务的自动执行。 8)敏感数据字典管理 以敏感数据为中心,对数据库字段进行分类管理;对同库多表、多库多表的同类敏感数据实施统一的脱敏算法和策略,保证同一组织内跨系统、跨库之间的脱敏一致性;并支持敏感数据字典导入、导出等功能 ,如果没有将生成敏感数据发现任务执行报告,并显示执行结果和消息提示;如果生成敏感数据,将根据脱敏方案模板自动生成脱敏任务,并执行脱敏任务; ●判断脱敏任务执行是否成功,如果出现异常将发送异常报告信息,并显示执行结果和消息提示 ;因此脱敏产品应该具有很好的识别敏感数据的能力,能够不依赖元数据中对表和字段的定义,而是根据数据特征自动的识别敏感数据并进行有效脱敏。 例如“身份证号”作为一类敏感数据,在该类管理所有数据库中的身份证号数据字段,并可实施统一的脱敏算法,并支持敏感数据字典的导入、导出等管理功能。
为了保证数据在企业内外部依法依规使用,需要相应的数据脱敏技术来实现对敏感数据的保护。 数据脱敏工具通过将真实敏感数据按照数据脱敏规则进行转换、处理,去除敏感信息,从而帮助组织实现生产数据的依法依规共享。 4)防数据推理原则 数据脱敏不需要将所有的数据进行脱敏处理,只处理被定义为敏感数据内容。 但需要注意的是有些非敏感数据能够被用来重新生成敏感数据或者能够回溯到敏感数据,这些非敏感数据同样需要进行脱敏处理。 5) 自动化原则 针对一个数据源只需要配置一次,就可以重复进行脱敏处理。 扫描的同时需要对扫描到的敏感数据记录下来。记录的信息包括:数据库IP、数据库用户、数据库、扫描表、扫描字段、敏感数据内容、敏感数据类型、敏感数据率等。
在数据流动、共享、交换成为趋势的今天,数据脱敏已经成为实现敏感数据保护的重要手段之一。数据脱敏产品也逐步被金融、政府、企业等行业客户广泛使用。 当前数据脱敏产品主要包括静态脱敏、动态脱敏产品两类。 ❖ 对于脱敏源中存在的脏数据(不符合敏感对象业务特征的数据),系统同样会对这部分数据进行变形处理,以避免隐形敏感数据泄露。 ❏ 大数据分析平台中包括海量的用户隐私和敏感数据,针对大数据环境进行数据脱敏,数据结构复杂,包括结构化、非结构化数据等,脱敏操作复杂。 美创数据脱敏系统内置敏感数据发现引擎,对源数据中的敏感数据按照脱敏规则,进行变形、漂泊、遮盖,保证脱敏后的数据保持数据的一致性和业务的关联性,应用于开发测试环境、数据交换、数据分析、数据共享等场景。 美创数据脱敏产品,帮您实现敏感数据可靠保护!
数据发现 本系统能自动运行数据扫描任务,先从数据源中获取少量的样本数据,再与系统内置的敏感数据指纹特征进行比对,快速识别敏感数据类型,并记录敏感数据的存放位置。 本系统内置了数十种敏感数据发现规则,涵盖电力、金融、公安、社保、工商、税务等行业的数据特征识别需求。 l 脱敏规则灵活丰富:可根据实际需要提供数据遮蔽、数据仿真、关键部分替换、随机字符串、重置固定值等多种多样的敏感数据处理方式,以达到隐藏或模糊处理真实敏感信息的目的,提高生产数据在应用开发、测试、以及第三方工具做数据分析等使用场景中的安全性 2.jpg 产品优势 强大的隐私发现功能 内置大量模板,满足中文环境下的金融、电力、税务、交通、公安、社保等多个行业对于敏感数据的识别特征要求。 针对每种已经识别的敏感数据类型,则单独提供仿真和遮蔽规则。而且所有的仿真脱敏规则还支持可逆脱敏:使用数据仿真规则脱敏后的数据,再次经过脱敏设备处理后,可以将指定范围的数据还原为真实的原始数据。
灵活的数据脱敏方案应该是底层数据真实的值没有被脱敏,当有用户查询数据时则判断是否屏蔽,取决于用户的具体权限。我们可以使用Sentry控制视图的权限来实现数据脱敏。 当然Group A也被授权可以访问视图employees_masked,比如他想将数据下发时做敏感数据脱敏,则也可以从这个视图里取出数据。 而Group B只能访问employees_masked视图里的数据,这个是有敏感数据被屏蔽了的,因为Sentry的控制,他没权限直接访问employees表或者通过HDFS文件去获取真实的被屏蔽的值。 regexp_replace()函数通过正则表达式的方式敏感数据屏蔽,也可以通过自定义的UDF函数来等方式来实现敏感数据脱敏。 推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。 [qfamb085g5.gif] 原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操
数据脱敏也叫数据的去隐私化,在我们给定脱敏规则和策略的情况下,对敏感数据比如 手机号、银行卡号 等信息,进行转换或者修改的一种技术手段,防止敏感数据直接在不可靠的环境下使用。 有时我们可能需要将生产环境的数据 copy 到测试、开发库中,以此来排查问题或进行数据分析,但出于安全考虑又不能将敏感数据存储于非生产环境,此时就要把敏感数据从生产环境脱敏完毕之后再在非生产环境使用。 动态数据脱敏 动态数据脱敏(DDM):一般用在生产环境,访问敏感数据时实时进行脱敏,因为有时在不同情况下对于同一敏感数据的读取,需要做不同级别的脱敏处理,例如:不同角色、不同权限所执行的脱敏方案会不同。 [原始数据] 1、无效化 无效化方案在处理待脱敏的数据时,通过对字段数据值进行 截断、加密、隐藏 等方式让敏感数据脱敏,使其不再具有利用价值。 [数据替换] 4、对称加密 对称加密是一种特殊的可逆脱敏方法,通过加密密钥和算法对敏感数据进行加密,密文格式与原始数据在逻辑规则上一致,通过密钥解密可以恢复原始数据,要注意的就是密钥的安全性。
数据脱敏也叫数据的去隐私化,在我们给定脱敏规则和策略的情况下,对敏感数据比如 手机号、银行卡号 等信息,进行转换或者修改的一种技术手段,防止敏感数据直接在不可靠的环境下使用。 有时我们可能需要将生产环境的数据 copy 到测试、开发库中,以此来排查问题或进行数据分析,但出于安全考虑又不能将敏感数据存储于非生产环境,此时就要把敏感数据从生产环境脱敏完毕之后再在非生产环境使用。 动态数据脱敏 动态数据脱敏(DDM):一般用在生产环境,访问敏感数据时实时进行脱敏,因为有时在不同情况下对于同一敏感数据的读取,需要做不同级别的脱敏处理,例如:不同角色、不同权限所执行的脱敏方案会不同。 原始数据 1、无效化 无效化方案在处理待脱敏的数据时,通过对字段数据值进行 截断、加密、隐藏 等方式让敏感数据脱敏,使其不再具有利用价值。 数据替换 4、对称加密 对称加密是一种特殊的可逆脱敏方法,通过加密密钥和算法对敏感数据进行加密,密文格式与原始数据在逻辑规则上一致,通过密钥解密可以恢复原始数据,要注意的就是密钥的安全性。 ?
鹅厂数据库智能管家DBbrain推出安全自治功能,鹅厂出品,必属精品,从此,鹅们数据库自带360°安全服务,可以智能化识别敏感数据、内置N种脱敏算法、100%实现脱敏不可逆。 而DBbrain就可以对敏感信息进行智能、高效、便捷地脱敏处理。 1. 敏感数据自动发现 DBbrain支持自定义敏感数据类型的自动发现,满足用户个性化的数据保护需求。 可以对敏感数据自动区分 DBbrain可以对敏感数据进行自动化分类分级,依托产品内置规则或用户自定义规则,对发现的敏感数据进行分类分级。 ? 内置多种脱敏算法 DBbrain支持加星、屏蔽、洗牌、令牌化、格式保留加密、AES加密等多种内置高级脱敏算法,满足数据可用性与隐私保护的各种要求,用户可根据需求自定义脱敏算法,对敏感数据进行不同的脱敏处理 脱敏规则灵活化 DBbrain支持自定义脱敏规则,用户能够通过正则表达式,自主定义数据内容格式并制定脱敏算法,按照不同场合,对敏感数据进行变形处理,与此同时不改变数据的类型、格式、含义、分布等使用特征,
数据脱敏是指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护。 涉及客户安全数据或者一些商业性敏感数据,如身份证号、手机号、卡号、客户号等个人信息按照相关部门规定,都需要进行数据脱敏。 关于数据脱敏陈某前面也发表过两篇文章,如下: 大厂也在用的 6种 数据脱敏方案,别做泄密内鬼!:介绍了常用的脱敏方案 Springboot 日志、配置文件、接口数据如何脱敏? :介绍了SpringBoot中的日志、配置文件、接口数据的脱敏 今天来深入聊一下 Sharding-JDBC 如何对敏感数据脱敏,仅在持久层脱敏。 数据脱敏实战 基本概念介绍完了,下面就使用Sharding-JDBC进行数据脱敏。 这里就不再演示分库分表了,直接用单库进行脱敏演示。
腾讯云数据库MySQL是一种高性能、高可靠、高安全、可灵活伸缩的数据库托管服务,其不仅经济实惠,而且提供备份回档、监控、快速扩容、数据传输等数据库运维全套解决方案,为您简化 IT 运维工作,让您能更加专注于业务发展。
扫码关注腾讯云开发者
领取腾讯云代金券