专栏首页兜兜毛毛oracle mysql5.7 Json函数

oracle mysql5.7 Json函数

oracle mysql 5.7.8 之后增加了对json数据格式的函数处理,可更加灵活的在数据库中操作json数据,如可变属性、自定义表单等等都使用使用该方式解决。

在创建表时,可以使用“GENERATED ALWAYS AS” 与json中的某个字段关联,并创建虚拟字段使json字符串也可以添加索引。

-- 创建测试json表

CREATE TABLE `test_json` (
  `$json` json NOT NULL,
  `userid` varchar(50) COLLATE utf8mb4_unicode_ci GENERATED ALWAYS AS (json_unquote(json_extract(`$json`,_utf8mb4'$."userid"'))) VIRTUAL,
  `id` varchar(50) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin NOT NULL,
  `$createTime` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP,
  `$updateTime` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
  `name` varchar(60) GENERATED ALWAYS AS ((json_extract(`$json`,_utf8mb4'$."name"') = TRUE)) VIRTUAL,
  PRIMARY KEY (`id`),
  KEY `by_userid` (`userid`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_unicode_ci;

SET FOREIGN_KEY_CHECKS = 1;

创建json

json_array(val1,val2,val3...)

创建json数组

json_object(key1,value1,key2,value2...)

创建json对象

json_quote

将json转成json字符串类型

插入json数据

-- 方式1 :直接插入json字符串
insert into test_json (id,`$json`) values(1,'{"userid":"1","name":"test name","sex":"男"}');

-- 方式2 :使用json_object
insert into test_json (id,`$json`) values(2,json_object("userid","2","name","test name2","sex","男"));

-- 方式3 :组合使用
insert into test_json (id,`$json`) values(3,json_object("userid","3","name","name3","sex","女","item",json_array("item1","item2","item3")));

查询json

json_contains(json_doc,val[,path])

判断是否包含某个json值

json_contains_path(json_doc,one_or_all,path[,path]...)

判断是否有某个路径

json_extract(json_doc,path[,path])

提取json值

column->path json_extract

简洁写法5.7.9开始支持

column->>path json_unquote(column -> path)

简洁写法5.7.13开始支持相当于 JSON_UNQUOTE(JSON_EXTRACT())

json_keys(json_doc[,path])

提取json中的键值结果为json数组

json_search(json_doc, one_or_all, search_str[,escape_char[,path]...])

按给定字符串关键字搜索json,返回匹配的路径

搜索数组下的多个属性时可使用通配符“*”,如获取数组下对象的某属性$.item[*].name

-- 判断是否包含某个json值 

-- 方式1
select json_contains(`$json`,'{"name":"test name2"}') from test_json;

-- 方式2 (请注意第二个参数,带双引号,官网案例是number类型)
select json_contains(`$json`,'"name3"','$.name') from test_json;



-- 判断json是否指定路径,one至少存在一条路径,all存在所有路径
select json_contains_path($json,'one','$.item') from test_json;


-- 获取json值 
-- 方式1
select json_extract(`$json`,'$.item') from test_json;

-- 方式2 简洁写法
select `$json` -> '$.item' from test_json;

-- 方式3 简洁写法,并取消字符串,可用于select\where\having子句
select `$json` ->> '$.name' from test_json;


-- 获取json中的key数组
select json_keys($json) from test_json;


-- 获取json中指定value的json_path
select json_search($json,'one','item2') from test_json;

-- 可使用通配符
select json_search($json,'one','item%') from test_json;


select json_search($json,'all','2') from test_json;

修改json

json_append (废弃)

废弃,MySQL 5.7.9开始改名为json_array_append

json_array_append(json_doc,path,val[,path,val]...)

末尾添加数组元素,如果原有值是数值或json对 象,则转成数组后,再添加元素

json_array_insert(json_doc,path,val[,path,val]...)

插入数组元素

json_insert(json_doc,path,val[,path,val]...)

插入值(插入新值,但不替换已经存在的旧值)

json_merge(json_doc,json_doc[,json_doc]...)

合并json数组或对象

json_remove(json_doc,path[,path]...)

删除json数据

json_replace(json_doc,path,val[,path,val]...)

替换值(只替换已经存在的旧值)

json_set(json_doc,path,val[,path,val])

设置值(替换旧值,并插入不存在的新值)

json_unquote(val)

去除json字符串的引号,将值转成string类型

CAST('jsonString' as json)

可将json字符串转为json对象格式

-- 修改json

-- 只会给有item属性的json添加

select json_array_append(`$json`,'$.item','new item') from test_json ;


-- 会将对象转为数组

select json_array_append(`$json`,'$.name','new item') from test_json ;

-- 向数组指定位置插入,指定的json path必须是数组类型

select json_array_insert(`$json`,'$.item[10]','new item') from test_json ;


-- 添加新属性,如果没有新属性会增加
select json_insert(`$json`,'$.address','北京') from test_json ;

-- 修改原属性,如果没有属性会增加,如果有则不处理

select json_insert(`$json`,'$.name','新名字') from test_json ;

-- 也可向数组中插入
select json_insert(`$json`,'$.item[10]','new item') from test_json ;

-- 合并,根据属性进行合并,如有相同属性转为数组
select json_merge(`$json`,`$json`) from test_json ;

-- 添加新属性,合并数组
select json_merge(`$json`,'{"company":"companyName","address":"address","item":["newItem"]}') from test_json ;

-- 删除指定路径属性或数组值
select json_remove(`$json`,'$.item','$.sex') from test_json ;

select json_remove(`$json`,'$.item[0]','$.sex') from test_json ;

-- 替换属性值
select json_replace(`$json`,'$.sex','男') from test_json ;

-- 替换没有的属性不做任何操作
select json_replace(`$json`,'$.address','替换不存在的地址属性','$.item[20]','4444') from test_json ;

-- 有的属性做替换值,没有的做添加
select json_set(`$json`,'$.sex','男','$.address','替换不存在的地址属性','$.item[20]','4444') from test_json ;




-- 原始获取json会带引号

select `$json` -> '$.name' from test_json ;

-- 可去除双引号
select json_unquote(`$json` -> '$.name') from test_json ;

返回json属性

json_depth(json_doc)

返回json文档的最大深度

json_length(json_doc[,path])

返回json文档的长度

json_type(json_val)

返回json值得类型

json_valid()val

判断是否为合法json文档

-- json属性最大深度
select json_depth(`$json`) from test_json ;

-- json对象则是属性数,数组则是数组长度
select json_length(`$json`) from test_json ;

-- 判断数据类型

select json_type(`$json`) from test_json ;


select json_type(`$json` -> '$.name') from test_json ;


select json_type(`$json` -> '$.item') from test_json ;

json类型

ARRAY

JSON数组

BOOLEAN

JSON true和false字符串

NULL

JSON NULL字符串

数字类型

INTEGER

MySQL中 TINYINT, SMALLINT, MEDIUMINT, INT 和 BIGINT

DOUBLE

MySQL中 DOUBLE FLOAT

DECIMAL

DECIMAL 和 NUMERIC

时间类型

DATETIME

MySQL中 DATETIME 和 TIMESTAMP

DATE

MySQL中 DATE

TIME

MySQL中 TIME

字符串类型

STRING

MySQL字符串: CHAR, VARCHAR, TEXT, ENUM, 和 SET

二进制

BLOB

MySQL 二进制: BINARY, VARBINARY, BLOB

BIT

MySQL中 BIT

其他

OPAQUE

(raw bits)

JSON的存储结构及具体实现

引用:https://blog.csdn.net/qian_xiaoqian/article/details/53128170

在处理JSON时,MySQL使用的utf8mb4字符集,utf8mb4是utf8和ascii的超集。由于历史原因,这里utf8并非是我们常说的UTF-8 Unicode变长编码方案,而是MySQL自身定义的utf8编码方案,最长为三个字节。具体区别非本文重点,请大家自行Google了解。

MySQL在内存中是以DOM的形式表示JSON文档,而且在MySQL解析某个具体的路径表达式时,只需要反序列化和解析路径上的对象,而且速度极快。要弄清楚MySQL是如何做到这些的,我们就需要了解JSON在硬盘上的存储结构。有个有趣的点是,JSON对象是BLOB的子类,在其基础上做了特化。

使用示意图更清晰的展示它的结构:

JSON文档本身是层次化的结构,因而MySQL对JSON存储也是层次化的。对于每一级对象,存储的最前面为存放当前对象的元素个数,以及整体占的大小。需要注意的是:

  • JSON对象的Key索引(图中橙色部分)都是排序好的,先按长度排序,长度相同的按照code point排序;Value索引(图中黄色部分)根据对应的Key的位置依次排列,最后面真实的数据存储(图中白色部分)也是如此
  • Key和Value的索引对存储了对象内的偏移和大小,单个索引的大小固定,可以通过简单的算术跳转到距离为N的索引
  • 通过MySQL5.7.16源代码可以看到,在序列化JSON文档时,MySQL会动态检测单个对象的大小,如果小于64KB使用两个字节的偏移量,否则使用四个字节的偏移量,以节省空间。同时,动态检查单个对象是否是大对象,会造成对大对象进行两次解析,源代码中也指出这是以后需要优化的点
  • 现在受索引中偏移量和存储大小四个字节大小的限制,单个JSON文档的大小不能超过4G;单个KEY的大小不能超过两个字节,即64K
  • 索引存储对象内的偏移是为了方便移动,如果某个键值被改动,只用修改受影响对象整体的偏移量
  • 索引的大小现在是冗余信息,因为通过相邻偏移可以简单的得到存储大小,主要是为了应对变长JSON对象值更新,如果长度变小,JSON文档整体都不用移动,只需要当前对象修改大小
  • 现在MySQL对于变长大小的值没有预留额外的空间,也就是说如果该值的长度变大,后面的存储都要受到影响
  • 结合JSON的路径表达式可以知道,JSON的搜索操作只用反序列化路径上涉及到的元素,速度非常快,实现了读操作的高性能
  • 不过,MySQL对于大型文档的变长键值的更新操作可能会变慢,可能并不适合写密集的需求

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 在Spring Boot yml配置文件中无法使用maven变量@var@,运行报错

    兜兜毛毛
  • Spring Boot Repository查询条件关键字

    兜兜毛毛
  • 无回路有向图的拓扑排序

    因公司业务需要,在表单中每个字段都会配置自动计算,但自动计算公式中会引用到其他字段中的值。所以希望可以根据计算公式,优先计算引用的公式。所以最终使用了无回路有向...

    兜兜毛毛
  • 2018年7月23日数据存储到文件中的代码介绍:

    ******************************************************************

    武军超
  • Python json 模块dumps、dump、loads、load的使用

    本文主要讲下json.dumps和json.dump、json.loads和json.load的区别,因为经常需要加载json文件,读取数据,傻傻分不清...

    致Great
  • Python- Json模块

    py3study
  • PHP JSON XML 相关函数

    json json_encode() 将 数组 编码为 json json_encode($value [, $options, $depth]); json...

    康怀帅
  • Greenplum数据库使用总结(干货满满)--对JSON的支持

    JSON作为结构化的数据,目前越来越受到开发者的爱戴,它简单灵活易于理解。是作为储存数据的一种比较使用的一种格式,greenplum从5.0开始便很好的支持了J...

    小徐
  • 干货 | 如何利用Python处理JSON格式的数据,建议收藏!!!

    JSON数据格式在我们的日常工作中经常会接触到,无论是做爬虫开发还是一般的数据分析处理,今天,小编就来分享一下当数据接口是JSON格式时,如何进行数据处理进行详...

    用户6888863
  • python解析与组装json

    JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式。它基于JavaScript(Standard ECMA-262 3...

    py3study

扫码关注云+社区

领取腾讯云代金券