首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

MySQL Longtext字段优化记录(一)

工作中遇到一个查询很慢的情况,环境如下: 开发语言:JAVA 数据库:MySQL 数据量:1600~1800 问题:查询200条时就很慢,是慢在IO上: 如果是查全部(一千六百多条),就更慢了,几乎四十秒还没有返回...: 原因:数据表中有个longtext字段: 优化思路:数据库中不存longtext字段,新增blob字段,将文本在后端压缩为bytep[]存到blob二进制字段中,查询时返回。...数据流图: blob字段: 后端使用Zip压缩算法,使用java.util.zip包下的DeflaterOutputStream和InflaterOutputStream,压缩文本再保存。...,然后把原表拷贝到两张表,一张表保留longtext字段,一张表保留blob字段,查询比对如下: 说明blob字段IO速度比long text字段IO速度快很多。...注:这种方式就是不存原文本内容,弊端就是无法做对文本的搜索功能,如果要求要对文本做搜索,或者保留为文档到ES中,建议把content字段拆出来一张表和主表关联,也是保存和查询需要处理一下。

2.9K20
您找到你想要的搜索结果了吗?
是的
没有找到

Git 记录文件权限变更

在编写 Dockerfile 时,遇到过几次文件权限的问题,每次都需要查询,总是记不住,整理一篇文章记录在这里。...20d23117c700e59f1793dd2fddecfa9bdb01085f entrypoint.sh 040000 tree 7bf219dd6874e144f7801fe4ba4e9e5655ad9c4e yapi 修改文件权限 在 Git 版本记录中...,关于文件权限部分,由于在不同的系统中的各种特性,Git 仅记录了文件的执行权限,也就是不记录 文件所有者和所属组的变更。...在 Linux 和 Mac 中,可以很方便的对文件权限进行变更,和追踪: chmod +x entrypoint.sh 然后 git status 进行变更查看,再 git add entrypoint.sh...忽略文件权限 但是,有很多时候我们并不需要过多关注文件权限,特别是部署时会重置文件权限的情况,在开发时由于各环境不同,总是有文件权限的冲突,此时,我们可以忽略文件变更追踪。

2.1K30

一个实时收集MySql变更记录的组件CanalSharp.AspNetCore

Canal 是mysql数据库binlog的增量订阅&消费组件。   ...行更改(RowChange)后写入MySql指定的记录表中(canal.logs,CanalSharp.AspNetCore会自动帮我们创建这张记录表)。...修改C:\ProgramData\MySQL\MySQL Server 5.7\my.ini的以下内容 log-bin=mysql-bin binlog-format=Row server-id=1   ...Configuration, defaultLogger); } 五、效果演示   当在指定要监听的数据库对某张表的某行数据进行Update或Delete操作后,又或者进行Insert行操作后,canal.logs表会自动记录变更记录数据如下图...PS:INSERT操作会记录新增的数据行数据到CurrentValue列,DELETE操作会记录删除的数据行数据到PreviousValue列,UPDATE操作则会记录修改前PreviousValue和修改后的值

1K30

mysql密码字段类型_MySQL 字段类型

unsigned 和 zerofill UNSIGNED 修饰符规定字段只保存正值,即无符号,而mysql字段默认是有符号的。...ENUM 类型字段可以从集合中取得一个值或使用 null 值,除此之外的输入将会使 MySQL 在这个字段中插入一个空字符串。...MySQL 认为 ENUM 类型集合中出现的值是合法输入,除此之外其它任何输入都将失败。这说明通过搜索包含空字符串或对应数字索引为 0 的行就可以很容易地找到错误记录的位置。...如果插入一个即有合法的元素又有非法的元素的记录MySQL 将会保留合法的元素,除去非法的元素。 一个 SET 类型最多可以包含 64 项元素。...希望从 SET 类型字段中找出非法的记录只需查找包含空字符串或二进制值为 0 的行。

14.4K20

MySQL|update字段为相同的值是否会记录binlog

一 前言 前几天一个开发同事咨询我,update 更新字段为相同的值是否会记录binlog,我回复说不会。 其实 严格的说这个答案是不准确的,说要区分场景。...当 row_format 为mixed或者statement格式是,binlog 的大小发生改变,不管是否真的更新数据,MySQL记录执行的sql 到binlog。...三 小结 基于row模式时,server层匹配到要更新的记录,发现新值和旧值一致,不做更新,就直接返回,也不记录binlog。...基于 statement 或者 mixed格式,MySQL执行 update 语句,并把更新语句记录到binlog。 那为什么问题来了 statement 和 mixed 会完整的记录sql语句呢?...且听下回分解吧,因为我要解析源码,使用Clion 编译MySQL 调试环境还没成功。

6.2K20

14亿条记录,12c 做不到2小时内变更表结构字段类型?

导读:本文详细讲述Oracle 12c 在2小时内完成一张14亿条记录的表结构字段类型变更的过程,希望可以帮到工作中的大家,如有任何疑问,欢迎在本文的评论区交流讨论。...FALSE, num_errors => num_errors, copy_statistics => FALSE); 由于场景1的效率比较差,我这里就只列举场景2的测试过程,后续实际业务变更也是在场景...2中进行,以下是整个变更过程: 硬软配置一般,如下: CPU:Intel® Xeon® CPU E7-4820 v3 @ 1.90GHz(物理4个,10核心,80个逻辑cpu) 内存:500 GB 存储...to_number(apply_obj_id) apply_obj_id', --这里只列举了需要变更字段类型...Elapsed: 00:04:18.35 取消表、索引上的并行度,检查字段是否修改成功,删除临时表,至此整个修改过程结束,这里耗时约10分钟左右。

40420

04.字段抽取拆分&记录抽取1.字段抽取2.字段拆分3.记录抽取

1.字段抽取 根据已知列的开始与结束位置,抽取出新的列 字段截取函数slice(start, stop) slice()函数只能处理字符型数据 start从0开始,取值范围前闭后开。...13822254373 138 2225 4373 7 13322252452 133 2225 2452 8 18922257681 189 2225 7681 2.字段拆分...按固定的字符,拆分已有字符串 字段分隔函数split(sep, n, expand=False) 参数说明 sep:用于分割的字符串 n:分割为多少列,从0开始,如设置为0,即拆分为1列;如设置为1...屏幕快照 2018-07-01 19.52.00.png 3.记录抽取 根据一定条件对数据进行抽取 记录抽取函数dataframe[condition] 参数说明:condition 过滤对条件 返回值...:DataFrame 类似于Excel对过滤功能 3.1 记录抽取常用的条件类型 比较运算:> = <= !

1.4K20

MySQL根据某个字段将多条记录的某个字段拼接成一个字段

问题 GROUP_CONCAT函数用于将多个字符串连接成一个字符串,在拼接成字符串时就会存在拼接长度的问题,MySQL 默认的拼接最大长度为1024 个字节,由于1024个字节会出现不够用的情况,所以有时需要去根据情况进行修改..., 使用SHOW VARIABLES LIKE "%group_concat_max_len%"查看 mysql> SHOW VARIABLES LIKE "%group_concat_max_len%...> 1 临时修改(命令行) 1.1 修改group_concat_max_len长度为:10240 mysql> SET GLOBAL group_concat_max_len = 10240; mysql...> SET SESSION group_concat_max_len = 10240; 1.2 查看 mysql> SHOW VARIABLES LIKE "%group_concat_max_len%...[mysqld] ...... group_concat_max_len = 10240  #添加 2.2 重启mysql服务 如果mysql服务不重启的话,可以配合临时修改一起使用 $ service

1.9K20

MySQL字段类型_mysql数据库字段类型

MySQL 支持大量的字段类型,其中常用的也有很多。...定点型字段类型有 DECIMAL 一个,主要用于存储有精度要求的小数。 DECIMAL 从 MySQL 5.1 引入,列的声明语法是 DECIMAL(M,D) 。...char 类型是定长的,MySQL 总是根据定义的字符串长度分配足够的空间。当保存 char 值时,在它们的右边填充空格以达到指定的长度,当检索到 char 值时,尾部的空格被删除掉。...3.日期时间类型 MySQL支持的日期和时间类型有 YEAR 、TIME 、DATE 、DATETIME 、TIMESTAMP,几种类型比较如下: 涉及到日期和时间字段类型选择时,根据存储需求选择合适的类型即可...总结: 本篇文章主要介绍了 MySQL 中常用的字段类型,平时用到的字段类型基本都在这里了,以一张思维导图总结如下: 版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。

19.3K10
领券