我们常见的数据库性能优化就是SQL语句优化,确实SQL优化是开发者接触到最多的也是最常有的优化手段。作为开发人员我们接触最多的也就是SQL语句的优化,SQL语句的优化除了调整SQL语句外更多的是通过添加索引来加速查询,表结构(合理设计字段、拆分字段到其它表、分表等)的优化也是我们优化的主要手段。
在java中通常会用到时间的比较,一般情况下都是用Date类型的进行比较,如果有Timestamp类型的需要转成Date类型,在前面有一篇文章介绍的是Java Timestamp、Date和String之间的相互转化,不知道如何转换的朋友可以去看一下。下面我来说一下如何进行Date类型之间的时间比较
在数据库设计的时候,我们经常会需要设计时间字段,在 MYSQL 中,时间字段可以使用 int、timestamp、datetime 三种类型来存储,那么这三种类型哪一种用来存储时间性能比较高,效率好呢 ?
项目war文件 及 mysql备份文件下载地址:http://dl.vmall.com/c0ejjni0ai
DB.DB().SetConnMaxLifetime(59 * time.Second)
Redis 是一个很强大的内存数据库,而依据我学习 Redis 的经验,网上最缺的资料不是 Redis 的实现原理,Redis 的运维等等。而是对于 Redis 的应用场景,这方面的资料简直少到令人发指。依据我的记忆,一年前,我搜索Redis 的 sorted set 具体可以应用在哪些地方, 得出的结论要么是泛泛而谈,要么就开始讲解 sorted set 的一些命令的用法。而具体的应用场景很少有人提及。
上期文档中我们让mysql开启慢查询日志,收集查询时间比较长的sql,进而通过explain指令查询sql的执行过程,explain能够查看sql是那种数据查询方式以及索引情况。但是有时候使用explain还是无法定位到问题sql,所以在mysql5.037版本之后新增了show profiles和show profile语句的支持,通过hava_profileing指令可以查看当前sql是否支持profiles。
•超高的QPS(每秒钟处理的查询量)和TPS导致SQL处理效率下降。•大量的并发导致的数据库连接数被占满和超高的CPU占用率导致资源耗尽服务器宕机。•磁盘IO性能瓶颈导致数据传输效率下降,计划任务导致磁盘IO下降。•网卡IO性能瓶颈,要减少从服务器数量,缓存要分级,避免使用 select * 这样的查询。
ScheduleMaster上一次比较大的更新还是在6月份,转眼已经快过去4个月了,这段时间比较忙,中间只更新过一次修复了几个小bug。
其实上面这些问题,我最早想法是,每个问题都可以啰嗦出一篇文章。后来由于良心发现,烟哥就决定用一篇文章将这些问题都讲明白。 当然,我给的回答可能并非标准答案,毕竟是自己的一些工作总结。各位读者有更好的回答,也欢迎交流!
在项目中后期,如果想调整索引的 Mapping 结构,比如将 ik_smart 修改为 ik_max_word 或者 增加分片数量 等,但 Elasticsearch 不允许这样修改呀,怎么办?
距离上一次更新时间有点久,原因么,被大佬的代码打击到了,于是回去自闭充了一波电……
MySQL数据库官方文档:https://dev.mysql.com/doc/refman/5.7/en/server-logs.html 一、MySQL日志分类:日志文件记录了影响数据库的各种类型活动,MySQL数据库常见的日志文件分类。 错误日志(Error log) 慢查询日志(Slow query log) 二进制日志 查询日志 二、错误日志详解:MySQL错误日志是记录MySQL 运行过程中较为严重的警告和错误信息,以及MySQL每次启动和关闭的详细信息。 【查看MySQL数据库错误日志存放的位置
在mysql中,常见的存储引擎有innodb、myisam,memory等。其中innodb支持事务(transaction),而myisam,memory等不支持事务。
什么是大事务 运行时间比较长,长时间未提交的事务就可以称为大事务 大事务产生的原因 操作的数据比较多 大量的锁竞争 事务中有其他非DB的耗时操作 。。。 大事务造成的影响 并发情况下,数据库连接池容易被撑爆 锁定太多的数据,造成大量的阻塞和锁超时 执行时间长,容易造成主从延迟 回滚所需要的时间比较长 undo log膨胀 。。。 如何查询大事务 **注**:本文的sql的操作都是基于mysql5.7版本 以查询执行时间超过10秒的事务为例: select \* from information\_s
未来一段时间开发的项目或者需求会大量使用到Redis,趁着这段时间业务并不太繁忙,抽点时间预习和复习Redis的相关内容。刚好看到博客下面的UV和PV统计,想到了最近看书里面提到的HyperLogLog数据类型,于是花点时间分析一下它的使用方式和使用场景(暂时不探究HyperLogLog的实现原理)。Redis中HyperLogLog数据类型是Redid 2.8.9引入的,使用的时候确保Redis版本>= 2.8.9。
在实际的生产中,为了解决Mysql的单点故障已经提高MySQL的整体服务性能,一般都会采用**「主从复制」**。
我这里按公司实际场景,规定了,每次操作/获取数据量应该少于5000条,结果集应该小于2M
大数据浪潮奔涌而至,企业对更高效地释放数据价值、降低数据使用成本的需求急剧上升,越来越多场景要应对不断增长的实时事务处理和分析的需求。其中,HTAP 凭借着可以承载高并发事务实时处理,以及大规模数据实时业务决策的能力,在企业级市场中受到广泛关注。 与此同时,押注 HTAP 方向的数据库也在增多。作为需要将 TP 和 AP 进行高度交融, 而非简略相加的产物,HTAP 面对的技术挑战也可以预见。那么,HTAP 数据库需要具备哪些能力?如何兼容 TP 与 AP 能力打造极致性能?如何高效管理 TP 和 AP 负
TDSQL-C再创佳绩 9月16日,Distributed Cloud|2021全球分布式云大会在上海召开,腾讯云原生数据库TDSQL-C荣获“云原生卓越技术提供商”奖项,TDSQL-C 是腾讯自研的云原生分布式数据库(原CynosDB), 基于共享存储,实现了强大的扩展能力和超百万级QPS的高吞吐性能,深度定制的数据库内核TXSQL是支撑关键业务平稳运行的基石。 (云原生卓越技术提供商奖项) TDSQL-C的总体架构是基于共享存储,存储和计算分离的架构。 (传统的MySQL主备架构和TDSQL
Redis是一个开源的底层使用C语言编写的Key-Value存储数据库。可用于缓存、事件发布订阅、高速队列等场景。而且支持丰富的数据类型:string(字符串)、Hash(哈希)、List(列表)、Set(无序集合)、Zset(sorted set:有序集合)。
Redis简介 Redis是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。从2010年3月15日起,Redis的开发工作由VMware主持。从2013年5月开始,Redis的开发由Pivotal赞助。
今天下午在线上遇到了一个业务反馈mysqldump频繁失败,大概的错误日志如下:
最近在造轮子,从 0 到 1 的那种,就差前台的界面了,大家可以耐心耐心耐心期待一下。其中需要设计一些数据库表,可以通过 Navicat 这种图形化管理工具直接开搞,也可以通过一些数据库设计工具来搞,比如说 PowerDesigner,更专业一点。
本系列文章基于Superset 1.3.0版本。1.3.0版本目前支持分布,趋势,地理等等类型共59张图表。本次1.3版本的更新图表有了一些新的变化,而之前也一直没有做过非常细致的图表教程。
MySQL explain 命令是查询性能优化不可缺少的一部分,该文主要讲解 explain 命令的使用及相关参数说明。
上表中的 exp 不是一个运算符,而是一个综合表达式以支持更复杂的条件设置。exp 的操作条件不会被当成字符串,可以使用任何 SQL 支持的语法,包括使用函数和字段名称。
1.用户体验差:接口访问速度慢、如果一个页面打开需要好几秒,用户可能在页面没有完全打开时,就关掉页面离开了,造成用户流失,通过性能优化,减少服务器响应时长,可提高用户体验,较少用户的流失。
下面用例子的形式来记录下常用的一些Http头部信息 Request Header: GET /sample.Jsp HTTP/1.1 //请求行 Host: www.uuid.online/ /
在web开发中,我们经常会写出一些SQL语句,一条糟糕的SQL语句可能让你的整个程序都非常慢,超过10秒一般用户就会选择关闭网页。
前端需要处理buffer的情况不多,可以说很少见。但是理解这个概念对我们来说并没有什么坏处。还是那句话,我并不善于去写各种API的具体的使用方法,更多的是去描述我自己的一个思考的过程。因为API我们可以查文档,但是,思考的过程并不是每个人都可以跟你分享的。
大家周末好,今天给大家分享c++中的动态数组和动态结构体以及string类的学习总结,在今天写文章之前,给大家分享一个可以面试刷题的地方,如果大家平时没啥事情或者离面试时间比较久,可以尝试去牛客网里面去刷题,如下图所示:
高广超,https://www.jianshu.com/p/ea3fc71fdc45
Maxwell是开源产品,相比Canal的体量也小很多,综合考虑下,在短期内选择了Maxwell.
接了一个小需求,是将一些用户操作记录入到我们的数据库中。观察到入库的接口平均响应时间比较差大概在几秒左右,当时没多想,就觉得是先查询是否存在,再插入这个过程中查询是否存在比较耗时(因为操作记录表比较大),但是后面发现有10%,20%的入库接口响应时间甚至达到了十秒,并且pgsql数据库cpu变高了很多,波段性的高峰存在。老样子,先查询是否存在慢sql,耗时3秒以上的sql查询load出来后发现原来是查询是否存在的这个过程出了问题。我是通过一个联合索引来查询是否存在的,他们分别是(公司id,店铺id,xxid),通过explain该sql语句发现并没有走这个联合索引,而是走了(公司id,店铺id)这个索引。而这个索引扫出来的结果并没有区分度,因为一个公司的某一个店铺可以有很多的操作记录。让我们来思考一下联合索引的定义,它满足最左前缀匹配原则,mysql的查询优化器会自动将你代码中乱序的查询条件组装成联合索引去查询,进而通过联合索引来计算查询成本。但是最左前缀匹配原则是要求越有区分度的字段应该放在左边,我误以为sql的查询优化会自动帮我把联合索引的区分度字段往左边移动。这次事故的原因主要是因为我对最左前缀匹配原则理解的不深刻,下次应该尽可能的将具有区分度的字段放在联合索引的左边。
正好今天遇到另一个网站,给提到过数据库地址选择127.0.0.1和localhost对打开速度的影响。
Windows安装教程:《从0到1-全面深刻理解MySQL系列》- 最详细的MySQL安装流程(Window环境)
接上期,这边2个 1000万的表people people_1, 与一个range 的分区表people_range 1000万左右的数据表,分别进行JOIN 的运算
基于前面的文章方法,加入批处理命令即可实现自动备份。只是由于批处理命令中对于备份文件的名字按照时间命名比较特别,所以特别整理一文。
1.0 什么是事务 1.事务:事务是数据库系统区别于其他一切文件系统的重要特性之一 2.事务是一组具有原子性的SQL语句,或是一个独立的工作单元 1.1 MySQL事务的特性 原子性(ATOMICITY):SQL要么全部执行完成,要么全部失败,不可能执行部分语句。 举个例子 如果要去中国银行向建设银行存钱 查看中国银行中的账户余额是否大于2000元 从中国银行的帐户中转出2000元 在建设银行的账户上增加2000元 如果上面的任何一步拿出来单独执行,后果你懂的…😂 一
MySQL 的Performance Schema由来已久,但由于内存消耗,性能影响等原因,导致其始终无法进入主流的MySQL默认配置,对MySQL的问题诊断以及处理造成很多不利的影响。 一般而言,Performance Schema会对性能造成影响,比如row mutex的位置。实际上,MySQL经常出现问题的地方,很多时候是在Server层,在这一层,很多Performance Schema的设置并不会导致性能的下降(或者明显下降)。 下文为总结出来的,推荐开启的Performance Schema选
1、复制date文件夹备份 ============================ 假想环境: MySQL 安装位置:C:\MySQL 论坛数据库名称为:bbs 数据库备份目的地:C:\db_bak\ ============================ 新建db_bak.bat,写入以下代码 *******************************Code Start***************************** net stop mysql xcopy c:\mysql\data\bbs\*.* c:\db_bak\bbs\%date:~0,10%\ /S /I net start mysql *******************************Code End ***************************** 然后使用Windows的“计划任务”定时执行该批处理脚本即可。(例如:每天凌晨3点执行back_db.bat) 解释:备份和恢复的操作都比较简单,完整性比较高,控制备份周期比较灵活,例如,用%date:~0,10%。此方法适合有独立主机但对mysql没有管理经验的用户。缺点是占用空间比较多,备份期间mysql会短时间断开(例如:针对30M左右的数据库耗时5s左右),针对%date:~0,10%的用法参考 。 2、mysqldump备份成sql文件 ============== 假想环境: MySQL 安装位置:C:\MySQL 论坛数据库名称为:bbs MySQL root 密码:123456 数据库备份目的地:D:\db_backup\ 脚本: rem *******************************Code Start***************************** @echo off
有些时候,送出去的控制信号,并不需要长久稳定的信号,只要给个够宽度的脉冲就可以了。
双十一仔细想了想,好像也没什么可买的,吃的零食什么的都还有,用的东西没什么缺的,想想还是算了吧,还不如早点搞完早点休息来的实在。个人感觉已经过了冲动消费的年纪了,这可能也是人老了的标志吧。。。
https://juejin.im/post/5d837d2c6fb9a06b05182737
领取专属 10元无门槛券
手把手带您无忧上云