学习
实践
活动
专区
工具
TVP
写文章
专栏首页杨建荣的学习笔记使用sysbench压力测试MySQL(一)(r11笔记第3天)

使用sysbench压力测试MySQL(一)(r11笔记第3天)

今天用了下新版本的sysbench,发现和早期版本的差别还不小,确实有不少有趣的地方,是的,我们继续测试下MySQL。

如果大家看过《高性能MySQL》这本书,就会发现里面对于基准测试的描述非常全面和专业,里面的测试场景都是基于早期版本,这个版本有一个不太方便的地方就是无法抓取到更细节的数据,只有平均值,所以要不需要定制脚本,要不就需要更多的测试场景和时间来得到一个报告。

sysbench目前最新的版本是1.0.3,里面的interval参数确实很赞,也是驱动我尝试的最大动力,因为能够得到一个相对实时的数据变化。 sysbench的作者

在MySQL这个圈子里,Alexey Kopytov 很多人都知道,他是sysbench的作者,而且同时他就职于Percona,曾经在Oracle参与MySQL的研发工作。Percona Server和XtraBackup工具就是他们合理开发的。所以sysbench原生支持MySQL也就显得顺利成章,一个好的工具离不开那些低调的技术牛人。

Alexey Kopytov is a Principal Software Engineer at Percona. Before joining Percona in 2010 he was a member of the MySQL development team at Oracle. His focus at Percona is development of both Percona Server and Percona XtraBackup.

安装sysbench新版本的坑

安装sysbench的步骤常规就是四步:

  1. 运行autogent.sh脚本
  2. ./configure
  3. make
  4. make install

但是这样一个常规的工作在新版本中需要注意一些地方,可能会导致你安装失败,比如autoconf的版本需要在2.63以上,RedHat 5的版本中默认是2.59,满足不了,而且最重要的是如果你使用的版本低于RedHat 6,很可能遇到下面的这种错误信息:

lj_ir.c:64: error: ‘exp2’ undeclared here (not in a function) lj_ir.c:64: error: ‘log2’ undeclared here (not in a function) make[3]: *** [lj_ir.o] Error 1如果c功底很扎实,可以trace一把,也可能找到那些过期的设置,做一个屏蔽,我是最后果断放弃了。一来升级autoconf版本,二来调试这些边界问题,最关键的RedHat 5竟然默认没有安装Lua,这可是新版本中的标配。

所以安装新版还是直接在RedHat 6以上的版本使用为佳。

如果你使用sysbench抛出了MySQL链接库的问题,这个处理相对要常规一些。

# sysbench --test=oltp help sysbench: error while loading shared libraries: libmysqlclient.so.20: cannot open shared object file: No such file or directory我们可以添加一个软链接

ln -s /usr/local/mysql/lib/libmysqlclient.so.20 /usr/lib/ 如果没有生效,在ld.so.conf中配置生效即可

添加路径至/etc/ld.so.conf ldconfig

Lua的安装

Lua脚本是sysbench新版本中的标配,所以你得熟悉下基本的安装,而且Lua语言相对比较简洁,源代码几百KB,用c开发,非常适合作为一门语言的完整学习捷径,总体看了下感觉很不错。

wget -c http://www.lua.org/ftp/lua-5.2.0.tar.gz 解压后切换到目录下 make linux make install

压力参数前的准备

我们打算测试的MySQL默认的参数如下,如果猛然看看这个配置好像没有太大的问题,其实有几个,我们通过性能测试来说明。

port=3306 socket=/home/mysql/s1/s1.sock server_id=3306 gtid_mode=ON enforce_gtid_consistency=ON master_info_repository=TABLE relay_log_info_repository=TABLE binlog_checksum=NONE log_slave_updates=ON #log_bin=binlog binlog_format=ROWsysbench中原来的test选项已经失效。

# sysbench --test=oltp help WARNING: the --test option is deprecated. You can pass a script name or path on the command line without any options.

我们开启sysbench的测试,可以使用如下的命令生成数据。

sysbench /home/sysbench/sysbench-1.0.3/src/lua/oltp_read_write.lua --mysql-user=root --mysql-port=3306 --mysql-socket=/home/mysql/s1/s1.sock --mysql-host=localhost --mysql-db=sysbenchtest --tables=10 --table-size=5000000 --threads=30 --events=5000000 --report-interval=5 prepare 这里有几个地方要提一下,首先新版的sysbench需要指定一个Lua模板,在sysbench安装目录下自带了一批模板,src/lua目录的文件如下,我们选择读写的oltp模板。

bulk_insert.lua internal Makefile Makefile.am Makefile.in oltp_common.lua oltp_delete.lua oltp_insert.lua oltp_point_select.lua oltp_read_only.lua oltp_read_write.lua oltp_update_index.lua oltp_update_non_index.lua oltp_write_only.lua select_random_points.lua select_random_ranges.lua 原本的参数

--oltp-test-mode=complex已经失效,

--mysql-table-engine=innodb 选项也不存在 --oltp-num-tables=10 需要改为--tables=10 --oltp-table-size=5000000 需要改为--table-size=5000000

测试场景对比1

对于数据库是否开启binlog,开启前后对于数据库本身的性能影响到底有多大,这个我一直没有一个相对清晰的感受,决定逐步来测试一下,我首先设置了线程数为30,50,100,150为样本进行测试。

开启30个线程的测试。,对于50个,100个只需要调整--threads即可。

sysbench /home/sysbench/sysbench-1.0.3/src/lua/oltp_read_write.lua --mysql-user=root --mysql-port=3306 --mysql-socket=/home/mysql/s1/s1.sock --mysql-host=localhost --mysql-db=sysbenchtest --tables=10 --table-size=5000000 --threads=30 --report-interval=5 --time=300

run得到的结果类似下面的输出,每5秒钟输出一次,tps,qps这些一目了然。

我测试了3分钟之内(说实话时间有点短)。但是还能看出一些效果。对于线程30,线程50等的场景测试下,可以看到在线程100~150之间测试结果的数据结果有些不稳定,逐步呈现下降趋势。

然后我测试了开启binlog之后的数据。

这个数据可以基本看出线程100和线程150的TPS差别不大。

而是否开启binlog的差别在短时间内的比较来看,差别到底有多少?这样对比来看相对就清晰一些了。左边是未开启binlog,右边是开启之后的。

通过上面的测试我们可以看到一些瓶颈,而且在后期加压的时候,发现加不上去了,一个主要原因就在于支持的最大连接数不够。我们对此做了一个简单的优化,那就是调节innodb_buffer_pool_size,默认竟然是100多M,支持的连接数是151个。

调整innodb_buffer_pool_size为24G,支持的连接数为3000个,我们继续测试。

其它条件不变的情况下,TPS可以翻一倍,达到1200~1500,QPS为20000左右。

当然按照这种加压方式,当加压测试到线程数300就又扛不住了。所以通过这些测试能够马上发现很多潜在的问题。

FATAL: mysql_stmt_prepare() failed FATAL: MySQL error: 1461 "Can't create more than max_prepared_stmt_count statements (current value: 16382)" FATAL: `thread_init' function failed: /usr/local/share/sysbench/oltp_common.lua:282: SQL API error FATAL: mysql_stmt_prepare() failed

后续进行更多的测试,也会延长时间来得到一个相对更细致的报告。

文章分享自微信公众号:
杨建荣的学习笔记

本文参与 腾讯云自媒体分享计划 ,欢迎热爱写作的你一起参与!

作者:杨建荣
原始发表时间:2017-03-14
如有侵权,请联系 cloudcommunity@tencent.com 删除。
登录 后参与评论
0 条评论

相关文章

  • 使用sysbench压力测试MySQL(三)(r12笔记第6天)

    昨天使用gdb调试MySQL中事务临界状态的时候,发现其实有些场景可能比我想得还要复杂一些,所以我在昨天的测试中结尾也是快快扫过,但是表明了意思即可。这一点...

    jeanron100
  • MySQL压力测试中定制sysbench的Lua模板

    对于sysbench的定制,自己给自己定了一个小目标,但是实践的时候发现,难度比想象的要大很多。 都说Lua很简单,性能很不错,但是定制sysb...

    jeanron100
  • CentOS7压力测试MGR

    最近在规划CentOS7版本中的MySQL测试情况,于是找了公司内部的虚拟机来做下模拟测试。

    jeanron100
  • Mysql专栏 - 线上调优与压力测试

    本节内容讲述线上的调优手段以及压力测试的相关工具,结合一些实际的命令参数,我们将会介绍运行结果的具体含义。本节内容为大致的介绍如何压力测试和如何阅读参数,具体...

    阿东
  • Sysbench测试神器:一条命令生成百万级测试数据

    基准测试(benchmarking)是性能测试的一种类型,强调的是对一类测试对象的某些性能指标进行定量的、可复现、可对比的测试。

    测试开发技术
  • Sysbench测试神器:一条命令生成百万级测试数据

    基准测试(benchmarking)是性能测试的一种类型,强调的是对一类测试对象的某些性能指标进行定量的、可复现、可对比的测试。

    测试开发技术
  • 详解 MySQL 基准测试和sysbench工具

    数据库的基准测试是对数据库的性能指标进行定量的、可复现的、可对比的测试。基准测试与压力测试 基准测试可以理解为针对系统的一种压力测试。但基准测试不关心业务逻辑,...

    民工哥
  • sysbench压测小记(r11笔记第99天)

    对于很多线上业务而言,如果有新服务器,新的环境,新的业务,到底资源和预期的承载压力是否匹配,这个得用数据说话,或是通过严谨的论证来阐述。 比如一台新...

    jeanron100
  • MySQL 之压力测试工具

    一、MySQL自带的压力测试工具——Mysqlslap mysqlslap是mysql自带的基准测试工具,该工具查询数据,语法简单,灵活容易使用.该工具可以模拟...

    小手冰凉
  • 关于MySQL的基准测试

    当我们对数据库进行优化后,只有进行测量系统性能才能知道优化是否有效,这种测量的方式就是基准测试。基准测试的定义如下:

    端碗吹水
  • 数据库压力测试方法概述

    在前面的压力测试过程中,主要关注的是对接口以及服务器硬件性能进行压力测试,评估请求接口和硬件性能对服务的影响。但是对于多数Web应用来说,整个系统的瓶颈在于数据...

    用户5521279
  • 【玩转腾讯云】数据库压力测试方法总结

    在前面的压力测试过程中,主要关注的是对接口以及服务器硬件性能进行压力测试,评估请求接口和硬件性能对服务的影响。但是对于多数Web应用来说,整个系统的瓶颈在于数据...

    测试之道
  • 一天内Boss转发5k次,「高性能Java:核心原理案例实战」已被封杀

    市面上讲Java框架的书很多,包括SpingBoot、SpringCloud、Kafka等,但这些书通常只会让你技术的“量”增长,而“质”仍处于SSM的阶段。而...

    愿天堂没有BUG
  • 高性能MySQL第二章 读书笔记

    用户7962184
  • 网易MySQL微专业学习笔记(十二)-MySQL容量评估

    这个系列属于个人学习网易云课堂MySQL数据库工程师微专业的相关课程过程中的笔记,本篇为其“MySQL业务优化与设计”中的MySQL数据类型相关笔记。

    WindCoder
  • 性能测试 —— MySQL 基准测试

    摘要: 原创出处 http://www.iocoder.cn/Performance-Testing/MySQL-benchmark/ 「芋道源码」欢迎转载,保...

    芋道源码
  • 作为DBA,你不得不掌握的压测工具

    mysqlslap是MySQL自带的一个用于实现负载性能测试和压力测试的工具。它可以模拟多个客户端对数据库进行施压,并生成报告来了解数据库的性能状况。

    MySQL数据库技术栈
  • 三款云数据库性能测试,谁表现最好?

    MySQL性能压测或者基准测试看起来很简单,使用sysbench,tpcc工具跑跑拿到数据就好,其实压测是一个技术活儿,尤其是涉及到性能对比的测试,因为不同场景...

    用户1278550
  • sysbench入门

    sysbench是一款多线程压力测试工具,它可以根据影响数据库性能的各种因素来评估系统性能(也就是看看运行数据库的机器性能如何)。下面直接入题,给出sysben...

    johnhuster的分享

作者介绍

jeanron100
  • 腾讯云 TVP 成员

竞技世界资深DBA

竞技世界 · 资深DBA (已认证)

专栏

精选专题

活动推荐

关注

腾讯云开发者公众号
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者公众号二维码

扫码关注腾讯云开发者

领取腾讯云代金券