首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Mysql 企业级备份与恢复(学习笔记七)

/lib/mysql/bin-log 开启二进制日志,并制定路径 2、准备要备份数据和表 模拟日常数据库操作 MariaDB [(none)]> create database along; 创建一个...当数据库遭到意外损坏时,可以 过日志查看文件出错原因,并且可以通过日志文件进行数据恢复。 Mysql错误日志 在mysql数据库中,错误日志功能是默认开启。并且,错误日志无法被禁止。.../var/log/mariadb/mariadb.err log-error=/var/log/mariadb/mariadb.err 然后重启数据库服务连接数据库查看全局日志,修改成功 查看错误日志内容...事务日志持久以后,内存中被修改数据在后台可以慢慢刷回到磁盘。目前大多数存储引擎都是这样实现,我们通常称之为写式日志,修改数据需要写两次磁盘。...如果设定了二进制日志格式,却没有启用二进制日志,则MySQL启动时会产生警告日志信息并记录于错误日志中。

76120

线上一个client连接失败报错

: 'xxxxx' user: 'srv_bigdata_rwh' host: 'xxxxx' (Got an error reading communication packets) 看样子是读取通信包时候出现错误...通信包大小由max_allowed_packet控制,最大可以设置成1GB,client默认值是16MB,server默认值是4MB。...schema中host_cache表 如果客户端一开始连接时候,就发生此类报错,那么报错可能原因有: 1、客户端尝试连接服务器,但是却没有权限 2、客户端使用了不正确密码 3、连接通讯包格式不正确...,很明显,返回数据太多了,此时就要评估业务返回结果是否合理了。...执行完SQL语句后,结果缓冲区会自动缩小为net_buffer_length",这不就意味着max_allow_packet这个参数才是决定通讯包最终大小,为什么在我案例中,第一次调整了max_allowed_packet

2.1K30
您找到你想要的搜索结果了吗?
是的
没有找到

ansible自动运维工具之ansible-playbook详解

playbook配置文件类似于shell脚本,是一个YAML格式文件,用于保存针对特定需求任务列表。...MAL格式是类似于JSON文件格式,便于人理解和阅读,同时便于书写。 通过“-”来代表项,通过冒号 “ :”来分隔键和值,整个文件以“---”开始并以“...”结束。...unreachable=0 failed=0 192.168.1.3 : ok=2 changed=1 unreachable=0 failed=0 #返回结果表示没有错误...下面来个安装及配置mariadb数据库实例: 需求分析: 要求被管理主机上自动安装mariadb,安装完成后上传提前准备配置文件至远端主机,重启服务,然后新建testdb数据库,并允许test...[root@ansible ansible]# ansible-playbook -C mariadb.yml #进行检测

1.8K40

微服务进程间通信(IPC)

术语 IPC:进程间通信 MSA:微服务架构 概述 服务间通信包含两大类: 基于同步请求/响应通信,如REST,gRPC 基于异步消息通信,如AMQP或STOMP 通信视角 视角 #1 一对一信...消息有两种格式:文本格式和二进制格式。...文本格式:JSON,XML 二进制格式:Avro,Protobuf和Thrift 在实现时必须注意消息格式跨语言协作,因此不推荐使用JavaSerializer。...流程: 客户端业务逻辑调用RPI代理接口 RPI代理通过网络调用RPI服务,即调用服务端业务逻辑 服务端将结果返回给RPI代理,最终由RPI代理返回给客户端业务逻辑。 ?...首先使用IDL定义接口,然后编译生成期望语言客户端和服务端stubs。 ? 断路器 是一个RPI代理,用于在连续发送错误超过一定阈值时,在一定时间内拒绝调用。

1.3K40

mysql主从架构实现

但是,有利就有弊,这样的话,我们主从就不能实时同步了,因为我们主从同步是通过把主上 sql 语句放在从上再执行一遍来实现,可是我们锁表的话,sql 语句就不能执行了。...因为需要等待所有从库执行完该事务才能返回,所以全同步复制性能必然会收到严重影响。需要有超时时间。...3)半同步复制   介于异步复制和全同步复制之间,主库在执行完客户端提交事务后不是立刻返回给客户端,而是等待至少一个从库接收到并写到relay log中才返回给客户端。...2.1 环境准备:   centos系统服务器2台、 两台用户实现Mysql互为主从, 配置好yum源、 防火墙关闭、 各节点时钟服务同步、 各节点之间可以通过主机名互相通信 2.2 准备步骤: 1)iptables...但是现在也不是我们想象连续 id ,这是因为,我们两台机器都是同时插入4条数据,而且不是同步插入,这样就会有一个先后顺序,第一台机器上 sql 语句执行结束以后才执行第二台机器上

1.1K10

Java 学习笔记(16)——Java数据库操作

3个,参数分别为: 连接字串、用户名、密码 连接字串格式为: jdbc:数据库类型://数据库IP:端口/数据库名称,比如 jdbc:mariadb://localhost:3306/test 获取连接字串代码如下...如果我们执行了像insert、delete、update等等语句,可能不需要关注具体返回结果,但是如果使用是select语句,则需要获取返回结果 获取select语句返回结果可以使用 executeQuery...在进行参数化查询时候需要先准备sql语句,但是在查询参数中需要使用 ?...做标记,表示这个位置是一个参数,后续在真正执行前再传入,比如说可以准备这样sql语句 update student set score = 100 where name = ?。...准备好sql语句之后,需要设置对应参数位置值,我们可以使用 setXxx 方法来设置,setXxx 方法与之前介绍get方法类似,根据不同数据类型 Xxx 有不同取值。

73510

软件安全性测试(连载10)

id=3union all select 1,2,3 from user刺探,没有出现错误信息,且出现了一堆如25一堆“用户名:2,密码:3”信息,说明当前表名为user。 ?...lextractvalue()函数:对XML文档进行查询函数。 第二个参数需要xpath格式字符串。如果不符合要求,这显示不符合标准信息,黑客可以利用这个方法来获取数据库元信息。...1105 (HY000): XPATH syntax error:'|10.1.19-MariaDB' 由于第二个参数不是xpath格式,所以先显示XPATH syntax error,然后再显示现在内容为...1105 (HY000): XPATH syntax error: '|root@localhost' 同样由于第二个参数不是xpath格式,所以先显示XPATH syntax error,然后再显示现在内容为...更多MySQL函数可以查询MySQL官方网站。 5)长度折断 下面这条语句往user表中插入了一个系统管理员admin账户,是通过正常手段生成

86120

MySQLMariaDB数据库备份与恢复

]> set global innodb_file_per_table=1; #开启单独表空间,也可在配置文件设置 mysqldump+binlog 命令语法格式 mysqldump [OPTIONS...--triggers:备份触发器--master-data={0|1|2} 0:不记录 1:记录CHANGE MASTER TO语句;此语句未被注释 2:记录为注释语句-F,--flush-logs...如果出现如下错误,请在my.cnf文件[mysqld] 中添加innodb_log_file_size = 5M 并重启服务 InnoDB: Error: log file ....“准备主要作用正是通过回滚未提交事务及同步已经提交事务至 数据文件也使得数据文件处于一致性状态 “准备”(prepare)增量备份与整理完全备份有着一些不同,尤其要注意是: (1)需要在每个备份...增量备份准备 [root@MariaDB ~]# innobackupex --apply-log --redo-only /backup/2015-05-21_21-55-08/[root@MariaDB

2.9K61

MariaDB 备份与日志管理

日志记录了MariaDB数据库日常操作和错误信息,MariaDB有不同类型日志文件(各自存储了不同类型日志),从日志当中可以查询到MaraiDB数据库运行情况、用户操作、错误信息等,可以为MariaDB...MariaDB默认分为以下4类,使用这些日志可查看MariaDB内部发生事情,4类分别是: ● 错误日志: 记录MaraiDB服务启动,运行或停止MariaDB服务时出现问题 ● 查询日志: 记录建立客户端连接和执行语句...◆二进制日志◆二进制日志主要记录数据库变化,二进制日志以一种有效格式,并且是事务安全方式包含更新日志中可用所有信息,二进制日志包含了所有更新了数据或者己经潜在更新了数据,语句以"事件"形式保存...affected (0.00 sec)◆系统错误日志◆错误日志包含了数据库启动和停止时,以及服务器在运行过程中发生任何严重错误相关信息,错误日志对于数据库异常排查,有很大帮助.开启错误日志:1.默认情况下二进制日志是关闭状态...(0.01 sec)◆慢查询日志◆慢查询日志是记录查询时长超过指定时间日志,慢查询日志主要用来记录执行时间较长查询语句,通过慢查询日志,可以找出执行时间较长、执行效率较低语句,然后进行优化.开启错误日志

64510

MySQL 存储过程与函数(精简笔记)

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用语句分别是:CREATE PROCEDURE和CREATE FUNCTION.使用CALL语句来调用存储过程,只能用输出变量返回值.函数可以从语句外调用...创建存储过程 创建存储过程,需要使用create procedure语句,其基本语法格式如下: create procedure proc_name ([proc_parameter]) [characteristics...创建存储函数: 创建名称为NameZip,该函数返回select语句查询结果,数值类型为字符串,SQL语句如下: MariaDB [lyshark]> delimiter // MariaDB [lyshark...语句返回一个类型不同于函数值,返回值将被强制为恰当类型....v1,否则返回v2,if()语句返回值为数字或字符串,具体情况视其所在语境而定.

1.9K10

lvm-snapshot:基于LVM快照备份之准备工作

ext4格式(格式目的是创建文件系统,以存储数据;这里面只有逻辑卷才能被格式化) # mke2fs -t ext4 /dev/myvg/mydata (5)设置lvm设备开机自动挂载 # echo...(使用通用二进制格式)安装mariadb-10.0.10 (1)将mariadb解压至/usr/local/目录 # tar xf mariadb-10.0.10-linux-x86_64.tar.gz.../etc/profile.d/mysql.sh (13)一切准备完毕,准备启动MariaDB服务 # service mysqld start (14)连接至MariaDB数据库 # mysql  #刚安装数据库默认是没有密码...,即无需密码即可登录,生产环境必须及时为mysqlroot用户设置密码 MariaDB [hellodb]> source /root/hellodb.sql;  #导入sql语句,即插入数据,该sql...语句位于/root目录下 MariaDB [hellodb]> SHOW DATABASES;  #显示当前系统都有哪些数据库(hellodb是我们刚刚导入) +-------------------

75720

提交单引号

语句 输入加号 我们在参数输入1+1,看看返回数据是不是id等于2结果,这里注意一下+号在SQL语句是有特效含义,所以我们要对其进行url编码,最后也就是%2b。...and (select count(\*) from mysql.user)>0 #返回错误,应该是管理员给数据库帐户降权了。...例如: a.首先猜测,当字段为2时页面返回错误 b.增加一个字段,为3时,页面显示正确 c.再次增加一个字段,为4时,页面显示错误 上面的结果,说明字段数就是3,输入数大于或小于字段数时都会报错...,我们想看到数据是在第二条语句中,如果我们想看到我们想要数据有两种方法,第一种是让第一条数据返回假, 第二种是通过sql语句直接返回我们想要数据。...第二种:通过limit语句,limit在mysql中是用来分页,通过他可以从查询出来数据中获取我们想要数据 LIMIT 子句可以被用于强制 SELECT 语句返回指定记录数。

1.7K20

Mysql 主从复制实战(学习笔记十三)

,或者让slave连接master,执行sql语句不小心写错了,都有可能导致start slave;报错,此时可以show slave status\G;会出现一大串信息,里面会提示错误。...找到错误以后,重置slave,reset slave;重新设置,然后再start slave; 注意:mysql错误日志非常重要,可以提供错误信息,从而找到错误原因。...因为需要等待所有从库执行完该事务才能返回,所以全同步复制性能必然会收到严重影响。需要有超时时间。...中才返回给客户端。...slave; 可查看从库错误日志观察是否生效 master错误日志 slave错误日志 mysql优化: 1.可以用数据缓存,常见memcache 2.数据库本身有很多缓存机制,可使用对应缓存策略

73020

如何使用StreamSets从MySQL增量更新数据到Hive

内容概述 1.环境准备 2.创建StreamSetsPipeline流程 3.Pipeline流程测试 测试环境 1.StreamSets版本为3.1.2.0 2.CM和CDH版本为5.13.1 3....MariaDB版本为5.5.44 2.环境准备 ---- 1.准备测试表和数据 [root@cdh4 ~]# mysql -uroot -p Enter password: MariaDB [(none...3.创建StreamSetsPipline ---- 1.创建新管道流 ? 配置错误日志输入路径,这里配置到本地/tmp/sdctest(需要自己创建)目录下 ? ?...选择Avro 格式 ? 5.将Hive Metadata 输出到 HiveMetastore 将Hive Metadata Metadata 链接到Hive Metastore ? 修改配置 ?...8.校验并执行 点击校验,返回成功后点击执行 ? 执行后可以看到有2条数据输入和输出,这与我们测试数据库数据相符合 ? 去HUE 页面查看hive 表中数据,发现已经更新进来 ?

14.8K130

MySQL性能优化特性 Index Condition Pushdown

优化效果:ICP能减少引擎层访问基表次数和MySQL Server 访问存储引擎次数,减少io次数,提高查询语句性能。...三 实践案例 a 环境准备 数据库版本 5.6.16 + 关闭缓存 set query_cache_size=0; set query_cache_type=OFF...案例分析 以上面的查询为例关闭ICP 时,存储引擎前缀index first_name 访问表中225条first_name 为Anneke数据,并在MySQL server层根据last_name...该过程不回表,只访问符合条件1条记录并返回给MySQL Server ,有效减少了io访问和各层之间交互。 ICP 关闭时 ,仅仅使用索引作为访问数据方式。 ?.../kb/en/mariadb/mariadb-documentation/optimization-and-tuning/query-optimizations/index-condition-pushdown

63130

MariaDB 存储过程与函数详解

,MySQL中创建存储过程和函数使用语句分别是:CREATE PROCEDURE和CREATE FUNCTION.使用CALL语句来调用存储过程,只能用输出变量返回值.函数可以从语句外调用(即通过引用函数名...),也能返回标量值,存储过程也可以调用其他存储过程.创建存储过程创建存储过程,需要使用create procedure语句,其基本语法格式如下:create procedure proc_name ([...,虽然存储函数和存储过程定义稍有不同,但是可以实现相同功能.创建存储函数: 创建名称为NameZip,该函数返回select语句查询结果,数值类型为字符串,SQL语句如下:MariaDB [lyshark...语句返回一个类型不同于函数值,返回值将被强制为恰当类型.提示:指定参数为IN,OUT或者INOUT只对PROCEDURE是合法.FUNCTION中总是默认为IN参数.RETURNS子句只能对FUNCTION...做指定,对函数而言这是强制.它用来指定函数返回类型,而且函数体必须包含一个RETURN value语句.

1.5K20

MySQL笔记汇总

2 CentOS 7.6 安装MySQL 2.1 环境准备 首先centos7 已经不支持mysql(大概是因为收费),所以内部集成了mariadb,而安装mysql的话会和mariadb文件冲突,所以需要先卸载掉...内部集成了mariadb,而安装mysql的话会和mariadb文件冲突,所以需要先卸载掉mariadb。...故:索引结构优劣标准:磁盘I/O次数 局部性原理和磁盘读 局部性原理:当一个数据被用到,其附近数据很可能会马上用到 磁盘读:由于存储介质特性,磁盘本身存取就比主存慢很多,再加上机械运动耗费,...SQL语句优化 索引优化 读写分离,分库分表 6.3 慢查询语句 慢查询:10s无返回结果,定义为慢查询 SHOW STATUS LIKE "slow_queries"; SHOW VARIABLES...如果事务B回滚,则A读取使用了错误数据。

97440

MariaDB 连接查询与子查询

,为了防止产生二义性,对表使用了别名,lyshark表第1次出现别名为fl,第2次出现别名为f2,使用SELECT语句返回列时明确指出返回以n为前缀全名,WHERE连接两个表,并按照第2个表...◆IN 子查询◆IN关键字进行子查询时,内层查询语句仅仅返回一个数据列,这个数据列里值将提供给外层查询语句进行比较操作.IN查询1: 查询lyshark表中Uid='a1'GId号,并以Gid作为查询条件查询...,只要满足内层子查询中任何一个比较条件,就返回一个结果作为外层查询条件.为了进行下面的实验,先来创建一下SQL语句表格:MariaDB [lyshark]> create table tab1(num1...◆EXISTS 子查询◆EXISTS关键字后面的参数是一个任意子查询,系统对子查询进行运算以判断它是否返回行,如果至少返回一行,那么EXISTS结果为true,此时外层查询语句将进行查询.如果子查询没有返回任何行...ALL关键字分隔.UNION不使用关键字ALL,执行时候删除重复记录,所有返回行都是唯一.使用关键字ALL作用是不删除重复行也不对结果进行自动排序.基本语法格式如下:SELECT column

4.4K30
领券