在环境治理的环节中必不可少的就是数据库的管理,数据库管理的环节中很重要的一点就是数据库的同步。
mysqldump是mysql用于转存储数据库的实用程序。它主要产生一个SQL脚本,其中包含从头重新创建数据库所必需的命令CREATE TABLE INSERT等。
有一天突然发现【数据库】你想要的sql全都有 阅读量破300了,非常高兴,当天流量不断飙升,也不断有人关注,然后就是是一个幸运的开始。
随着使用,数据库日志会越来越大,直接影响数据库的性能,这时候就需要对数据库的日志进行瘦身了,下面的脚本可以对数据库的日志进行清理(dbname为数据库名,dbname_log为数据库的日志文件名(不带扩展名)):
我很早就想整理一波常用sql,这不就搞起来了。 先执行初始化sql,后面的就可以在这个数据表上面练习了,拿来即用。 我后面会慢慢完善这个大一统的sql集合的,感兴趣的话可以持续关注呀~ /* 目录 数据准备 user表相关 选择数据库 设计表结构 索引相关 增删改查 条件查询 时间查询 连接查询 存储过程 查询数据库大小 设置变量 系统变量 时间函数 其它函数 随机数 **/ -- 数据准备---------------------------------------- CREATE TABLE
package com.kaigejava.cms; import static com.kaigejava.common.web.Constants.UTF8; import java.io.BufferedReader; import java.io.File; import java.io.FileInputStream; import java.io.InputStreamReader; import java.sql.Connection; import java.sql.DriverMa
create proc p_backupdb @dbname sysname='', --要备份的数据库名称,不指定则备份当前数据库 @bkpath nvarchar(260)='', --备份文件的存放目录,不指定则使用SQL默认的备份目录 @bkfname nvarchar(260)='', --备份文件名,文件名中可以用\DBNAME\代表数据库名,\DATE\代表日期,\TIME\代表时间 @bktype nvarchar(10)='DB', --备份类型:'DB'备份数据库,'DF' 差异备份,'LOG' 日志备份 @appendfile bit=1 --追加/覆盖备份文件 as declare @sql varchar(8000) if isnull(@dbname,'')='' set @dbname=db_name() if isnull(@bkpath,'')='' set @bkpath=dbo.f_getdbpath(null) if isnull(@bkfname,'')='' set @bkfname='\DBNAME\_\DATE\_\TIME\.BAK' set @bkfname=replace(replace(replace(@bkfname,'\DBNAME\',@dbname) ,'\DATE\',convert(varchar,getdate(),112)) ,'\TIME\',replace(convert(varchar,getdate(),108),':','')) set @sql='backup '+case @bktype when 'LOG' then 'log ' else 'database ' end +@dbname +' to disk='''+@bkpath+@bkfname +''' with '+case @bktype when 'DF' then 'DIFFERENTIAL,' else '' end +case @appendfile when 1 then 'NOINIT' else 'INIT' end print @sql exec(@sql) go exec p_backupdb @bkpath='F:\',@bkfname='db_\DATE\_db.bak'
scalikeJDBC可以通过配置文件来设置连接池及全局系统参数。对配置文件的解析是通过TypesafeConfig工具库实现的。默认加载classpath下的application.conf,application.json和application.properties文件。作为尝试,我们可以在resource/application.conf文件里进行h2和mysql数据库的JDBC驱动参数定义: # JDBC settings db { h2 { driver="org.h2.Driv
php是世界上使用最广泛的web开发语言,是超文本预处理器,是一种通用的开源脚本语言,语法吸收了c语言,Java语言,和Perl的特点,利于学习,使用广泛,主要适用于web开发,PHP做出来的动态页面与其他的编程语言相比,PHP是将持续嵌入到HTML文档中去执行,执行效率比完全生成HTML标记的CGI要高许多,PHP还可以执行编译后的代码,编译后可以达到加密和优化代码的目的,让代码运行更快。
工作中不可避免地碰到需要修改dbname以及dbid的情形,如将数据库恢复到同一台机器的情形是其中之一。但dbname以及dbid是用于标识数据库的重要标志之一,尤其是dbid,具有唯一性,因此对其修改应慎重处理。本文描述了修改dbname以及dbid的步骤并给出示例。
1.导出整个数据库 mysqldump -u 用户名 -p 数据库名 > 导出的文件名 mysqldump -u dbuser -p dbname > dbname.sql 2.导出一个表 mysqldump -u 用户名 -p 数据库名 表名> 导出的文件名 mysqldump -u dbuser -p dbname users> dbname_users.sql 3.导出一个数据库结构 mysqldump -u dbuser -p -d --add-drop-table dbname >d:/dbname_db.sql -d 没有数据 --add-drop-table 在每个create语句之前增加一个drop table 4.导入数据库 常用source 命令 进入mysql数据库控制台,如 mysql -u root -p mysql>use 数据库 然后使用source命令,后面参数为脚本文件(如这里用到的.sql) mysql>source d:/dbname.sql
这两天被问到一个有意思的问题,就是如果在构造器中拿到匿名对象。 这个问题有意思在,直觉上是可以通过外部放一个成员变量去接,然后后续就可以使用了,但实际不行。
我在前面提到过MongoDB不支持像SQL般字符式的操作指令,所以我们必须对所有的MongoDB操作指令建立protobuf类型才能支持MongoDB指令的序列化。在对上一篇博文里我们把MongoDB的消息指令序列化单独挑出来讨论了一番,在这篇我们准备在一个MongoDB scala开发环境里通过streaming运算来示范这些protobuf消息的应用。
1 /* 2 作者:landv 3 功能:异机备份 4 开发时间:2016年7月2日 15:27:08 5 6 */ 7 if exists (select * from dbo.sysobjects where id = object_id(N'[dbo].[p_backupdb]') and OBJECTPROPERTY(id, N'IsProcedure') = 1) 8 drop procedure [dbo].[p_backupdb] 9 GO 10 create proc
命令行下具体用法如下: mysqldump -u用戶名 -p密码 -d 数据库名 表名 > 备份文件名
客户数据库主从关系不一致,需要使用pt-table-sync 进行数据修复。在修复过程遇见2个问题,记录下,防止后面在此遇见。
数据库恢复方案 摘要 这里所谈的内容是对备份数据的恢复,不是对损坏数据表的恢复,或者说灾难恢复。 目录 1. 背景 2. 备份方式分析 3. 恢复方案 3.1. 第一种 3.2. 第二种 3.3. 第三种 3.4. 第四种 4. 手工恢复 1. 背景 我们来假设一个场景。 你是否适用 mysqldump 每隔一段时间备份一次数据库,每个备份一个数据文件。 公司决策你是不是因为数据持续增加,有些数据已经不会再查询,会删除旧的历史数据。 有时公司突然说要恢复历史数据,有可能全补回复,有可能部分恢复。 你将怎么做
使用 MySQLdump 工具的优点是简单易用、容易上手,缺点是停机时间较长,因此它适用于数据量不大,或者允许停机的时间较长的情况。
问题 对于DBA或者其他运维人员来说授权一个账户的相同权限给另一个账户是一个很普通的任务。但是随着服务器、数据库、应用、使用人员地增加就变得很枯燥乏味又耗时费力的工作。那么有什么容易的办法来实现这个任务吗? 当然,作为非DBA在测试甚至开发环境也会遇到这种问题,要求授予所有服务器数据库的某个权限给一个人的时候。我们是不是有什么其他办法提高效率? 解决方案 如果这个时候我们网上去搜索解决方案,大多数时候搜到的都是使用T-SQL解决方案,但是这又会产生下面几个小问题: 我们需要到目标服务器上执行这些脚本
https://www.runoob.com/php/php-mysql-intro.html
--数据库备份压缩拷贝实例:前提要安装RAR压缩软件 --声明变量 declare @day varchar(10),@dbname varchar(20),@filename varchar(100),@cmd_str varchar(500),@local_name varchar(500) --初始变量值 set @day = convert(varchar(10),getdate(),112) set @dbname='database' set @filename=@dbname+@day set @local_name='y:\backup\database\'+@filename --sql备份 backup database database to disk=@local_name with init --删除备份 set @cmd_str='del y:\backup\database\'+@dbname + convert(varchar(10),DATEADD(DAY,-2,getdate()),112) EXEC master..xp_cmdshell @cmd_str --删除RAR set @cmd_str='del y:\backup\database\'+@dbname+'.rar' EXEC master..xp_cmdshell @cmd_str
现在诸葛建国要比较dev和test两个mysql数据库的结构,最简单就是dump出来然后diff。 大笔一挥,写出如下脚本 mysqldump -u user -ppassword dbname -d --skip-comments > dev mysqldump -u user -ppassword dbname -d --skip-comments > test diff dev test --skip-comments选项可以去掉Dump completed on 2018-05-18 14:36
这里记录下导入csv文件到sqlite数据库的操作方法及sqlite的封装,留作备忘。
旁门左道,汉语成语,拼音是páng mén zuǒ dào,原指不正派的宗教派别,借指不正派的学术派别,现泛指不正派的东西。
导数据是很长有的事, 导完了总得检查一下把, 云上有DTS很方便, 但是有的环境只能手动导数据了, 这比较就比较麻烦了, 或者是用户自己导的, 让你检查检查, 总之检查两个库之间表的数据量是很常见的工作. 常见的工作做多了就饭, 就写个脚本, py效果更好, 但是不如shell方便(因环境而异). 我分享下脚本检查mysql两库之间数据行数的脚本吧.
SQLSERVER异机备份 实在是太懒的用系统自带了,设置起来好麻烦呀,直接敲码吧,哈哈 1 /* 2 作者:landv 3 功能:异机备份 4 开发时间:2016年7月2日 15:27:08 5 6 */ 7 if exists (select * from dbo.sysobjects where id = object_id(N'[dbo].[p_backupdb]') and OBJECTPROPERTY(id, N'IsProcedure') = 1) 8 drop pr
上次写了hive metastore的partition的生命周期,但是简略概括了下alter_partition的操作,这里补一下alter_partition,因为随着项目的深入,发现它涉及的地方较多,比如insert into 时如果路径存在情况下会调用alter_partition,调用insert overwrite语句时,也会调用该方法,
如果您在生产环境中使用PostgreSQL,请务必采取预防措施以确保用户的数据不会丢失。通过频繁备份数据库或使用cron任务自动执行备份,您将能够在数据库丢失或损坏的情况下快速还原系统。幸运的是,PostgreSQL包含的工具使这项任务变得简单易行。
在项目实施的过程中,经常会面临数据库迁移,导出和导出数据,如果用普通的mysql客户端备份,时间较长且容易出错。那么mysql快速备份及迁移,就成为数据库迁移的重中之重。
目录 1. 背景 2. 备份方式分析 3. 恢复方案 3.1. 第一种 3.2. 第二种 3.3. 第三种 3.4. 第四种 4. 手工恢复 1. 背景 我们来假设一个场景。 你是否适用 mysqldump 每隔一段时间备份一次数据库,每个备份一个数据文件。 公司决策你是不是因为数据持续增加,有些数据已经不会再查询,会删除旧的历史数据。 有时公司突然说要恢复历史数据,有可能全补回复,有可能部分恢复。 你将怎么做? 2. 备份方式分析 首先看看备份方式,你是不是采用这种方法备份 我使用一串数字表述数据库数据递
对于DBA或者其他运维人员来说授权一个账户的相同权限给另一个账户是一个很普通的任务。但是随着服务器、数据库、应用、使用人员地增加就变得很枯燥乏味又耗时费力的工作。那么有什么容易的办法来实现这个任务吗?
插入:对应MongoDB中脚本的db.getCollection('person').insert({"name":"ryan1","age":21})
上次 写了阿里巴巴高效的离线数据同步工具DataX: https://mp.weixin.qq.com/s/_ZXqA3H__Kwk-9O-9dKyOQ 安装DataX这个开源工具,并且同步备份了几张数据表。但是发现一个问题,就是每张表都需要单独写一个 job。如果数据表有几百张是不是要写几百个,这个不太现实了。
当数据库体积比较小时,最快的方法是使用mysqldump命令来创建整个数据库的转存副本,然后新建数据库,再把副本导入到新数据库中。
https://www.postgresql.org/docs/9.6/dblink.html
使用Excel VBA向MySQL数据库中添加和导入数据,可以使用ADODB.Connection和ADODB.Recordset对象来执行SQL语句。以下是一个示例,演示如何添加数据和从Excel导入数据到MySQL数据库中。
如果说Hive是离线数仓的代表,那么Greenplum就是MPP数据库的代表。在离线数仓的年代,以Hive为核心的数据仓库席卷数据仓库市场,几乎成为了离线数仓的代名词。但是Hive的查询能力非常弱,通常需要其它计算引擎辅助才能完成OLAP查询。
在mysql workbench里面对需要导入的表右键—>table data import wizard,选择刚才保存的utf-8编码的csv文件,选择next
JAVA驱动版本: <dependency> <groupId>org.mongodb</groupId> <artifactId>mongo-java-driver</artifactId> <version>3.0.2</version> </dependency> 工具类代码如下: package utils; import java.util.A
本文实例讲述了PHP连接及操作PostgreSQL数据库的方法。分享给大家供大家参考,具体如下:
sqlite3也是非常流行的数据库, 嵌入式领域用得多(因为不支持网络连接....).
很多时候DBA需要导出部分记录至开发、测试环境,因数据量需求较小,如果原库的记录多,且表数量也多,在用mysqldump命令导出时可以添加一个where参数(如自定义导出n条记录),而不必全量导出。
在系统运行的过程中,DBA需要经常的对数据库进行一些检查,如数据库磁盘的占用量,缓存的命中率,内存的分配等;由于有个客户需要对系统的数据库进行检查,所以进行了一些学习,在此记录下;由于不可能让用户手动的输入这些繁琐的命令,所以写了个 shell 脚本。
前面的文章介绍了postgresql基于repmgr的高可用及切换方案,这篇文章主要聊聊通过repmgrd实现failover及auto failover。
leveldb运行一段时间后,系统中会产生一些文件,这些文件有哪些,各个文件又有什么作用,文件名怎么命名的呢?
本文讨论保护MongoDB数据库所需的访问控制。具体来说,我们可以使用这些特性来确保只有经过授权的用户才能访问数据库。每个MongoDB用户应该只能访问他们在组织中所扮演的角色所需要的数据,这由组织中负责管理数据安全的人员来决定。这是管理数据和遵守国际要求所必需的良好特质。
在实际开发中,我们往往会给一个逻辑设计一套配置文件,用于根据不同环境加载不同配置。 比如生产环境和测试环境数据库的地址不一样,我们就需要在配置文件中设置不同的值。但是配置文件中又有一些相同值的配置项,比如数据库的名称等。难道相同的配置要像下面这样写多次吗?
📷 全量备份脚本dbback.sh #!/bin/bash ##备份数据库脚本 ##email: 1940728253@qq.com ##xwzy1130 #MySQL User Information HOST=127.0.0.1 USERNAME=root PASSWORD=***** #Date Format DATE=`date +%Y%m%d` #Back directory DAYS=20 #备份文件存放位置 BACKUP_DIR=/data/db-backup/ #MySQL director
在Excel VBA中对MySQL数据库中的表格进行操作,包括重命名和删除等,需要执行相应的SQL语句。以下是示例代码,演示如何执行这些操作:
领取专属 10元无门槛券
手把手带您无忧上云