php快速导入大量数据的实例方法

砸漏

发布于 2020-10-20 15:16:31

1.1K0

发布于 2020-10-20 15:16:31

文章被收录于专栏：恩蓝脚本

PHP快速导入大量数据到数据库的方法

第一种方法：使用insert into 插入，代码如下：

$params = array(‘value'= '50′);

 

set_time_limit(0);

 

echo date(“H:i:s”);

 

for($i=0;$i<2000000;$i++){

 

$connect_mysql- insert($params);

 

};

echo date(“H:i:s”);

最后显示为：23:25:05 01:32:05 也就是花了2个小时多!

第二种方法：使用事务提交，批量插入数据库(每隔10W条提交下)最后显示消耗的时间为：22:56:13 23:04:00 ，一共8分13秒，代码如下：

echo date(“H:i:s”);

 

$connect_mysql- query(‘BEGIN');

 

$params = array(‘value'= '50′);

 

for($i=0;$i<2000000;$i++){

 

$connect_mysql- insert($params);

 

if($i%100000==0){

 

$connect_mysql- query(‘COMMIT');

 

$connect_mysql- query(‘BEGIN');

 

}

 

}

 

$connect_mysql- query(‘COMMIT');

 

echo date(“H:i:s”);

第三种方法：使用优化SQL语句

将SQL语句进行拼接，使用 insert into table () values (),(),(),()然后再一次性插入，如果字符串太长，则需要配置下MYSQL，

在mysql命令行中运行：

set global max_allowed_packet = 2*1024*1024*10;

消耗时间为：11:24:06 11:25:06;

插入200W条测试数据仅仅用了1分钟!代码如下：

$sql= “insert into twenty_million (value) values”;

 

for($i=0;$i<2000000;$i++){

 

$sql.=”('50′),”;

 

};

 

$sql = substr($sql,0,strlen($sql)-1);

 

$connect_mysql- query($sql);

总结：在插入大批量数据时，第一种方法无疑是最差劲的，而第二种方法在实际应用中就比较广泛，第三种方法在插入测试数据或者其他低要求时比较合适，速度确实快。

感谢大家的学习和对ZaLou.Cn的支持。

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2020-09-11 ，如有侵权请联系 cloudcommunity@tencent.com 删除

sql