首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

python批量插入数据mysql

基础概念

Python批量插入数据到MySQL是指使用Python编程语言,通过数据库连接库(如mysql-connector-pythonpymysql)将多条数据一次性插入到MySQL数据库中。这种方法比逐条插入数据更高效,因为它减少了与数据库的交互次数。

相关优势

  1. 性能提升:批量插入可以显著减少数据库的I/O操作,从而提高数据插入的速度。
  2. 减少网络开销:由于减少了与数据库的通信次数,网络开销也会相应减少。
  3. 代码简洁:使用批量插入可以使代码更加简洁和易读。

类型

  1. 单条插入:每次只插入一条数据。
  2. 批量插入:一次性插入多条数据。

应用场景

批量插入数据适用于需要一次性导入大量数据的场景,例如:

  • 数据迁移
  • 数据备份
  • 数据初始化

示例代码

以下是一个使用mysql-connector-python库进行批量插入数据的示例:

代码语言:txt
复制
import mysql.connector

# 连接到MySQL数据库
mydb = mysql.connector.connect(
  host="localhost",
  user="yourusername",
  password="yourpassword",
  database="yourdatabase"
)

# 创建游标对象
mycursor = mydb.cursor()

# 插入数据的SQL语句
sql = "INSERT INTO customers (name, address) VALUES (%s, %s)"

# 要插入的数据列表
val = [
  ('John', 'Highway 21'),
  ('Peter', 'Lowstreet 4'),
  ('Amy', 'Apple st 652'),
  ('Hannah', 'Mountain 21'),
  ('Michael', 'Valley 345'),
  ('Sandy', 'Ocean blvd 2'),
  ('Betty', 'Green Grass 1'),
  ('Richard', 'Sky st 331'),
  ('Susan', 'One way 98'),
  ('Vicky', 'Yellow Garden 2'),
  ('Ben', 'Park Lane 38'),
  ('William', 'Central st 954'),
  ('Chuck', 'Main Road 989'),
  ('Viola', 'Sideway 1633')
]

# 执行批量插入
mycursor.executemany(sql, val)

# 提交事务
mydb.commit()

print(mycursor.rowcount, "条记录已插入。")

# 关闭游标和数据库连接
mycursor.close()
mydb.close()

参考链接

常见问题及解决方法

  1. 数据库连接问题
    • 问题:无法连接到MySQL数据库。
    • 原因:可能是数据库地址、用户名、密码或数据库名称错误。
    • 解决方法:检查并确保所有连接参数正确无误。
  • SQL语句错误
    • 问题:执行SQL语句时出现错误。
    • 原因:可能是SQL语句语法错误或表结构不匹配。
    • 解决方法:仔细检查SQL语句,并确保表结构与插入的数据匹配。
  • 数据类型不匹配
    • 问题:插入的数据类型与表定义的数据类型不匹配。
    • 原因:插入的数据类型与表定义的数据类型不一致。
    • 解决方法:确保插入的数据类型与表定义的数据类型一致。
  • 批量插入数据量过大
    • 问题:批量插入大量数据时,可能会导致内存不足或数据库性能下降。
    • 原因:一次性插入的数据量过大。
    • 解决方法:可以分批次插入数据,或者优化数据库配置以提高性能。

通过以上方法,可以有效解决Python批量插入数据到MySQL时可能遇到的问题。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

  • MySQL 批量插入:如何不插入重复数据?

    知识这个东西,看来真的要温故而知新,一直不用,都要忘记了 业务很简单:需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入 那么问题来了,是不是每次插入之前都要查一遍...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。如何提高效率 看来这个问题不止我一个人苦恼过。...user (name) SELECT 'telami' FROM dual WHERE NOT EXISTS (SELECT id FROM user WHERE id = 1) 这种方法其实就是使用了mysql...item.username}, #{item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。 来源:www.telami.cn

    3.6K20

    【MySQL】插入优化篇——(少量插入数据优化&批量插入数据load指令)

    前言 大家好吖,欢迎来到 YY 滴MySQL系列 ,热烈欢迎!...本章主要内容面向接触过C++ Linux的老铁 主要内容含: 1.批量插入 采取以下形式,在一个insert语句中完成数据插入,而不是分成几个insert语句 Insert into tb test...values(1,'Tom'),(2,'cat'),(3, jerry'); 【1】需要大批量插入数据——load指令 如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以使用MVSQL...本地磁盘文件中的数据,通过load直接加载到数据库表结构中 操作如下: #客户端连接服务端时,加上参数--local-infile mysql --local-infile -u root -p #设置全局参数...批量处理:对于大量的插入操作,将它们封装在一个事务中可以显著提高性能,因为数据库只需在事务结束时进行一次磁盘写入操作,而不是每次插入都写入。

    10710

    mysql批量插入大量数据「建议收藏」

    mysql批量插入大量数据 时间:2020年11月25日 今天遇到了一个批量插入大量数据任务,然后出于小白本能,直接for-each循环插入不就好了,于是手上开始噼里啪啦一顿操作,写好了从读取excel...1w条数据进行比较 1w条数据插入了11s,比上面不知道快了多少,可是这样插入是有一个弊端的,就是数据量再大一点的话,会报错的,我改成10w去跑一下给你们看一下效果 ### Cause: com.mysql.cj.jdbc.exceptions.PacketTooBigException...三、method-3 第三种,通过原生的jdbc连接设置,然后打开批量处理的方式去处理数据 MySQL的JDBC连接的url中要加rewriteBatchedStatements参数,并保证5.1.13...以上版本的驱动,才能实现高性能的批量插入。...MySQL JDBC驱动在默认情况下会无视executeBatch()语句,把我们期望批量执行的一组sql语句拆散,一条一条地发给MySQL数据库,批量插入实际上是单条插入,直接造成较低的性能。

    3.8K10

    MySql批量插入时,如何不插入重复的数据

    业务很简单:需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入 那么问题来了,是不是每次插入之前都要查一遍,看看重不重复,在代码里筛选一下数据,重复的就过滤掉呢?...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。如何提高效率 看来这个问题不止我一个人苦恼过。...几百万的数据,不可能查出来,做去重处理 说一下我Google到的解决方案 1、insert ignore into 当插入数据时,如出现错误时,如重复数据,将不返回错误,只以警告形式返回。...item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。

    2.8K20

    Mysql批量插入时,如何不插入重复的数据

    业务很简单:需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入 那么问题来了,是不是每次插入之前都要查一遍,看看重不重复,在代码里筛选一下数据,重复的就过滤掉呢?...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。如何提高效率 看来这个问题不止我一个人苦恼过。...user (name) SELECT 'telami' FROM dual WHERE NOT EXISTS (SELECT id FROM user WHERE id = 1) 这种方法其实就是使用了mysql...item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。

    5.4K21

    MySql 批量插入时,如何不插入重复的数据

    :需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入 那么问题来了,是不是每次插入之前都要查一遍,看看重不重复,在代码里筛选一下数据,重复的就过滤掉呢?...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。如何提高效率 看来这个问题不止我一个人苦恼过。...几百万的数据,不可能查出来,做去重处理 说一下我Google到的解决方案 1、insert ignore into 当插入数据时,如出现错误时,如重复数据,将不返回错误,只以警告形式返回。...item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。

    3.5K20

    MySQL批量插入数据,一次插入多少行数据效率最高?

    一、前言 我们在操作大型数据表或者日志文件的时候经常会需要写入数据到数据库,那么最合适的方案就是数据库的批量插入。只是我们在执行批量操作的时候,一次插入多少数据才合适呢?...假如需要插入的数据有百万条,那么一次批量插入多少条的时候,效率会高一些呢?这里博主和大家一起探讨下这个问题,应用环境为批量插入数据到临时表。...二、批量插入前准备 博主本地原本是循环查出来的数据,然后每1000条插入一次,直至完成插入操作。但是为什么要设置1000条呢,实不相瞒,这是因为项目里的其他批量插入都是一次插1000条。。...一次到底插入多少才合适呢? 三、批量插入数据测试 开始测试,但是一开始插入多少是合适的呢,是否有上限?查询mysql手册,我们知道sql语句是有大小限制的。...这部分我的理解是mysql是要分配一定的内存给传过来的数据包使用,当批量插入的数据量到达一定程度之后,一次插入操作的开销就很耗费内存了。

    8.6K30

    面试官:MySQL 批量插入,如何不插入重复数据?

    业务很简单:需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入。 那么问题来了,是不是每次插入之前都要查一遍,看看重不重复,在代码里筛选一下数据,重复的就过滤掉呢?...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。 如何提高效率? 看来这个问题不止我一个人苦恼过。...user (name) SELECT 'telami' FROM dual WHERE NOT EXISTS (SELECT id FROM user WHERE id = 1) 这种方法其实就是使用了MySQL...item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。 —END—

    1.4K20
    领券