前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >给你 2 万条数据,怎么快速导入到 MySQL?

给你 2 万条数据,怎么快速导入到 MySQL?

作者头像
熬夜的花斑狗
发布2022-08-19 18:03:19
7360
发布2022-08-19 18:03:19
举报
文章被收录于专栏:开发+运维+架构

概述

代码语言:java
复制
private static final Logger LOGGER = LoggerFactory.getLogger(IdWorkerUtils.class);
/**
 * 工作机器ID(0~31)
 */
private long workerId;
/**
 * 数据中心ID(0~31)
 */
private long datacenterId;
/**
 * 毫秒内序列(0~4095)
 */
private long sequence;
/**
 * 开始时间截 (2015-01-01)
 */
private long twepoch = 1288834974657L;
/**
 * 机器id所占的位数
 */
private long workerIdBits = 5L;
/**
 * 数据标识id所占的位数
 */
private long datacenterIdBits = 5L;
/**
 * 这个是二进制运算,就是 5 bit最多只能有31个数字,也就是说机器id最多只能是32以内
 */
private long maxWorkerId = -1L ^ (-1L << workerIdBits);
/**
 * 这个是二进制运算,就是 5 bit最多只能有31个数字,机房id最多只能是32以内
 */
private long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
/**
 * 序列在id中占的位数
 */
private long sequenceBits = 12L;
/**
 * 机器ID向左移12位
 */
private long workerIdShift = sequenceBits;
/**
 * 数据标识id向左移17位(12+5)
 */
private long datacenterIdShift = sequenceBits + workerIdBits;
/**
 * 时间截向左移22位(5+5+12)
 */
private long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
/**
 * 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095)
 */
private long sequenceMask = -1L ^ (-1L << sequenceBits);
/**
 * 上次生成ID的时间截
 */
private long lastTimestamp = -1L;
public IdWorkerUtils(long workerId, long datacenterId, long sequence) {
    // sanity check for workerId
    // 这儿不就检查了一下,要求就是你传递进来的机房id和机器id不能超过32,不能小于0
    if (workerId > maxWorkerId || workerId < 0) {
        throw new IllegalArgumentException(
                String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
    }
    if (datacenterId > maxDatacenterId || datacenterId < 0) {
        throw new IllegalArgumentException(
                String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
    }
    LOGGER.info(
            "worker starting. timestamp left shift {}, datacenter id bits {}, worker id bits {}, sequence bits {}, workerid {}",
            timestampLeftShift, datacenterIdBits, workerIdBits, sequenceBits, workerId);
    this.workerId = workerId;
    this.datacenterId = datacenterId;
    this.sequence = sequence;
}
public long getWorkerId() {
    return workerId;
}
public long getDatacenterId() {
    return datacenterId;
}
public long getTimestamp() {
    return System.currentTimeMillis();
}
public synchronized long nextId() {
    // 这儿就是获取当前时间戳,单位是毫秒
    long timestamp = timeGen();
    if (timestamp < lastTimestamp) {
        LOGGER.error("clock is moving backwards.  Rejecting requests until {}.", lastTimestamp);
        throw new RuntimeException(String.format(
                "Clock moved backwards.  Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
    }
    if (lastTimestamp == timestamp) {
        // 这个意思是说一个毫秒内最多只能有4096个数字
        // 无论你传递多少进来,这个位运算保证始终就是在4096这个范围内,避免你自己传递个sequence超过了4096这个范围
        sequence = (sequence + 1) & sequenceMask;
        if (sequence == 0) {
            timestamp = tilNextMillis(lastTimestamp);
        }
    } else {
        sequence = 0;
    }
    // 这儿记录一下最近一次生成id的时间戳,单位是毫秒
    lastTimestamp = timestamp;
    // 这儿就是将时间戳左移,放到 41 bit那儿;
    // 将机房 id左移放到 5 bit那儿;
    // 将机器id左移放到5 bit那儿;将序号放最后12 bit;
    // 最后拼接起来成一个 64 bit的二进制数字,转换成 10 进制就是个 long 型
    return ((timestamp - twepoch) << timestampLeftShift) | (datacenterId << datacenterIdShift)
            | (workerId << workerIdShift) | sequence;
}
private long tilNextMillis(long lastTimestamp) {
    long timestamp = timeGen();
    while (timestamp <= lastTimestamp) {
        timestamp = timeGen();
    }
    return timestamp;
}
private long timeGen() {
    return System.currentTimeMillis();
}
// ---------------测试---------------
/*public static void main(String[] args) {
    IdWorkerUtils worker = new IdWorkerUtils(1, 1, 1);
    for (int i = 0; i < 30; i++) {
        System.out.println(worker.nextId());
    }
}*/
}

分库分表后涉及到的另一个问题就是主键如何保证唯一且自增。以前单库单表的时候只需要利用数据库特性进行自增即可,现在因为是各自独立的库表,数据库之间的主键自增无法进行交互,比如数据库1的订单明细表主键自增到了1001,数据库2的订单明细表主键现在是1000,如果现在往数据库2的订单明细表中插入一条数据,这个时候获取到的主键ID会是1001,这样就会造成业务上的主键冲突。

全局ID

为了解决订单明细表主键的重复问题。靠数据库的主键自增是无法做到了。如何解决这个问题呢?可以给项目中引入一个全局唯一的ID服务,这个服务就是用来生成全局唯一ID的,每次生成的ID都不一样,可以保证主键的唯一性。

全局ID算法

全局ID需要保证如下的特性:

全局唯一:必须保证ID是全局性唯一的,基本要求

高性能:高可用低延时,ID生成响应要块,否则反倒会成为业务瓶颈

高可用:100%的可用性是骗人的,但是也要无限接近于100%的可用性

好接入:要秉着拿来即用的设计原则,在系统设计和实现上要尽可能的简单

趋势递增:最好趋势递增,这个要求就得看具体业务场景了,一般不严格要求

常用的全局ID算法如下:

雪花算法Snowflake

百度uid-generator

美团Leaf

滴滴Tinyid

雪花算法

雪花算法的结构:

支撑百万并发的数据库架构如何设计?

pdf

0星

超过10%的资源

237KB

下载

主要分为 4 个部分:

是 1 个 bit:0,这个是无意义的。

是 41 个 bit:表示的是时间戳。

是 10 个 bit:表示的是机房 id,0000000000,因为我传进去的就是0。

是 12 个 bit:表示的序号,就是某个机房某台机器上这一毫秒内同时生成的 id 的序号,0000 0000 0000。

1 bit,是无意义的:

因为二进制里第一个 bit 为如果是 1,那么都是负数,但是我们生成的 id 都是正数,所以第一个 bit 统一都是 0。

41 bit:表示的是时间戳,单位是毫秒。

41 bit 可以表示的数字多达 2^41 - 1,也就是可以标识 2 ^ 41 - 1 个毫秒值,换算成>年就是表示 69 年的时间。

10 bit:记录工作机器 id,代表的是这个服务最多可以部署在 2^10 台机器上,也就是 1024 台机器。

但是 10 bit 里 5 个 bit 代表机房 id,5 个 bit 代表机器 id。意思就是最多代表 2 ^ 5 个机房(32 个机房),每个机房里可以代表 2 ^ 5 个机器(32 台机器),这里可以随意拆分,比如拿出4位标识业务号,其他6位作为机器号。可以随意组合。

12 bit:这个是用来记录同一个毫秒内产生的不同 id。

12 bit 可以代表的最大正整数是 2 ^ 12 - 1 = 4096,也就是说可以用这个 12 bit 代表的数字来区分同一个毫秒内的 4096 个不同的 id。也就是同一毫秒内同一台机器所生成的最大ID数量为4096

简单来说,你的某个服务假设要生成一个全局唯一 id,那么就可以发送一个请求给部署了 SnowFlake 算法的系统,由这个 SnowFlake 算法系统来生成唯一 id。这个 SnowFlake 算法系统首先肯定是知道自己所在的机器号,(这里姑且讲10bit全部作为工作机器ID)接着 SnowFlake 算法系统接收到这个请求之后,首先就会用二进制位运算的方式生成一个 64 bit 的 long 型 id,64 个 bit 中的第一个 bit 是无意义的。接着用当前时间戳(单位到毫秒)占用41 个 bit,然后接着 10 个 bit 设置机器 id。最后再判断一下,当前这台机房的这台机器上这一毫秒内,这是第几个请求,给这次生成 id 的请求累加一个序号,作为最后的 12 个 bit。

/**

  • 雪花算法解析 结构 snowflake的结构如下(每部分用-分开):
  • 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000
  • 第一位为未使用,接下来的41位为毫秒级时间(41位的长度可以使用69年),然后是5位datacenterId和5位workerId(10
  • 位的长度最多支持部署1024个节点) ,最后12位是毫秒内的计数(12位的计数顺序号支持每个节点每毫秒产生4096个ID序号)
  • <p>
  • 一共加起来刚好64位,为一个Long型。(转换成字符串长度为18)
代码语言:java
复制
 */
public class IdWorkerUtils {

时钟回拨

因为雪花算法中包含时间戳,因此依赖系统的时间,如果系统的时间由于某一些原因回到了过去的某个时间,比如现在的系统时间是2022年8月7日09时01分10秒,但是下次获获取到的时间是2022年8月7日09时00分10秒,那么就可能导致生成的全局ID与过去的某一个ID重复,这就是时钟回拨问题。

为了解决时钟回拨问题可以把之前的系统获取到哦啊的时间戳缓存起来,每次获取时间戳和上次的进行比较,如果本次获取的时间小于上一次的时间,就证明时钟回拨了,就可以取上次时间戳+1来解决。

总结

其实对于分布式ID的生成策略。无论是我们上述提到的哪一种。无非需要具有以下两种特点。 自增的、不重复的 ,而对于不重复且是自增的,那么很容易想到的是时间,而雪花算法就是基于时间戳。但是毫秒级的并发下如果直接拿来用,显然是不合理的。那么就要在这个时间戳上面做一些文章。至于怎么能让这个东西保持唯一且自增。就要打开自己的脑洞了。可以看到雪花算法中是基于 synchronized 锁进行实现的。

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
数据库
云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档