每秒生成一千万个【可视有序】分布式ID的简单方案 每秒不重复ID生成数:

去年做了一个产品,会经常导入导出大量的外部数据,这些数据的ID有的是GUID类型,有的是字符串,也有的是自增。GUID类型没有顺序,结果要排序得借助其它业务字段,整体查询效率比较低;字符串ID本来是用来转换GUID的或者数字ID的,结果有些字符串ID不符合规范,常常有特殊数据需要处理;自增主键ID的数据导入合并经常有冲突。

为了避免GUID主键的“索引页分裂”问题,提高查询效率,同时为了解决分布式环境下的数据导入合并问题,强烈需要一种分布式的,有序的ID生成方案。我参考了雪花ID(Twitter-Snowflake,64位自增ID算法)实现方案,设计一个更容易肉眼观察数值连续有序的分布式ID方案。

跟雪花ID方案一样,都是使用时间数据做为生成ID的基础,不同的在于对数据的具体处理方式。另外,为了确保每台机器ID的不同,可以配置指定此ID,在应用程序配置文件中如下配置:

<!--分布式ID标识,3位整数,范围101-999 大小--> 
<add key="SOD_MachineID" value="101"/>

如果不配置分布式ID,默认将根据当前机器IP随机生成3位分布式机器ID。

该算法的实现比雪花算法简单不少,详细的不多说,先直接看代码:

        /// <summary>
        /// 获取一个新的有序GUID整数
        /// </summary>
        /// <param name="dt">当前时间</param>
        /// <param name="haveMs">是否包含毫秒,如果不包含,将使用3位随机数代替</param>
        /// <returns></returns>
        protected internal static long InnerNewSequenceGUID(DateTime dt, bool haveMs)
        {
            //线程安全的自增并且不超过最大值10000
            int countNum = System.Threading.Interlocked.Increment(ref SeqNum);
            if (countNum >= 10000)
            {
                while (Interlocked.Exchange(ref signal, 1) != 0)//加自旋锁
                {
                    //黑魔法
                }
                //进入临界区
                if (SeqNum >= 10000)
                {
                    SeqNum = 0;
                    //达到1万个数后,延迟10毫秒,重新取系统时间,避免重复
                    Thread.Sleep(10);
                    dt = DateTime.Now;
                }
                countNum = System.Threading.Interlocked.Increment(ref SeqNum);
                //离开临界区
                Interlocked.Exchange(ref signal, 0);  //释放锁
            }

            //日期以 2017.3.1日为基准,计算当前日期距离基准日期相差的天数,可以使用20年。
            //日期部分使用4位数字表示
            int days = (int)dt.Subtract(baseDate).TotalDays;
            //时间部分表示一天中所有的秒数,最大为 86400秒,共5位
            //日期时间总位数= 4(日期)+5(时间)+3(毫秒)=12
            int times = dt.Second + dt.Minute * 60 + dt.Hour * 3600;
            //long 类型最大值 9223 3720 3685 4775 807
            //可用随机位数= 19-12=7
            long datePart = ((long)days + 1000) * 1000 * 1000 * 1000 * 100;
            long timePart = (long)times * 1000 * 1000;
            long msPart = 0;
            if (haveMs)
            {
                msPart = (long)dt.Millisecond ;
            }
            else

            {
                msPart = new Random().Next(100, 1000);
            }
            long dateTiePart = (datePart + timePart + msPart*1000) * 10000;

            int mid = MachineID * 10000;
            //得到总数= 4(日期)+5(时间)+3(毫秒)+7(GUID)
            long seq = dateTiePart + mid;
            
            return seq + countNum; ;
        }

注意:上面使用了一个模拟的自旋锁,用来在末尾的顺序号超过1万的时候归零重新计算,并且睡眠10毫秒从而根本上杜绝重复ID。

每秒不重复ID生成数:

从上面的程序代码中,得知 ID总数= 4位(日期)+5位(时间)+3位(毫秒)+7位(GUID)。 其中,7位(GUID)中,除去前3位的分布式机器ID,剩余4位有序数字,可以表示1万个数字。 所以,该方面每毫秒最大可以生成1万个不重复的ID数,每秒最大可以生成1千万个不重复ID。 当然这是理论大小,实际上受到当前机器的计算能力限制。

该方法进行了再次封装,用于在不同情况下分别使用:

      /// <summary>
       /// 生成一个新的在秒级别有序的长整形“GUID”,在一秒内,数据比较随机,线程安全,
       /// 但不如NewUniqueSequenceGUID 方法结果更有序(不包含毫秒部分)
       /// </summary>
       /// <returns></returns>
       public static long NewSequenceGUID()
       {
           return UniqueSequenceGUID.InnerNewSequenceGUID(DateTime.Now,false);
       }

       /// <summary>
       /// 生成一个唯一的更加有序的GUID形式的长整数,在一秒内,一千万个不重复ID,线程安全。可用于严格有序增长的ID
       /// </summary>
       /// <returns></returns>
       public static long NewUniqueSequenceGUID()
       {
           return UniqueId.NewID();
       }

        /// <summary>
        /// 当前机器ID,可以作为分布式ID,如果需要指定此ID,请在应用程序配置文件配置 SOD_MachineID 的值,范围大于100,小于1000.
        /// </summary>
        /// <returns></returns>
        public static int CurrentMachineID()
        {
            return UniqueSequenceGUID.GetCurrentMachineID();
        }

最后,像下面这样使用即可:

        Console.WriteLine("当前机器的分布式ID:{0}",CommonUtil.CurrentMachineID());
            Console.WriteLine("测试分布式ID:秒级有序");
            for (int i= 0; i < 50; i++)
            {
                Console.Write(CommonUtil.NewSequenceGUID());
                Console.Write(",");
            }
            Console.WriteLine();
            Console.WriteLine("测试分布式ID:唯一且有序");
            for (int i = 0; i < 50; i++)
            {
                Console.Write(CommonUtil.NewUniqueSequenceGUID());
                Console.Write(",");
            }
            Console.WriteLine();

下面是生成的ID数字示例:

当前机器的分布式ID:832

注:本文生成ID的方法已经在产品中大量使用,运行情况良好。

要使用本程序,你可以Nuget 下载SOD的程序包(支持.NET 2.0项目),然后像本文示例这样使用即可:

Install-Package PDF.NET.SOD.Core

获取SOD的源码,请Fork我们的Github:

https://github.com/znlgis/sod

源码位置在 https://github.com/znlgis/sod/tree/master/src/SOD 目录下。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏DOTNET

.Net多线程编程—同步机制

1.简介 新的轻量级同步原语:Barrier,CountdownEvent,ManualResetEventSlim,SemaphoreSlim,SpinLoc...

32750
来自专栏大内老A

无需写try/catch,也能正常处理异常

对于企业应用的开发者来说,异常处理是一件既简单又复杂的事情。说其简单,是因为相关的编程无外乎try/catch/finally+throw而已;说其复杂,是因为...

29480
来自专栏JAVA后端开发

activiti多实例节点的任意跳转

activiti是原来不支持节点跳转的,他要求有线才能走,但实际业务中,需要支持动态跳转到各个节点。 一开始,这里的做法是动态构造一条虚拟线的,相关代码如下:

60850
来自专栏菩提树下的杨过

Unity Application Block 1.2 学习笔记

昨天花了一天时间,把IOC/DI的相关文章以及Unity相关的一些文章基本在园子里搜了个遍 先给出几篇不错的文章链接: Unity Application Bl...

213100
来自专栏菩提树下的杨过

byte[]数组下标的最大值

原以为int.MaxValue就是所有数组下标的最大值,编译也能通过,结果运行时发现报错:内存溢出。 经过测试发现,原来在不同的系统/不同的配置上,这个值都不太...

20450
来自专栏程序你好

.NET面试基础知识

不同公司的职位和工作职责不同。在面试中,工作职责和经验对这个职位很重要。程序员职位有一年的经验他们会关注oops概念、并行编程、算法和解决问题的能力等等。另一方...

13020
来自专栏技术博客

Entity Framework Repository模式

如果我们用最原始的EF进行设计对每个实体类的“C(增加)、R(读取)、U(修改)、D(删除)”这四个操作。

20110
来自专栏大内老A

WCF技术剖析之十四:泛型数据契约和集合数据契约(上篇)

在.NET Framework 2.0中,泛型第一次被引入。我们可以定义泛型接口、泛型类型、泛型委托和泛型方法。序列化依赖于真实具体的类型,而泛型则刻意模糊了具...

24680
来自专栏AI星球

简明AWK实战教程

AWK是一个强大的格式化文本处理工具,一般在类Unix操作系统中都是必带的工具(Linux、Mac OS),因此,使用无需安装,非常的方便与便捷。

16030
来自专栏逸鹏说道

EntityFramework 外键值映射

如果在 EF OnModelCreating 中配置了实体外键映射,也就是 SQL Server 中的 ForeignKey,那么我们在添加实体的时候,主实体的...

88450

扫码关注云+社区

领取腾讯云代金券