前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >小议C语言标准库排序函数qsort曾经的bug

小议C语言标准库排序函数qsort曾经的bug

作者头像
果冻虾仁
发布于 2021-12-08 02:41:34
发布于 2021-12-08 02:41:34
75400
代码可运行
举报
文章被收录于专栏:后台公论后台公论
运行总次数:0
代码可运行

背景

曾经在某厂工作期间,发现大量C++项目的代码,都在用qsort()而非std::sort()来排序。不知道是出于某种特殊的动机,还是仅仅是历史原因。这倒也罢,紧接着我发现所有C++的Server项目,在main函数中靠前的位置都有一段特殊代码。用qsort给一个个数超过1024的随机数数组做一下排序。一时不明就里,百度一番后才发现qsort在多线程中调用会有bug,需要在多线程逻辑开始之前做一次排序来避免。

问题描述

但是,这仅仅是旧版的glibc。gblic 2.13以前的qsort实现有问题,在长达20年的岁月里,qsort都并非是线程安全的,在多线程环境中中调用qsort会有除0的风险,从而导致core dump。然而在后来的新版本中早已修复了这一bug,所以其实现在不需要做事先的初始化操作了!老同事们

可以用ldd --version命令查看一下glibc的版本。注意不是gcc的版本!

原因是它内部使用了static变量,所以qsort不是严格意义上的线程安全函数。之所以没有一棒子打死说它不安全,那是因为有回避风险的途径。

解决方法就是在开启多线程处理之前,在主线程中(比如main函数开始位置)用qsort随便跑一次排序(要大于1024个元素),这样就能给其中的static变量做初始化。

我们直接看一份2.12源码,阅读stdlib/msort.c。下面请原谅这个代码风格,这就是源码!】

看一下,qsort()

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
void
qsort (void *b, size_t n, size_t s, __compar_fn_t cmp)
{
  return qsort_r (b, n, s, (__compar_d_fn_t) cmp, NULL);
}

本质调用的是 qsort_r()。再简单看一下qsort_r() 【格式化了一下……】

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
void qsort_r(void* b, size_t n, size_t s, __compar_d_fn_t cmp, void* arg) 
{
    size_t size = n * s;
    char* tmp = NULL;
    struct msort_param p;

    /* For large object sizes use indirect sorting.  */
    if (s > 32) {
        size = 2 * n * sizeof(void*) + s;
    }

    if (size < 1024) {
        /* The temporary array is small, so put it on the stack.  */
        p.t = __alloca(size);
    } else {
        /* We should avoid allocating too much memory since this might
        have to be backed up by swap space.  */
        static long int phys_pages;
        static int pagesize;

        if (phys_pages == 0) {
            phys_pages = __sysconf(_SC_PHYS_PAGES);

            if (phys_pages == -1) {
                phys_pages = (long int)(~0ul >> 1);
            }

            phys_pages /= 4;

            pagesize = __sysconf(_SC_PAGESIZE);
        }

        /* If the memory requirements are too high don't allocate memory.  */
        if (size / pagesize > (size_t) phys_pages) {
            _quicksort(b, n, s, cmp, arg);
            return;
        }
... ...

可以看到两个static的变量:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
      static long int phys_pages;
      static int pagesize;

这两个变量是控制需要分配多少内存的。大概就是就是页的数量和页大小。这两个变量之所以是static,那是因为获取这两个值貌似只需要获取一次,不需要每次排序都获取一遍,因此用了static。同时因为是static的,所以会自动初始化为0(static变量在bss段中,bss段整个空间会被清零)。

最下面有个size/pagesize,就是coredump的元凶。pagesize赋值的地方是它上面的if中,if的准入条件是另外一个变量phys_pages==0。也就是说在多线程的时候,可能一个线程进入到了if中,执行完:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
 phys_pages =__sysconf(_SC_PHYS_PAGES);

phys_pages有值了,但是pagesize的赋值操作在下一句,这个 间隙 之中。有另外一个线程走到了 if。判断 phys_pages 不为0了。开始了size / pagesize 的除0之旅……从而引发coredump。

解决方案

而从2.13版本开始,这个if是这样的:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
    if (pagesize == 0) {
      phys_pages = __sysconf (_SC_PHYS_PAGES);

      if (phys_pages == -1)
        phys_pages = (long int) (~0ul >> 1);

      phys_pages /= 4;

      /* Make sure phys_pages is written to memory.  */
      atomic_write_barrier ();

      pagesize = __sysconf (_SC_PAGESIZE);
    }   
    if (size / pagesize > (size_t) phys_pages) {
       _quicksort (b, n, s, cmp, arg);
      return;
    }

可以看下这个if准入条件里面判断的是pagesize了。也许你会说,那phy_pages会不会没被写入就参与下面的比较了呢?

size / pagesize > (size_t) phys_pages

尽管不会除0,但是比较结果是不是不符合预期啊?

如果程序能严格按照代码的语句顺序执行的话,其实不会。因为给pagesize赋值是最后一句,如果pagesize 在if判断中不等于0,那么它前面的语句应该都执行过了,因此phy_pages应该是赋好值的。

但是这是理论上的,为了提高性能,实际可能出现指令的重排序。导致结果并不一定按照语句顺序来执行。因此glibc又给qsort加了一层保障。

仔细看if 逻辑内,在pagesize赋值之前也多了一句:atomic_write_barrier();

这其实不是一个函数,而是一个宏,展开为:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
__asm ("" ::: "memory")

这其实不是标准C代码,这是GCC扩展支持的在C程序中嵌入汇编的语法。加入了一个内存屏障。

我对体系结构了解有限,但据我理解,内存屏障是保证指令不会被重排的(保证phys_page先赋好值),看注释也是保证 phys_pages先写入内存,然后再给pagesize赋值。

有网友曾找到了这个bug曾有被报出来的记录:

https://sourceware.org/bugzilla/show_bug.cgi?id=11655

其中也提供了bug fix的方案。但实际这里面提供的fix方案并没有被合入到主干。尽管它看起来更简单易懂:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
-      if (phys_pages == 0)
+      if (phys_pages == 0 || pagesize == 0)
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-10-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 编程往事 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
C语言进阶-回调函数
目录 前言 回调函数 回调型计算器 回调冒泡排序(模拟qsort库函数) qsort函数原型 compar参数 代码演示  冒泡排序(bubble_sort) ---- 前言 ---- 本文主要讲解 回调函数的理解 回调实现计算器 qsort各种功能的使用 冒泡排序各种功能的实现 回调函数 ---- 定义 回调函数就是一个通过函数指针调用的函数 如果你把函数的指针(地址)作为参数传递给另一 个函数, 当这个指针被用来调用其所指向的函数时,我们就说这是回调函数 回调函数不是由该函数的实现
用户9645905
2022/11/30
9620
C语言进阶-回调函数
qsort使用
        其中 void* base 是指针,指向的是待排序的数组的第一个元素,
2024/04/30
960
qsort使用
[C语言日寄]以指针进阶:空类型指针与qsort函数
在C语言的学习中,指针始终是一个核心且难以绕开的话题。它既强大又容易出错,但一旦掌握,就能极大地提升代码的灵活性和效率。今天,我们将通过一个具体的题目,深入探讨空类型指针(void*)和C标准库中的qsort函数,帮助大家更好地理解和应用指针的高级特性。
siy2333
2025/02/25
690
指令重排序与内存屏障
老版本的glibc(2.13以前)中的排序函数qsort()有一个在并发时会出现core dump的bug。那段代码如下:
果冻虾仁
2021/12/08
5260
C语言常用标准库解读
有很多工程师喜欢自己封装一些标准库已有的函数,其实自己封装的函数,并不一定比标准库好,有时候反而代码更冗余,且有bug。下面就来分享一下C语言常见的一些标准库。
小林C语言
2020/12/24
1.3K0
C语言常用标准库解读
【C语言】qsort函数介绍
讲这个东西之前我们来认识一下回调函数,回调函数就是一个通过函数指针调用的函数。 如果你把函数的指针(地址)作为参数传递给另一个函数,当这个指针被用来调用其所指向的函数 时,被调用的函数就是回调函数。回调函数不是由该函数的实现方直接调用,而是在特定的事件或条件发生时由另外的一方调用的,用于对该事件或条件进行响应。
用户11290673
2024/09/25
800
【C语言】qsort函数介绍
【C语言】手把手带你拿捏指针(4)(含qsort函数详解)
什么是回调函数?    回调函数就是⼀个通过函数指针调用的函数。    如果你把函数的指针(地址)作为参数传递给另⼀个函数,当这个指针被用来调用其所指向的函数时,被调用的函数就是回调函数。回调函数不是由该函数的实现方直接调用,而是在特定的事件或条件发⽣时由另外的一方调用的,用于对该事件或条件进行响应    可能这么说着有些抽象,我们还是举一个例子,比如上一篇文章我们讲到的计算器,我们当时为了解决代码冗余,使用了转移表,也就是函数指针数组,那么是否还有其它方法呢?比如我坚持使用Switch语句,而不使用if语句    这个内容就涉及到我们的回调函数,回调函数简单地说就是将函数指针传给另一个函数,通过这个函数来使用传过来的函数    我们可以将之前冗余的部分包装成函数,最大的冗余就是那个Switch语句,我们来看看冗余部分:
TANGLONG
2024/10/15
990
【C语言】手把手带你拿捏指针(4)(含qsort函数详解)
[C语言日寄] qsort函数的练习
在C语言的世界里,qsort 函数是一个非常强大且灵活的工具,它允许我们对任意类型的数组进行快速排序。这种特性使得 qsort 在处理复杂数据排序时变得非常方便。今天,我们就通过一个简单的程序来深入探讨 qsort 的使用,以及它在C语言中的重要性。
siy2333
2025/03/16
460
深度剖析C语言库函数之强大的排序函数qsort并且模拟实现
Sort elements of array 表示qsort的功能是排序数组的元素,不难发现它的返回类型为void 接下来我们来仔细分析下它的四个参数:
换一颗红豆
2024/12/20
1950
深度剖析C语言库函数之强大的排序函数qsort并且模拟实现
深入浅出理解 C 语言中的 qsort 函数
在编程中,排序是一个常见且重要的操作。C 语言标准库提供了一系列排序函数,其中 qsort 函数是一个非常强大的工具。本文将深入浅出地介绍 qsort 函数的用法、原理,并通过实例展示如何在实际编程中使用它。
平凡之路.
2024/10/09
1840
深入浅出理解 C 语言中的 qsort 函数
C语言指针超详解——最终篇一
回调函数就是一个通过函数指针调用的函数。 如果你把函数的指针(地址)作为参数传递给另个函数,当这个指针被用来调用其所指向的函数时,被调用的函数就是回调函数。
fhvyxyci
2024/09/24
1100
C语言指针超详解——最终篇一
c语言进阶部分详解(经典回调函数qsort()详解及模拟实现)
大家好!上篇文章(c语言进阶部分详解(指针进阶2)_总之就是非常唔姆的博客-CSDN博客)我已经对回调函数进行了初步的讲解和一个简单的使用事例,鉴于篇幅有限没有进行更加详细的解释,今天便来补上。
是Nero哦
2024/01/18
1580
c语言进阶部分详解(经典回调函数qsort()详解及模拟实现)
c语言qsort函数的模拟实现
回调函数就是⼀个通过函数指针调用的函数。 如果你把函数的指针(地址)作为参数传递给另⼀个函数,当这个指针被用来调用其所指向的函数时,被调用的函数就是回调函数。回调函数不是由该函数的实现方直接调用,而是在特定的事件或条件发生时由另外的一方调用的,用于对该事件或条件进行响应。 这样讲也许会有点抽象,等下面讲到实际案例时再具体介绍:>
用户11029269
2024/03/19
1020
c语言qsort函数的模拟实现
qsort函数的应用以及模拟实现
strcmp函数用于比较字符串的,它的比较方式是比较字符的ASCII码值,并不是长度,后续在库函数模拟篇会讲到.
初阶牛
2023/03/08
6190
qsort函数的应用以及模拟实现
深入了解C语言的qsort函数:原理及相关知识
比较函数的编写取决于待排序元素的类型,也就是说即可以排整形,也可以排其他类型,所以需要根据实际情况进行调整。
GG Bond1
2024/06/14
4860
深入了解C语言的qsort函数:原理及相关知识
【C语言进阶篇】快排函数 qsort 详细解析
🎬 鸽芷咕:个人主页 🔥 个人专栏:《C语言初阶篇》 《C语言进阶篇》
鸽芷咕
2023/12/25
9680
【C语言进阶篇】快排函数 qsort 详细解析
【c语言】qsort函数及泛型冒泡排序的模拟实现
在了解qsort函数之前,我们先来学习一个概念:回调函数。那么回调函数是什么呢?
ephemerals__
2024/10/24
1160
【c语言】qsort函数及泛型冒泡排序的模拟实现
【C语言】qsort()函数详解:能给万物排序的神奇函数
计算数组元素个数常用的是sizeof,即数组元素个数=数组总长度/数组首元素长度,如:
修修修也
2024/04/01
1.1K0
【C语言】qsort()函数详解:能给万物排序的神奇函数
冒泡排序的快速排序——qsort函数的模拟实现
上一期我们留下了一个题目: 判断一个字符串是否是另一个字符串左旋后的字符: 其实我们只要将原字符串用memcpy加到原字符串的后面构成一个新的字符串,只要你给出的字符串在这个新的字符串里面(用strstr函数),那么他就是这个字符串左旋后的字符串 例如:BCDA如果在下面的这个字符串中,所以是左旋后的字符串
ahao
2024/03/19
940
冒泡排序的快速排序——qsort函数的模拟实现
【C语言基础】:深入理解指针(终篇)
指针系列回顾 【C语言基础】:深入理解指针(一) 【C语言基础】:深入理解指针(二) 【C语言基础】:深入理解指针(三)
爱喝兽奶的熊孩子
2024/04/10
1040
【C语言基础】:深入理解指针(终篇)
相关推荐
C语言进阶-回调函数
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验