首页
学习
活动
专区
圈层
工具
发布

Linux下多线程程序为什么消耗大量虚拟内存

,奇怪的是每次刚启动的时候占用的虚拟内存在2.3G,然后每次处理消息就增加64M,增加到4.4G就不再增加了,由于我们采用预分配的方式,在线程内部根本没有大块分内存,那么这些内存到底是从哪来的呢?...探索 一开始首先排除掉内存泄露,不可能每次都泄露64M内存这么巧合,为了证明我的观点,首先,我使用了valgrind。...MAP_PRIVATE|MAP_ANONYMOUS|MAP_STACK, -1, 0) = 0x7f53d04a8000 Process 19495 attached 我检查了一下trace文件也没有发现大量内存...那就是如果进程创建了一个线程并且在该线程内分配一个很小的内存1k,整个进程虚拟内存立马增加64M,然后再分配,内存就不增加了。...查看内存情况,如下: ?

2.2K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Linux进程内存消耗指标解读

    了解系统的内存消耗是运维最基本的技能,但是Linux中关于内存消耗的指标很容易让人混淆,本文尝试把诸多概念解释清楚 概念 物理内存和虚拟内存 物理内存:不解释 虚拟内存:进程独享,由操作系统通过地址映射的方式...(这里的虚拟内存与操作系统使用中过程常见的虚拟内存概念不同,不要混淆了,如Linux中swap) 内存耗用指标 VSS – Virtual Set Size 虚拟耗用内存(包含共享库占用的内存) RSS...S 17:12 0:00 [kthreadd] SMEM命令 smem命令可以得到USS, PSS,更能反映进程的真实内存消耗 $ smem PID User Command...实践 不用考虑VIRT耗费情况 一般也不要考虑RES内存消耗,除非一直在增大,则说明可能存在内存泄露 如果系统开始出现SWAP,就需要解决RES占用过多的问题 参考 操作系统 — 虚拟内存和物理内存的区别和联系...Linux 查看进程消耗内存情况总结 Java 进程占用 VIRT 虚拟内存超高的问题 Virtual Memory Usage from Java under Linux, too much memory

    6.4K40

    一文了解 Redis 内存监控和内存消耗

    但是当有大量慢连接客户端接入时这部分内存消耗就不能忽略,可以设置 maxclients 做限制。...特别当使用大量数据输出的命令且数据无法及时推送到客户端时,如 monitor 命令,容易造成 Redis 服务器内存突然飙升。...当主从节点之间网络延迟较高或主节点挂载大量从节点时这部分内存消耗将占用很大一部分,建议主节点挂载的从节点不要多于 2 个,主从节点不要部署在较差的网络环境下,如异地跨机房环境,防止复制客户端连接缓慢造成溢出...大量过期键删除,键对象过期删除后,释放的空间无法得到重复利用,导致碎片率上升。 这部分内容我们后续再详细讲解 jemalloc,因为大量的框架都会使用内存分配器,比如说 Netty 等。...子进程内存消耗 子进程内存消耗主要指执行 AOF 重写 或者进行 RDB 保存时 Redis 创建的子进程内存消耗。

    1.2K20

    MySQL内存到底消耗在哪里?

    MySQL内存到底消耗在哪里? 一说起MySQL使用的内存,你可能会想到各种buffer,最著名的莫过于innodb buffer pool了,它是内存使用的大户,还有sort buffer等等。...binlog_cache_size: 线程级别binlog缓冲大小 thread_stack: 每个线程的堆栈大小 内存分配器: 和其他数据库一样,MySQL的内存分配器也要长时间持有一部分内存,以供正常的内存销毁和分配...,从而实现内存重复使用。...从公式中不难看出,当基础配置不变情况下,连接数很多的时候,MySQL占用的内存数据,就会上涨的比较快。...用户维度内存监控表 memory_summary_global_by_event_name 全局维度内存监控表 每张表都有很多字段,这里不再进行一一介绍。

    3.5K30

    一文了解 Redis 内存监控和内存消耗

    但是当有大量慢连接客户端接入时这部分内存消耗就不能忽略,可以设置 maxclients 做限制。...特别当使用大量数据输出的命令且数据无法及时推送到客户端时,如 monitor 命令,容易造成 Redis 服务器内存突然飙升。...当主从节点之间网络延迟较高或主节点挂载大量从节点时这部分内存消耗将占用很大一部分,建议主节点挂载的从节点不要多于 2 个,主从节点不要部署在较差的网络环境下,如异地跨机房环境,防止复制客户端连接缓慢造成溢出...大量过期键删除,键对象过期删除后,释放的空间无法得到重复利用,导致碎片率上升。 这部分内容我们后续再详细讲解 jemalloc,因为大量的框架都会使用内存分配器,比如说 Netty 等。...子进程内存消耗 子进程内存消耗主要指执行 AOF 重写 或者进行 RDB 保存时 Redis 创建的子进程内存消耗。

    1.1K00

    一文了解 Redis 内存监控和内存消耗

    但是当有大量慢连接客户端接入时这部分内存消耗就不能忽略,可以设置 maxclients 做限制。...特别当使用大量数据输出的命令且数据无法及时推送到客户端时,如 monitor 命令,容易造成 Redis 服务器内存突然飙升。...当主从节点之间网络延迟较高或主节点挂载大量从节点时这部分内存消耗将占用很大一部分,建议主节点挂载的从节点不要多于 2 个,主从节点不要部署在较差的网络环境下,如异地跨机房环境,防止复制客户端连接缓慢造成溢出...大量过期键删除,键对象过期删除后,释放的空间无法得到重复利用,导致碎片率上升。 这部分内容我们后续再详细讲解 jemalloc,因为大量的框架都会使用内存分配器,比如说 Netty 等。...子进程内存消耗 子进程内存消耗主要指执行 AOF 重写 或者进行 RDB 保存时 Redis 创建的子进程内存消耗。

    1.4K11

    减少Redis内存消耗的优化措施

    图片当命令请求被执行时,Redis会将数据从磁盘加载到内存中进行处理,这会导致内存的消耗。同时,一些命令可能会涉及到大量的数据操作,例如批量读取、写入或删除操作,也会对内存产生较大的压力。...以下是一些可以减少Redis内存消耗的优化措施:合理配置maxmemory参数:在Redis配置文件中,可以通过设置maxmemory参数来限制Redis使用的最大内存大小。...对于存储结构比较大的数据,可以考虑使用压缩算法进行存储,在一定程度上减少内存消耗。使用持久化方式:Redis支持将数据持久化到磁盘中,以便在重启后进行恢复。...通过将数据持久化到磁盘,可以释放一部分内存,减少内存压力。使用Redis集群:当单个Redis实例的内存达到上限时,可以使用Redis集群来扩展内存容量。...通过监听这些事件,可以及时释放相关数据的内存,减少不必要的内存占用。这些优化措施可以帮助减少Redis的内存消耗,并提高其性能和可靠性。

    66971

    Oracle进程内存结构-如何察看Oracle进程消耗的内存

    Oracle进程内存结构-如何察看Oracle进程消耗的内存 Last Updated: Sunday, 2004-11-28 11:12 Eygle 经常有人问到如何在Unix下确定进程消耗的内存资源...实际上是Top输出显示的Oracle进程内存使用,包含了SGA部分。这也是SGA的意义所在。 SGA可以被共享,可以被所有进程所访问,在进程的寻址空间里就包含了SGA的大小。...至于如何更为精确的确定进程的内存消耗,本文简要介绍如下(在QuickIO下,你可能无法看到本文描述情况): 1.系统平台及数据库版本 $ uname -a SunOS billing 5.8 Generic...00 0 0.00% ksh 23498 oracle 1 58 0 323M 278M sleep 0:00 0 0.00% oracle 3.Pmap输出及进程内存计算...: 337360K - 266240K = 71,120k 这就是一个进程所消耗的内存. 4.用户进程内存使用举例 $ ps -ef|grep LOCAL oracle 10080 9872

    3.7K30

    如何降低 Python 的内存消耗量?

    在执行程序时,如果内存中有大量活动的对象,就可能出现内存问题,尤其是在可用内存总量有限的情况下。在本文中,我们将讨论缩小对象的方法,大幅减少Python所需的内存。 ?...但是,让我们看看dict在内容中占用的空间大小: >>> print(sys.getsizeof(ob)) 240 如上所示,dict占用了大量内存,尤其是如果突然虚需要创建大量实例时: 实例数 对象大小...000 16.8 Gb 不难看出,由于实例的字典很大,所以实例依然占用了大量内存。...但大量的实例占用的内存也会稍稍多一些: 实例数 大小 1 000 000 72 Mb 10 000 000 720 Mb 100 000 000 7.2 Gb ?...Numpy 使用拥有大量数据的多维数组或记录数组会占用大量内存。但是,为了有效地利用纯Python处理数据,你应该使用Numpy包提供的函数。

    1.8K20

    明明还有大量内存,为啥报错“无法分配内存”?

    # service docker stop -bash fork: 无法分配内存 # vi 1.txt -bash fork: 无法分配内存 看到这个提示,大家的第一反应肯定是怀疑内存真的不够了。...但查看内存占用却发现根本没有,内存还空闲了一大把!(多试几次才有机会执行成功一次) 飞哥和群里的同学们一起参谋这个问题以后,帮出了三个思路。让这位读者回去挨个试。...2.numa架构下,如果所有内存都插到一个槽,其它node就会没内存 3.查看下现在的进(线)程数是多少,是不是超过最大限制了 在经过一段时间的排查以后,这位读者的问题顺利解决。...这里直接和大家汇报结论,前面关于 numa 内存不足的猜测是错误的。真实的原因是上面第 3 个,这台服务器上面的某几个java进程创建了太多的线程,导致了这个报错的产生,并不真的是内存不够。...第一种错误情况是如果内存申请失败,alloc_pid 会返回失败。这种情况下确实是内存问题,出错后内核返回 ENOMEM 无可厚非。

    2.7K20

    100 * 100 Canvas 占用内存多大

    题目描述 一个 100 * 100 Canvas 占用内存多大,它的大小的决定因素是什么?这里我们只考虑存储这么多像素的内存,不考虑运算过程中使用的内存。...那么要回答这个问题,我们其实只要知道 1 * 1 像素占用多大内存就好了。 那么 1 * 1 像素的 Canvas 占用多大像素呢?...我们来实际测试一下 先说结果,结果是一个像素的 Canvas 占内存是4Byte。 我做了一个实验,具体是怎么做的呢?我们一起来看一下。...204 就是 255 * 0.8 算出来的 可以看出其实像素信息使用 Uint8 来存储的,数组长度为 4, Uint8 占用内存为 1 个字节, 因此一共是 4 个字节,所以答案就是一个像素的 Canvas...占内存是4Byte。

    4.5K20

    PostgreSQL 内存消耗从LINUX 系统层次看

    PostgreSQL 查看内存使用的方法比较多, 大部分都是进入到POSTGRESQL 中进行查看的,今天从PostgreSQL 外部来查看内存的使用方式和方法....,以及总体使用的内存数据量....,并且在这之后,你可以告诉他共享内存使用了多少, 进程独占使用了多少, 有那些进程已经开始使用了SWAP, 这对解决某些关于内存方面的问题,是有帮助的,尤其对于某些访问的进程的内存使用的分析....VSS- Virtual Set Size 虚拟耗用内存(包含共享库占用的内存) RSS- Resident Set Size 实际使用物理内存(包含共享库占用的内存) PSS- Proportional...Set Size 实际使用的物理内存(比例分配共享库占用的内存) USS- Unique Set Size 进程独自占用的物理内存(不包含共享库占用的内存)

    3.5K20
    领券