使用top命令，我们可以查询到CPU的使用率，等待，平均负载的一些情况 注意：CPU负载和CPU使用率没有直接关系！！！...CPU上下文切换 CPU寄存器是CPU内置的容量小，但速度极快的内存。...程序计数器用来存储CPU正在执行的指令位置，即将执行的下一条指令位置，这些都是CPU执行任务前，要依赖的环境，也叫做CPU上下文。...产生原因 等待磁盘I/O完成的进程过多，导致进程队列长度过大，但是cpu运行的进程却很少，这样就体现到负载过大了，cpu使用率低 常见场景 磁盘读写请求过多导致大量IO等待Mysql死锁、Mysql全表扫描...理解Swap 简单来讲，就是用硬盘的一块空间来当做内存使用。 内存不足时，会使用Swap，把进程暂时不用的数据存储到磁盘中 Swap会导致严重的性能问题 理解Cached过大是怎么回事？
为了完成内存映射，内核为每个进程都维护了一个页表，记录虚拟地址和物理地址的映射关系。页表实际存储在CPU的内存管理单元MMU中，处理器可以直接通过硬件找出要访问的内存。...其中可回收内存包括： 缓存/缓冲区，属于可回收资源，在文件管理中通常叫做文件页 被应用程序修改过暂时没写入磁盘的数据(脏页)，要先写入磁盘然后才能内存释放 在应用程序中通过fsync将脏页同步到磁盘...Swap原理 Swap本质就是把一块磁盘空间或者一个本地文件当作内存来使用，包括换入和换出两个过程： 换出： 将进程暂时不用的内存数据存储到磁盘中，并释放这些内存 换入： 进程再次访问内存时，将它们从磁盘读到内存中...缓冲区： 原始磁盘块的临时存储，缓存将要写入磁盘的数据 进程内存指标 虚拟内存： 5大部分 常驻内存： 进程实际使用的物理内存，不包括Swap和共享内存 共享内存： 与其他进程共享的内存，以及动态链接库和程序的代码段...如用堆栈明确声明内存空间来存储需要缓存的数据，或者用Redis外部缓存组件来优化数据的访问 cgroups等方式来限制进程的内存使用情况，确保系统内存不被异常进程耗尽 /proc/pid/oom_adj
为了完成内存映射，内核为每个进程都维护了一个页表，记录虚拟地址和物理地址的映射关系。页表实际存储在CPU的内存管理单元MMU中，处理器可以直接通过硬件找出要访问的内存。...但是由于内存没有归还系统，在内存工作繁忙时，频繁的内存分配/释放会造成内存碎片。 后者在释放时直接归还系统，所以每次mmap都会发生缺页异常。...Swap原理 Swap本质就是把一块磁盘空间或者一个本地文件当作内存来使用，包括换入和换出两个过程： 换出：将进程暂时不用的内存数据存储到磁盘中，并释放这些内存 换入：进程再次访问内存时，将它们从磁盘读到内存中...缓冲区：原始磁盘块的临时存储，缓存将要写入磁盘的数据 进程内存指标 虚拟内存：5大部分 常驻内存：进程实际使用的物理内存，不包括Swap和共享内存 共享内存：与其他进程共享的内存，以及动态链接库和程序的代码段...如用堆栈明确声明内存空间来存储需要缓存的数据，或者用Redis外部缓存组件来优化数据的访问 cgroups等方式来限制进程的内存使用情况，确保系统内存不被异常进程耗尽 /proc/pid/oom_adj
为了完成内存映射，内核为每个进程都维护了一个页表，记录虚拟地址和物理地址的映射关系。页表实际存储在CPU的内存管理单元MMU中，处理器可以直接通过硬件找出要访问的内存。...但是由于内存没有归还系统，在内存工作繁忙时，频繁的内存分配/释放会造成内存碎片。 后者在释放时直接归还系统，所以每次mmap都会发生缺页异常。...Swap原理 Swap本质就是把一块磁盘空间或者一个本地文件当作内存来使用，包括换入和换出两个过程： 换出：将进程暂时不用的内存数据存储到磁盘中，并释放这些内存 换入：进程再次访问内存时，将它们从磁盘读到内存中...缓冲区：原始磁盘块的临时存储，缓存将要写入磁盘的数据 进程内存指标 虚拟内存：5大部分 常驻内存：进程实际使用的物理内存，不包括Swap和共享内存 共享内存：与其他进程共享的内存，以及动态链接库和程序的代码段...如用堆栈明确声明内存空间来存储需要缓存的数据，或者用 Redis 外部缓存组件来优化数据的访问 cgroups 等方式来限制进程的内存使用情况，确保系统内存不被异常进程耗尽 /proc/pid/oom_adj
比如： CPU 密集型进程，使用大量 CPU 会导致平均负载升高，此时这两者是一致的； I/O 密集型进程，等待 I/O 也会导致平均负载升高，但 CPU 使用率不一定很高； 大量等待 CPU 的进程调度也会导致平均负载升高...，此时的 CPU 使用率也会比较高。...如果没有空闲的物理内存，那么内核就会开始进行回收内存的工作，回收的方式主要是两种：直接内存回收和后台内存回收。...要设计一个 MySQL 的索引数据结构，不仅仅考虑数据结构增删改的时间复杂度，更重要的是要考虑磁盘 I/0 的操作次数。...通常，会把交换的信息保存在进程的 PCB，当要运行另外一个进程的时候，我们需要从这个进程的 PCB 取出上下文，然后恢复到 CPU 中，这使得这个进程可以继续执行，如下图所示： 大家需要注意，进程的上下文开销是很关键的
为了完成内存映射，内核为每个进程都维护了一个页表，记录虚拟地址和物理地址的映射关系。页表实际存储在 CPU 的内存管理单元 MMU 中，处理器可以直接通过硬件找出要访问的内存。...但是由于内存没有归还系统，在内存工作繁忙时，频繁的内存分配 / 释放会造成内存碎片。 后者在释放时直接归还系统，所以每次 mmap 都会发生缺页异常。...Swap 本质就是把一块磁盘空间或者一个本地文件当作内存来使用，包括换入和换出两个过程： 换出：将进程暂时不用的内存数据存储到磁盘中，并释放这些内存 换入：进程再次访问内存时，将它们从磁盘读到内存中 Linux...系统内存指标 已用内存 / 剩余内存 共享内存 （tmpfs 实现） 可用内存：包括剩余内存和可回收内存 缓存：磁盘读取文件的页缓存，slab 分配器中的可回收部分 缓冲区：原始磁盘块的临时存储，缓存将要写入磁盘的数据...如用堆栈明确声明内存空间来存储需要缓存的数据，或者用 Redis 外部缓存组件来优化数据的访问 cgroups 等方式来限制进程的内存使用情况，确保系统内存不被异常进程耗尽 /proc/pid/oom_adj
这个命令是查看Linux/Unix最好的命令，一个是Linux/Unix都支持，二是相比top，可以看到整个机器的CPU，内存，IO的使用情况，而不是单单看到各个进程的CPU使用率和内存使用率(使用场景不一样...工作原理： 在系统中运行的每个进程都需要使用到内存，但不是每个进程都需要每时每刻使用系统分配的内存空间。...当系统运行所需内存超过实际的物理内存，内核会释放某些进程所占用但未使用的部分或所有物理内存，将这部分资料存储在磁盘上直到进程下一次调用，并将释放出的内存提供给有需要的进程使用。... 每秒从磁盘读入虚拟内存的大小，如果这个值大于0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。...，直到cs到一个比较小的值，这个进程和线程数就是比较合适的值了。
，磁盘类报警则相对来说属于性价比较高的，对于运维侧的需求则需要更进一步，那就是在重复度，复杂度的平衡中找到一种普适的处理办法，能够将这部分工作逐步的通过自动化方式处理，也就是从处理故障变为故障自愈模式。...，我们会汇总为一个指标巡检大盘： 1）磁盘空间使用率，拆分为根目录使用率和数据目录使用率 2）内存使用率 3）CPU使用率 4）inode使用率 5）系统负载情况 6）数据库延迟 这份指标能够发现绝大多数明显的问题...二.系统层处理 系统层处理的硬伤问题相对比较少，主要碰到几类： 1）查看系统层的空间使用异常，但是进程没有释放相关的句柄，导致空间没有彻底释放。...比如一个nohup任务生成的日志比较大，我们手工删除了生成的日志文件，但是空间却没有释放，一般来说，可以使用lsof来得到相关的句柄的明细，也可以看到磁盘空间占用较高的文件对应的进程，顺着这条线分析，...三.数据库层处理 数据库层的清理可做的空间相对比较大，前提是你给自己预留的空间要足够大，否则坑足够大处理起来会比较纠结。
，同步到硬件中 13.3 CPU性能分析 13.3.1 CPU使用率分析 一台计算机中，最重要的硬件当属cpu了，我们虽然可以查看得到cpu的型号、参数，但在系统运行中，cpu的具体使用率，也是我们重点关注的数据...但当网速较慢时，播放器会显示正在缓冲。可以想象到，正在缓冲的播放器，并未被关闭，但由于电影数据未能下载完毕，还不能播放，则该播放器即处于等待读写状态。...buffer是指有数据写入磁盘时的缓冲区，cache表示从磁盘读取出文件时在内存中使用的缓存。...但是有些软件的特点是会占据所有剩余内存或部分内存（虽然实际不会真正全部使用到），所以有些服务器上查看内存使用率较高，甚至达到90%+，不过这对系统速度和正常使用的影响不大。...我们以QQ程序为例，没有起来时，QQ程序存放于磁盘分区中，但被运行起来后，在windows任务管理器的进程页中，会显示为QQ.exe进程。QQ程序整个的执行过程又可分为以下多个步骤，如图： ?
针对这个问题，我们可以使用top命令查询当前系统中占用CPU过高的进程，并定位到这个进程中比较活跃的线程。再通过jstack命令打印当前虚拟机的线程快照，根据快照日志排查问题代码。...详细流程可以参考我的这篇文章： 如何定位当生产环境CPU飙升的时候的问题 二、磁盘I/O效率 在程序运行过程中会直接或者间接涉及一些与磁盘I/O相关的操作，比如程序直接读/写磁盘或者程序依赖的第三方组件对磁盘进行持久化存储...三、内存瓶颈 内存作为一块临时存储数据的组件，所有CPU运行的指令都需要从内存中去读/写。内存的合理使用可以减少应用和磁盘的I/O频率，减少网络I/O的频率，极大地提升I/O性能。...当内存使用率较高时，可以用dump命令查出JVM堆内存，用MAT工具进行分析，查出大对象或者占用内存最多的对象，以及排查是否存在内存泄漏的问题。...最后，预防服务器变慢需要定期检查、备份数据、优化代码等措施。 在未来的工作中，我们需要更加注重服务器的维护和优化，定期检查服务器的性能和状态，及时发现并解决问题。
这些场景对磁盘、内存有比较高的要求，因此，京东也做了相应优化，用于减少内存消耗，提升磁盘整体使用率，使用更廉价的磁盘来降低成本等等。...ChubaoFS 设计的每个 pod 可以共享一个存储卷，或者每个 pod 一个存储卷，当容器所在的物理机宕机后，容器的数据可以随着容器被同时调度到其他宿主机上， 保障数据可靠存储。 ?...初始阶段 最初，京东 Elasticsearch 集群部署是完全没有架构可言的，集群配置也都采用默认配置，一台物理机启动多个 Elasticsearch 进程，进程间完全共享服务器资源，不同业务之间使用集群进行隔离...物理机内存被 cache 占用，新创建实例启动时耗时特别长。 实例存储受单机磁盘容量限制，数据迁移时有发生。...启动对资源的消耗要低很多，可以做到快速的启停。另外由于是资源限制类，只限制最大使用量而不隔离最小，这样又可以做到虚拟化进行资源超买，提升资源使用率。
这个命令是我查看 Linux/Unix 最喜爱的命令，一个是 Linux/Unix 都支持，二是相比 top，我可以看到整个机器的 CPU,内存,IO 的使用情况，而不是单单看到各个进程的 CPU 使用率和内存使用率...si 每秒从磁盘读入虚拟内存的大小，如果这个值大于 0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。我的机器内存充裕，一切正常。...bi 块设备每秒接收的块数量，这里的块设备是指系统上所有的磁盘和其他块设备，默认块大小是 1024byte，我本机上没什么 IO 操作，所以一直是 0，但是我曾在处理拷贝大量数据(2-3T)的机器上看过可以达到...in 每秒 CPU 的中断次数，包括时间中断 cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的数目,...例如在 apache 和 nginx 这种 web 服务器中，我们一般做性能测试时会进行几千并发甚至几万并发的测试，选择 web 服务器的进程可以由进程或者线程的峰值一直下调，压测，直到 cs 到一个比较小的值
基本概念解释 cpu平均负载 定义：平均负载是指单位时间内，系统处于可运行状态和不可中断状态的平均进程数，也就是平均活跃进程数，和 CPU 使用率并没有直接关系。...0.50：没有任何作业在等待，但 CPU 正在处理以前的作业，并且它正在以 50％ 的容量进行处理。在这种情况下，操作系统还可以立即将 CPU 时间分配给其他进程，而无需将其置于保持状态。...1.00：队列中没有作业，但 CPU 正在以 100％ 的容量处理先前的作业，因此如果新进程请求 CPU 时间，则必须将其保留到另一个作业完成或当前 CPU 插槽时间（例如，CPU tick）到期，操作系统决定哪一个是下一个给定的进程优先级...CPU 密集型进程，使用大量 CPU 会导致平均负载升高；大量等待 CPU 的进程调度也会导致平均负载很高，此时 CPU 使用率也会比较高。...Shared:多个进程共享的内存总额 Buffers/cached:磁盘缓存的大小，Buffers是系统存放需要写入磁盘数据的临时区域，cached是操作系统从磁盘中读取进来的缓存数据 第一行 Mem
饱和度 ：资源不能再服务更多额外工作的程度，通常有等待队列。 错误 ：错误事件的个数。 这里需要注意的是：某些资源类型，比如内存，磁盘使用率指的是资源所用的容量。...所幸的是，常见的问题用较简单的指标就能发现(例如，CPU饱和度、内存容量饱和度、网络接口使用率、磁盘使用率)，所以这些指标要首先测量。...使用率超过60%可能会是问题，基于以下理由： 时间间隔的均值，可能掩盖了100%使用率的短期爆发 一些资源，诸如硬盘(不是CPU)，通常在操作期间是不能被中断的，即使做的是优先级较高的工作。...尽管CPU并没有100%地被使用，但已经达到了控制的上限，因此可运行的线程就必须等待轮到它们的机会。...关于内存使用率，前面的建议可得，100%的使用率通常是瓶颈的信号(检查饱和度并确认其影响)。使用率超过60%可能会是问题，所以对于内存平均使用率尽量保持到70%以内，超过70%,考虑扩容。
另一方面，对于内核计数器不能涵盖的细颗粒度内核数据，还必须要依赖内核跟踪采样工具获取。比如当IOPS较高时，我们想了解具体的每一个IO读写的具体文件信息，内核计数器中完全没有相关信息。...但同时对于一些高频使用的常规指标，如CPU、内存和网络使用率情况，使用白屏化监控平台展示，确实可以大大提升可观测性。...为了追求更加完美的磁盘空间稳定性，ssar仍然设计了更加积极的磁盘存储空间策略。还设置了专门的参数，当磁盘空间使用率达到阈值(默认90%)后，会停止数据采集。...不但如此，当由于其他进程原因使磁盘空间数据继续增长并超过90%时，ssar会启动对7天内较早历史数据的删除工作，直到磁盘空间使用率小于90%或将ssar历史数据基本删除。...唯一的缺点就是磁盘打满同时又需要消费ssar数据的场景，但这个场景概率极低。
这个命令是我查看Linux/Unix最喜爱的命令，一个是Linux/Unix都支持，二是相比top，我可以看到整个机器的CPU,内存,IO的使用情况，而不是单单看到各个进程的CPU使用率和内存使用率(使用场景不一样...si 每秒从磁盘读入虚拟内存的大小，如果这个值大于0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。我的机器内存充裕，一切正常。...bi 块设备每秒接收的块数量，这里的块设备是指系统上所有的磁盘和其他块设备，默认块大小是1024byte，我本机上没什么IO操作，所以一直是0，但是我曾在处理拷贝大量数据(2-3T)的机器上看过可以达到...in 每秒CPU的中断次数，包括时间中断 cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的数目,例如在...apache和nginx这种web服务器中，我们一般做性能测试时会进行几千并发甚至几万并发的测试，选择web服务器的进程可以由进程或者线程的峰值一直下调，压测，直到cs到一个比较小的值，这个进程和线程数就是比较合适的值了
相比top，通过vmstat可以看到整个机器的 CPU,内存,IO的使用情况，而不是单单看到各个进程的CPU使用率和内存使用率。...这表示vmstat每2秒采集数据，一直采集，直到我结束程序。 参数解释： vmstat命令输出分成六个部分： (1)进程procs： r：在运行队列中等待的进程数 。...si 每秒从磁盘读入虚拟内存的大小，如果这个值大于0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。 so 每秒虚拟内存写入磁盘的大小，如果这个值大于0，同上。...cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的 数目,例如在apache和nginx这种web服务器中...，我们一般做性能测试时会进行几千并发甚至几万并发的测试，选择web服务器的进程可以由进程或 者线程的峰值一直下调，压测，直到cs到一个比较小的值，这个进程和线程数就是比较合适的值了。
在Linux 系统中，这些数字包含了想要在 CPU 上运行的进程，同时也包含了阻塞在不可中断 I/O（通常是磁盘 I/O）上的进程。...对于比较高的 %iowait 时间也要注意，可以使用磁盘 I/O 工具进一步分析 ；如果出现较高的 %sys 值，可以使用系统调用（syscall）跟踪和内核跟踪，以及 CPU 剖析等手段进一步分析。...top(1) 命令虽然也很流行，但是pidstat(1) 默认支持滚动打印输出，这样可以采集到不同时间段的数据变化。...尽管这个改动已经被撤回了，但还是提醒你注意一下是否使用了有错误改动的pidstat(1)版本。 6. iostat -xz 1 这个工具显示了存储设备的 I/O 指标。...它只是报告某个设备在一段时间内100%繁忙，并没有说设备的使用率达到100%了：此时也许仍然可以接受更高的负载。
另一方面，对于内核计数器不能涵盖的细颗粒度内核数据，还必须要依赖内核跟踪采样工具获取。比如当IOPS较高时，我们想了解具体的每一个IO读写的具体文件信息，内核计数器中完全没有相关信息。...但同时对于一些高频使用的常规指标，如CPU、内存和网络使用率情况，使用白屏化监控平台展示，确实可以大大提升可观测性。...为了追求更加完美的磁盘空间稳定性，ssar仍然设计了更加积极的磁盘存储空间策略。还设置了专门的参数，当磁盘空间使用率达到阈值(默认90%)后，会停止数据采集。...不但如此，当由于其他进程原因使磁盘空间数据继续增长并超过90%时，ssar会启动对7天内较早历史数据的删除工作，直到磁盘空间使用率小于90%或将ssar历史数据基本删除。...后续当整机free内存逐步恢复到绿线high阈值以上后，kswapd线程停止内存回收工作。
在内存触顶的时候，组件会定时Dump这些堆栈信息到本地磁盘，这样如果程序爆内存了，就可以将爆内存前Dump的堆栈数据上报到后台服务器进行分析。 ?...通过这种方式可以把耗时较高的符号还原工作放到服务器端，客户端只需要执行耗时较少的堆栈函数地址回溯操作，优化后的堆栈回溯方法耗时低于1us。 ?...假设App的内存块个数为25W，堆栈平均深度20行，每个堆栈地址采用8字节的整型数据存储，那么25W个堆栈数据将占用40M的内存空间。...所以我们的优化思路也很明确：只保留内存占用较大的堆栈。要完成这个工作就必须对内存中所有堆栈先进行聚类合并，统计出每个堆栈累计的内存值。...数据Dump方案 前面提到，在内存触顶后要将内存中的堆栈数据定时Dump到磁盘中，常规的方案是IO接口直接把数据写入到磁盘。因为数据Dump的频率较高，频繁的IO操作会导致程序卡顿。
领取专属 10元无门槛券
手把手带您无忧上云
