一、现象 Hadoop进程CPU占800% 二、查问题 1、TOP z 高亮 H 显示线程 翻页 2、Jstatack sudo -u admin jstack 97932...593) at org.apache.hadoop.hive.ql.history.HiveHistory.logPlanProgress(HiveHistory.java:510) 3、进程名
本文结构: 介绍用命令行如何统计内存占用百分比 介绍用python 如何通过读取进程文件,统计进程的内存总大小,然后计算占系统内存的百分比 第一部分: 在linux 下,统计apache 进程的内存使用百分比...可以通过读取文件,获取各个apache 进程的VmRSS(物理内存)大小,以及系统的总内存。 2.1 通过什么文件查看进程占用内存的信息?...在"/proc" 目录下,那些数字目录,就是代表系统中的一个进程号的目录,该进程的状态都在这个目录下: ?...例如进入29845进程的目录,29845 这个进程的状态信息都可以在status 这个文件查看: ? 然后,打开/proc/29845/status 文件: ?...2.2 如何获取所有apache 的进程id号? 因为apache 通常都会fork 很多的子进程,这些子进程都会占用内存。
不过,2016年全美移动端数字程序化展示广告的占比仅为68%。
首先把进程放到后台 nohup python main.py & 然后保持退出终端继续运行 ctrl-z bg 输出在nohup.out里面 输入fg,可以把任务调到前台并取消 输入jobs...显示后台进程
一、思路 先与客户端建立好连接, 每次监听到一个客户端之后,都需要产生一个子进程去处理这个连接,然后父进程继续去等待监听,唯一一个要注意的点就是要使用信号来监听子进程是否结束,从而对其进行回收,防止僵尸进程的产生...&opt, sizeof(opt)); (3)bind函数 bind(lfd, (struct sockaddr*)&ser_addr, sizeof(ser_addr));b这个函数主要目的就是将服务器的地址结构绑定到套接字...lfd上,所以开始要设置服务器的ser_addr:ser_addr.sin_family = AF_INET, ser_addr.sin_port = htons(8888);ser_addr.sin_addr.s_addr...监听到了客户端后,就要开始创建子进程来对这个监听进行处理;pid = fork() 3、子进程处理通信 因为子进程不需要监听连接,使用可以close(lfd);之后便可以进行通信处理 void do_work...sizeof(buf)); tcp.Write(cfd, buf, n); tcp.Write(STDOUT_FILENO, buf, n); } } 4、父进程回收子进程
S 13:02 0:00 \_ /usr/sbin/httpd 我们查看httpd 服务器的进程;您也可以用pgrep -l httpd 来查看; 我们看上面例子中的第二列,就是进程PID的列,其中4830...是httpd服务器的父进程,从4833-4840的进程都是它4830的子进程;如果我们杀掉父进程4830的话,其下的子进程也会跟着死掉; [root@localhost ~]# kill 4840 注:...是不是httpd服务器仍在运行?...[root@localhost ~]# kill 4830 注:杀掉httpd的父进程; [root@localhost ~]# ps -aux |grep httpd 注:查看httpd的其它子进程是否存在...,httpd服务器是否仍在运行?
Nginx服务器的进程有3类:主进程、工作进程、缓存进程 (1)主进程 Nginx启动时运行的主要进程,主要功能是与外界通信和对内部其他进程进行管理 主要工作内容 1)读取配置文件,验证有效性和正确性...2)建立、绑定、关闭 socket 3)按照配置生成、管理、结束工作进程 4)接收指令,如 重启、升级、退出 5)不中断服务,平滑重启、升级,升级失败的回滚处理 6)开启日志文件,获取文件描述符 (2)...工作进程 由主进程生成,生成数量由配置文件指定,工作进程生存于主进程的整个生命周期 主要工作内容 1)接收请求 2)将请求依次送入各个功能模块进行过滤处理 3)IO调用,获取响应数据 4)与后端服务器通信...,接收后端服务器处理结果 5)数据缓存,访问缓存索引、查询、调用缓存数据 6)发送请求结果 7)接收主进程指令,如 重启、升级、退出 (3)缓存进程 缓存进程有两类 1)缓存索引重建进程 nginx启动后由主进程生成...,在缓存元数据重建完成后就自动退出 该进程启动后,对缓存文件的目录结构扫描,在内存中建立索引元数据库 2)缓存索引管理进程 生存于主进程的整个生命周期 负责在索引元数据更新完成后,对元数据是否过期进行判断
用 byte 存就占一字节,用 short 存就占两字节,int 通常是四字节,long 通常八字节。...字符是同样的道理,如果你想谈“占几个字节”,就要先把编码说清楚。同一个字符在不同的编码下可能占不同的字节。...就以你举的“字”字为例,“字”在 GBK 编码下占 2 字节,在 UTF-16 编码下也占 2 字节,在 UTF-8 编码下占 3 字节,在 UTF-32 编码下占 4 字节。...不同的字符在同一个编码下也可能占不同的字节。 “字”在 UTF-8 编码下占3字节,而“A”在 UTF-8 编码下占 1 字节。...如果一个抽象的字符在 UTF-16 编码下占 4 字节,显然它是不能放到 char 中的。换言之, char 中只能放 UTF-16 编码下只占 2 字节的那些字符。
从当前目录中读取ini配置文件的登录数据库必要的参数,登录数据库后获取两次备份的间隔天数,然后启动一个线程隔1分钟检查一下是否需要备份。...pg_dump \"host=%s port=%d user=%s password=%s dbname=%s\" > db_bak\\%s.bak" 这种可以避免输入密码,实现自动备份(不用配置环境变量或改动数据库的登录权限...getstr = PQgetvalue(result,0,0); if(getstr == NULL) goto END; args.t_space = atoi(getstr); //循环检查备份数据库
进程池 当需要创建的子进程数量不多时,可以直接利用 multiprocessing 中的 Process 动态生成多个进程,但如果是上百甚至上千个目标,手动创建进程的工作量巨大,此时就可以使用 multiprocessing...初始化 Pool 时,可以指定一个最大进程数,当有新的请求提交到 Pool 中时,如果池还没有满,那么就会创建一个新的进程用来执行该请求;但如果池中的进程数已经达到指定的最大值,那么该请求就会等待,直到池中有进程结束...# 等待po中所有子进程执行完成,必须放在close语句之后 print("-----end-----") 运行效果 ----start---- 0开始执行,进程号为21466 1开始执行,进程号为...21468 2开始执行,进程号为21467 0执行完毕,耗时1.01 3开始执行,进程号为21466 2执行完毕,耗时1.24 4开始执行,进程号为21467 3执行完毕,耗时0.56 5开始执行,进程号为...21466 1执行完毕,耗时1.68 6开始执行,进程号为21468 4执行完毕,耗时0.67 7开始执行,进程号为21467 5执行完毕,耗时0.83 8开始执行,进程号为21466 6执行完毕,耗时
次会用到我们上次写的多进程服务器 我们既然学习了 面向对象,就用面向对象来改进一个这个程序: import socket import re import multiprocessing class...self,): while True: cli_socket,cli_addr = self.tcp_server.accept() # 多进程实现调用该方法...self,): while True: cli_socket,cli_addr = self.tcp_server.accept() # 多进程实现调用该方法...5、框架通过查询数据库等,生成一个动态的body,再发送给服务器 简单实现一个WSGI协议 简单实现返回 Holle World 将上面的login文件里面的内容全部删掉,写上: def application...但是WSGI就是负责和服务器交互的,我们需要在服务器中修改。
当服务器有后台进程在运行时候,一般输出不会在命令行界面显示,需要一行命令来实时查看后台进程的输出结果先输入ps查看后台进程然后输入:python your_script.py > output.log...然后进入到后台程序的目录下面然后输入:tail -f output.log这样就可以实时查看后台进程输出了
多进程TCP并发服务器 最初的服务器都是迭代服务器,服务器处理完一个客户的请求,再接受下一个客户的请求。但是我们的期望应该是一台服务器同时为多个客户服务。...实现并发服务器最简单的办法就是为每个客户均fork一个子进程。...[accept返回后客户-服务器的状态] 并发服务器的下一步是调用fork,下图是从fork返回后的状态。此时描述字listenfd和connfd是父进程-子进程共享的。...[fork返回后客户-服务器的状态] 下一步是父进程关闭已连接套接口,子进程关闭监听套接口。...[父子进程关闭相应套接口后客户-服务器的状态] 最后的结果是子进程处理与客户的连接,父进程可对监听套接口调用accept来处理下一个连接。
故事情节: 有一天在聚餐中,我有一个朋友和我说他的服务器上有有个异常的进程他一直在占满CPU在运行,我在一顿谦虚之后答应了他,有空登录上他的服务器看一下具体情况。...就是以上三张图,在proc目录中的exe指向的文件已被删除,我看到这里,我好奇这个进程肯定是被隐藏掉了。这时,我急中生智跟这位朋友要了root账号密码。...登录服务器用top命令一看,发现一个奇怪的进程在运行,我使用kill命令将其杀后,等了十来分钟后,发现没有被启动,这时我和这位朋友说干掉了,他问我是不是kill掉了,我说嗯,他又补充到,这个进程杀掉过段时间会起来的...没过多久,我又看了一下,发现这个进程换了个名字又启动了。...还干满了CPU,就在这时,我在研究这个进程运行文件的时候发现: 这个进程会连到一个韩国的服务器上,我访问这个IP发现是一个正常的网站,没有异常情况。
进程间通信(三) — 进程同步原语及管道与队列 回顾操作系统所提供的所有进程间通信方式的系统调用,我们会发现还有两种进程间通信方式我们还没有介绍:共享内存与域套接字,本文我们就来介绍这剩下的几种 IPC...但 Python 的 multiprocessing 包中仍然提供了两种方法让你可以在多进程环境下共享数据: 共享内存 服务器进程 3....服务器进程 — server process python 提供了一种十分类似共享内存的数据共享机制 — 服务器进程。...通过 multiprocessing 包中的 Manager 类可以构造一个服务器进程对象,他支持用于进程间共享的多种数据类型: list dict Namespace Lock RLock Semaphore...BoundedSemaphore Condition Event Barrier Queue Value Array 一旦创建,对象的使用与原生类型的用法是完全相同的,因此相比于共享内存,服务器进程的使用更为简单和灵活
链接服务器登陆信息 sysprocesses 主数据库进程 sysremotelogins主数据库 远程登录帐号 syscolumns 每个数据库 列 sysconstrains 每个数据库...sid varbinary(85) 数据库创建者的系统 ID。 mode smallint 用于创建数据库时在内部锁定该数据库。...sysoledbusers 每个指定的链接服务器的用户和密码映射在表中占一行。该表存储在 master 数据库中。...open_tran smallint 进程的打开事务数。 status nchar(30) 进程 ID 状态(如运行、休眠等)。 sid binary(85) 用户的全局唯一标识符 (GUID)。...上的远程存储过程的远程用户占一行。 列名 数据类型 描述 remoteserverid smallint 远程服务器标识。
GlusterFS服务器端进程分析 服务端进程信息: root 348 0.0 0.2 273104 16268 ? ...bdda-0a4fe0223384 --brick-port 49155 --xlator-option tank-server.listen-port=49155 服务端重启glusterd服务,如下进程...0d5ba4a3-c6fa-4afd-ad39-a2842ca3cde0 --brick-port 49176 --xlator-option tank-server.listen-port=49176 其他3个进程...PID会变,生产新的进程。...当服务器端执行gluster volume stop操作后,上述进程消失,gluster volume start后会创建新的线程。
进程和线程的使用在前面博文已经讲述完毕,在完成一个最简单的服务器之后,就是要考虑下如何实现并发服务器了。 要实现服务的并发,只能通过进程和线程两种方式。...在实际并发服务器应用场合,在IO层大多通过两个地方来提高代码效率,一个是描述符处理,一个是线程/进程调度处理。 下图简单描述了并发服务器的原理: ?...在处理IO时,会用到IO复用技术提高效率,在线程/进程分配时,会先构造线程池或进程池,并以某种方式调度,这些在后续博文详细描述。 下面是并发实现的简单代码,利用线程和进程实现服务器的并发。...所以在代码中,父子进程都会关闭不需要的描述符。 测试结果如下: ? ps -aux查看系统进程,可以看到三个进程,一个是主进程用于listen监听,两个子进程进行通信。 ?...线程并发和进程并发各有优劣,目前大多服务器还是用线程进行并发的,进程要对父进程进行拷贝,资源消耗大,但相互直接资源互不影响,线程效率高但是要注意锁的使用,一个线程可能会影响整个服务器的运行。
(一般忽略不计) 接入层: 接入层处理时间(一般忽略不计) 服务器: 逻辑处理时间, I/O消耗,第三方依赖(rpc服务器,读写mq,读写缓存) 数据库: 数据库DML处理时间 查看方式 Jmeter...Top命令解读 >>>> top top - $当前时间 up $运行时间, $当前登录用户数, load average: $1min任务长度,$5min任务长度,$15min任务长度 Tasks: $进程数统计...%Cpu(s): $用户占比, $系统占比, $用户优先级更改占比, $空闲占比, $等待占比, $硬中断(Hardware IRQ)占用CPU的百分比,软中断(Software Interrupts...$进程信息 其他命令 查看CPU核心数 cat /proc/cpuinfo 准过标准 CUP负载 CPU使用率 评级 0.7*核心数 <70% 好 1*核心数 <80% 一般 1.5*核心数 85%...差 2*核心数 >85% 很差 内存swap 概念 内存使用率: 即物理内存已使用区域对总内存的占比 swap: 磁盘上的一个特殊区域, 物理内存紧张是,会将不长访问的数据放到swap中.
仅供学习,转载请注明出处 前情回顾 前面写了两个篇章,主要介绍了使用tcp开发web服务器的功能。...Python 开发Web静态服务器 - 返回固定值:胖子老板,来包槟榔 Python 开发web服务器,返回HTML页面 但是这服务端是有一个致命的性能问题,那就是采用循环接收http请求。...,args=(client_socket,)) new_process.start() # 开启子进程 好了,这里就已经加好了子进程。...其实,这个就是多进程的特性,子进程会从开启之前复制前面的代码,包含了client_socket接口,当子进程运行的时候,并无法关闭,这就需要从主进程来关闭了。...# 因为子进程已经复制了父进程的套接字等资源,所以父进程调用close不会将他们对应的这个链接关闭的 client_socket.close() if __name__