似乎有人不知道nodejs是支持多核的？v0.10 Cluster可以搭建nodejs多核服务。v0.12重写了Cluster，据说提升了非常大的性能。
任何的服务器的性能都是有极限的，面对海量的互联网访问需求，是不可能单靠一台服务器或者一个CPU来承担的。所以我们一般都会在运行时架构设计之初，就考虑如何能利用多个CPU、多台服务器来分担负载，这就是所
任何的服务器的性能都是有极限的，面对海量的互联网访问需求，是不可能单靠一台服务器或者一个CPU来承担的。所以我们一般都会在运行时架构设计之初，就考虑如何能利用多个 CPU、多台服务器来分担负载，这就是所谓分布的策略。分布式的服务器概念很简单，但是实现起来却比较复杂。因为我们写的程序，往往都是以一个 CPU，一块内存为基础来设计的，所以要让多个程序同时运行，并且协调运作，这需要更多的底层工作。
如今 Twemproxy 凭借其高性能的优势, 在很多互联网公司得到了广泛的应用，已经占据了不可动摇的地位，
很多同学都听说过，现代操作系统比如Mac OS X，UNIX，Linux，Windows等，都是支持“多任务”的操作系统。
. 经典的服务器结构概述（中） 今天将和大家详细探讨分服模型，本文结构如下： 1模型描述 分服模型是游戏服务器中最典型，也是历久最悠久的模型。其特征是游戏服务器是一个个单独的世界。每个服务器的帐号是独
本文介绍了多进程模型在游戏服务器端开发中的实践，重点讲解了如何利用多进程模型实现游戏服务器的负载均衡、服务状态管理、无缝扩展和容灾备份等方面的技术和实现方式。
当我们用SRS快速搭建了视频服务，业务也开始上线运行了，很快就会遇到一个问题：如何支持更多的人观看？如何支持更多的人推流？这本质上就是系统的水平扩展能力，SRS当然是支持的，而且有多种扩展的方法，这篇文章就就详细分析各种扩展的方案，以及各种方案的应用场景和优缺点。 从哪里开始 我们看最简单的视频服务，推一个流，只有一个播放器消费流，我们只需要一个SRS Origin源站服务就可以： listen 1935;max_connections 1000;vhost __
多进程并发即运行多个独立的程序，优势在于并发处理的任务都由操作系统管理，不足之处在于程序与各进程之间的通信和数据共享不方便；
上一篇我们介绍了Nginx的是适用场景。今天我们来介绍一下Nginx的进程结构模型。
首先要实现多任务，我们需要设计Master-Worker模式，Master负责分配任务，Worker负责执行任务。因此，多任务环境下，通常是一个Master，多个Wroker。
在现代网络应用程序开发中，性能和可伸缩性是至关重要的。Node.js 是一个基于事件驱动、非阻塞 I/O 的 JavaScript 运行时环境，它以其高性能和高度可伸缩的特性而著名。然而，在处理大量并发请求时，单一的 Node.js 进程可能无法满足需求。为了充分利用多核 CPU 和更好地利用系统资源，Node.js 提供了多进程支持。
并发IO问题一直是后端编程中的技术挑战，从最早的同步阻塞Fork进程，到多进程/多线程，到现在的异步IO、协程。PHP程序员因为有强大的LAMP框架，对底层方面的知识知之甚少，本文目的就是详细介绍PHP进行并发IO编程的各种尝试，最后再介绍Swoole的使用，深入浅出全面理解并发IO问题。
遇上项目紧急情况，面对大量需要试算的数据时，如何快速提升计算效率，可能是最现实的问题。计算机操作系统提供了进程和线程模型，各种语言都有对这些模型的抽象，并且大多数系统都支持多进程和多线程任务处理。从这个角度，工程上是可以提升计算效率的。但是，什么样的任务适合多线程或多进程？如果适合，选用多线程，还是多进程？这些都是需要去决策的，如果选用不恰当，费了功夫，却没有太大提升。
原文出处： 韩天峰（@韩天峰-Rango） 并 发IO问题一直是后端编程中的技术挑战，从最早的同步阻塞Fork进程，到多进程/多线程，到现在的异步IO、协程。PHP程序员因为有强大的LAMP框架，对底层方面的知识知之甚少，本文目的就是详细介绍PHP进行并发IO编程的各种尝试，最后再介绍Swoole的使用，深入浅出全面理解并发IO问题。 多进程/多线程同步阻塞 最早的服务器端程序都是通过多进程、多线程来解决并发IO的问题。进程模型出现的最早，从Unix系统诞生就开始有了进程的概念。最早的服务器端程序一般都是
一 数据结构和GIL 1 queue 标准库queue模块，提供FIFO的queue、LIFO的队列，优先队列 Queue 类是线程安全的，适用于多线程间安全的交换数据，内部使用了Lock和Condition ---- 为什么说容器的大小不准确，其原因是如果不加锁，是不可能获取到准确的大小的，因为你刚读取了一个大小，还没取走，有可能被就被其他线程修改了，queue类的size虽然加了锁，但是依然不能保证立即get，put就能成功，因为读取大小和get,put方法是分来的。 2 GIL 1
IBM有个家伙做了个测试，发现切换线程context的时候，windows比linux快一倍多。进出最快的锁（windows2k的 critical section和linux的pthread_mutex），windows比linux的要快五倍左右。当然这并不是说linux不好，而且在经过实际编程之后，综合来看我觉得linux更适合做high performance server，不过在多线程这个具体的领域内，linux还是稍逊windows一点。这应该是情有可原的，毕竟unix家族都是从多进程过来的，而 windows从头就是多线程的。
面试中经常会被问到高性能服务模型选择对比，以及如何提高服务性能和处理能力，这其中涉及操作系统软件和计算机硬件知识，其实都是在考察候选人的基础知识掌握程度，但如果没准备的话容易一头雾水，这次带大家从头到尾学习一遍，学完这一篇再也不怕面试官刨根问底了！
根据我们之前的一贯思路，对于一个工具来说都有一定边界和基础，然而软件或者数学都是基于一定的边界的，这些边界条件的变化也会对结果产生一定的影响，但是本质上没有改变。作者将这种重要的点叫做边界。边界的改变会对结果有很大的影响，但不改变主题，所以存在最优的边界条件。寻找最优的过程就是优化。
单进程单线程：一个人在一个桌子上吃菜。 单进程多线程：多个人在同一个桌子上一起吃菜。 多进程单线程：多个人每个人在自己的桌子上吃菜。
观察了周围，工作了几年，大部分人都是埋着头拉车，而不愿去抬头思考一下，思考spring为什么能够管理那么多的javabean，思考Tomcat为什么能够把用户的请求转发给java类，这些都是怎么做到的。
1 cluster多进程 cluster经过好几代的发展，现在已经比较好使了。利用cluster，可以自动完成子进程worker分配request的事情，就不再需要自己写代码在master进程中robin式给每个worker分配任务了。 const cluster = require('cluster'); const http = require('http'); const numCPUs = require('os').cpus().length; if (cluster.isMaster) {
现在多进程多线程已经是老生常谈了，协程也在最近几年流行起来。python中有协程库gevent，py web框架tornado中也用了gevent封装好的协程。本文主要介绍进程、线程和协程三者之间的区别。
IO在计算机中指Input/Output，也就是输入和输出。由于程序和运行时数据是在内存中驻留，由CPU这个超快的计算核心来执行，涉及到数据交换的地方，通常是磁盘、网络等，就需要IO接口。
在Thread和Process中，应当优选Process，因为Process更稳定，而且，Process可以分布到多台机器上，而Thread最多只能分布到同一台机器的多个CPU上。
从业很多年，对于语言其实并没有什么偏执，工作需要什么语言就用什么语言。大家用的最多的可能是C/C++语言，毕竟是算竞的主流，也有很多同学使用Java或者python，再有一些可能使用c#、go、php、ruby等等。
并且它们会共享相同的上下文。当其他线程运行时，它可以被抢占（中断）和临时挂起（也称为睡眠） ；
一直以来很少看到有多少人使用php的socket模块来做一些事情，大概大家都把它定位在脚本语言的范畴内吧，但是其实php的socket模块可以做很多事情，包括做ftplist,http post提交，smtp提交，组包并进行特殊报文的交互（如smpp协议），whois查询。这些都是比较常见的查询。
谈到Redis缓存，我们描述其性能时会这么说：支持1万并发连接，几万QPS。而我们描述Nginx的高性能时，则会宣示：支持C10M（1千万并发连接），百万级QPS。Nginx用C语言开发，而Redis是用同一家族的C++语言开发的，C与C++在性能上是同一级数的。Redis与Nginx同样使用了事件驱动、异步调用、Epoll这些机制，为什么Nginx的并发连接会高出那么多呢？（本文不讨论Redis分布式集群）
在服务器端程序开发领域，性能问题一直是备受关注的重点。业界有大量的框架、组件、类库都是以性能为卖点而广为人知。然而，服务器端程序在性能问题上应该有何种基本思路，这个却很少被这些项目的文档提及。本文正式希望介绍服务器端解决性能问题的基本策略和经典实践，并分为几个部分来说明：
前面也提到了一个进程至少包含一个线程，其实进程就是由若干个线程组成的。线程是操作系统直接支持的执行单元，因此高级语言通常都内置多线程的支持，Python 也不例外，而且 Python 的线程是真正的 Posix Thread ，而不是模拟出来的线程。
作为老牌服务器，Apache仍在不断地发展，就目前来说，它一共有三种稳定的MPM（Multi-Processing Module，多进程处理模块）。它们分别是 prefork、worker 和 event 。
为了说明白为什么引入线程这个概念，我们将线程和进程进行一个对比，这个问题就很清晰明了了。
以下内容为入门级介绍，意在对老技术作较全的总结而不是较深的研究。主要参考《构建高性能Web站点》一书。
SRS单进程能支持9000并发，nginx-rtmp单进程最多支持3000个，单进程的性能SRS是nginx-rtmp的三倍。SRS单进程性能如何做到nginx-rtmp的三倍的？SRS哪几个结构极大提升了性能？ 先来看看我们遇到的问题，RTMP协议和HTTP协议是又很大不同的。nginx在分发HLS，即m3u8文本文件和ts视频文件时，对所有连接发送的都是同一个内容，甚至可以调用sendfile让内核自己发fd去，nginx服务器自己要干的事情很少了；如果nginx必须把每个ts的内容读出来，修改里面某些
之前一直都用python的多线程库(比如threading)来写一些并发的代码，后来发现其实用这个方法写的程序其实并不是真正的并行(parrallel)计算，而只是利用单个CPU进行的并发(concurrency)计算。因此，多线程也仅仅只在处理一些被频繁阻塞的程序时才会有效率上的提升，比如网络爬虫里等待http返回等；而在CPU使用密集的程序里使用多线程反而会造成效率的下降。那么为什么python不把threading库设计成并发的线程呢？这是因为python本身有一个全局翻译锁，叫GIL(Global Interpreter Lock)，这个锁的目的是让当前的python解释器在同一时间只能执行一条语句，从而保证程序的正确运行，这也就导致了一个python解释器只能并发处理而不能并行处理。那么，如果想并行的执行代码，显然需要开启多个python解释器，这也就不是多线程，而是多进程了，因此python在多线程库里并不支持多核处理，而是在多进程库(multiprocessing)里支持多核处理。
前言：服务器是现代软件中非常重要的一个组成。今天分享一下服务器设计的一些模式。因为现代的服务器软件中，常见的都是基于TCP的，所以本文的内容也是基于TCP的。
Nginx ，是一个 Web 服务器和反向代理服务器用于 HTTP、HTTPS、SMTP、POP3 和 IMAP 协议。
序： 这里指的服务器是指提供HTTP服务的服务器，人们通常衡量一台web服务器能力的大小为其在单位时间内能处理的请求数的多少。 3.1 吞吐率 Web服务器的吞吐率是指其单位时间内所能处理的请求数。更关心的是服务器并发处理能力的上限即最大吞吐率。 Web服务器在实际工作中，其处理的Http请求包括对很多不同资源的请求即请求的url不一样。正因为这种请求性质的不同，Web服务器并发能力的强弱关键在于如何针对不同的请求性质设计不同的并发策略。有时候一台Web服务器要同时处理许多不同性质的
本文内容来自《Jexus web server运行于多进程模式时需要注意的事项》，默认情况下，Jexus web server是以单进程模式运行的，当修改jws.config配置文件，把工作进程数量设置为大于1的数字时，JWS就会按指定的数量以多进程的方式并发工作。多进程模式运行Jexus就相当于IIS 6的Web Garden。配置使用多个工作进程可以提高该应用程序池处理请求的性能，但是在设置为使用多个工作进程之前，请考虑以下两点： 每一个工作进程都会消耗系统资源和CPU占用率；太多的工作进程会导致系统
那么我们为什么需要并发编程呢？举个简单的例子，如果你想开发一个界面应用程序，这个程序需要若干个存有100万个数据的CSV文件进行处理，然后将处理完的数据写入到另外的文件，那么这个程序的任务就可以分为三个小部分：导入CSV文件，处理数据，写出数据，界面显示进度（导入/写出），如果不使用并发，那么需要先等所有的CSV文件导入后，然后处理数据，再处理数据的同时更新数据处理的进度，然后处理下一个数据之前需要等待当前数据写入到文件，这样的话，在处理一个任务的时候，另外的任务会处于“僵死”的状态。比如处理数据的时候，界面上的按钮将无法使用，点击界面上控件的时候，数据将无法被处理。
在原生 PHP 中并没有并发的概念，所有的操作都是串行执行的、同步阻塞的，这也是很多人诟病 PHP 性能的原因，但是不支持并发编程的好处也是显而易见的：保证了 PHP 的简单性，开发者不必考虑并发引入的线程安全，也不需要在编程时权衡是否需要通过加锁来保证某个操作的原子性，也没有线程间通信问题，鱼和熊掌不可得兼，你不可能既要上手简单又要高性能，实际上，90%以上公司的业务和场景根本对性能没有那么高的要求，传统的 Nginx + PHP-FPM 完全以胜任了，如果非要在 PHP 中实现异步和并发编程，推荐使用 Swoole 扩展来解决（实际上，Swoole 实现并发编程的协程功能正是借鉴了 Go 语言的协程实现机制）。
本文首发于腾讯云+社区，也可关注微信公众号【离不开的网】支持一下，就差你的关注支持了。
领取专属 10元无门槛券
手把手带您无忧上云
