对于多处理器调度，此处概述了多个处理器可能带来的问题和设计上的一些问题；对于实时调度，概述了两种调度方法：限时调度和速率单调调度。
在打算写这篇多线层底层实现机制的时候，突然发现自己对于计算机竟然懂得这么表面，对于CPU的工作原理都不完全清楚，于是又转头查看了一些CPU相关的资料。也不敢钻的太深，怕自己迷路...，其中如有错误，望知道的朋友在下面留言评论，我会及时更新的。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-NMyHNqj4-1591867681155)(https://raw.githubusercontent.com/Coxhuang/yosoro/master/20190507225848-image.png)]
在学习完常规的语法后，我们将进入下一步的学习，而多线程则是被大多数人认为的下一步的学习目标，因为在有了基础的语法大框架后我们都有了对编程的一个基本的认知，而多线程则是开始有了一定的深度。
并发(concurrency)：指在同一时刻只能有一条指令执行，但多个进程指令被快速的轮换执行，使得在宏观上具有多个进程同时执行的效果，但在微观上并不是同时执行的，只是把时间分成若干段，使多个进程快速交替的执行。
每个进程有自己的地址空间，保存进程映像，控制一些资源(文件，I/O设备)，有状态、优先级、调度
Go语言是一门旨在提高开发效率和执行效率的静态类型编程语言，被认为是一个非常适合构建高并发应用程序的语言。然而，在处理异步任务时，Go语言并没有提供很好的解决方案。Asynq是一个新兴的异步任务处理解决方案，是由一个开源团队设计和实现的，它提供了轻量级的、易于使用的API，并且具有高可扩展性和高可定制化性。
学习多线程的时候会遇到一个名词：并发。这是属于操作系统中的词汇，需要了解并发和并行的区别，从网上搜集了几种说法帮助理解。 一： 并发是指一个处理器同时处理多个任务。 并行是指多个处理器或者是多核的处理器同时处理多个不同的任务。 并发是逻辑上的同时发生（simultaneous），而并行是物理上的同时发生。 来个比喻：并发是一个人同时吃三个馒头，而并行是三个人同时吃三个馒头。 二： 并行(parallel)：指在同一时刻，有多条指令在多个处理器上同时执行。就好像两个人各拿一把铁锨在挖坑，一小时后，每人一个大坑。所以无论从微观还是从宏观来看，二者都是一起执行的。
在计算机上，打开Microsoft Word和Web浏览器。我们称之为这两个进程。
ASP.NET 的请求结构试图在执行请求的线程数和可用资源之间达到一种平衡。已知一个使用足够 CPU 功率的应用程序，该结构将根据可用于请求的 CPU 功率，来决定允许同时执行的请求数。这项技术称作线程门控。但是在某些条件下，线程门控算法不是很有效。通过使用与 ASP.NET Applications 性能对象关联的 Pipeline Instance Count 性能计数器，可以在 PerfMon 中监视线程门控。
先来先服务(FCFS)调度算法是一种最简单的调度算法，该算法既可用于作业调度，也可用于进程调度。当在作业调度中采用该算法时，每次调度都是从后备作业队列中选择一个或多个最先进入该队列的作业，将它们调入内存，为它们分配资源、创建进程，然后放入就绪队列。在进程调度中采用FCFS算法时，则每次调度是从就绪队列中选择一个最先进入该队列的进程，为之分配处理机，使之投入运行。该进程一直运行到完成或发生某事件而阻塞后才放弃处理机。
2005年3月，C++大师Herb Sutter在Dr.Dobb’s Journal上发表了一篇名为《免费的午餐已经结束》的文章，一石激起千层浪，该文引起了社区广大程序员的热烈讨论。文章指出：现在的程序员对效率、伸缩性、吞吐量等一系列性能指标相当忽视，很多性能问题都依仗越来越快的CPU来解决。但CPU的速度很快将偏离摩尔定律的轨迹，并达到一定的极限。所以，越来越多的应用程序将不得不直面性能问题。而解决这些问题的办法就是采用并发编程技术。当你读到这里的时候，第一感觉可能就是“不敢苟同”，觉得作者在危言耸听，妖言惑众，过分渲染并发编程的重要性。
Python提供了thread、threading等模块来进行线程的创建与管理，后者在线程管理能力上更进一步，因此我们通常使用threading模块。创建一个线程需要指定该线程执行的任务（函数名）、以及该函数需要的参数，
大家好，我是渔夫子。今天跟大家分享一篇操作系统相关的文章，该篇文章在medium中具有高达7.7K的点赞数，所以肯定还是值得一读的，文末附原文链接。
编程问题中的相当一大部分都可以通过顺序编程来解决。然而，对于某些问题，如果能够并行的执行程序中的多个部分，则会变得非常方便甚至非常必要，这些部分要么可以并发执行，要么在多处理器环境下可以同时执行。 并发编程可以使程序执行速度得到极大的提高，或者为设计某些类型的程序提供更简单的模型。学习并发编程就像进入一个全新的领域，有点类似于学习一门新的编程语言，或者是学习一整套新的语言概念。要理解并发编程与理解面向对象编程差不多。要想真正的掌握它的实质，就需要深入的学习和理解。 并发的多面性 并发编程令人困惑的一个重要原
上述两个特点是独立的，因此操作系统可以独立地处理它们。为了区分这两个特点，分派的单位通常称做线程（thread）或轻量级进程（light weight process，LWP）；拥有资源所有权的单位通常仍称作进程（process）或任务（task）。
出处：www.cnblogs.com/sxpujs/p/12638114.html
这一点在数据量大、运算复杂度不高的条件下极为适用。可以简单地把一块GPU想象成一个超多核的CPU运算部件。这些CPU有自己的寄存器，还有供数据交换用的共享内存、缓存，同时周围还有取指部件和相应的调度机制，保证指令能够在之上执行。
一 并发与并行 无论是并行还是并发，在用户看来都是'同时'运行的，不管是进程还是线程，都只是一个任务而已，真是干活的是cpu，cpu来做这些任务，而一个cpu同一时刻只能执行一个任务 一 并发：是伪并行，即看起来是同时运行。单个cpu+多道技术就可以实现并发，（并行也属于并发） 二 并行：同时运行，只有具备多个cpu才能实现并行 单核下，可以利用多道技术，多个核，每个核也都可以利用多道技术（多道技术是针对单核而言的） 有四个核，六个任务，这样同一时间有四个任务被执
并行(parallel)：指在同一时刻，有多条指令在多个处理器上同时执行。所以无论从微观还是从宏观来看，二者都是一起执行的。
Fork/Join框架继承ExecutorService接口，帮助我们方便利用多处理器的优点。它专为可以递归分解成小块的工作而设计。目标是使用所有可用的处理能力来提高应用程序的性能。
调度是操作系统里面一个很重要的概念，进程中有调度，页面置换有调度，磁盘访问也有调度，本文讲述的是进程之间的调度，以及多处理器之间的调度策略。废话不多时直接来看，先来简单了解各种概念：
引入进程 的目的： 使多个程序能并发执行，提高资源利用率和系统吞吐量。 引入线程 的目的： 应用的需要/ 开销的考虑/ 性能的提升
内核从本质上看是一种软件——控制计算机的硬件资源，并提供上层应用程序运行的环境。用户态即上层应用程序的活动空间，应用程序的执行必须依托于内核提供的资源，包括CPU资源、存储资源、I/O资源等。
今晚我的一个朋友childofcuriosity喊我写操作系统，然而我什么都不会。。。
工程师 Jim Anderson 分享了他的经验，他写了一篇关于「通过并发性加快 python 程序的速度」的文章。Jim 有多年的编程经验，并且使用过各种编程语言。他曾做过嵌入式系统相关的工作，开发过分布式系统，并且参加过许多会议。
非对称存储访问结构(NUMA,NonUniform Memory Access)是最新的内存管理技术，是对多处理器结构(SMP,Symmetric MultiProcessor)改进。随着CPU核心数量和频率的不断提升，SMP下所有CPUCore都通过同一个内存控制器访问内存，性能瓶颈越来越严重。所以最新的多处理机服务器把内存控制拆分，由不同的CPU管理自己的内存地址。
Linux内核的DL调度器是一个全局EDF调度器，它主要针对有deadline限制的sporadic任务。注意：这些术语已经在本系列文章的第一部分中说明了，这里不再赘述。在这本文中，我们将一起来看看Linux DL调度器的细节以及如何使用它。另外，本文对应的英文原文是https://lwn.net/Articles/743946/，感谢lwn和Daniel Bristot de Oliveira的分享。
操作系统对内存的使用是按段的，例如: 我们编写的一个程序被操作系统加载到内存是按照数据段，代码段等形式分段载入。而操作系统自身的代码也是按段载入的，为了确保安全性，我们用户编写的程序是不能直接访问操作系统的相关段的，因此需要给不同段赋予不同的特权级。
程序并不能单独运行，只有将程序装载到内存中，系统为它分配资源才能运行，而这种一个程序在一个数据集上的一次动态执行过程就称之为进程。程序和进程的区别就在于：程序是指令的集合，它是进程运行的静态描述文本；进程是程序的一次执行活动，属于动态概念。进程一般由程序、数据集、进程控制块三部分组成。
前言 随着Java的发展，并发这个概念不再是服务端独有的了。Android等移动端在App越做越大的趋势下，合理地控制并发也成为了一个非常重要的技能。在这里对Android开发中可能用到的并发知识做一个记录，以作备忘。 ---- 线程 提到并发不得不提线程。线程就是CPU将计算的时间片，分配给某个任务。线程与CPU核心数量并不直接关系，单核CPU也可以模拟出多线程，只是它将时间片分给不同的线程，让他们交叉执行任务。 值得注意的是，线程的主要作用是让任务能够并行执行。它并不能保证任务能够更快的执行。尤其在单核
当我们试着通过 Linux 命令 nproc 和 lscpu 了解一台计算机 CPU 级的架构和性能时，我们总会发现无法正确地理解相应的结果，因为我们会被好几个术语搞混淆：物理 CPU、逻辑 CPU、虚拟 CPU、核心、线程和 Socket 等等。如果我们又增加了超线程（不同于多线程），我们就会开始不知道计算机里面到底有多少核心，我们搞不明白为什么像 htop 这样的命令会在我们认为买的是一台单核计算机上返回拥有 8 个 CPU 的结果。这样的情况一片混乱。
并发问题是所有问题的基础，也是操作系统设计的基础。并发包括很多设计问题，其中有进程间通信，资源共享与竞争，多个进程活动的同步以及分配给进程的处理器时间的。
性能测试中当我们尝试使用 Linux 命令（如 nproc 或 lscpu ）了解服务器CPU架构和性能参数时，我们经常发现我们无法正确解释其结果，因为我们混淆CPU、物理核、逻辑核概念等术语。
多道程序操作系统的基础。通过在进程之间切换CPU，操作系统可以提高计算机的吞吐率。
为了我们获得并行能力，需要做一些配置CIA可以，这个配置在内核启动中写。它们指定了Grid中块的数量，和每一个块中线程的数量。每个快上面有512或者1024个线程。
pthread_t 到底是什么类型呢？取决于实现。对于Linux目前实现的NPTL实现而言，pthread_t类型的线程ID，本质就是一个进程地址空间上的一个地址。
大部分操作系统(如Windows、Linux)的任务调度是采用时间片轮转的抢占式调度方式，也就是说一个任务执行一小段时间后强制暂停去执行下一个任务，每个任务轮流执行。任务执行的一小段时间叫做时间片，任务正在执行时的状态叫运行状态，任务执行一段时间后强制暂停去执行下一个任务，被暂停的任务就处于就绪状态等待下一个属于它的时间片的到来。这样每个任务都能得到执行，由于CPU的执行效率非常高，时间片非常短，在各个任务之间快速地切换，给人的感觉就是多个任务在“同时进行”，这也就是我们所说的并发(别觉得并发有多高深，它的实现很复杂，但它的概念很简单，就是一句话：多个任务同时执行)。多任务运行过程的示意图如下：
线程的创建和销毁都要耗费大量的时间，有什么更好的办法？用线程池！ 太多的线程浪费内存资源，有什么更好的办法？用线程池！ 太多线程有损性能，有什么更好的办法？用线程池！(⊙_⊙)? 线程池是什么？继前三
进程是表示资源分配的基本单位，又是调度运行的基本单位。例如，用户运行自己的程序，系统就创建一个进程，并为它分配资源，包括各种表格、内存空间、磁盘空间、I/O设备等。然后，把该进程放人进程的就绪队列。进程调度程序选中它，为它分配CPU以及其它有关资源，该进程才真正运行。所以，进程是系统中的并发执行的单位。
太白金星在一个时间段内有很多任务要做：python备课的任务，写书的任务，交女朋友的任务，王者荣耀上分的任务，
而实际上，在Linux中，进程不止一个执行流，而是可能会有几个或很多个。同一个进程中，每一个执行流都指向同一个虚拟地址空间，由操作系统创建。即在完整的进程中，进程包括：若干个执行流，虚拟地址空间，页表，以及存在物理内存中属于该进程的数据和代码。
本帖经过多方整理，大多来自各路书籍《GPGPU编程技术》《cuda高性能》 1 grid 和 block都可以用三元向量来表示： grid的数组元素是block block的数组元素是grid 但是1.x计算能力的核心，grid的第三元必须为1.block的X和Y索引最大尺寸为512 2 通过__launch_bounds__(maxBlockSize,minBlocksPerMp)来限制每个block中最大的线程数，及每个多处理器上最少被激活的block数 3 SM streaming multip
1、线程的基本概念 概念： 线程是进程中执行运算的最小单位，是进程中的一个实体，是被系统独立调度和分派的基本单位，线程自己不拥有系统资源，只拥有一点在运行中必不可少的资源，但它可与同属一个进程的其它线程共享进程所拥有的全部资源。一个线程可以创建和撤消另一个线程，同一进程中的多个线程之间可以并发执行。 好处 ： （1）易于调度。 （2）提高并发性。通过线程可方便有效地实现并发性。进程可创建多个线程来执行同一程序的不同部分。 （3）开销少。创建线程比创建进程要快，所需开销很少。。 （4）利于充分发
进程是表示资源分配的基本单位，又是调度运行的基本单位。例如，用户运行自己的程序，系统就创建一个进程，并为它分配资源，包括各种表格、内存空间、磁盘空间、I/O设备等。然后，把该进程放人进程的就绪队列。进程调度程序选中它，为它分配CPU以及其它有关资源，该进程才真正运行。所以，进程是系统中的并发执行的单位。如下图所示，在 windows 中通过查看任务管理器的方式，我们就可以清楚看到 window 当前运行的进程（.exe文件的运行）。
这两周属实忙到分身乏术，不过咕咕这么久也属实不应该。听取了某位不愿透露姓名的大佬级资深读者反馈，内容应该更具有实用性，将问题场景带入工作中再去分析怎么实现、目的是什么、这么做有什么优缺点，而不仅仅是干干巴巴的理论框架。感谢大佬的点拨。为了保质保量，为了读者大佬们，也为了我乌黑亮丽的秀发，公众号将改为周更的形式，输出一周的学习和思考，尽我所能产出高质量的文章！日拱一卒，我们开始吧！
显然，线程安全的问题只会出现在多线程环境中，那么为什么会有多线程呢？ 最早期的计算机十分原始，还没有操作系统。想要使用计算机时，人们先把计算机可以执行的指令刻在纸带上，然后让计算机从纸带上读取每一条指令，依次执行。这时候的计算机每次只能执行一个任务，是地地道道的单线程。 这种情况下就产生了三个问题: 1. 计算资源的严重浪费 计算机在执行任务时，总少不了一些输入输出操作，比如计算结果的打印等。这时候CPU只能等待输入输出的完成。所以往往一个任务执行下来，可能CPU大部分人时间都是空闲的。而在当时CPU可是一种非常昂贵的资源，于是人们就想怎么能够提高CPU的利用率呢？ 2. 任务分配的不公平 现在假如我们有十个任务需要执行，这可是很常见的。而计算机每次只能执行一个任务，直到执行结束，中间不能中断。那么问题来了，是先执行张三给的任务呢？还是先干李四的活呢？张三和李四可能拥有同样的优先级，因此无论怎么分配任务总会有人不满意，觉得不公平。 3. 程序编写十分困难 计算机一次只能执行一个任务，所以编写程序的时候往往要把很多工作集成到一个程序中，这给程序的编写人员带来了极大的挑战。能不能把程序分模块编写，然后让模块之间只进行必要的通信呢？ 为了解决这些问题，计算机操作系统应运而生。操作系统就是管理计算机硬件与软件资源的计算机程序。那么操作系统如何同时执行多个任务呢？操作系统给每个任务分配一个进程，然后给进程分配相应的计算资源、IO资源等，这样进程就能执行起来了。操作系统会控制多个进程之间的切换，给每个进程分配一定的执行时间，然后再切换另一个进程，这样多个进程便可以轮流着交替执行。因为轮流的时间很短，用户会觉得仿佛在独占计算机资源来执行自己的任务。 进程虽然一定程度上缓解了我们提到的那三个问题，但是还是会存在问题。给大家举两个例子。一个例子是进程只能干一件事，或者说进程中的代码是串行执行的。这有什么问题吗？当然有。比如我们用软件安装包安装一个程序，安装过程中突然不想安装了，然后点击了取消按钮，结果你发现程序并没有取消安装。为什么呢？因为进程正在执行安装程序的代码，用户的输入只有等待安装程序的代码完成之后才能执行。所以你发现等进程响应了你取消安装的输入时，其实安装程序早已执行完成。用专业术语来说，就是用户接口的响应性太差了，用户的输入不能第一时间响应，甚至出现界面假死现象。另一个例子是现在大部分的处理器是多处理器，比如现在有一个双处理器，而只有一个任务。那么这个任务只能由一个进程来执行，而一个进程只能由一个处理器来执行，那么就有50%的计算资源被浪费了。 这时候，就要说到线程了。线程是进程中实施调度和分派的基本单位。一个进程可以有多个线程，但至少有一个线程；而一个线程只能在一个进程的地址空间内活动。内存资源分配给进程，同一个进程的所有线程共享该进程所有资源。而CPU分配给线程，即真正在处理器运行的是线程。多线程的出现便解决了我们之前提到的三个问题，但是多线程往往会带来许多意想不到的问题，这就是接下来我们要说的线程安全了。
因此，有2个物理插槽+2块CPU，每块CPU插在一个插槽里。每块CPU有20个核心，每个核心有2个超线程。主板型号为Intel，NUDA使用连续编号方式，每个NUMA节点分到2组CPU核心。
5.3.1 先到先服务调度(First-Come，First-Served scheduling)
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
