虽然Python的多处理库已成功用于广泛的应用程序，但在本博文中发现它不适用于几个重要的应用程序类，包括数值数据处理，有状态计算和昂贵的初始化计算。主要有两个原因：
本指南的目的是解释为什么在Python中需要多线程和多处理，何时使用多线程和多处理，以及如何在程序中使用它们。作为一名人工智能研究人员，我在为我的模型准备数据时广泛使用它们!
上一篇我们学习了三种不易用Python多处理表示的工作负载基准测试的其中两种，并比较了Ray、Python多处理和串行Python代码。今天这一篇我们来聊聊第三种基准测试。
虽然python的多处理库已经成功地广泛的用于应用程序，但在本文中，我们发现它在缺少一些重要的应用程序类中依然存在不足，包括数值数据处理、状态计算和具有昂贵初始化的计算。主要有两个原因：
作者 | Satyam Kumar 译者 | 王强 策划 | 刘燕 Python 是一种流行的编程语言，也是数据科学社区中最受欢迎的语言。与其他流行编程语言相比，Python 的主要缺点是它的动态特性和多功能属性拖慢了速度表现。Python 代码是在运行时被解释的，而不是在编译时被编译为原生代码。 Python 多线程处理的基本指南 C 语言的执行速度比 Python 代码快 10 到 100 倍。但如果对比开发速度的话，Python 比 C 语言要快。对于数据科学研究来说，开发速度远比运行时性能更重要
在本文中，传统UNIX fork之后，我给出传统的UNIX fork在Linux内核中的变体clone系统调用的精彩。
每个数据科学项目迟早都会面临一个不可避免的挑战：速度问题。使用更大的数据集会导致处理速度变慢，因此最终必须想办法优化算法的运行时间。正如你们大多数人已经知道的，并行化是这种优化的必要步骤。python 为并行化提供了两个内置库：多处理和线程。在这篇文章中，我们将探讨数据科学家如何在两者之间进行选择，以及在这样做时应注意哪些因素。
Python是一种线性语言。但是，当您需要更多的处理能力时，线程模块就派上用场了。
又一波微内核讨论，同时也见到网上太多的言论，甚至把RT-Thread物联网操作系统归类到微内核行列。所以重新把这篇科普文章发下，并做部分澄清。
计算机技术在二战后快速发展，构成计算机的主要基本单元从电子管发展到分立晶体管，再到后来的大规模集成电路。随着计算机技术发展，计算机性能越来越强劲，硬件越来越复杂，人们发现很难去直接管理计算机了，于是人们开始设计软件用于管理越来越复杂的计算机系统，这些软件称作系统级软件。从最开始的批处理系统，多道程序系统，分时系统到上世纪60年代开始出现通用操作系统，计算机系统层出不穷，直到上世纪70年代才出现被大家广泛接受广泛使用的通用操作系统。其中最经典的当然就是UNIX系统了。
混合精度在计算方法中结合了不同的数值精度。NVIDIA Volta架构和Turing架构的GPU引入了TensorCore，它在单精度数学管道上提供了显著的吞吐量加速。通过将梯度张量和激活张量上的存储需求和内存流量减半，可以以较低的精度对深度学习网络进行训练，以实现高吞吐量。以下Nvidia工具可以让您分析您的模型是否最大限度地利用TensorCore。
项目负责人Philippe Tillet表示：「我们的目标是让Triton成为深度学习中CUDA的替代品」。
对称多处理器结构 , 英文名称为 " Symmetrical Multi-Processing " , 简称 SMP ;
Linux内核版本有两种：稳定版和开发版 ，Linux内核版本号由3个数字组成：r.x.y
非对称存储访问结构(NUMA,NonUniform Memory Access)是最新的内存管理技术，是对多处理器结构(SMP,Symmetric MultiProcessor)改进。随着CPU核心数量和频率的不断提升，SMP下所有CPUCore都通过同一个内存控制器访问内存，性能瓶颈越来越严重。所以最新的多处理机服务器把内存控制拆分，由不同的CPU管理自己的内存地址。
在本文[1]中，我们将学习如何使用多处理模块中的特定 Python 类（进程类）。我将通过示例为您提供快速概述。
批评Python的讨论经常谈论使用Python进行多线程工作有多么困难，将矛头指向所谓的全局解释器锁（正式称为GIL），该锁阻止了多个Python代码线程同时运行。因此，如果您不是Python开发人员，并且来自其他语言（例如C ++或Java），则Python多线程模块的行为可能与您期望的不太一样。必须明确的是，只要考虑到某些因素，仍然可以用Python编写可同时运行或并行运行的代码，并在最终性能上产生显着差异。如果您尚未阅读，建议您看看Eqbal Quran的Toptal Engineering Blog上有关Ruby中的并发和并行性的文章。
期待已久的 Zynq MPSOC 电子书终于上线了， 书名为《Exploring Zynq MPSoC With PYNQ and Machine Learning Applications》， 是当年ZynqBook（http://www.zynqbook.com/）的升级版本（ZYNQ架构分析）。在新版本中，不仅仅介绍了MPSOC的体系结构和应用场景，更是结合当前应用最广的PYNQ框架和机器学习应用进行分析。是一本不可多得的免费电子书籍。
线程，有时候称为轻量级进程（lightweight process，LWP），是CPU使用的基本单元；它包含了线程ID，程序计数器，寄存器集合以及堆栈。它与属于同一进程的其他线程共享代码段，数据段和其他的操作系统资源。
上述两个特点是独立的，因此操作系统可以独立地处理它们。为了区分这两个特点，分派的单位通常称做线程（thread）或轻量级进程（light weight process，LWP）；拥有资源所有权的单位通常仍称作进程（process）或任务（task）。
存取速度比较：L1缓分成两种，一种是指令缓存，一种是数据缓存。L2缓存和L3缓存不分指令和数据。L1和L2缓存在第一个CPU核中，L3则是所有CPU核心共享的内存。L1、L2、L3的越离CPU近就越小，速度也越快，越离CPU远，速度也越慢。再往后面就是内存，内存的后面就是硬盘。我们来看一些他们的速度：
由以下博客的分析可以知道，内核的kfifo使用了很多技巧以实现其高效性。比如，通过限定写入的数据不能溢出和内存屏障实现在单线程写单线程读的情况下不使用锁。因为锁是使用在共享资源可能存在冲突的情况下。还用设置buffer缓冲区的大小为2的幂次方，以简化求模运算，这样求模运算就演变为 (fifo->in & (fifo->size – 1))。通过使用unsigned int为kfifo的下标，可以不用考虑每次下标超过size时对下表进行取模运算赋值，这里使用到了无符号整数的溢出回零的特性。由于指示读写指针的下标一直在增加，没有进行取模运算，知道其溢出，在这种情况下写满和读完就是不一样的标志，写满是两者指针之差为fifo->size，读完的标志是两者指针相等。后面有一篇博客还介绍了VxWorks下的环形缓冲区的实现机制点击打开链接，从而可以看出linux下的fifo的灵巧性和高效性。
r：目前发布的内核主版本。 x：偶数表示稳定版本；奇数表示开发中版本。 y：错误修补的次数。
在 Uber，所有有状态的工作负载都运行在一个跨大型主机的通用容器化平台上。有状态工作负载包括 MySQL®、Apache Cassandra®、ElasticSearch®、Apache Kafka®、Apache HDFS™、Redis™、Docstore、Schemaless 等，并且在许多情况下，这些工作负载位于同一物理主机上。
在过去的几年里，Python已成为数据科学和人工智能的通用语言，所有使用Python作为主要界面语言的着名深度学习框架（Keras，Pytorch，MXNet）。与竞争语言相比，Python在DS和AI的几乎每个方面都可以与之竞争或超越：最新的机器学习算法及其高效实现（Scikit-Learn，LightGBM，XGBoost），数据处理和分析（Pandas，cuDF），高效的数值计算库（Numpy） ，PyPy，Numba），GPU计算（CuPY）和Web API编程（Flask，Celery）。
在 Uber，所有有状态的工作负载都运行在一个跨大型主机的通用容器化平台上。有状态的工作负载包括MySQL®、Apache Cassandra®、ElasticSearch®、Apache Kafka®、Apache HDFS™、Redis™、Docstore、Schemaless等，在很多情况下，这些工作负载位于同一台物理主机上。
为了我们获得并行能力，需要做一些配置CIA可以，这个配置在内核启动中写。它们指定了Grid中块的数量，和每一个块中线程的数量。每个快上面有512或者1024个线程。
Tensorflow是实验深度学习算法的绝佳工具。但是要利用深度学习的力量，需要利用计算能力和良好的工程技术。最终需要使用多个GPU，甚至可能需要多个流程才能实现目标。建议先阅读TensorFlow关于GPU 的官方教程。
关于各种开源协议的对比，阮一峰的博客上有张图片可以参考。具体细节以协议条款为准，请咨询专业法律人士。
是否发现pandas库在处理大量数据时速度较慢，并且希望程序运行得更快？当然，有一些使用pandas的最佳实践（如矢量化等）。本文讨论的内容将代码运行得更快，甚至超过采用最佳实践。
今天要跟大家一起来学习一下Python的多线程机制。有两个原因，其一是自己在学习中经常会使用到多线程，其二当然是自己对Python中的多线程并不是很了解。那么，今天和大家一起了解下~
使用Python分析数据，如果使用了正确的数据结构和算法，有时可以大量提高程序的速度。实现此目的的一种方法是使用Muiltithreading（多线程）或Multiprocessing（多重处理）。
每个进程有自己的地址空间，保存进程映像，控制一些资源(文件，I/O设备)，有状态、优先级、调度
这里是我实现的完整代码仓库，也包含其他笔记等等：https://github.com/yunwei37/6.828-2018-labs
在上一篇中我们主要研究了python的多线程困境，发现多核情况下由于GIL的存在，python的多线程程序无法发挥多线程该有的并行威力。在文章的结尾，我们提出如下需求： 既然python的多线程只是实现了并发功能，那么我们是否能够进一步的提升并发的能力，减小多线程的切换开销以及避免应对多线程复杂的同步问题？那么一个较好的解决方案就是我们本篇要介绍的协程技术。本篇仍然主要注重理论知识介绍，不着重讲python的协程代码实现。
存储、内存和 CPU（中央处理器）等系统资源不足会极大地影响应用程序的性能。因此，监控这些组件至关重要。
本文仅献给需要做GPU超算方案和预算的科研前线的人 同类介绍Tesla V100的技术文章很多，我们只highlight关键几个知识点。 2017年5月GTC 2017大会上，英伟达发布了面向高性能计算的新一代Volta架构加速器，Tesla V100。Tesla V100加速器采用12nm FFN工艺，搭载新款图形处理器GV100，拥有5120 CUDA、640个Tensor内核，分PCle和SXM2两版，双精度浮点运算能力分别可达7 TFLOPS和7.8 TFLOPS，单精度则为14 TFLOPS和15
工程师 Jim Anderson 分享了他的经验，他写了一篇关于「通过并发性加快 python 程序的速度」的文章。Jim 有多年的编程经验，并且使用过各种编程语言。他曾做过嵌入式系统相关的工作，开发过分布式系统，并且参加过许多会议。
创建进程池可以形象地理解为创建一个并行的流水线，只需创建一次流水线的消耗，处理接收到的任务的，不使用进程池。 ，浪费时间。
内存管理是数据面开发套件（DPDK）的一个核心部分，以此为基础，DPDK的其他部分和用户应用得以发挥其最佳性能。本系列文章将详细介绍DPDK提供的各种内存管理的功能。
KVM简介 KVM（Kernel-based Virtual Machine，基于内核的虚拟机）是一种内建于Linux中的开源虚拟机啊技术。具体而言，KVM可帮助用户将Linux转变成虚拟机监控程序，使主机计算机能够运行多个隔离的虚拟环境，即虚拟客户机或虚拟机（VM）。 KVM是Linux的一部分，Linux2.6.20或者更新版本包括KVM。KVM于2006年首次公布，并在一年后合并到主流Linux内核版本中。由于KVM属于现有的Linux代码，因此它能够立即享受每一项新的Linux功能、修复和发展，无需进行额外工程。
引入进程 的目的： 使多个程序能并发执行，提高资源利用率和系统吞吐量。 引入线程 的目的： 应用的需要/ 开销的考虑/ 性能的提升
最近有个读者说，他把自己学习 课程的笔记整理成了一个 PDF，已经开源至 Github，我也看了下，确实很不错，非常硬核。
今天给大侠带来 FPGA Xilinx Zynq 系列 第三部分 Part C 操作系统 & 系统集成，第三部分是关于 Zynq SoC 开发的操作系统的，回顾和讨论了应用程序、动机、 交易、操作系统和产品特性。这里也进一步地深入探讨了在 Zynq 上部署 Linux 的问题，如何把 Linux 与基于 PL 的部分组合起来来形成一个嵌入式系统。
大家好，我是渔夫子。今天跟大家分享一篇操作系统相关的文章，该篇文章在medium中具有高达7.7K的点赞数，所以肯定还是值得一读的，文末附原文链接。
作者简介： 伟林，中年码农，从事过电信、手机、安全、芯片等行业，目前依旧从事Linux方向开发工作，个人爱好Linux相关知识分享。 原理概述 为什么要研究链接和加载？写一个小的main函数用户态程序，或者是一个小的内核态驱动ko，都非常简单。但是这一切都是在gcc和linux内核的封装之上，你只是实现了别人提供的一个接口，至于程序怎样启动、怎样运行、怎样实现这些机制你都一无所知。接着你会对程序出现的一些异常情况束手无策，对内核代码中的一些用法不能理解，对makefile中的一些实现不知所云。所以这就是我们
进程或者线程绑定到某个CPU Core，仍然可能会有线程或者进程切换的发生，如果想到达到进一步减少其他进程对于该进程或者线程影响，可以采取把CPU Core从Linux内核调度中剥离出来。Linux内核提供isolcpus,对于有4个CPU core的系统，在启动时候加入isolcpus=2,3，那么系统启动后将不会使用CPU3,CPU4.这里的不适用不是绝对的，但是可以通过taskset命令来设置
根据我们之前的一贯思路，对于一个工具来说都有一定边界和基础，然而软件或者数学都是基于一定的边界的，这些边界条件的变化也会对结果产生一定的影响，但是本质上没有改变。作者将这种重要的点叫做边界。边界的改变会对结果有很大的影响，但不改变主题，所以存在最优的边界条件。寻找最优的过程就是优化。
领取专属 10元无门槛券
手把手带您无忧上云
