上周末参加了冬瓜哥的存储和服务器底层原理架构培训课程，又重拾了存储和服务器的部分知识。个人言论不代表冬瓜哥及所在公司观点。
pcie接口是一种高速串行计算机扩展总线标准，是高速串行点对点双通道高带宽传输，所连接的设备分配独享通道带宽，不共享总线带宽，是替代旧的PCI，PCI-X和AGP总线标准的，主要支持主动电源管理，错误报告，端对端的可靠性传输，热插拔以及服务质量(QOS)等功能。 PCIE接口的优势： 相对于传统PCI总线在单一时间周期内只能实现单向传输，PCIE的双单工连接能提供更高的传输速率和质量。PCI-E插槽是可以向下兼容的，比如PCI-E 16X插槽可以插8X、4X、1X的卡。现在的服务器一般都会提供多个8X、4X的接口，已取代以前的PCI-X接口。PCIe属于高速串行点对点双通道高带宽传输，所连接的设备分配独享通道带宽，不共享总线带宽，主要支持主动电源管理，错误报告，端对端的可靠性传输，热插拔以及服务质量(QOS)等功能。 PCIE有多种规格，从PCIE x1到PCIE x32，目前能够满足所有的低速设备和高速设备的需求，接口是PCIe 3.0接口，其传输速率是上一代接口带宽的两倍，PCIE接口的主要优势在于其减少延迟的能力。PCIe设备和PCIe总线直接相连，使缓存和数据更接近CPU。 北京东大金智提供自主研发生产销售的飞迈瑞克（femrice）品牌光纤网卡，包含pcie万兆网卡、pcie千兆网卡、pcie 25G网卡、pcie台式机网卡、pcie电口网卡、pcie光口网卡等等。其产品均已通过FCC、CE、RoHS、REACH等国际权威认证以及国家行业认证，精益求精，始终如一地专注于网络、通讯传输领域的应用解决方案。
图 | 边缘智芯CTO兼架构师 李甫 边缘智芯独创的XPU产品，填补了国内PCIe芯片的空白。 作者 | 来自镁客星球的家衡 毫无疑问，当下世界正处在数据爆炸的时代。 据研究机构IDC的预测，2015年到2025年期间，全球数据将以每年25%的速度增长。这些数据带动了云端计算和边缘计算等市场的兴起，同时拉动了数据中心的成长。作为其中最核心的硬件，服务器需要承担庞大的数据与算力，与之配套的服务器芯片也迎来了快速发展。 除了我们熟知的CPU与GPU以外，一种名为DPU（数据处理单元）的新型芯片在近些年频频出现在
最近在学习驱动开发过程中涉及到PCI相关知识，在网上看了很多文章，良莠不齐，我总结一下比较好的文章分享给大家，那就从源头开始说起。
一颗芯片，寄存器通过总线向运算器输送数据。一台服务器，内存通过DDR总线与处理器完成数据互动。一个数据中心，存储集群通过以太网与计算集群形成对数据流的处理和加工。互连是算力与数据的纽带，从芯片内部到数据中心，都能很好地诠释这一基本体系组合。
1月6日消息，澜起科技今日宣布其PCIe 5.0 / CXL 2.0 Retimer 芯片成功实现量产。该芯片是澜起科技现有 PCIe 4.0 Retimer 产品的升级，可为业界提供稳定可靠的高带宽、低延迟PCIe 5.0/ CXL 2.0互连解决方案。
很久很久以前，CPU和内存是分离的，内存控制器位于北桥。CPU每次取数据都要经过北桥中转，CPU嫌太慢，于是，把内存控制器直接集成到了自己内部，而北桥则只保留PCIE控制器。再后来，嫌PCIE控制器也离得太远了，就也把它收归麾下，北桥成了光杆司令，于是退出了历史舞台。现在的主板上只有CPU和I/O桥在一唱一和。突然不知哪天，杀出来了个GPU，之前人们也未曾想过GPU除了渲染图像还能做更多事情，甚至被用来挖矿。GPU也要访问内存，但是现在访问内存要从CPU走一圈，GPU不干了，明明是我在计算，CPU只是控制，为啥我要不远万里从CPU那取数据。于是，GPU和NVMe盘开始勾搭上了。欲知详情，往下看。
在生成式AI（GenAI）和大模型时代，不仅需要关注单个GPU卡的算力，更要关注GPU集群的总有效算力。单个GPU卡的有效算力可以通过该卡的峰值算力来测算，例如，对于Nvidia A100，峰值FP16/BF16稠密算力是312 TFLOPS，单卡有效算力约为～298 TFLOPS [1, 2]。
随着物联网、智能驾驶等业务的兴起，边缘网络算力需求愈发明晰，运营商及云服务商纷纷将工作负载及服务从核心迁移到边缘，比如部署5G UPF、5G MEC及边缘网关VNF等。
在上期，大家了解了虚拟机中的纯虚拟化设备(Emulation)和半虚拟化(Para-virtualiazation)是如何工作的。
目前在售的NVIDIA Volta架构中Tesla V100处于深度学习GPU专业卡的最顶端位置！拥有5120个CUDA核心、640个Tensor辅助核心，核心面积达到了815平方毫米，集成了210亿个晶体管。作为Tesla P100的升级产品，Tesla V100同样拥有有两个不同的版本：一个是支持NVLInk,一个是支持PCIE。
新基建背景下，企业IT支出重点快速向数字化创新和跨界跨业协作转变，企业需要越来越智能的企业数据中心。
【加州纽瓦克电 2022年11月10日】隶属神达集团，神雲科技旗下的服务器通路领导品牌TYAN®（泰安）今天宣布推出基于AMD EPYC™ 9004系列处理器架构，在产品能源使用效率以及运算性能方面全面提升，且专为下一代数据中心而打造的一系列服务器平台。
计算机网络通信中最重要两个衡量指标主要是 带宽 和 延迟。分布式训练中需要传输大量的网络模型参数，网络通信至关重要。
这些深度业务处理功能包括：传统的深度业务处理通常由带CPU的框式设备完成，但框式设备成本高、功耗大、扩展不够灵活的种种给客户带来了极大的困扰。
4U飞腾FT-1500A存储服务器，24个2.5” SAS盘位，支持领存特制军工固态硬盘，具备一键物理自毁和一键逻辑自毁双重自毁功能，具备领存SSD与存储阵列绑定功能，当SSD被非法拔出在其他电脑上读取数据时，SSD会自动启动销毁程序，将SSD进行逻辑自毁或者物理自毁，确保数据安全，同时，此款阵列具备强劲的计算性能和扩展能力。
在虚拟化中，单根输入/输出虚拟化(SR-IOV) 是一种出于可管理性和性能原因允许隔离PCI Express资源的规范
上一篇文章《浅析GPU通信技术（上）-GPUDirect P2P》中我们提到通过GPUDirect P2P技术可以大大提升GPU服务器单机的GPU通信性能，但是受限于PCI Expresss总线协议以及拓扑结构的一些限制，无法做到更高的带宽，为了解决这个问题，NVIDIA提出了NVLink总线协议。
近年来，在可编程NIC的发展和可用性的推动下，终端主机逐渐成为核心网络功能(如负载平衡、拥塞控制和特定应用网络卸载)的实施点。然而，在可编程NIC上实现定制设计并不容易:许多潜在的瓶颈会影响性能。
【加州纽瓦克电2023年6月13日】隶属神达集团，神雲科技旗下的服务器通路领导品牌TYAN®（泰安）今天宣布推出针对技术运算应用，支持第四代AMD EPYC™处理器和采用AMD 3D V-Cache™技术的第四代AMD EPYC处理器的高性能服务器平台。
导读：1月15日，首届OCP中国技术研讨会在深圳召开，本次会议是由腾讯云和OCP国际社区合办。在大会现场，腾讯专家工程师蔡克文在OCP技术研讨会上发表名为《腾讯云T-Flex 2.0服务器框架》的演讲，以下为演讲全文。蔡克文，负责腾讯服务器的架构设计和规划，结合业务需求与部件/系统/数据中心等方面的技术发展，进行趋势研究和产品规划。 服务器的研发周期很长,普通机架服务器的系统开发往往需要1年以上的时间,才可能达到量产交付的程度. 后期不可避免会导入新兴部件, 乃至主要功能模块的迭代, 例如: 主板
接触深度学习已经快两年了，之前一直使用Google Colab和Kaggle Kernel提供的免费GPU（Tesla K80）训练模型（最近Google将Colab的GPU升级为Tesla T4，计算速度又提升了一个档次），不过由于内地网络的原因，Google和Kaggle连接十分不稳定，经常断线重连，一直是很令人头痛的问题，而且二者均有很多限制，例如Google Colab一个脚本运行的最长时间为12h，Kaggle的为6h，数据集上传也存在问题，需要使用一些Trick才能达成目的，模型的保存、下载等都会耗费很多精力，总之体验不是很好，不过免费的羊毛让大家撸，肯定会有一些限制，也是可以理解的。
因此，有2个物理插槽+2块CPU，每块CPU插在一个插槽里。每块CPU有20个核心，每个核心有2个超线程。主板型号为Intel，NUDA使用连续编号方式，每个NUMA节点分到2组CPU核心。
很多深度学习入门者或多或少对计算机的配置需求有一些疑惑。入门的硬性需求是什么，应该买什么样的电脑，什么样的显卡比较适合，自己的笔记本可以使用吗等等问题。这些问题之前我也有很多疑惑，现在总结了下，为大家稍微讲解一下所需要的配置，以及推荐清单。
Thunderbolt支持ATTO的VMWare ESXi和ThunderLink产品线，使我们能够创建基于Mac的vSphere设置，从而能够为我们的macOS服务器提供虚拟化服务。将虚拟硬件、快照和Veeam备份与macOS服务器的简单性相结合，将改变SMB市场的游戏规则。
本文主要基于我司TL64x-EVM评估板 + 移远RM500Q 5G模块，验证PCIe 5G网络通信功能。本文档适用开发环境：
典型的PCIe结构定义了一个以单个中央处理器为核心的计算机系统，如常见的工控机、PXIe机箱控制器、服务器内的IO设备。从系统架构来看，这个结构的优势在于可有统一的软件驱动，软件模型，设备间具备优异的兼容性。兼容性才是王道，厂商就可以用一个标准包打天下。
智能网卡可在网络任务方面卸载服务器CPU，提供内存扩展并执行安全操作、硬件加载等关键任务，在多个网络层为服务器提供额外的计算能力。这种可编程的算力设备本身可以高速执行必要的功能，而不是使用传统基础设施中服务器的资源。随着工作负载的日益增加，越来越多智能网卡正在加速服务器性能，以减少任务等待和时延。
在去年的2018 ODCC峰会上，腾讯发布了T-Flex PCIE资源池化方案和产品，该产品由腾讯和浪潮联手设计制造。PCIE资源池化的关键的部件就是PCIE Switch，Microsemi的Swichtec系列PCIE Switch由于优异的规格、可靠性和可编程性，被选择用于该方案设计。
PCIe规范由PCISIG组织进行发布的，PCISIG其英文全称为：Peripheral Component Interconnect Special Interest Group(外围部件互连专业组)，简称PCISIG。
AMAX，AI和深学习发展高性能服务器的领先制造商，宣布推出的DL-E48A，可重新配置的单双根高密度GPU平台，专为AI训练和推理而设计。AMAX在CVPR 2018展示了其备受瞩目的解决方案。
NVMe（非易失性存储器Express）是一种用于访问高速存储介质的新协议，与传统协议相比具有许多优势。大规模数据的性能，经济性和耐久性至关重要。NVMe对企业及其如何处理数据产生了巨大影响，特别是用于实时分析和新兴技术的快速数据。业内已经出现基于该协议的高密度视频转码方案，我们来一探究竟。
图灵超算工作站UltraLAB GR420M是一款支持AMD锐龙Pro处理器、多GPU(基于PCIe 4.0 x16)、海量并行储于一体的双塔式工作站。
昨天我们介绍了DGX Station开箱篇和接口篇征战GPU服务器采购，DGXStation舍我其谁！（上）
PCIe发展至今已经从最初的1.0升级到了6.0，但很多人对于PCIe只知其然而不知其所以然，小编今天就带大家一起来看一看。
使用过虚拟机pci passthrough或者做过DPDK/SPDK开发的同学一定很熟悉下面的配置:
此参考系统在PCIe Gen2 x4 下实测双向收发速率 >1600MByte/s。包含所有FPGA端源文件， PC端驱动和 C++/matlab/python 等参考代码。
在前两期，我们学习了虚拟机上的设备虚拟化，包括中断虚拟化、DMA虚拟化和PCIE设备直通。那么，如果在宿主机上有20个虚拟机，每个虚拟机上有一个网卡，我们应当如何实现呢？
发表在 SOSP 2017 上的 KV-Direct 是我的第二篇（第一作者）论文。因为第一篇 SIGCOMM 论文 ClickNP 是谭博手把手带我做的，KV-Direct 也是我自己主导的第一篇论文。
很多架构师都是从软件开发成长起来的，大家在软件领域都有很深的造诣，大部分人对硬件接触的很少。而成为架构师后需要频繁的跟人 、硬件 、软件 、网络打交道，本篇文章就给大家带来服务器硬件方面的相关知识，主要包括服务器、CPU、内存、磁盘、网卡。
作为《大话存储 终极版》以及《大话存储后传》的作者，我有幸经历了国内存储行业发展的启蒙和鼎盛时代。在2005年到2013年这8年间，存储市场基本就是SAN的市场，谈存储必暗指SAN。但是从2014年往后，存储行业突然发生巨大变化，分布式系统和固态存储介质开始爆发式增长。今天，谈存储如果不谈一谈配以固态硬盘的分布式系统，就仿佛是上个时代的人了。
AiTechYun 编辑：nanan IBM声称POWER9服务器和Beastly处理器（GPU）相结合，可以让Google Cloud发生颠覆。 IBM宣称，其POWER服务器上的机器学习不仅比Go
11月8号，AMD宣布拿下Facebook母公司Meta的数据中心这个大单，这也意味着Meta的新数据中心中会使用AMD的EPYC处理器。
随着摩尔定律的减弱，加速计算和人工智能是较经济实惠的方式实现数据中心能源效率所需的工具。 让我们一起跟随和了解 NVIDIA Grace CPU、NVIDIA L4 GPU 和 NVIDIA BlueField DPU 如何推动数据中心迈向更高效的未来。
DPDK与SR-IOV两者目前主要用于提高IDC（数据中心）中的网络数据包的加速。但是在NFV（网络功能虚拟化）场景下DPDK与SR-IOV各自的使用场景是怎样的？以及各自的优缺点？
AiTechYun 编辑：nanan Aaeon公司推出了“UP AI Core”—— mini-PCIe版本的英特尔Movidius神经计算棒，用于神经网络加速，可用于UP Squared SBC和
随着机器学习算法和模型的不断发展，传统的软硬件平台、部署环境等无法支撑机器学习的应用，这也成为了目前机器学习方法落地及大规模推广应用的主要困难之一。目前，有关于 MLSys 的研究方向包括硬件领域、软件领域和对机器学习算法的改进三个方面，以 MLSys 2020 为例，本届大会的议题包括：Distributed and parallel learning algorithms（5 篇论文）、Efficient model training（8 篇论文）、Efficient inference and model serving（8 篇论文）、Model/Data Quality and Privacy（4 篇论文）、ML programming models and abstractions & ML applied to systems（5 篇论文）以及 Quantization of deep neural networks（4 篇论文）。整个会议一共录用 34 篇论文。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
