问设备带宽的含义

EN

在当前具有离散GPU的CPU/GPU系统中，有三种不同的内存总线：

1. GPU (又称“设备”)内存总线，它将GPU连接到自己的RAM中。
2. CPU (又称“主机”或“系统”)内存总线，将CPU连接到自己的RAM。
3. PCI-e总线，它将CPU芯片组连接到其外围设备，包括GPU.

每条总线都有一个物理总线宽度(以比特为单位)、一个时钟速度(总线上的数据信号每秒可被更改多少次)和带宽(也称为吞吐量)，以比特每秒(可以转换为每秒千兆字节)为单位。峰值带宽由总线宽度乘以总线的时钟速率来确定。可实现的带宽还必须考虑到任何开销(例如PCI-e数据包开销)。

(计算)。

带宽是两个给定对象之间的传输速度。GPU内存带宽是GPU芯片与专用存储器之间最大的数据传输量。CPU内存带宽是CPU和系统内存之间可以传输的最大数据量。PCI带宽是在南桥芯片和特定的PCI设备之间传输的最大数据量。

当然，如果GPU需要系统内存中的数据，那么它所能接收的最快的数据就是链中最慢的链接。所有这些都取决于什么需要内存，以及需要哪些节点来检索它。

带宽是指速率数据可以在任何地方传输。

CPU有专用内存，其带宽为CPU内存的5-10倍

这意味着GPU上的组件之间的内部内存带宽比在主内存和GPU之间移动数据的内存带宽要高得多，所以一旦数据在卡上，任何副本都是非常-非常快的。

通常，即使在低端CUDA卡上，内部带宽也将达到30-50Gb/s，而PCI插槽到主存的实际可实现带宽可能小于1GB/s。