天翼云技术课程 正确理解延时、吞吐、带宽和响应时间性能指标

我们在云服务产品的介绍中，经常会看到有关性能指标的介绍，比如在天翼云官网的云硬盘的产品优势介绍里会看到以下内容：

低延迟、高性能

贵州节点单磁盘支持的最大随机IOPS可达20000、吞吐量可达350MBps、网络延时仅为2ms，满足不同业务场景的需求。

为了更好的学习云产品，我们需要了解一下四个重要的性能指标：延时（Latency）、吞吐（Throughput）、带宽（Bandwidth）和响应时间（Response Time）。

我们以生活中每天都要接触的水龙头作为类比，从下图基本可以看出三个重要组件：延时（Latency）、吞吐（Throughput）、带宽（Bandwidth），下面我分别阐述：

延时（Latency）：当我们拧开水龙头，自来水从水阀流入到水管，再从水管的出口流出，所花费的时间称为延时（Latency），是以时间单位来衡量的，有时候我们也称之为“延迟（Delay）”。

带宽（Bandwidth）：它显示了管道的最大容量，表示通过水管的最大水流。

吞吐（Throughput）：从水龙头中实际流出的水可以表示为吞吐量，水流的大小（吞吐量）可以通过水阀控制。

下面我们看一下实际的IT系统，进一步了解延时以及响应时间（Response Time）的概念。

上图示意了如下场景：客户端发送请求，通过Internet连接到云端的Web应用服务器，再访问后台的数据库服务器，获取所需数据后返回给客户端，并在客户端浏览器呈现所需信息。

我们分别来看一下系统中的主要延时：

T1 ：

客户端访问云端的web应用服务器的网络传输延时，通常是ms级；

T2：

Web应用服务器接受到客户端的访问请求后，会进行请求的解析和业务逻辑的处理，并发送数据查询请求给数据库服务；在接收到数据库查询的数据后，还需要生成客户端的查询结果页面脚本，发给客户端。此时，客户端请求的处理+处理查询结果=“Web应用延时”；

T3：

数据库服务器接收到数据查询请求后，可能会在缓存或是直接访问数据库表查询，查询后的结果再返回给web应用服务，此时数据库的查询时间为“数据库服务延时”。

T4 ：

Web应用服务将查询结果通过HTTPS传输给客户端，通常是ms级。

T5 ：

客户端浏览器接收查询结果进行渲染生成页面的时间。

通过以上阐述，我们会发现，客户的一个请求，会在所有相关的节点产生延时，当我们把这些延时全部加起来，就构成了响应时间（Response Time），我们定义响应时间是从客户端发送请求到接收到请求的往返时间。

在上面的延时示例中，响应时间=T1+T2+T3+T4+T5。

响应时间是相对客户端来说的，如果从计算机网络角度来看，还有一个类似的性能指标：往返时延，简称RTT(Round-Trip Time)。

往返时延，在计算机网络中它是一个重要的性能指标，表示从发送端发送数据开始，到发送端收到来自接收端的确认（接收端收到数据后便立即发送确认），总共经历的时延。

另外，还有一些重要的点需要提一下：

* 解决带宽（Bandwidth）比解决延时（Latency）更容易，在云端，带宽是可以随时扩容，弹性伸缩的，而延时涉及到各个环节，就不那么容易解决了；

* 如果吞吐量（Throughput）几乎等于带宽（Bandwidth），这意味着网络使用率很高；

* 响应时间（Response Time）与吞吐量（Throughput）成正比；

* 延时（Latency）受连接类型、距离和网络拥塞的影响较大。