深度学习工作站应该选择哪一款NVIDIA GPU卡？

作为深度学习网红NVIDIA GPU卡：NVIDIA Titan V、NVIDIA Titan XP和GTX1080ti，在深度学习应用上，效能到底相差多少？

Titan V

Titan XP

GTX1080ti

让我们先比较一下NV发布的理论规格：

我在這邊提供中国台湾工程师的實測結果讓大家在挑選硬體的時候可以有一些參考。

測試的硬體及軟體環境:

系統 : Ubuntu 16.04

GTX 1080 Ti : Tensorflow 1.4, CUDA 8, cuDNN 5, nvidia-381 driver

Titan Xp : Tensorflow 1.4, CUDA 9, cuDNN 7, nvidia-387 driver

Titan V : Tensorflow 1.4, CUDA 9, cuDNN 7, nvidia-387 driver

資料集: cifar-10

神經網路 : Convolution * 6 + fully connected * 2

測試結果為每一個batch，訓練神經網路所用掉的秒數

Float32 batchsize 256

1080 Ti : 0.0772

Titan Xp : 0.0691

Titan V : 0.0601

Float32 batchsize 512

1080 Ti : 0.1516

Titan Xp : 0.1410

Titan V : 0.1193

Float16 batchsize 256

1080 Ti : 0.0656

Titan Xp : 0.0675

Titan V : 0.0360

Float16 batchsize 512

1080 Ti : 0.1300

Titan Xp : 0.1349

Titan V : 0.0690

最重要的差距出現在半精度 (float16) 的計算。Titan V 幾乎是 Titan Xp 的兩倍速度。這應該是有用到了Titan V裡面的 tensor core所產生的差異。

NVIDIA所說的十幾倍的加速，應該是只有在張量運算上。但深度神經網路裡面應該還有除了張量運算之外其他的程序，這些程序大概沒有受惠於tensor core。

依平常會用到的深度學習的應用來說，我想單純在神經網路計算上大概最多就是速度加倍。其實也是滿不錯的結果，有顯現出Volta架構的優點。

关于这三款GPU卡的价格：

Titan V的官网价格是2999美金，但是Amazon网上的价格已经涨到3999美金了！

Titan XP目前1月份的价格已经到15000RMB左右了

ASUS GTX1080ti在某东的价格已经上到8000-9000RMB。

推荐两款支持以上GPU卡的ASUS入门级深度学习工作站：

ASUS ESC500G4

支持Intel E3-1200V5处理器，内存支持64GB

80Plus铜牌认证500W电源

内置2个M.2 SSD插槽，支持RAID1.0

可以支持1片GPU卡

超静音设计

ASUS Autoinstall提供快速部署

ASUS ESC700G3

支持Intel E5-1600V4处理器，内存支持128GB

内置2.5寸SSD盘位

80Plus金牌认证700W电源

可支持2片GPU卡

超静音设计

ASUS Autoinstall提供快速部署