我的理解是GPU在运行神经网络时效率更高,但最近有人向我建议,GPU仅用于训练阶段。一旦经过培训,在CPU上运行它们实际上更有效率。
这是真的吗?
发布于 2016-11-06 03:02:44
这取决于许多因素,例如神经网络体系结构( RNN往往比GPU上的RNN优化得更好),以及给出多少测试样本作为神经网络的输入(当给定一批样本而不是单个样本时,GPU可能会更快)。
举个例子,这里是一个不同CNN体系结构下CPU与GPU的基准比较。在这种情况下,CPU的向前传球要慢得多:

金融时报:基于神经网络库的不同GPU性能比较基准
https://datascience.stackexchange.com/questions/14941
复制相似问题