首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >为啥在Matlab上用NVIDIA Titan V训练的速度没有GTX1080快?

为啥在Matlab上用NVIDIA Titan V训练的速度没有GTX1080快?

作者头像
GPUS Lady
发布2018-04-13 15:13:52
1.7K0
发布2018-04-13 15:13:52
举报
文章被收录于专栏:GPUS开发者GPUS开发者

在Matlab官方论坛上看到这个帖子,希望给大家带来参考

有一天,有人在Matlab的论坛上发出了求救帖:

楼主说:

我想要加快我的神经网络训练,所以把GTX1080升级到Titan V,期望在性能上有很大的提高,毕竟架构和内存速度等都有所改进。 但是,为啥我的1080正在碾压Titan V。 我在alexnet上进行学习迁移(Transfer learning),并在相同的图像池中进行相同的设置。泰坦在每次迭代时的速度大约为164秒,而1080则只用了62秒。

感觉隔着屏幕都能感受到楼主的心碎!

不过世界还是好人多!很快就有大神回复:

在我的迁移学习测试中,Titan V比K20c快5倍,比GTX1080快2倍,比Titan XP快1.3倍。这是运行在R2017b上。

大神建议:

在WDDM模式下,Windows上的GeForce卡受到了OS的监控干扰的影响,特别是在内存分配的速度上。这使得它们在某些需要大量内存分配的功能上比在Linux上要慢得多。Titan V是一个非常新的卡,并且还没有完全优化驱动程序,它似乎特别受此影响。 解决方案是把Titan V变成TCC模式。您需要另一个GPU或板载显卡来做显示。 你可以到 C:\Program Files\NVIDIA Corporation\NVSMI 然后运行: nvidia-smi 你会看到哪一片GPU是Titan V,我们假设是GPU1,然后输入: nvidia-smi -i 1 -dm 1 重启

大神分析说:

在我自己的实验中,我发现在Windows上,Titan V比Linux更慢,但是我的Windows机器上CPU速度还要慢得多,所以可能就是因为这个原因。正如我所说的,Windows驱动程序可能还没有完全优化——目前还是Titan V驱动的早期阶段。

大神也很中肯地说:

MathWorks通常不会提供硬件建议,因此用户自己要决定是否要用Titan V。不过有一些需要考虑的事情是: 1. Titan (V和XP)可以进入TCC模式,而GTX970和GTX1080不能。 2. 当卡不是用来显示时,Titan卡支远程桌面,而GTX 970和GTX 1080不支持。 3.Titan V有Tensor Core,这意味着当MATLAB支持半精度深度学习时,它的性能将大大超过Pascal和Maxwell体系结构。 4.Titan V具有出色的双精度性能,不像其他任何GeForce卡。这意味着您可以将其用于其他MATLAB功能,如系统建模,这需要双精度。

于是楼主就按照大神说的去做:

0. 通过使用nvidia-smi将Titan V从WDDM模式设置到TCC模式。 1. 卸载所有 Microsoft Visual Studio, .NET, C++ Redistributable, Build and Database components 2. 卸载所有 CUDA 组件 3. 重启 4. 重新安装Microsoft tools: Visual Studio 2017 15.45, C++ Redistributable 2017, .NET 2017, 以及 Build tools 2017. 5. 重启. 6.安装NVIDIA Driver 390.65. 7. 重启 8. 安装CUDA 9.1. 9. 重启.

下面就是见证奇迹的时刻....

楼主不仅在TItan V上实现了433%的训练速度的提升,6倍于GTX970,2倍于GTX1080,还消除了原先曾经出现过的一些错误信息...

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2018-04-02,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 GPUS开发者 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 在Matlab官方论坛上看到这个帖子,希望给大家带来参考
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档