为啥在Matlab上用NVIDIA Titan V训练的速度没有GTX1080快?

在Matlab官方论坛上看到这个帖子,希望给大家带来参考

有一天,有人在Matlab的论坛上发出了求救帖:

楼主说:

我想要加快我的神经网络训练,所以把GTX1080升级到Titan V,期望在性能上有很大的提高,毕竟架构和内存速度等都有所改进。 但是,为啥我的1080正在碾压Titan V。 我在alexnet上进行学习迁移(Transfer learning),并在相同的图像池中进行相同的设置。泰坦在每次迭代时的速度大约为164秒,而1080则只用了62秒。

感觉隔着屏幕都能感受到楼主的心碎!

不过世界还是好人多!很快就有大神回复:

在我的迁移学习测试中,Titan V比K20c快5倍,比GTX1080快2倍,比Titan XP快1.3倍。这是运行在R2017b上。

大神建议:

在WDDM模式下,Windows上的GeForce卡受到了OS的监控干扰的影响,特别是在内存分配的速度上。这使得它们在某些需要大量内存分配的功能上比在Linux上要慢得多。Titan V是一个非常新的卡,并且还没有完全优化驱动程序,它似乎特别受此影响。 解决方案是把Titan V变成TCC模式。您需要另一个GPU或板载显卡来做显示。 你可以到 C:\Program Files\NVIDIA Corporation\NVSMI 然后运行: nvidia-smi 你会看到哪一片GPU是Titan V,我们假设是GPU1,然后输入: nvidia-smi -i 1 -dm 1 重启

大神分析说:

在我自己的实验中,我发现在Windows上,Titan V比Linux更慢,但是我的Windows机器上CPU速度还要慢得多,所以可能就是因为这个原因。正如我所说的,Windows驱动程序可能还没有完全优化——目前还是Titan V驱动的早期阶段。

大神也很中肯地说:

MathWorks通常不会提供硬件建议,因此用户自己要决定是否要用Titan V。不过有一些需要考虑的事情是: 1. Titan (V和XP)可以进入TCC模式,而GTX970和GTX1080不能。 2. 当卡不是用来显示时,Titan卡支远程桌面,而GTX 970和GTX 1080不支持。 3.Titan V有Tensor Core,这意味着当MATLAB支持半精度深度学习时,它的性能将大大超过Pascal和Maxwell体系结构。 4.Titan V具有出色的双精度性能,不像其他任何GeForce卡。这意味着您可以将其用于其他MATLAB功能,如系统建模,这需要双精度。

于是楼主就按照大神说的去做:

0. 通过使用nvidia-smi将Titan V从WDDM模式设置到TCC模式。 1. 卸载所有 Microsoft Visual Studio, .NET, C++ Redistributable, Build and Database components 2. 卸载所有 CUDA 组件 3. 重启 4. 重新安装Microsoft tools: Visual Studio 2017 15.45, C++ Redistributable 2017, .NET 2017, 以及 Build tools 2017. 5. 重启. 6.安装NVIDIA Driver 390.65. 7. 重启 8. 安装CUDA 9.1. 9. 重启.

下面就是见证奇迹的时刻....

楼主不仅在TItan V上实现了433%的训练速度的提升,6倍于GTX970,2倍于GTX1080,还消除了原先曾经出现过的一些错误信息...

原文发布于微信公众号 - 吉浦迅科技(gpusolution)

原文发表时间:2018-04-02

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏慎独

Python科学计算和绘图入门

47840
来自专栏企鹅号快讯

你的深度学习应用可能存在安全风险

360安全实验室(肖奇学 、Deyue Zhang)、佐治亚大学(李康)和弗吉尼亚大学(Weilin Xu)的研究者,他们在论文《Security Risks ...

24250
来自专栏郭耀华‘s Blog

2018年奇虎360春招笔试题--玫瑰花

这道题,第一感觉想用排列组合做,但是想了好久,没想到解决办法(刚刚考试的时候没有答出来)。后来想了一下应该使用动态规划来做。 我们首先分析一下情况: 1.当K>...

32060
来自专栏程序员宝库

使用机器学习预测天气(第一部分)

本章是使用机器学习预测天气系列教程的第一部分,使用Python和机器学习来构建模型,根据从Weather Underground收集的数据来预测天气温度。

53550
来自专栏大数据挖掘DT机器学习

Python文本挖掘:基于共现提取《釜山行》人物关系

《釜山行》是一部丧尸灾难片,其人物少、关系简单,非常适合我们学习文本处理。这个项目将介绍共现在关系中的提取,使用python编写代码实现对《釜山行》文本的人物关...

53070
来自专栏新智元

深度学习开源框架PaddlePaddle发布新版API,简化深度学习编程

【新智元导读】 本文来自百度PaddlePaddle团队成员骆涛,他在文章中介绍了百度深度学习开源框架Paddlepaddle新推出的API,它们能更好地支持分...

31270
来自专栏机器学习算法与Python学习

TensorFlow的安装与初步了解

今天终于有时间一探滕三福了,TensorFlow(腾三福)是谷歌基于DistBelief进行研发的第二代人工智能学习系统,其命名来源于本身的运行原理。Tenso...

36160
来自专栏新智元

【深度学习Github 10万+源代码分析】Python是第三受欢迎语言

【新智元导读】编程语言是软件开发的主要工具。自20世纪40年代以来,已经有数百种语言被发明出来,每天大量的各种语言编写的代码活跃着代码库。本文作者从 GitHu...

38180
来自专栏SDNLAB

SDN应用路由算法实现工具之Networkx

SDN(Software Defined Networking)是一种新型的网络架构,通过集中式的控制平面管理数据层面的转发等操作。网络的连通性是最基础的需求,...

39090
来自专栏智能算法

数据异常到底该如何检测?(一)

小编在正式进入工作之后,面对的第一个需要去解决的问题:在网络安全监测中,如何发现异常数据?如异常用户登录,异常操作等。对于网络上的问题我确实是第一次接触这样类型...

88570

扫码关注云+社区

领取腾讯云代金券