1回答
作为一般规则，如果数据可以保留在GPU内存中，通常最好避免重复地将数据从RAM复制到GPU内存。因此，一些代码将数据集作为共享变量()存储在GPU内存中。在Theano中，有没有办法量化执行脚本时有多少数据被复制到GPU中？我的目标是估计由于将数据从RAM复制到GPU内存，不将数据集声明为共享变量会在多大程度上减慢程序速度。
浏览 0提问于2015-12-23得票数 1
我使用GPU在一个大小为55 on的数据集上运行一些非常大的深度学习模型。如果我使用一个大于1的批处理大小，我会得到一个资源耗尽错误。即使批处理大小为1，我也会得到分割错误。GPU内存为10 of，服务器具有32 of的RAM。 有没有办法让我知道GPU中的数据量(批处理大小为1)会有多大？我正在使用tf.Keras来拟合模型。
浏览 32提问于2021-08-10得票数 0
我想使用TF 2.0在我的GPU集群上运行分布式预测。我用MirroredStrategy训练了一个用凯拉斯制作的CNN，并保存了下来。我可以加载模型并对其使用.predict()，但我想知道这是否会自动使用可用的GPU进行分布式预测。如果不是，我如何运行分布式预测来加速推理并使用所有可用的GPU内存？目前，当运行许多大型预测时，我超过了其中一个GPU(12 it )的内存(需要17 it)，推理失败，因为它耗尽了内存： Allocator (
浏览 43提问于2020-06-13得票数 3
1回答
之前用2G内存的云服务器个人使用，用VSCode远程写C++，看一些开源项目什么的，但是C++插件占的内存比较大，稍微开多一点文件连接就断开了，如果要编译的话有时候完全连不上。一般看的项目文件数量都在1000个以内，选云服务器的话至少需要多大内存合适呢？
浏览 463提问于2022-07-30
我正在使用GPU运行一些非常大的深度学习模型，当我选择批处理大小为8的时候，它可以放入内存中，但如果我使用批处理大小为16，它将导致CUDA内存不足错误，我必须杀死进程。我的问题是，在真正将数据传递到GPU之前，有没有一种方法可以让我知道GPU中的数据量有多大？例如，下面的代码是关于我如何创建pytorch数据加载器并将每批数据加载器传递到GPU，在我调用batch.to(device)之前，我能知道它有多大吗？
浏览 31提问于2020-08-17得票数 2
1回答
在玩3D游戏时，gpu卡能用于gpu吗？如果是的话，表演成本会有多大？以及如何测量它们？在后台使用和不带游戏的情况下运行我的应用程序似乎不是一个值得信赖的解决方案。AFAIK，gpu卡忙着渲染场景和其他东西，但我不知道它到底是如何工作的。在用户退出游戏之前，游戏应用程序是否锁定了用于gpgpu的设备？作为另一种解决方案:是否可能只使用单独的gpu卡(也许我需要防止它被游戏应用程序使用)？
浏览 3提问于2015-01-22得票数 1
2回答
在内核中动态分配GPU的全局内存是可能的吗？
我不知道我的答案会有多大，因此我需要一种方法来为答案的每个部分分配内存。CUDA 4.0允许我们使用RAM...这是个好主意还是会降低速度？？
浏览 5提问于2011-03-10得票数 5
回答已采纳
我想知道新的argon2散列 --密码哈希竞争的赢家--能为使用大型GPU系统的攻击者提供多大的安全裕度-- bcrypt或PBKDF2。实际上，如果我在服务器上运行了1秒的密钥派生函数，那么运行argon2一秒可以获得多少安全裕度(例如使用2GB内存，否则是默认设置)。
我正在寻找更多的理论答案/猜测的基础上，这些方案之间的密码差异。
浏览 0提问于2015-11-23得票数 53
1回答
谁能告诉我，与VBO相比，cpu/gpu内存中的VAO有多大？我的计划是在程序启动时分配大量的VAO作为池，然后根据需要将它们分配给某些渲染调用。
问候
浏览 3提问于2019-03-27得票数 0
我只是想知道在GPU上执行加密是否比在CPU上执行更安全，因为从内存和/或各种其他硬件攻击中读取加密密钥的难度更大。这样的攻击能扩展到GPU风格的硬件架构吗？做好了吗？
这在一般用途的密钥管理中也很有用，在这种情况下，加密密钥必须在一段时间内保密。而不是将它放在内存中，它可以进入GPU内存(额外的是:它不能被分页到磁盘或缓存)，而且如果您在GPU中执行加密，甚至不需要来回移动它。但我肯定还有GPU内存转储程
浏览 0提问于2012-04-11得票数 5
回答已采纳
如果模型按顺序处理样本，那么为什么在增加批处理大小(图像集)时会出现内存耗尽错误？
我使用预先训练好的模型来解决street2shop问题。任何答案或参考都是可以理解的。
浏览 0提问于2019-08-13得票数 1
只要动画不是GPU加速的(原因很明显，即硬件加速会将动画从页面的单进程结构中移除)，这种方法就能很好地工作。但这也给我带来了一个百万美元的问题--如果我优化了一些东西，在没有GPU加速的情况下运行得更好，这是否意味着相同的优化动画在打开GPU加速的情况下会运行得更好(或者更快，或者使用更少的内存)？然而，使用GPU-on的好处对于肉眼来说并不明显，因为这两个动画的运行速度几乎一样快(因为再次-我无法跟踪GPU-on的性能变化)。那么，同样的规则也适用于GPU-on和-o
浏览 1提问于2012-07-27得票数 1
假设我们通过PyTorch以外的其他方式在GPU 上分配了一些数组，例如通过使用numba.cuda.device_array创建GPU数组。当PyTorch为一些张量分配稍后的GPU内存时，会不会意外地覆盖我们的第一个CUDA数组所使用的内存空间？一般来说，由于PyTorch和Numba使用相同的CUDA运行时，因此我假设了相同的内存管理机制，它们是否自动知道其他CUDA程序使用的内存区域，还是每个程序都将整个GPU内存</
浏览 1提问于2020-03-09得票数 1
回答已采纳
我想运行一个在服务器上也使用Tensorflow的Python脚本。当我在没有会话配置的情况下运行它时，进程会分配所有GPU内存，从而阻止任何其他进程访问GPU。服务器规范如下：
在Tensorfl
浏览 9提问于2017-05-16得票数 1
我已经读到了很多关于团结5.4中的新特性的辩论: GPU实例。我理解在一般情况下的重要性，无论是在节省内存和吸引电话方面。然而，即使在阅读了一些之后，我仍然无法理解GPU实例和非GPU实例之间究竟有什么不同，更重要的是，所谓的GPU在性能方面的优势来自哪里。
谢谢你的知识和任何参考资料。
浏览 0提问于2016-05-29得票数 1
回答已采纳
当涉及到与服务器相关的问题时，绝对没有经验，但是在工作中出现了一个问题。使用可用的GPU执行计算
使用CPU(s)执行计算。客户端各有一个GPU和一个CPU (32个逻辑核)。如果我们把工作推到GPU上，它可以工作，但不是
浏览 0提问于2018-03-08得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
