nvidia cuda访问gpu共享内存

文章/答案/技术大牛

发布

1回答

c++、cuda、nvidia

我正在尝试使用cuda分配共享gpu内存(与共享内存技术无关)。内存在英特尔和nvidia gpu之间共享。为了分配内存，我使用cudaMallocManaged，最大分配大小是2 2GB (对于cudaMalloc也是如此)，所以专用内存的大小。 ? 有没有办法从主机上分配gpu共享内存或RAM，然后在内核中使用？

浏览 111提问于2019-12-13得票数 0

回答已采纳

1回答

在多个GPU系统上分割数组并在不同的GPU之间传输数据。

cuda、gpgpu

我正在使用CUDA的双重GPU系统使用NVIDIA GTX 590卡，我有一个数组分区根据下图。谢谢。

浏览 0提问于2013-07-24得票数 0

回答已采纳

1回答

在新的CUDA6中，可以通过简单的指针从CPU内核访问GPU吗？

cuda、gpgpu、nvidia、virtual-address-space

现在，如果我使用这段代码尝试通过在GeForce GTX460SE (CC2.1)中使用CUDA5.5从CPU内核访问GPU，那么我将得到一个异常“访问冲突”： 2013年10月25日- 331.17驱动程序:新的NVIDIA统一内核存储模块是一个新的内核模块，将在即将发布的NVIDIA的CUDA版本中公开统一内存功能。新的模块是nvidia</em

浏览 1提问于2013-11-19得票数 1

回答已采纳

1回答

我有一个关于CUDA Fermi's architecture的问题:我在某个地方读到过，在Fermi's architecture中，全局内存的访问速度与共享内存一样快，因为它们现在使用统一寻址。因此，我真的可以访问全局内存上的数据而不会有(大)延迟(不像“预费米”GPU)？对我来说，知道这一点非常重要，因为我正在为Nvidia Tesla GPU编程，但没有它(它在大学的实验室里，我在夏天不能

浏览 3提问于2012-08-12得票数 0

3回答

在TensorFlow中使用共享图形处理器内存？

tensorflow、shared-memory、vram

诚然，我对显卡知之甚少，但根据dxdiag的说法，它确实有：共享内存的8163MB 总计约为12224MB。然而，我注意到的是，这种“共享”的记忆似乎几乎毫无用处。当我开始训练一个模型时，VRAM将被填满，如果内存需求超过这些4GB，TensorFlow将崩溃，并显示“资源耗尽”错误消息。当然，我可以通过适当地选择较低的批处理大小来防止达到这一点，但我确实想知道是否有一种方法可以利用这些“额外的”内存8GB，或者是否就是这样，而TensorFlow需要专用

浏览 2提问于2017-12-18得票数 33

回答已采纳

1回答

GPU中的L1缓存

caching、cuda、gpu

在阅读GPU的内存层次结构时，我看到了一些类似的术语，而且由于在过去的版本中有一些架构修改，我不知道它们是否可以一起使用，或者有不同的含义。该设备是M2000，它是计算兼容性5.2。下面是 L2 缓存，也称为共享内存，根据./deviceQuery，L2大小为768 L2，由所有SMs共享。如果这是一个聚合值，那么每个SM都有768 is /6=128 is。但是，根据，共享内存是96 is。那么，常量内存是什么?它驻留在哪里？在

浏览 1提问于2019-04-18得票数 2

回答已采纳

1回答

对于GPU上的非原子写入的弱保证？

cuda、opencl、atomic、memory-model

OpenCL和CUDA已经包括了几年的原子操作(虽然显然不是每个CUDA或OpenCL设备都支持这些操作)。但是-我的问题是，由于非原子的写作，“与种族一起生活”的可能性。假设一个网格中的多个线程都写入全局内存中的相同位置。我们是否保证，当内核执行结束时，其中一个写操作的结果将出现在该位置，而不是一些垃圾？这个问题的相关参数(选择任意组合，编辑，除了已经得到答案的nVIDIA+CUDA )：内存空间:仅限于全局内存；此问题不涉及本地/共享</em

浏览 0提问于2016-07-02得票数 5

1回答

nvidia-smi命令未在DJI流形2G NVIDIA Jetson TX2上找到

embedded、dji-sdk、nvidia-jetson

在通过终端运行nvidia-smi时，我会遇到nvidia-smi command not found，但是我知道jetpack 3.3 ( nvidia驱动程序)已经安装好了。是否有人遇到过类似的问题与Nvidia jetson tx2？它告诉你GPU的细节.0: "NV

浏览 11提问于2021-12-09得票数 0

回答已采纳

2回答

用Python在GPU内存中定义共享数组？

python、arrays、numpy、multiprocessing

我试图使用一个由多个进程与Python共享的数组。我用multiprocessing.RawArray定义数组，用numpy.frombuffer()定义数组，完成了CPU版本。当我尝试用chainer.cuda.to_gpu()将代码移植到GPU时，我发现每个进程只是在GPU内存空间中复制自己的副本，并且数组是不共享的。有人知道有没有办法解决这个问题吗？谢谢!

浏览 4提问于2016-11-11得票数 0

回答已采纳

2回答

TensorFlow如何在Windows10的图形处理器上同时使用共享和专用的图形处理器内存？

tensorflow、memory-management、windows-10

当运行TensorFlow作业时，我有时会得到一个非致命的错误，说GPU内存已超出，然后我在Windows10上的性能监视器上看到“共享内存GPU使用率”。注意:一个被

浏览 1提问于2018-07-13得票数 2

2回答

CUDA表面存储器的峰值带宽？

cuda、gpu、benchmarking、nvidia

表面存储器是CUDA中纹理缓存的唯一模拟. 如果不是，那么我如何实现一个基准来测量写入表面内存的带宽呢？

浏览 5提问于2013-01-17得票数 1

3回答

什么时候我会使用model.to("cuda:1")而不是model.to("cuda:0")？

pytorch

我有一个有两个GPU的用户，第一个是不能运行CUDA的AMD，第二个是一个具有cuda功能的NVIDIA GPU。我正在使用代码model.half().to("cuda:0")。我不确定调用是否成功地使用了GPU，也无法测试它，因为我周围没有超过一个GPU的备用计算机。在这种情况下，" CUDA :0“是否意味着第一个可以运行CUDA的设备，所以即使他们的第一个设备是AMD，它也能工作

浏览 17提问于2022-04-07得票数 1

回答已采纳

2回答

如何减少CUDA上下文大小(多进程服务)

cuda、gpu、gpgpu、cuda-context、multi-process-service

我学习了罗伯特·克罗夫拉( Robert )关于如何使用Nvidia's 的。根据没有MPS，每个CUDA进程使用GPU在GPU上分配单独的存储和调度资源。相反，MPS服务器分配由其所有客户端共享的GPU存储和调度资源的一个副本。现在，回

浏览 6提问于2019-12-19得票数 0

回答已采纳

1回答

nvidia-码头- cuda_runtime可以在构建容器时使用吗？

darknet、nvidia-docker

我有一个简单的Dockerfile，我正在测试-相关的部分：..."RUN less /usr/local/cuda/README我看到的大多数文档都是在运行容器时使用nvidia库引用的，但是在使用gpu支持构建时

浏览 0提问于2018-12-03得票数 1

回答已采纳

1回答

我能在代码共享内存中使用nVidia* Quadro KxxxxM (MXM)移动GPU吗？*

cuda、gpu、shared-memory、gpgpu、nvidia

正如我所看到的，在中，nVidia Quadro KXXXXM - Mobile (MXM)中有。但是，如果我想在CUDA C/C++上为这些卡编写，我可以在代码共享内存中使用吗?我将使用全局GPU-RAM吗？

浏览 7提问于2013-11-02得票数 1

回答已采纳

1回答

获取/dev/nvidia**和nvidia-smi gpu列表之间的映射*

gpu、nvidia

一个带有4个GPU的服务器用于深度学习。通常情况下，GPU内存在训练过程终止(终止)后没有被释放。nvidia-smi显示的结果是一些子进程还活着，因此占用了内存。但是，如果启动了多个进程，并且我们只想杀死与某个GPU相关的进程，则可以按gpu索引(nvidia0、nvidia1、.)对进程进行分组。作为： fuser -v &#

浏览 2提问于2021-03-06得票数 2

回答已采纳

1回答

为数据科学/ ML任务设置多用户作业调度程序

kubernetes、gpu、cluster-computing、slurm、docker-datacenter

背景因为ML在这里生长。我正在寻找一种更好的方法来利用我们的基础设施。资源的动态分配如果一个任务正在运行，那么可以使用整个内存，但是一旦启动了一个单独的任务，他们就应该共享资源。

浏览 5提问于2018-11-23得票数 6

回答已采纳

1回答

哪种GPU模型/品牌最适合神经网络？

machine-learning、neural-network、gpu

Nvidia和ATI架构不同，因此对于某些任务(如比特币挖掘)，ATI比Nvidia要好得多。神经网络相关处理也是如此。我试图在这样的背景下找到两个GPU品牌的比较，但没有做到。我的期望是，在GPU中，神经网络处理最重要的事情是核的数目。那是对的吗？

浏览 0提问于2015-03-14得票数 7

回答已采纳

2回答

CUDA设备似乎被阻塞了。

linux、cuda、nvidia、hpc

我正在运行一个小型的CUDA应用程序: QuickSort基准算法(参见)。我有一个双系统的NVIDIA 660 and (设备0)和8600 and(设备1)。我有两个问题：提前感谢您的帮

浏览 9提问于2012-12-30得票数 1

点击加载更多