使用cudaEventRecord()记录多GPU程序的CUDA内核的运行时间

文章/答案/技术大牛

发布

1回答

计时CUDA内核，应执行1次以上

cuda

我想统计运行超过1次的内核的时间，因为每个内核的executed.My代码不同，所以需要处理的数据是不同的，因为cudaMemcpy的时间不应该计算在内。.);11 error = cudaEventRecord(start, NULL); 12 matrixMulCUDA

浏览 0提问于2012-10-20得票数 0

1回答

cuda、gpu、cuda-events

我有一个稀疏的三角形求解器，与4个特斯拉V100 GPU的工作。我完成了实现，所有的东西在准确性方面都运行得很好。但是，我使用CPU计时器来计算经过的时间。我知道CPU计时器不是计算运行时间的最佳选择，因为我可以使用CUDA事件。但问题是，我不知道如何为多GPU实现CUDA事件。正如我在NVIDIA教程中看到的</em

浏览 127提问于2020-11-18得票数 0

回答已采纳

2回答

测量CUDA内核时，时间不同

c、parallel-processing、cuda、gpu、nvidia

我试着测量一个CUDA内核函数所花费的时间。我测量它的CPU和GPU的时间。但我发现两者之间有很大的不同。当我使用NVIDIA分析器分析它时，内核大约需要6ms，这就是我想要的。但是，当我在内核调用周围使用gettimeofday()来获取CPU时间时，测量值是15 was。我在那里也没有电话。内核在一个单独

浏览 2提问于2019-01-15得票数 0

回答已采纳

1回答

使用事件对CUDA应用程序计时

timer、cuda

我使用以下两个函数来计时我的代码的不同部分(cudaMemcpyHtoD、内核执行、cudaMemcpyDtoH) (包括多GPU、同一GPU上的并发内核、内核的顺序执行等)。据我所知，这些函数将记录事件之间经过的时间，但我猜在代码的生命周期中插入事件可能会导致开销和不准确。我想听到批评，一般的建议，以改善这些

浏览 2提问于2011-08-06得票数 4

回答已采纳

4回答

使用时钟计算时间的值为零- linux

c++、c、linux、time、cuda

我有一个在GPU上执行计算的cuda代码。我正在使用clock()；来找出时间__global__ static void sum(){ } int run_kernel(int array[],int nelements){ start = clock(); //perform operation

浏览 0提问于2012-04-30得票数 1

回答已采纳

1回答

cudaEventRecord()在Visual代码上没有正确计时

c、windows、visual-studio-2013、time、cuda

在完成NVIDIA制作的CUDA的一些基本例子的同时，我复制了一些代码来测试从CPU到GPU计算矩阵乘法的加速。在看了结果30分钟后，看到我的CPU (是CPU)比GPU做了1000倍的计算，我意识到计时不能正常工作。float optimisedKernelTime; cudaEventCreate(&start);<

浏览 0提问于2015-06-25得票数 2

回答已采纳

1回答

CUDA事件是否计时cudaMalloc和cudaMemcpy的执行？

cuda、gpu、cpu-usage、nvidia、timing

我使用以下代码来计时对cudaMalloc()的调用。我很好奇: CUDA事件是否只计算内核的时间，或者它们也计算“内置内核”的时间。换句话说，以下计时cudaMalloc()的方法有效吗？cudaEvent_t start, stop;cudaEventCreate(&stop); cudaEventRecord(start, 0

浏览 0提问于2012-01-21得票数 3

1回答

NVVP和计数器报告的时间差

cuda

我一直在运行CUDA程序的内核。我观察到GPU计数器和NVVP报告的内核执行时间有相当大的差异。为什么通常会观察到这样的差异？

浏览 0提问于2012-09-19得票数 0

回答已采纳

3回答

OpenCL或CUDA调用的开销？

c++、cuda、opencl、gpgpu、timing

我正在写一个函数，它做了很多的gemv操作。我的问题是我的矩阵和向量都很小，100x100的矩阵和100的向量。与CPU相比，CuBlas需要很长时间，我明白为什么，cpu上的高速缓存和调用GPU的大量开销混合在一起。因此，我正在尝试找出一种聪明的方法来衡量与GPU通信调用所需的时间<

浏览 0提问于2012-01-24得票数 4

回答已采纳

1回答

为什么我的CUDA内核执行时间会随着连续的启动而增加？

performance、cuda、benchmarking

我正在用CUDA制作一个应用程序的原型。我一直在对CPU进行基准测试，并注意到了一些可变的运行时。我决定从命令行循环运行我的应用程序，以便收集更好的统计数据。我运行了50次申请，并记录了结果。当我看到经过的内核时间随着启动数量的增加而增加时，我感到非常惊讶。下面是一个片段，您可以看到代码中正在计时的部

浏览 3提问于2016-05-24得票数 4

回答已采纳

5回答

CUDA内核在第二次运行时运行得更快--为什么？

c++、parallel-processing、cuda、gpgpu

我正在用CUDA编写我的第一个真正的应用程序，我已经到了需要知道执行内核所需的时间的地步。但是，正如标题中所说的，我不明白为什么在运行内核不止一次的应用程序中，第二次启动内核所花费的时间比第一次运行的时间要短得多。例如，在以下代码中： #include &q

浏览 0提问于2019-08-29得票数 2

回答已采纳

1回答

CUDA程序设计中设备和主机执行时间的计算

c++、time、cuda

我需要计算GPU运行时代码，以及总运行代码(主机和设备)。在我的代码中，我有两个gpu内核在运行，在主机for循环之间复制数据，下面的示例可以显示我的代码是什么样子的。cuda event start // cuda memory copy result back f

浏览 4提问于2015-05-25得票数 0

1回答

用于多gpu应用的CUDA定时

cuda、parallel-processing

这是在数据自动化系统中执行计时的标准方法：float time;cudaEventCreate(&stop); cudaEventSynchronize(stop); cudaEventElapsedTime(&time, start

浏览 3提问于2013-08-19得票数 2

1回答

是否可以在多个gpus上运行cuda内核

c++、c、cuda、multiple-gpu

这是一个相当简单的问题，但谷歌搜索似乎没有答案，所以。如果是这样的话，为了实现它，我需要知道什么特别的东西吗?除了cuda sdk之外，还有什么

浏览 1提问于2010-12-03得票数 7

回答已采纳

1回答

CUDA执行时间与块大小的比较

cuda、nvidia

目标很简单:使用CUDA绘制块大小对执行时间的影响。人们期望看到的是，对于每个块大小是32的倍数，执行时间是最低的，在这些倍数之后(例如33，65，97,129，...)执行时间应该会增加。然而，这不是我得到的结果。执行时间只会下降，然后趋于平缓。我在NVIDIA GeForce 940M上运行CUDA runtime 10.0。我尝试了几种获取执行<e

浏览 42提问于2019-03-26得票数 1

1回答

多CUDA核的时间测量

cuda、gpu

如何测量多个CUDA内核的特定时间？我已经试过这种方法了。); cudaEventCreate(&tic4); cudaEventSynchronize(tic2); // launching the

浏览 0提问于2017-10-24得票数 0

2回答

如何计算CPU + GPU的总时间

cuda、cpu、gpu、cpu-usage

我在CPU上做一些计算，然后我将数字传输到GPU并在那里做一些工作。我想计算在CPU + GPU上进行计算所需的总时间。我该怎么做呢？

浏览 0提问于2012-01-21得票数 1

回答已采纳

1回答

分配gpu内存缓冲区时出现的资源句柄错误

cuda、gpu、gpgpu

在gpu上分配缓冲区时，我面临cuda无效资源处理错误。 }详细的错误显示为： R

浏览 1提问于2020-08-03得票数 0

回答已采纳

4回答

CUDA:在多GPU中，内存复制到GPU 1的速度要慢一些。

performance、memory、cuda、multi-gpu

我的公司有两个GTX 295的设置，所以在一个服务器上总共有4个GPU，我们有几个服务器。我们GPU 1特别慢，相比GPU 0，2和3，所以我写了一些速度测试，以帮助找出问题的原因。cudaMalloc把0.908640毫秒拷贝到GPU上，用了296.058777 ms测试内核，326.721283 ms GPU1 cudaMalloc拷贝0.913568 ms到GPU，663.182251ms测试内核</e

浏览 5提问于2010-04-01得票数 0

回答已采纳

1回答

共轭梯度核中cudaDeviceSynchronize()的消去

c、cuda、parallel-processing、gpu、gpgpu

在具有统一内存的TegraK1板上实现共轭梯度求解器。我面临的问题是，在循环中，我必须执行cudaDeviceSynchronize()；两次来更新变量，这与TI Keystone-II相比，对我的性能影响了很多倍，后者的计算能力虽然较低，但我只使用简单的代码来并行计算数据我使用的是CUDA版本- 6.0。startTime_GPU = omp_get_wtime(); wh

浏览 4提问于2015-04-28得票数 0

回答已采纳

点击加载更多

计时CUDA内核，应执行1次以上