基于Titan RTX的双精度和单精度矩阵乘法基准测试
是一种评估Titan RTX显卡在执行矩阵乘法运算时的性能指标的方法。矩阵乘法是一种常见的数值计算操作，广泛应用于科学计算、机器学习、深度学习等领域。
双精度矩阵乘法基准测试是指使用双精度浮点数进行矩阵乘法运算的性能测试。双精度浮点数具有更高的精度，但相对于单精度浮点数来说，计算速度较慢。在某些对精度要求较高的应用场景中，双精度矩阵乘法是必需的。
单精度矩阵乘法基准测试是指使用单精度浮点数进行矩阵乘法运算的性能测试。单精度浮点数具有较低的精度，但相对于双精度浮点数来说，计算速度更快。在一些对计算速度要求较高、对精度要求相对较低的应用场景中，单精度矩阵乘法可以提供更高的计算性能。
Titan RTX是英伟达（NVIDIA）推出的一款高性能显卡，基于图灵架构。它具有强大的计算能力和并行处理能力，适用于各种计算密集型任务，包括机器学习、深度学习、科学计算等。
在进行基于Titan RTX的双精度和单精度矩阵乘法基准测试时，可以使用各种开源的深度学习框架（如TensorFlow、PyTorch）或数值计算库（如NumPy）来实现矩阵乘法运算。通过调用Titan RTX的计算能力，可以加速矩阵乘法的计算过程，提高计算效率。
腾讯云提供了一系列与GPU计算相关的产品和服务，可以用于支持基于Titan RTX的矩阵乘法基准测试。其中，推荐的产品包括：
- GPU云服务器：提供了强大的GPU计算能力，可以满足高性能计算需求。具体产品介绍和链接地址可参考腾讯云GPU云服务器产品页面（https://cloud.tencent.com/product/gpu）。
- 弹性GPU：为云服务器提供了可随时挂载和卸载的GPU加速能力，可以根据实际需求进行灵活调整。具体产品介绍和链接地址可参考腾讯云弹性GPU产品页面（https://cloud.tencent.com/product/gpu）。
- GPU容器服务：提供了基于容器的GPU计算环境，方便用户快速部署和管理GPU加速的应用程序。具体产品介绍和链接地址可参考腾讯云GPU容器服务产品页面（https://cloud.tencent.com/product/tke-gpu）。
通过使用腾讯云的GPU计算产品和服务，结合Titan RTX的强大计算能力，可以进行高效的双精度和单精度矩阵乘法基准测试，加速计算过程，提高计算性能。
相关·内容
我需要用几百个大小相同的矩阵来解决大量线性问题。初始化成本无关紧要，但运行时成本至关重要。天真地，我的LA背景告诉我，我应该反转我的矩阵，并使用缓存的反演，以解决我的每一个线性问题。然而，Eigen文档提到，这可能不是最好的方法。
以下是我的两个问题：
如果原始矩阵表现良好，那么.solve()和将倒置矩阵乘以RHS之间的速度和精度有什么不同？
如果原始矩阵表现不佳，但不是完全退化(特征值都不是0，但最大与最小的比率是大的)，那么答案会改变吗？
我是一个在艾根的新手，所以我很抱歉，如果这是一个重复的问题，我确实搜索了档案在张贴之前。
尼克·格尼丁
浏览 0提问于2019-04-05得票数 1
如果A是n乘n的双矩阵，B是n乘n的单矩阵(n是大的)，我们需要计算A*B。我知道结果矩阵是单矩阵类型的。我担心的是
1) Matlab是否会隐式创建一个时间单一矩阵来存储A的值？或者，这种混合类型的计算是否需要更大的内存使用量？
2)这种混合类型的计算比同型计算慢吗？或者，这种混合类型的计算会减慢程序的运行速度吗？
我们是否应该尝试使用同型数据显式地进行计算？我相信，如果我们确切地知道Matlab是如何工作的，我们就可以更准确地预测代码的行为。这一定是有帮助的。
浏览 1提问于2016-05-12得票数 3
1回答
在中，有一个支持类型组合的表，其中乘法要么是子单精度浮点类型，要么是double -从不浮动。但是-在中，它说：
数据类型(矩阵片段的T)可以是double、float、__half、__nv_bfloat16、char，或者是对乘法数没有符号的char，对于累加器则是double、float、int或__half。
那么，乘法矩阵可以是float，还是不能呢？
浏览 4提问于2022-05-12得票数 1
我正在尝试了解我们的GPU工作站的单精度和双精度之间的性能差异。 我们的工作站配备了两个TITAN RTX GPU，但我在单个Titan RTX上运行基准测试。我正在使用cublas矩阵-矩阵乘法测试性能。我将由随机浮点数或双精度数组成的8192x8192矩阵相乘。为了确保我这一端没有错误，我也使用cupy库在Python中重复了这个过程，结果非常相似。 对于浮点数，测试结果为每1次乘法约75ms，对于双精度乘法，测试结果约为2000ms。 如果我有一个更老的图形处理器，这将是很有意义的，因为75*32 = 2,400~2000，所以我的双精度性能将比从表https://docs.nvidi
浏览 26提问于2020-09-18得票数 0
回答已采纳
我正在用openBLAS编写一些线性代数程序。程序需要乘两个矩阵，一个是单精度的，另一个是双精度的。
我查找了BLAS引用""，似乎BLAS只支持相同类型的操作。
有什么我错过的吗？或者，要将两个不同精度的矩阵相乘，是否需要键入单精度矩阵，然后再将它们相乘呢？
浏览 0提问于2018-04-30得票数 0
回答已采纳
我使用的GT 740米(CC 3.5)，我有一个RGB到实验室转换内核。使用计算能力1.0 - 1.2，整个内核在924微秒内执行，但是使用1.3或更高的计算能力(最多3.5)，内核在大约3ms内执行。根据维基百科的表格，我发现它可能是由双精度浮点操作引起的，所以我使用了-use_fast_math标志，但是没有帮助。
演出成功的原因是什么？
整个源代码可以在中看到。
浏览 2提问于2015-03-31得票数 0
回答已采纳
1回答
在使用BLAS 矩阵乘法函数时，我注意到对于一个未初始化的结果矩阵C，当我像这样调用它时，我会在结果中得到NaNs：
DGEMM('N', 'N', M, N, K, 1.0, A, LDA, B, LDB, 0.0, C, LDC)
但是，如果我事先声明了ALPHA和BETA：
REAL*8 ALPHA, BETA
PARAMETER (ALPHA=1.0)
PARAMETER (BETA=0.0)
DGEMM('N', 'N', M, N, K, ALPHA, A, LDA, B, LDB, BETA, C, LDC)
那么
浏览 2提问于2012-10-14得票数 1
回答已采纳
1回答
我有一个用C编写的函数来计算特征值和特征向量，但是由于我多次调用这个函数作为另一种算法的一部分，这需要花费大量的CPU时间。根据苹果公司的说法，可以用BLAS和LAPACK快速地从矩阵中求出特征值。
由于我对加速框架是新的，那么我应该使用哪些函数来寻找方阵的特征值和特征向量？
浏览 3提问于2012-06-27得票数 2
我研究了由clang从glm (一个用于3d计算的矩阵向量库)操作生成的反汇编代码。
我注意到clang正在做一些双精度操作的“向量化”，例如。在一条SIMD指令中强制执行两次乘法。
然而，对于单精度计算，代码对我来说似乎各不相同。所使用的指令来自SSE指令集和寄存器MMX指令集，但每次乘法都是针对单个浮点数完成的，甚至是赋值组(例如，矩阵赋值)是由一大堆movss语句执行的。这些糟糕的赋值甚至适用于双精度代码。
为什么会这样呢?有没有什么命令行参数可以激励clang做得更好？我知道编译器没有什么神奇之处，但我猜16个内存相邻的线性赋值列表应该在很多方面都是优化的？
浏览 2提问于2015-01-20得票数 0
使用nvprof来测量我的样本内核的浮点操作，似乎没有flop_count_dp_div的度量标准，实际的双精度除法操作是根据双精度的add/mul/fma，甚至是一些单精度操作的fma来度量的。
我想知道为什么会出现这种情况，如果没有源代码，如何从nvprof报告中推断内核的动态除法操作数？
我的简单测试内核：
#include <iostream>
__global__ void mul(double a, double* x, double* y) {
y[threadIdx.x] = a * x[threadIdx.x];
}
__global__ void div
浏览 3提问于2019-08-30得票数 2
回答已采纳
3回答
BLAS :矩阵积在C？
、、、、
由于BLAS (没有机会选择另一个库，这是我的项目中唯一可用的库)，我想用C语言实现一些快速操作。我做以下操作：
反演方阵，
设矩阵积A*B，其中A是计算的逆矩阵，B是向量，
和2(很长)向量。
我听说这种手术用BLAS是可能的，而且速度很快。但是我搜索并没有发现任何东西(在C代码行中，我的意思是)，它可以让我理解和应用它。
浏览 4提问于2012-05-13得票数 2
2回答
在C++中执行复数矩阵运算
、、、、
我正在尝试执行涉及矩阵运算和复杂数学的计算-有时是用C语言一起执行的。我非常熟悉Matlab，我知道这些类型的计算可以简单有效地执行。例如，两个大小相同的矩阵A和B，每个矩阵都有复数元素，可以通过expression A+B轻松求和。有没有什么包或技术可以推荐使用C或Objective C对这些类型的表达式进行编程？我知道complex.h，它允许对复数执行操作，但不知道如何对复数矩阵执行操作，这才是我真正想要的。类似地，我知道有一些包允许对矩阵进行操作，但我不认为它们在处理复杂矩阵时有用。
浏览 1提问于2011-10-07得票数 3
1回答
当我在Matlab中使用下面一行代码进行两个矩阵的乘法时
乘= singleMat * singleMatT；
然后它给我这个错误..。
?？?此操作不完全支持使用==> mtimes数据类型的错误。至少一个操作数必须是标量。
请帮我解决matlab中两个矩阵的乘法问题。
浏览 8提问于2014-04-04得票数 0
2回答
我目前正在开发一个库，它有自己的内部fft (快速傅立叶变换)库，我想用替换它。现在，其他开发人员有点担心它可能导致的性能问题。此外，速度方面最关键的部分是1D卷积算法，它处理半复数实数。(我正在使用fftw的fftw_plan_r2r_1d)。
此外，事情有点复杂，因为在内部，fftw使用不同的算法，具体取决于变换的大小。
我现在的想法是生成一组不同长度的数据集。然后，在进行转换之前，以预定的方式读取它们并修改每次迭代的数据集数组。
或者还有什么我应该知道的吗？
浏览 1提问于2011-08-18得票数 2
1回答
通过阅读其他关于现代桌面处理器浮点性能的问题，我的理解是：“哪个更快，哪一个更快？”取决于这些类型中的哪些是在硬件中实现的，还是在CPU的ALU (我认为是算术逻辑单元)中实现的。
我的理解是，如果浮点是在硬件中实现的，那么使用双重数据类型的速度要慢一些，因为使用该数据类型的数学是通过使用浮动数据类型的软件实现的。因此，double更慢，并且使用更多的ram。
另一方面，如果在硬件中实现了double，我的理解是，必须执行转换(类似于截断)才能将数据转换为浮动数据类型。因此，使用float将更慢，尽管它将使用较少的ram。
在Raspberry-Pi上，哪种数据类型是在硬件上实现的？(等效地，
浏览 1提问于2014-07-20得票数 1
我使用MSC Nastran进行了颤振分析，我想提取广义空气动力学矩阵，它是.f06输出文件中的Qhh。
我有点成功了，但如图所示，数字包括'D'，而不是'E'，这对我来说是相当新的。
有人知道这个数字中的'D‘代表什么吗？
谢谢。
浏览 15提问于2018-03-05得票数 1
这里有一段代码：
*det_ptr++ = (float)(dx*dy - 0.81*dxy*dxy);
其中dx、dy和dxy是浮点数。
Apple LLVM 3.0编译器为它制作了以下程序集：
+0x250 vldr.32 s0, [r13, #+140]
+0x254 vldr.32 s1, [r13, #+136]
+0x258 vmul.f32 s0, s0, s1
+0x25c vcvt.f64.f32
浏览 2提问于2011-12-26得票数 4
回答已采纳
我想知道从一个非常大的numpy数组中提取子数组的最快方法。我有一个需要实时运行的算法，而且我经常需要提取一个非常耗时的子数组。
以下是目前的做法：
array[max(0,y-q):max(0,y+q+1),max(0,x-q):max(0,x+q+1)]
从原始数组中选择以q*q为中心的x, y数组。在大多数情况下，我使用q=6
有办法让它更快吗？
编辑:下面是使用它的代码
res_1 = np.mean(arr_1[max(0,y-q):max(0,y+q+1),max(0,x-q):max(0,x+q+1)])
res_2 = np.mean(arr_2[max(0,y-q):max(
浏览 1提问于2022-03-16得票数 0
在特斯拉K20模型中，峰值单精度浮点性能约为3.52 TFlops，双精度为1.17 TFlops，比值为3。特斯拉K20X为3.95和1.31，特斯拉K40为4.29和1.43 TFlops，这一比例似乎在重复。我的问题是，如果这个比率是3而不是2的话，这对我来说是合乎逻辑的，因为单精度和双精度之间的区别是合理的。我正在学习GPUS和GPUS，所以我对它不太了解。
在这个pdf的第二页中有一个规范表。
浏览 2提问于2014-09-03得票数 0
回答已采纳
1回答
我正在读的代码有一行：
someData = nan(3, 4, 5, "single")
我找不到" NaN“函数的文档，但这段代码似乎生成了NaN的3x4x5矩阵。然而，我不知道“单身”是干什么的。用一个随机的其他字符串替换它会得到"error: NaN:无效数据类型指定“，并将其替换为"double”，似乎会给出相同的结果。“单身”的功能是什么？
浏览 0提问于2016-07-28得票数 1
回答已采纳
R = randn(960,d); creates a matrix of random numbers.
我有另一个维数X的矩阵1000000 by 960。当我做手术的时候
B = (X*R >=0) ;
我知道错误了
Error using *
Out of memory. Type HELP MEMORY for your options.
为了d = 4096。但是，d < 4096特别是没有错误。d = [32 64 128 256 512 1024 2048 ]不给出任何问题，除了d>4096的情况。X具有单一精度格式的数据元素。
键入mem
浏览 2提问于2016-02-14得票数 1
回答已采纳
如果我在主机和设备(GPU arch sm_13)上执行浮点(单精度)操作，那么它们的值是否会不同？
浏览 0提问于2012-04-26得票数 3
回答已采纳
我试图弄清楚，为什么当我在HTML画布上为translate()调用的x组件提供了一个很大的数字时，矩形似乎不再在适当的坐标上绘制。
在下面的示例中，绘制的两个矩形在x分量中仅相差1。因此，我希望它们的左边缘之间只有一个像素的距离。正如你在Firefox和Chrome中看到的，情况并非如此。
<html>
<head>
<script type="text/javascript">
function go() {
var canvas = document.getElementById("
浏览 3提问于2012-01-09得票数 2
回答已采纳
1回答
单精度浮点分割的最佳精度
、、、、
如果只使用单精度加/子和乘法硬件(不使用FMA)，是否可以执行除法并获得IEEE-754单精度正确值？
具体而言，如果在单精度硬件上执行牛顿-拉夫森法进行浮点除法，是否有可能达到IEEE-754正确的结果？
浏览 1提问于2014-07-18得票数 3
回答已采纳
2回答
据我所知，分解/分解(LU，QR，Cholesky等)是必需的，然后是基于因式分解的矩阵逆计算。有没有其他方法可以绕过它(我想知道在的试用版中，我是否可以继续使用免费提供的6个函数)？提前感谢你的评论。
浏览 3提问于2009-11-05得票数 2
回答已采纳
我计划购买一个严肃的GPU来运行并行算法(预算2k-4k)。现在我看到到处都是具有GPGPU特斯拉GPU卡的超级计算机“专门为nVidia制造的”。
虽然乍一看这似乎非常好，但更好的阅读让我认真地重新思考:与Radeon HD 7970相比，它的性能(在flops方面)要低得多，它的成本价格要高得多，我似乎找不到特斯拉和普通游戏GPU之间的基准比较。
我发现特斯拉配备了ECC-memory。这是唯一的区别吗？或者我错过了两者之间更深层次的架构差异？也许相关信息:我将使用OpenCL，而不是Cuda。
浏览 2提问于2012-02-02得票数 5
回答已采纳
3回答
我想使用BLAS的SGEMV子程序在fortran中执行矩阵向量积。我有一个类似于以下代码的代码：
program test
integer, parameter :: DP = selected_real_kind(15)
real(kind=DP), dimension (3,3) :: A
real(kind=DP), dimension (3) :: XP,YP
call sgemv(A,XP,YP)
A是一个3x3矩阵，XP和YP是向量。在包含的模块中，可以看到以下代码：
PURE SUBROUTINE SGEMV_F95(A,X,Y,ALPHA,BETA,TRANS)
!
浏览 0提问于2019-01-14得票数 1
回答已采纳
我有一些代码，是在特斯拉和费米代芯片组上编译和测试的。
在所有特斯拉代芯片(260,280，c1060)中，输出是一致的。
在所有费米代芯片(460-580，c2080)中，输出是一致的。
然而，在特斯拉和费米两代之间，输出图像略有不同。
这是意料之中的吗？代码中有浮点数学，精度是我的第一个怀疑，但我在Nvidia的文档中找不到任何提到它的地方。
浏览 0提问于2011-06-08得票数 0
回答已采纳
我偶然发现了这个用于编写单位矩阵的F77程序：
DO 10 I=1, M
DO 10 J=1, N
IF(I .EQ. J) THEN
UNITM(I,J)=1.0D0
ELSE
UNITM(I,J)=0.0D0
END IF
CONTINUE
在上面的程序中，10和.0D0的作用是什么？
浏览 7提问于2018-04-21得票数 0
1回答
我需要在Matlab中创建一个3D数组或矩阵，这是LabVIEW的Mathscript节点支持的。三维数组中的所有值都应该初始化为0，并且沿3维的大小是不同的预计算变量。
我尝试了以下几种方法：X = zeros(a,b,c);，它在Matlab中运行得很好，但是在LabVIEW中，零函数只支持1到2个参数。
然后，我尝试使用for循环创建它：
for i = 1 to c
X(:,:,i) = zeros(a,b);
end
但是，数组索引也不支持3个索引。我知道错误：
“只能指定一个或两个索引参数，例如(1，2)。”
您是否知道如何创建一个3D数组，而不是使用带有3个参数的
浏览 4提问于2016-03-27得票数 1
回答已采纳
1回答
利用高斯混合模型估计颜色分布
、、、、
我有一个图像，我想通过高斯混合模型估计输入图像的颜色分布，我如何使用Matlab来实现？
myImage = imread('Jellyfish.jpg');
gmdistribution.fit(X,k)不适合我，因为X必须是2D矩阵，而myImage是3D矩阵，当我使用gmdistribution.fit(myImage,10)时，我得到这个错误:X必须是一个数字的2-D矩阵。
当我对图像的红色使用gmdistribution.fit(myImage(:,:,1),10)时，我得到了这个错误：
Error using var (line 59)
First argument
浏览 1提问于2014-11-28得票数 0
我试着画一条对角线，但OpenGL显示它是一条水平线，我不知道为什么。
下面是我的代码：
设置OpenGL：
if (!SetWindowPixelFormat(hDC))
return 0;
if (!CreateViewGLContext(hDC))
return 0;
BOOL SetWindowPixelFormat(HDC hDC)
{
int iBPP = GetDeviceCaps(hDC, BITSPIXEL) * GetDeviceCaps(hDC, PLANES);
ZeroMemory(&m_pfd, sizeof(PIXELFORMATD
浏览 0提问于2013-09-20得票数 0
根据MKL的：
gemm3m_3m例程对一般复矩阵执行矩阵运算.这些例程类似于?gemm例程，但它们使用的矩阵乘法运算较少。
和
这些例程通过形成输入矩阵的实部和虚部来执行复矩阵乘法。它使用了三个实矩阵乘法和五个实矩阵加法，而不是传统的四个实矩阵乘法和两个实矩阵加法。三种实矩阵乘法的使用使矩阵运算所花费的时间减少了25%，大大节省了大型矩阵的计算时间。
如果是这样的话，为什么Zgemm不反对呢？这里的陷阱是什么？使用Zgemm更好了吗？gemm3m的分批版本也存在，这意味着它对于小型矩阵也很有用。
浏览 0提问于2018-10-02得票数 2
1回答
我正在尝试产生一些FFT数学，特别是做两个2D正向变换，相乘，然后进行逆变换。在进行逆变换之前，一切都很顺利。我已经用fftw3做过了，但在CuFFT中有些地方出错了。大多数值是相似的，但也有一些是错误的，这对未来的数学具有重要意义。这段代码有什么问题？
std::vector<complex> conv2dCUDA(complex *ui_anomaly, double *ds2,
complex *u0, int anx, int any, double factor) {
cufftComplex *b1, *b2;
int size = 2 * anx *
浏览 2提问于2019-08-28得票数 0
4回答
GPU上的高精度数学运算
、、、
我对使用HLSL在GPU上实现算法很感兴趣，但我主要关心的问题之一是我想要一个可变的精度级别。有没有技术可以在GPU上模拟64位精度或更高的精度。
谢谢!
浏览 0提问于2009-09-18得票数 7
2回答
我正在研究一种可能的基于gpu的万亿次浮点计算机器...要使用的基准将是LINPACK，现在问题来了；通过linpack文档，它说它是以全精度计算的，而不是以双精度计算的，对于某些机器来说，全精度可以是单精度。有没有人可以解释一下其中的区别，因为这将决定我应该选择GTX 590还是Tesla 2070。
浏览 6提问于2011-09-10得票数 0
回答已采纳
我正在使用Accelerate框架来解决欠定/过定的线性方程组。我使用的例程是来自LAPACK的dgelsd_。
dgelsd_( &m, &n, &nrhs, a_t, &lda, b, &ldb, s, &RCOND, &IRANK, work, &workSize, iWork, &info);
这在模拟器中运行良好，在提供矩阵a_t和b时，结果在b中正确返回。但是，当我在设备上尝试此操作时，结果全为零。
我会错在哪里呢？我已经根据需要为例程分配了一定数量的工作内存，但我使用分析器进行了检查，内存似乎不是问题所在。
浏览 0提问于2011-06-04得票数 1
回答已采纳
1回答
我正在研究使用gotoblas库在一个CPU周期内可以完成多少FLOP。我使用32位浮点数进行矩阵乘法，通过手工计算得到每个CPU周期大约8个FLOP。我猜这可能是因为我的处理器(Intel Xeon E5430)中有两个FPU，每个FPU负责128位E5430寄存器上的一条SSE指令。因此，使用32位浮点数，我得到每个CPU周期2*4个FLOP。
我的猜测正确吗？有没有可以参考的官方手册来计算一个英特尔处理器中的FPU数量？
谢谢!
浏览 4提问于2013-10-21得票数 2
1回答
根据，SMX有192 CUDA核和64双精度单元(DPU)。对于一个K20Xm，在2688核上总共有14 SMX，这意味着只有CUDA核被计算。那么DPU到底是用于什么用途的，它们的使用与核心有什么关系呢？
我的想法：
a) CUDA核心不能进行双精度操作，只有DPU才能做到。因此，在DPU忙的时候，CUDA核心是免费的。
( b) CUDA核心在某种程度上需要一个双精度单元来进行双精度操作，因此只有128的192 CUDA核可以用于其他工作。
干杯，安迪
浏览 2提问于2013-12-09得票数 0
回答已采纳
3回答
编译器之间的浮点二进制布局
、、、、
我正在清理我们的一些网络代码，同时替换各种整数类型(int，unsigned short，...)对于更多的显式类型定义，比如int32_t和uint16_t，我想知道double和float在不同编译器之间的可移植性如何。我们正在发送类似如下的结构：
struct foo
{
uint32_t id;
double dbl;
};
...
// copy_packed() copies packed bytes of integral type and adheres
// to network byte-ordering
copy_packed(int32_t data,
浏览 4提问于2011-10-31得票数 3
回答已采纳
from scipy import sparse
from sparse_dot_mkl import dot_product_mkl
data =[1,1,1,1]
Row=[1, 100, 2, 200]
Col=[53, 21, 18, 32]
N=210
A=sparse.csc_matrix((data, (Row,Col)), shape=(N,N) )
M=A.copy()
dot_product_mkl(A,A)
我知道这个错误：
> ValueError Traceback (most recent c
浏览 11提问于2022-02-09得票数 0
在Fortran 90代码中，NxN矩阵中N的最大值是多少，这样就不会发生分段错误？
例如，当我使用大小为2^8x2^8的矩阵并将它们用于乘法(使用内在的'matmul‘函数)时，我没有任何问题。
然而，当我使用2^12x2^12矩阵时，我没有发现任何编译错误，但在程序中间出现了分段错误。
我是否用完了内存分配，或者我的代码中可能有错误？
我使用了动态分配，我使用64位RedHat操作系统64 GB内存。
此外，最大大小是否取决于编译器或系统配置？
浏览 0提问于2013-09-30得票数 5
我在寻找一个大概的想法。我知道IEEE的浮点数或双精度数是如何存储的，但我不知道如何准确地将其相乘。
我的一个想法是将整数存储为double (在浮点寄存器中)，然后使用普通的double乘法指令。
当将IEEE双精度乘以一个整数时，有什么特征属性吗？就像“你只需将指数相乘”或类似的东西？
任何帮助都将不胜感激。
浏览 3提问于2012-01-03得票数 1
回答已采纳
众所周知，除法需要更多的时钟周期来计算而不是乘法。(请参阅此处的讨论：。)
在我的x * 0.5代码中，我已经使用了x / 2而不是x * 0.125，而不是x / 8，但是我想知道我应该走多远。
当倒转时再出现的小数。1 / num是循环小数)，我使用除法代替乘法(例如x / 2.2而不是x * 0.45454545454)。
我的问题是：在迭代相当多次的循环中，我是否应该用它们的重复乘法对应(即。x * 0.45454545454而不是x / 2.2)，还是会带来更大的精度损失？
编辑：--我做了一些分析，在Visual中启动了完全优化，使用了()函数来获得分析结果。
int main()
浏览 12提问于2016-02-28得票数 0
回答已采纳
为了检查fortran中iso_c_binding的一些属性，我编写了一个小程序
program double
use iso_c_binding, only : C_DOUBLE, C_INT32_T, C_FLOAT
implicit none
integer, parameter :: rk = C_DOUBLE
integer, parameter :: rk4 = C_FLOAT
integer, parameter :: ik = C_INT32_T
integer(kind=ik) :: i, j
integer(kin
浏览 1提问于2016-08-31得票数 0
回答已采纳
3回答
据我所知，GLSL中没有FLT_MAX类型常量。
有没有办法确保一个浮点数表示最大可能的值而不溢出？
编辑：
因为有人问我用这个做什么：
我基本上是把一个点扩展到“无穷大”。它用于2D阴影投射，其中我完全重塑了GPU上的三角形条带阴影。因为我一次只能控制处理一个顶点，所以w分量存储，无论它是停留在船体上还是投影到无穷大。
在两个“阴影边界”点是同一边缘的情况下，光线几乎与该边缘共线，我需要确保三角形仍然覆盖整个屏幕。这很难描述。
浏览 0提问于2013-04-18得票数 8
回答已采纳
6回答
是否存在使用单一数据类型而不是双精度数据类型更有意义的情况？根据我的搜索，double的缺点是它需要更多的空间，这对于大多数应用程序来说不是问题。在这种情况下，所有的浮点数都应该是双精度的吗？
一点背景信息:我正在使用一个应用程序，它处理大量关于坐标和化学物质的数据。一些客户已经注意到，在导入数据的电子表格时，一些高精度的值会四舍五入为单精度。
浏览 2提问于2009-12-09得票数 6
回答已采纳
2回答
一维有限差分波动方程
、、、、
我是库达的新手。我试图用Ricky动量的形式来解初值的波动方程。代码的性能为12 GFlops，尽管我的GPU性能为3900。为什么代码对我来说如此无效，我如何才能修复它呢？
main.cu
#include <iostream>
#include <cmath>
#include "step.cu"
#include <cuda.h>
#include "err.cu"
#include "err.h"
using namespace std;
int main(int argc, char const *a
浏览 6提问于2021-12-23得票数 1
1回答
Server编号舍入问题
、、、、
这是[ ]的后续问题.这是相同的代码：
IF OBJECT_ID(N'dbo.rounding_testing') IS NOT NULL
DROP FUNCTION dbo.rounding_testing;
GO
CREATE FUNCTION dbo.rounding_testing
(
@value FLOAT,
@digit INT
)
RETURNS FLOAT
BEGIN
DECLARE
@factor FLOAT,
@result FLOAT;
SELECT @factor = POWER(
浏览 1提问于2016-12-21得票数 5
回答已采纳
1回答
目前，我有一个系统Ax = b，使得A是一个三对角矩阵。使用本征，我已经可以用线来解决这个系统：
X= A.colPivHouseholderQr().solve(b)；
但是，由于A是一个三对角矩阵，这比MATLAB中的工作慢，因为程序很可能计算所有值的解决方案，而不仅仅是在三个对角线上。艾根能更快地解决这个系统吗？这可能是一个相当愚蠢的问题，但我对C++相当陌生，我几天前才开始使用艾根，所以现在有很多东西要考虑！提前谢谢。
浏览 5提问于2016-04-06得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
