我知道存储单值(或双精度值)不能非常精确。因此，例如存储125.12可以得到125.1200074788。现在在delphi中，它们是一些有用的函数，比如samevalue或comparevalue，它们以epsilon为参数，说明125.1200074788或例如125.1200087952是相等的。
浏览 13提问于2017-01-21得票数 7
回答已采纳
1回答
("0.3 in double precision is %.50f\n", 0.3);0.3 in single precision0.1 + 0.2
浏览 1提问于2015-11-20得票数 0
回答已采纳
std::cout << "y[" << i << "] = " << host_y[i] << "\n"; return 0;和两个内核的Floating Point Operations(Single Precision Add) 0 0 0Floating Point Operations(<em
浏览 3提问于2019-08-30得票数 2
回答已采纳
服务器同时运行GPU和CPU BOINC应用程序。当AVX和SSE在CPU应用程序中使用时减慢CPU freq的速度时，我必须选择我一起运行的CPU/GPU，因为一些GPU应用程序会被瓶颈(运行时完成速度较慢)，而其他应用则不然。
浏览 36提问于2020-02-20得票数 0
回答已采纳
15回答
有没有可以截断或舍入双精度数的函数？在代码中的某一点上，我希望将类似：1.23456789的数字四舍五入为1.23
浏览 4提问于2012-06-20得票数 133
回答已采纳
Microsoft.Scripting.ArgumentTypeException was unhandled by user code让事情更奇怪的是，最初的C#代码使用但我在IronPython中找不到"double“类型，但是现在它在两端都使用了float (它从一开始就应该使用浮点数)，它会出错，并认为C#代码使用的是&
浏览 0提问于2010-06-09得票数 5
回答已采纳
1回答
关于MPI数据类型的一个简单问题，我想提供单精度和双精度的支持，这是我通过预处理指令所做的。对于我的顺序程序，我做 using floatT = float; using floatT = double;我天真地认为我可以为MPI做一些类似的事情。#if defined(USE_SINGLE_PREC
浏览 2提问于2020-05-02得票数 0
回答已采纳
1回答
在Fortran中，我输出tanh(1)的结果，并得到值0.7615941763。write(2, '(1000F14.10)')( real(tanh(1.0)))造成这种精确性差异的原因是什么？我能修好它吗？
浏览 4提问于2015-04-25得票数 2
回答已采纳
注:我需要自定义的精度，我可以描述数字的数字Mentissa和指数。2编辑：和就是例子。
浏览 0提问于2015-04-02得票数 0
对于单精度和双精度浮点数，我必须以pi/20的步长输出tan(0)到tan(pi/2)的值。但是，当我使用不同的数据类型来存储浮点数时，单精度和双精度之间没有任何变化，我预计数字的数量会发生变化。= 3.1415926; while(angle < pi_single/2){ }
<e
浏览 0提问于2019-09-15得票数 2
我试着在C++中测量单精度除法和双精度除法的速度差异
{ }std::co
浏览 0提问于2011-11-15得票数 2
回答已采纳
1回答
./0和用于NAN的set $f31=0./0。precision +/- pynan 0x(7)FFFC_0000_0000_0000double precision+/- qnan 0x(7)FFFC_0000_0000_0001
double precision +/- snan 0x(7)
浏览 21提问于2021-08-31得票数 0
2回答
is_double<SP>::value, "SP is not single precision");};
struct calc<T, SP, precision<<e
浏览 3提问于2014-08-07得票数 1
回答已采纳
如果我已经声明了所有东西都是双精度的，那么我有必要在所有 (文字常量)的末尾指定D (例如，1.234D+00)吗？
浏览 0提问于2017-07-18得票数 2
回答已采纳
1回答
我正在尝试使用Treebagger函数，并得到了以下错误：X must be a matrix of floating-point numbers.
[bagger.X,ynum,bagger.W,classnames,bagger.Y] ...
Error in ==&
浏览 2提问于2013-09-10得票数 1
回答已采纳
在从这个网站( )了解到Fortran中的selected_int_kind和selected_real_kind语句后，我在键入以下代码时遇到了这个问题： integer, parameter :: Double= selected_int_kind(precision(1.d0))
integer(Singl
浏览 0提问于2019-04-10得票数 0
1回答
Matlab单重转换误差
、、、、
下面是一个示例：x=3.2530601; %arbitrary single precision numberx_d=double(x_s);x=3.253060100000000x_d=3.253060102462769
由于数字3.2530601可以表示为双精度浮点数或单精度浮点数，所以我
浏览 1提问于2018-02-21得票数 5
回答已采纳
云服务器
ICP备案
云点播
对象存储
即时通信 IM
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号