4回答
请看下面的代码： System.out.println(String.format("%.2f", num));有没有办法保持精确度？
浏览 2提问于2013-07-09得票数 1
回答已采纳
我有一个数据类型为float8的表结构。我将插入来自另一个系统的数据，该系统具有不同的decimal数据类型(Decimal (21,7)，decimal(16,7))等。我想知道float8可以容纳的最大值是多少。
浏览 3提问于2019-10-02得票数 0
boost::lexical_cast (我在VS2013上使用boost版本1.58 )时，我无法获得字符串中指定的精确值，即使它可以在浮点型中表示：floatr;R为91.249992 (0x42B67FFF)，而不是91.250000 (0x42b68000)
先前版本的boost的行为符合预期有没有我遗漏的精确度设置？
浏览 4提问于2016-06-23得票数 4
同样的问题也可以用在float上。或者是MinValue。
我正在考虑使用它作为一个特殊的值。我会因为精确度而看到bug吗？我不希望用这些数字做算术，只需设置它们，就行了。
浏览 2提问于2011-04-22得票数 8
回答已采纳
3回答
虽然看起来很奇怪，但我找不到如何将float转换为int。这项技术触发在gcc。那么，什么是将float转换为int的现代风格的简单方法呢？(当然，我接受精确度的损失)
浏览 0提问于2013-05-16得票数 6
回答已采纳
UInt64 intValue = 999999900;NSLog(@"float tt = %f", tt);
输出结果是"float tt = 999999872"，因为你可以看到UInt64转换为float会丢失一些东西，最大浮点数大于999999900，所以我认为可以将值999999900转换为float，所以我的问题是为什么在iOS中会丢失28？
浏览 0提问于2016-03-13得票数 0
1回答
php print_r($balance);我(几乎)确信这与32位对64位的机器无关，而是在某个地方设置的。我希望我的精度达到16小数点。我怎样才能达到这样的精确度？
浏览 1提问于2014-10-25得票数 0
回答已采纳
1回答
如果我将度量设置为精确度，我的代码可以正常工作，但当我将其设置为精确度时，它会显示以下错误： ValueError: Shapes (32, 10) and (32, 1) are incompatible= X_train.reshape(60000, 784) X_train = X_train.astype('float32')
X_test = X_test.astype('
浏览 75提问于2021-06-23得票数 1
回答已采纳
3回答
我有一个非常简单但很大的系统设置。它将数据存储在void*数组中，因为它存储的数据可能在float或double之间变化，这取决于所需的精确度。我有另一个变量来告诉我data是float*还是double*，但是我使用哪一个重要吗？data = (void*)d_data;
delete [] (float*)data
浏览 2提问于2013-03-07得票数 1
回答已采纳
ScriptEngineManager mgr = new ScriptEngineManager(); Floatf; f = new Float(engine.eval("1340984972921+7200000").toString());
System.out.println
浏览 2提问于2012-06-30得票数 0
回答已采纳
只是一个快速的问题-我可以得到用户的位置，我可以设置缩放级别-但是我如何设置缩放级别以达到各自的精度呢？
所以如果精确度差，我会被放大很远，如果精确度很好，我会放大很远。
浏览 2提问于2011-04-28得票数 1
回答已采纳
9回答
快速圆弧Cos算法？
、、、、
我有自己的，非常快的cos函数：{ const float C = -4/(pi*pi);float y = B * x + C * x * abs(x);
const float P = 0.225;
y =P * (y * abs(y) - y)
浏览 2提问于2010-08-01得票数 27
回答已采纳
我们不是在失去前者的精确度吗？float f {3.14L}; //compiles
float f{myConst}; // error: non-constant-expressioncannot be narrowed from type 'long double' to 'float' in initializer list
浏览 7提问于2018-09-09得票数 7
回答已采纳
5回答
给定一个实际值，我们是否可以检查float数据类型是否足以存储数字，或者是否需要double？
我知道精确度因架构的不同而不同。有没有什么C/C++函数来确定正确的数据类型？
浏览 0提问于2012-11-29得票数 10
2回答
10.9，而我希望它显示10.90美元#include <iostream>using namespacestd;
{ float Price, Tcost, Total;
cout << "How many
浏览 0提问于2018-02-15得票数 2
2回答
我有一个具有默认float数据类型的列。 现在，当我插入诸如12345678之类的数字时，该值在该列中存储为12345700。 这与精确度有关吗？ 有人能给我解释一下这是怎么回事吗？
浏览 21提问于2020-06-12得票数 1
我试图用下面的代码循环打印标题中提到的数字：int ceiling = 1;int main()while (counter< ceiling) printf("%f\n", counter);}但它只给了我7位数的精确度。
浏览 2提问于2013-09-19得票数 1
回答已采纳
谁能解释一下，在.NET框架中，为什么有PointF结构(使用单精度float类型)而没有"PointD“(使用双精度double类型)？他们是否确定这样的精确度在System.Drawing命名空间中永远不会有意义？还有其他原因吗？
浏览 3提问于2010-07-07得票数 13
回答已采纳
%ld",current_time.tv_sec,current_time.tv_usec); floattimestamp_f; printf("timestamp in float: %10.6f\n",timestamp_f这将返回：micro seconds : 95794
浏览 1提问于2021-03-15得票数 1
云服务器
ICP备案
对象存储
云直播
腾讯会议
腾讯云开发者
