2回答
在Ruby中浮点数的用途是什么？我发现了一些关于使用更少的字节或提高准确性的信息，但我不明白为什么你不总是使用浮点数。它不会给你一个更准确的结果吗？
浏览 0提问于2013-05-03得票数 1
回答已采纳
如果我们使用浮点数，一个数字可以有多个表示，因此浮点数的除法结果可能会产生逐位不同的浮点数。但是如果分母是2的幂呢？抱歉，我对IEEE浮点黑魔法缺乏了解:)，但我说的是Guvante提到的那些数字:某些小数没有表示法，浮点数“不准确”。考虑到Guvante对这两个词的定义，在这篇文章的其余部分，我将使用“准确的”和“不准确的”。
为了简单起见，我们假设分子总是一个“
浏览 2提问于2012-03-31得票数 2
我在做一件简单的事：printf("x=%f",x);x=151.185440谢谢Amarsh
浏览 4提问于2010-03-20得票数 1
回答已采纳
我之所以问这个问题，是因为，正如一位用户建议的那样，理解浮点数而不使用shourtcuts是很重要的。是的，我正在走捷径地问这个问题，因为我今晚没有时间好好学习它，但我想试着尽可能地理解和学习。
浏览 1提问于2013-11-26得票数 2
1回答
除了不可能在二进制中表示像0.1这样的十进制数，以及非规范化浮点数的设计不准确之外，当使用双精度浮点数时，是否还有其他不准确的来源？
浏览 2提问于2016-05-15得票数 2
我想知道以下几点:我有一个方法，它接受一个浮点数作为输入，并在一些计算后返回一个浮点数。让我们假设中间值不超过最小值和/或最大值，显然会有差异。但是，如果使用double类型，返回值是否会更准确，或者在最终转换回float之后，您会得到完全相同的结果吗？
浏览 0提问于2013-10-08得票数 0
为什么SQL Server中的舍入行为不直观？如何保证在处理浮点数时得到准确的结果？NoDiff值是否隐式地将第二个值转换为浮点数，这就是为什么结果恰好是0？
浏览 2提问于2017-07-07得票数 0
这种情况发生在给定的数字足够大(大于9007199254740992)时，随着更多的测试，我甚至发现许多相邻的数字可以匹配一个数字。当我想用它的数字对一个记录进行操作时，我实际上可以使用三个不同的相邻数字来返回相同的记录。
浏览 2提问于2021-02-09得票数 0
回答已采纳
例如，我有一个浮点数0.02344489282。我希望能够确保我拥有的每个浮点数都是两个小数点: 0.02。我确信这是不准确的，但我的代码中的整个浮点数应该能够截断小数点后两位之后的任何内容。目标:以牺牲准确性为代价来优化内存消耗。但是准确率可以降低到5-15%。
实际例子:我正在执行卡尔曼滤波器。我尝试通过缩短变量的位宽来找到近似值，而不是噪声和实际值的精确值。然后，我将找出前一个脚本和后一个脚本的准确性差异，以及节省了多少能量和内存。
浏览 53提问于2018-06-03得票数 -2
round(6.45, 1)>>> round(7.45, 1)>>> round(8.45, 1)>>> round(9.45, 1)公认的答案证实，这是由于浮点数的二进制表示不准确造成的假设Ruby浮点数和Python浮点数一样不准确，为什么Ruby浮点数会像人类一样浮点数？Ruby作弊吗？
浏览 2提问于2013-04-01得票数 13
回答已采纳
我在我的实体中使用一个十进制字段。 /** */ dump($this->value); }
浏览 0提问于2018-07-10得票数 1
回答已采纳
对于乘/除/加/减，较大的浮点数范围是否比较低的浮点数范围更精确？
例如，567.56 / 345.54会比.00097854 / .00021297更准确吗？
浏览 1提问于2012-08-07得票数 1
回答已采纳
我很难理解为什么有些数字不能用浮点数来表示。
正如我们所知道的，正常的浮点数应该有符号位、指数和尾数。例如，为什么0.1不能在这个系统中准确地表示；我认为它的方式是你把10 (1010 in bin)放到尾数上，把-2放到指数上。据我所知，这两个数字都可以用尾数和指数准确地表示出来。那么为什么我们不能准确地表示0.1呢？
浏览 1提问于2011-06-08得票数 5
回答已采纳
1回答
浮点精度与方案中舍入误差的消除
、、、、
我有一个将浮点数返回到小数点后三位的过程。3.665> (* 1 (- 0.5 0.4 0.1))不不！
你如何处理这种不准确的情况？
浏览 0提问于2013-04-30得票数 3
回答已采纳
IEEE 64位浮点数可以准确地表示0到2^52之间的整数，因此这不是精度上的损失，而是Double.toString()实现过程中的一个决定。
我的问题是，他们为什么要这样做呢？为什么他们不直接打印123？
浏览 7提问于2009-10-22得票数 2
回答已采纳
2回答
使用整数项计算矩阵幂
、、、
计算特征值等将我们带出整数的领域，进入浮点数。尽管最后，我们知道pow(A，n)必须包含所有整数条目，但上面概述的算法只计算浮点数。有没有一种方法可以在不转换为浮点数的情况下准确地快速计算pow(A，n)？
浏览 1提问于2018-10-10得票数 2
1回答
gpu十进制精度
、、、
如果我在cpu上编程，它不会那么难，但是由于我使用的是gpu.js，所以我不能使用字符串，因此没有我知道的十进制库。
使用权力
浏览 0提问于2018-05-29得票数 0
回答已采纳
我为我的文档创建了一个自定义评分函数，它只返回每个文档的字段a的值。但由于某种原因，在下面的示例中，结果中_score的最后一个数字与每个文档的a值的最后一个数字不同。这里发生了什么事？{}
{}
{ "function_score": { "
浏览 1提问于2016-06-13得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
