浮点数的八度精度:它是不是在引擎盖下的128位？

文章/答案/技术大牛

发布

1回答

c#、signal-processing、octave

我正在使用Koen Vos在“快速实现伯格方法”中提出的方法制作一个C#版本的伯格算法。我使用GNU Octave arburg函数将结果与进行比较。当我在C#代码中对内部变量使用decimal时，测试结果几乎相同(精度为0.0000000000001)，但当我使用double时，测试结果有很大不同(精度为0.01)。据我所知，GNU Octave uses 64-bit precision for floats不是128位的。我说错了吗？我认为要么

浏览 12提问于2019-09-13得票数 2

回答已采纳

2回答

接受somethingLike协议中的任何数字

php、pact

在我的客户契约中，我有这样的规则 foo: like(1.2)我想要求的是foo要么是浮点数，要么是整数。然而，在提供程序端，对于整数的pact测试失败。我的提供者端(PHP)看起来如下所示： return [ ]; }提供者真的需要返回1.0而不是1，还是可

浏览 3提问于2020-01-14得票数 0

回答已采纳

4回答

这里的舍入错误的本质是什么？

python、floating-point

有人能帮我解开引擎盖下面到底是怎么回事吗？1e+161.0000000000000002e+1610000000000000000.999999.... 小数点就被删除了。我并不是说答案是“错误的”。很明显，他们是对的</

浏览 2提问于2013-02-25得票数 12

回答已采纳

2回答

cout.setf(ios::fixed|ios::showpoint)；设置精度超过原始数

c++

#include <iostream>using namespace std; { cout.setf(ios::fixed|ios::showpoint); cout<<f<<endl;结果17793.029

浏览 2提问于2016-05-09得票数 1

1回答

哪一个单精度浮点数字需要9个有效小数位才能清楚地表示小数？

floating-point、precision

我在维基百科的这篇文章中找到了关于单精度浮点数的如下语句如果IEEE 754单精度数字被转换为具有至少9个有效数字的十进制字符串，然后转换回单精度表示，则最终结果必须与原始数字匹配。我试图找到一些例子，这些单精度浮点数字实际上需要9个重要的十进制数字，而且还没有与8个有效数字明确，也没有找到任何数字，例如在gdb调试器中打印浮点值，或者尝试将不同的值转换为八度音程中的<

浏览 1提问于2020-03-21得票数 3

回答已采纳

3回答

在C#中'decimal‘和'float’的区别是什么？

c#、floating-point、decimal

在C#中使用decimal或float有什么区别？我知道float用于更精确的小数，而decimal用于货币或价格等少数小数，但当它用于少数小数时，为什么使用decimal比使用float更好

浏览 0提问于2015-10-27得票数 3

2回答

我是否应该使用Sharepoint Number列类型来存储货币值？

sharepoint、currency

在SharePoint中，我可以创建一个'Number‘类型的列表列。我需要存储货币金额，并希望能够使用此列类型，而不是必须创建一个新的。这种类型的值是否由SharePoint存储和操作(例如，在列表视图中求和时)，以防止精度损失(即，不是某种近似浮点类型)？我看过货币栏，但它们似乎强制显示货币单位，这在我的应用程序中是没有意义的(我怀疑它们在引擎盖下存

浏览 4提问于2009-11-06得票数 2

回答已采纳

2回答

整数或浮点数在哪种情况下都可以？

c++、types、floating-point、precision、scientific-computing

将关于整数和浮点数的相对优点的讨论转移到一个单独的问题中。这就是:在既不是整型也不是浮点型的情况下，你更喜欢整型还是浮点型？例如，在为控制良好的比例范围开发几何引擎时，您更喜欢使用最小可行单位的整数坐标还是浮点/双精度坐标？

浏览 0提问于2013-08-26得票数 0

2回答

将Int32文字转换为浮点数的C#性能损失

c#、.net、performance、compiler-construction

然而，我正在工作的游戏引擎使用浮点数来表示位置、旋转等。当浮点数被赋值为双精度字面值(即float varFloat = 75.4; )时，编译器会抛出一个错误，指出双精度字面值需要为浮点数，这是正确的。所以需要把双字面值转换成一个浮点数。我的问题是，编译器是否足够聪明，能够意识到44应该是一个浮点型文字？如果不是，这意味着每次访问文本时，它也在执行转换。在大多数

浏览 5提问于2013-04-23得票数 3

回答已采纳

1回答

RStan中的协方差矩阵

r、rstan

类似于如何为标量和向量值提供约束，例如实数a，我想提供协方差矩阵的前导对角线必须为正的约束，但非对角线分量可以采用任何实际值。有没有办法强制要求矩阵也必须是半正定的？否则，产生的一些样本将不是有效的协方差矩阵。

浏览 51提问于2019-06-19得票数 1

回答已采纳

6回答

基本Java语法问题

java

我正在做一项家庭作业(我不是一个会说谎的人)，我对这些问题感到困惑。我有3年的编程经验，但在班上最简单的一些问题上被难住了，哈哈。Java新手，并不是编程新手。我想讨论一下为什么问题会产生答案，以及为什么答案是这样或那样的。我想说默认情况下它是一个浮点数，因为它占用的空间(32位)比双精度(64位)少。因为3.4是一个小数字，我会假设它是</e

浏览 1提问于2013-04-03得票数 1

回答已采纳

1回答

chrome URLS是如何工作的？

javascript、google-chrome

当我说，在这里，我的理解是，chrome是一个与chrome引擎对话的协议，而downloads就像是对chrome引擎的特定请求的标记名。对吗？它是如何工作的(在引擎盖下)？

浏览 1提问于2017-05-06得票数 9

1回答

android -在gps上测量高度和精度？

android、gps、altitude

在我的android项目中，我可以获得测量的精度和高度，它们返回一个整数(或者更确切地说，是一个浮点数)，但我不知道如何使用这个值。高度是以米为单位测量的吗？那么精度呢，它是不是意味着+- x米？

浏览 1提问于2012-07-24得票数 0

3回答

精度损失'sqrt‘Haskell

haskell

在ghci终端中，我使用sqrt函数与Haskell计算了一些方程。有什么方法可以得到正确的简化结果吗？在哈斯克尔这是怎么回事？

浏览 1提问于2014-06-28得票数 1

回答已采纳

1回答

为什么这个表达式会导致浮点错误？

ruby、floating-point

但这并不能完全解释这里发生了什么：=> 0.05=> 0.02 所以在这里，我们有了我们所期望的，我们得到了正确的答案，世界一直在美丽地旋转。但是我们后来重写了这个函数，当我们这样做时，我们将行a=a*26.0/65替换为a*=26.0/65不是很好，我们输入的字符少了一个！让我们看看结果如何？这似乎不是一个普通的</em

浏览 2提问于2013-11-20得票数 3

回答已采纳

2回答

为什么Math.Exp在输入相同、硬件相同的32位和64位之间给出了不同的结果？

c#、.net、math、32bit-64bit、x86-64

我本以为：我知道我不应该对15/17位之后的浮点数进行比较，但我对这里与相同硬件上的相同操作不一致感到困惑有人知道引擎盖下面发生了什么吗？而CLI标准指出，如果硬件支持双倍，则可以以更高的精度表示它：原理:这种设计允许CLI为浮点数</

浏览 2提问于2010-10-25得票数 10

回答已采纳

2回答

在Octave中使用num2str的奇怪行为

format、octave、precision

在Octave中的num2str函数有问题。如何获得一致的小数位数？

浏览 6提问于2020-07-05得票数 1

2回答

分配给双精度的数字上的F后缀

c++、c

我知道给浮点数加上后缀f会让编译器知道它是一个浮点数而不是双精度数。这对于防止在浮点数而不是双精度数上操作时进行不必要的强制转换非常重要。但是，在外部公司提供的一些代码中，我看到了以下示例：现在我想知道在这种情况下会发生什么？编译器是否会默默地忽略'f‘，它只是一个与任何事情都没有关系的东西，我可以放心地忽略它？然后我想知道，如果在其他

浏览 0提问于2012-05-10得票数 4

回答已采纳

点击加载更多