集成函数在之前的工作后返回舍入误差

文章/答案/技术大牛

发布

1回答

r、integrate

当使用integrate从2000 -> Inf中对对数正态密度函数进行积分时，返回一个错误。我以前使用过一个非常类似的方程，没有任何问题。我已尝试禁用出错时停止，并将rel.tol设置得更低。我很难理解对值进行非常轻微的更改会如何导致函数不再集成。

浏览 18提问于2019-05-31得票数 1

回答已采纳

2回答

带区域设置的数字的php操作

php、count

100 ); 然后我想转换成德国标准，我试着使用下面的方法但此函数返回的预期结果应为

浏览 1提问于2013-05-23得票数 2

回答已采纳

2回答

在Python中比较四舍五入的浮点数

python、floating-point、comparison

我知道通常两个浮点数必须像abs(f1-f2) < 1e-6那样进行比较，但是如果在比较之前对它们进行四舍五入，那么在Python中比较它们的四舍五入的值是否安全？

浏览 3提问于2012-12-29得票数 3

回答已采纳

2回答

使用不受舍入误差影响的天花板

fortran、fortran90、intrinsics

我正在尝试使用内部函数‘CEILING’，但是舍入误差有时很难得到我想要的结果。例如，对于那些在/dx= -13.5之前的函数，我想使用CEILING来获取-13。但是对于我展示的图片，我实际上希望得到-14。有没有更好的方法来做到这一点？我惊讶地发现，如果我在ppm_kind_double中将变量设置为常量，问题就不会发生。因此，我猜只有当我使用的机器

浏览 0提问于2016-10-11得票数 1

3回答

对浮点数求和会在类型转换时失去精度

c++

我试着用不同的权重添加两个数字。下面是我的代码：resultBefore=36.8055 4 69 91 previousPPos=41.192 4 69 91deb2:27.3 63.7 resultAfter

浏览 2提问于2012-11-21得票数 2

回答已采纳

1回答

我用c++写了一个程序，生成一个800 or正弦波的.wav文件(1个通道，8位，16000 or采样，32000个样本，所以2秒长)，但当我在Audacity中播放它或检查它的频谱图时，它有泛音。我认为问题出在将正弦波转换为PCM的算法上；我不确定将“零”位移放在哪里，127、127.5或128等等。data[j] = (char) (round(127 + 60 * (sin(2.0 * 3.14159265358979323846264338327950 * j / 20.0))));生成的<

浏览 0提问于2016-04-24得票数 6

1回答

乘法舍入误差

c++、rounding

equal 9.45该函数用于将货币实例目标舍入为最近的货币，在本例中为NICKLE。由于货币a是9.45，它应该舍入到9.45。但是四舍五入之前的乘法有个问题，tmp = target.amount * 100；<--变成944，但应该是9

浏览 1提问于2014-02-24得票数 0

1回答

如何使用r studio永久舍入栅格层、矩阵或数组中的值，以写入新文件？

r、netcdf

我试图舍入一个三维矩阵或几个栅格层，这将成为一个三维矩阵到两个小数位，以制作一个新的netcdf文件，将占用较少的内存。使用round函数如下所示： newmatrix <- round(oldmatrix, 2) 似乎只是为了显示而粗略地对值进行舍入。打开newmatrix并在将其添加到新文件后从其中提取值将返回oldmatrix中未四舍五入的值。尽管在将新矩阵添加到新文件之前，从newmatrix中提取<e

浏览 17提问于2019-03-24得票数 1

1回答

十进制浮点数到二进制和后退的转换

binary、floating-point、decimal、precision、floating-accuracy

简而言之，我的问题是，为什么浮点数中的舍入误差只在计算后才出现，而不用于存储文字呢？double a = 10.567;double c = a * b; 然后，C存储值22.824720000000003，而不是22.82472这是因为结果22.82472不

浏览 0提问于2016-08-18得票数 2

回答已采纳

5回答

如何打印浮点数到包括尾随0在内的n个小数位？

python、floating-point

我需要打印一个浮点数或将其转换为15位小数位字符串，即使结果有许多尾随的0，例如：我尝试舍入(6.2，15)，但返回6.2000000000000002加上舍入误差做这件事最好的方法是什么？

浏览 74提问于2011-12-20得票数 47

回答已采纳

2回答

位操作-当将负数乘以一个分数时，理解向零偏差的舍入

c、binary、bit-manipulation、binary-operators

然而，当我回顾它的时候，我意识到我不确定7 (00000111)是如何计算舍入误差的，在这个误差中，它会旋转到一个更负的数字，而不是0，我需要理解为什么这一行会工作。int multiplyByFive = (x << 2) + x;11111111 (如果你

浏览 3提问于2017-02-09得票数 1

回答已采纳

1回答

有没有一条融合指令可以在一条指令中执行 10^n？*

java、floating-point、cpu

在任何C派生语言中调用a * pow(10.0, n)都会导致两个舍入误差，但我只需要一个舍入误差，因为单个融合指令可以提供。，然后输出一个浮点数)，但是引用的代码返回3.976210887433566E-281。这就引出了一个问题:是否有一个融合指令(或C函数)可以在机器上以尽可能高的精度执行此计算？我只关心a和n是整数，并且结果是双精度浮点数的情况。请注意，a可能不能精确表示为浮点数。的骗局，

浏览 15提问于2020-06-19得票数 1

回答已采纳

1回答

c++：对于平方的正整数，static_cast<int> std::sqrt(x)总是给出精确的结果吗？

c++、sqrt

是否保证x*x不溢出的所有正x的static_cast<int>(std::sqrt(x * x)) == x？如果不是，我如何稳健地计算这些数字的平方根？

浏览 3提问于2020-08-05得票数 4

1回答

计算矩阵奇异值时的误差

python、image、numpy、svd

我试图用2种方法计算矩阵的奇异值。我使用的矩阵是向日葵图像的红色通道。这是，如果你需要的话。= mpimg.imread('sunflower.jpeg')print(S)singvals = np.sqrt(rW) print(

浏览 7提问于2022-11-24得票数 0

回答已采纳

2回答

R中的四舍五入函数有错误吗？

r、rounding

似乎在round函数中有错误。在下面，我期望它返回6，但它返回5。# 5有什么解释吗？

浏览 0提问于2016-10-06得票数 5

2回答

Postgres列类型，用于存储带有许多小数的数字

postgresql、column-types

我需要存储在像0.0000003215218845这样的列值中我的列需要什么类型才能使select查询完全返回0.0000003215218845值？

浏览 7提问于2017-08-01得票数 0

回答已采纳

1回答

DIV随机移动

html、css、position、css-float

当我加载我的页面时，页面上的一个DIV有时会向下移动。当我刷新页面时，它通常会恢复正常，但如果我发送垃圾邮件刷新键，它会经常被再次下移。下面是我的超文本标记语言，其中#users_area是我遇到问题的地方： cursor: pointer; margin-top: 1%;} 注意:对不起，这是我在StackOverflow上的第一篇文章，我对编程比较陌生。也许你愿意建

浏览 0提问于2013-06-02得票数 1

回答已采纳

3回答

有没有人能给我解释一下这个浮点数的怪异之处？

c#、.net、floating-point

我试图像这样循环遍历浮点数的所有可能值：float epsilon = float.Epsilon; i += epsilon;但在达到2.3509887E-38F值后，它停止增长。init = 2.3509887E-38F;Console.WriteLine(f == init); 我很好奇，谁能解释一下确切的原因因此，我可以在舍入</e

浏览 0提问于2011-10-05得票数 1

回答已采纳

3回答

为什么它会显示南？

c++、factorial

好的，我正在做一个程序，在这个程序中，我试图以0.0001%的精度得到与左侧相等的右侧的结果。 cout << "The value of sin " << x << " is " << next << endl;假设我输入45对x，我得到了结果在<

浏览 1提问于2015-12-26得票数 3

回答已采纳

2回答

用于生成算法中舍入误差报告的MATLAB脚本

algorithm、matlab

我感兴趣的是使用或创建了一个脚本来获得算法中的误差舍入报告。我希望脚本或者类似的东西已经完成了……我认为这对数字电子系统设计很有用，因为有时有必要研究在设计中考虑的小数位数对精度误差的影响。此脚本将逐行显示算法代码中的错误。它将使用一些命令修改算法代码，并比较输出的误差。N是输入向量的元素数input_r

浏览 3提问于2010-11-16得票数 1

点击加载更多