基于误差精度的自动取整方法

文章/答案/技术大牛

发布

1回答

python、numpy、math、scipy、rounding

我有一个脚本，它生成一个很大的值表和相应的错误。计算的误差总是有一个有意义的数字，但精度不同(例如error1 = 1e-5 error2 = 1e-1)。我想知道是否有一种自动的逻辑方法来根据误差的精度对表中的值进行舍入。例如，我想以自动方式(用python)从表1转到表2(如下所示)。

浏览 22提问于2021-03-27得票数 0

3回答

NCalc精度问题

c#、ncalc

我的问题很简单。只需添加0.5和0.5555即可。预期结果为1.0555。这需要四舍五入到3小数。1.056object result = ex.Evaluate(); 这将向下取整而不是向上取整即使误差是0.0000000

浏览 2提问于2014-05-21得票数 0

1回答

我想要2位小数的输出

python、decimal、describe

我想要两位小数的输出。

浏览 7提问于2018-08-15得票数 1

1回答

PostgreSQL :将现有双精度列转换为整数数据类型

postgresql

我在PostgreSQL中有一个包含数字的列。该列的数据类型是双精度，并且数字有很多小数位。我不需要这么高的准确度。整数就足够了。

浏览 0提问于2014-12-16得票数 4

回答已采纳

2回答

C++精度:将字符串转换为双精度

c++、floating-point、floating-accuracy

在对转换为双精度的字符串执行一些操作后，我遇到了双精度的问题。< endl;对于以字符串形式输入的所有数字，情况并非如此，因此错误不是恒定的。，但我需要一个双精度。在C++中，正确地将字符串转换为双精度值并实际返回精确值

浏览 0提问于2010-07-08得票数 4

回答已采纳

1回答

如何在系统中处理数字的进位

decimal、software-design

假设我们有一个系统，它有一个有价格的商品。这个价格需要几次操作，比如说15次操作。商品的价格将被一遍又一遍地用小数点进行除法、求和、减法。让我们假设我们的系统与另一个系统对话。最后，两个系统的价格值必须完全匹配(美分)。我们是在装腔作势地谈论会计系统。根据我的经验，这两场比赛的机会是非常罕见的。我们该如何处理这种情况。是否有舍入规则？

浏览 5提问于2021-11-08得票数 0

3回答

如何在LLVM位码中实现floor，ceil和round？

math、compiler-construction、llvm、primitive

我正在为一种基于LLVM的小型编程语言编写数学函数，目前我被如何实现常见的四舍五入函数floor，ceil和round (to even)难住了。首先是因为我还没有找到这些函数的任何算法描述，其次是因为我不熟悉LLVM有哪些取整功能。能够正确地对负数进行舍入是必须的，但舍入到特定的精度不是必须的。四舍五入到整数值就可以了。简单地指向可以从LLVM bitcode使用的任何现有实现也会起作用。

浏览 2提问于2010-08-18得票数 4

回答已采纳

1回答

在OLS中，为什么在线性回归中，在计算误差时，平方优于取绝对值？

machine-learning、statistics、artificial-intelligence、linear-regression、statsmodels

为什么我们使用平方残差而不是OLS估计中的绝对残差。那么，为什么我们要把它整平，而不是只取绝对值呢？因为对较高的误差额外惩罚了(而不是2倍于1<em

浏览 6提问于2019-11-12得票数 0

回答已采纳

1回答

使用平移偏移时的GDI+图形瑕疵

c#、gdi+

我经常注意到，当使用Graphics.TranslateTransform()将对象绘制到不同的位置时，gdi+绘制相同的对象(例如，通过一些简单的DrawLine调用定义)会有一点不同。它看起来像一些工件，例如1像素细线的末尾显示为“断线”。以及其他像这样的像素伪像... 我也使用ScaleTransform，但对所有对象都是一样的。

浏览 1提问于2010-08-15得票数 1

回答已采纳

4回答

有人能简单地给我解释一下这个特性吗？

c、floating-point、double、rounding

我假设有一个关于双常量和浮点数的特定标准，即它们中的任何一个在计算时都会变得更大。但这两个代码让我明白了，当双倍常量变大，浮点数变大时，可能会出现这种情况。这背后有没有舍入问题？我非常需要这份清晰的..感谢预支

浏览 1提问于2012-07-11得票数 0

回答已采纳

2回答

将fpu切换为单精度

performance、assembly、optimization、x86、x87

我在fpu之前几年读到过，当切换到单精度模式时，除法和sqr的速度是正常模式的两倍。它仍然是这样的吗?这样的切换可以加快一些循环的速度，使内部产生大量的浮点代码？与第二个问题相关，例如，当进行系统(winapi)调用时，我可以在代码中自由地玩弄FPU精度吗，与fpu取整模式和系统端一样，api是否也会破坏我对它的设置？

浏览 2提问于2012-10-03得票数 3

4回答

Rails在DB级舍入浮点数

mysql、ruby-on-rails、ruby、rounding

我有一个带有浮动列的表(我使用的是MySQL，mysql2 gem，一切标准的东西) t.float :amount end

浏览 0提问于2011-12-14得票数 4

回答已采纳

1回答

带有DecimalFormat的RoundingMode.UP不能按预期工作

java、double、rounding

每当有十进制值时，我都会尝试四舍五入一个双精度数。我正在尝试下面的方法。下面的代码片段按照预期向上舍入了所有其他值。9.5 -> 10 但是将0.08取整为0而不是1。

浏览 0提问于2020-08-02得票数 14

3回答

在Java中如何向下舍入个整数？*

java、numbers

我想在Java中将整数向下舍入到最接近的1000。到18,000etc的13,623轮到13,00018,999轮

浏览 36提问于2009-11-23得票数 22

回答已采纳

1回答

在PARI/GP中对数字进行舍入

pari-gp

我知道"\p x“命令设置了所有计算的精度，但我想要的是一些不同的东西。给定一个用高精度计算的数字，我想将它舍入到一个较低的精度，只用于我的代码的一部分。这样做的原因是，取复数的绝对值往往会产生一些舍入误差，这会在以后导致问题。我希望这些绝对值是相同的，并且不会有它们现在所具有的微小误差。换句话说，如

浏览 1提问于2012-06-14得票数 1

1回答

没有像我想的那样工作

java

我目前正在开发一个非常简单的游戏，只是为了更多地学习Java。我确实有一些经验，但不是很多。这个游戏应该是像鸡一样的入侵者。public Bullet(int x, int y, int angle) { super3颗子弹，一颗垂直向上，另外两颗稍微向右或向左，速度

浏览 1提问于2015-10-13得票数 2

1回答

用于异常检测的自动编码器增量学习

machine-learning、machine-learning-model、autoencoder、anomaly-detection

我想在每分钟接收到的数据上逐步训练我的预训练的自动编码器模型。基于这线程，对model.fit的连续调用将逐步训练模型。然而，我的模型的重建误差和总体精度似乎比最初的更差。autoencoder.fit()except KeyboardInterrupt: sys.exit(0) 当我<e

浏览 0提问于2022-03-20得票数 0

6回答

Java整数除法不给负数下限

java、integer、floor

我试着使用java的整数除法，它理所当然地占了上风。然而，它向零而不是地板取整。should be -1, but is 0 }问题是，我不想转换为双精度浮点数我正在尝试用一个方法来解决这个问题，floorDivide(long a, long b)。

浏览 4提问于2016-05-19得票数 4

3回答

将小数舍入到C#中最接近的四分之一

c#、decimal、rounding

在c#中有没有一种简单的方法可以将小数舍入到最接近的四分之一，例如x.0、x.25、x.50 x.75例如0.21将舍入为0.25，5.03将舍入为5.0 提前感谢您的帮助。

浏览 1提问于2010-05-13得票数 41

回答已采纳

1回答

在java中计算夏普比率

java、statistics

我正在尝试用java计算夏普比率，但我正在努力寻找一个“正确”的数据集和结果来进行测试。Nov Dec无风险利率5% 然而，我无法得到他得到的结果(2.56，取整误差为2.67？)这是计算夏普比率的正确方法(或普遍接受的方法)吗？我的代码(使用apac

浏览 6提问于2010-07-17得票数 4

回答已采纳

点击加载更多