如何修复产生不精确结果的numpy浮点运算？

文章/答案/技术大牛

发布

2回答

python、pandas、numpy、comparison、floating-accuracy

我需要从已知样本大小的相对频率重建绝对频率。import pandas as pd import num

浏览 20提问于2018-09-05得票数 1

回答已采纳

1回答

浮点数小数比较cocos2d

timer、cocos2d-iphone

大家好，这里是我的问题:我如何减少一个浮点数只有小数？%.1对我来说是最好的，但当我比较另一个浮点数，如unNumero= 1.7f的代码不这样做。我想是因为浮点数有更多的数字。我需要将stopCrono的结果与一些随机浮点数进行比较，但限制为2个小数。对不起，我的英语不是我的母语。以下是我的代码 -(空)增量：(CcTime)startCron

浏览 2提问于2012-11-17得票数 1

回答已采纳

1回答

Prolog函数式-计算x^y

prolog、exponentiation、iso-prolog

我是prolog的新手，正在尝试学习如何编程。我想知道如何在Prolog中计算x^y，两者都是整数。% exp(y,x,z) <- z is x**y

浏览 0提问于2011-12-29得票数 2

1回答

精确浮点数的编译器解析

parsing、floating-point、floating-accuracy

正如我们所知，IEEE浮点数可以存储所有整数和2的倒数的整数倍的精确表示，例如1/2或3/4，只要这些数字保持在浮点类型的范围内。然而，浮点解析器通常能保证解析这些数字的十进制表示的准确结果吗？例如，如果我在C程序中使用0.75作为double文字，编译器是否会保证编译后的代码包含3/4的精确表示，或者会有风险产生一些不精确

浏览 1提问于2013-01-15得票数 4

回答已采纳

1回答

Matlab和Python中矩阵乘法和求幂的不同结果

python、matlab、numpy

在从Matlab迁移到Python时，我得到了不同的矩阵乘法和求幂结果。omega = exp(reg);load('python_variables.mat'); 我通过检查以下内容来比较结果我的原始

浏览 0提问于2019-02-09得票数 0

2回答

浮子上的c#模算子

c#、floating-point、modulo、modulus

." + n.ToString("D2")));(注意:解析字符串中的双倍是有意的，这样浮点数上唯一的数学运算就是模数)我知道浮点的数学是<

浏览 1提问于2020-11-08得票数 1

回答已采纳

1回答

红宝石在数值精确性方面的行为(方案比较)

ruby、lisp、scheme

在Ruby (1.9)中，数字总是精确的吗？我知道Ruby做了一些非常复杂的事情，里面有数字，因为你可以做一些疯狂的事情，比如要求1万亿到1万亿的幂，然后你会得到一个答案(在等待了很多卫星之后它就能计算出来)。在Scheme中，规范的一部分规定实现应该指示实现对数字的内部表示是否“准确”。例如，1/2总是精确的，1/3是精确的，0.3333是精确的等等。但是，对一个精确数进行不精确的</e

浏览 4提问于2011-12-01得票数 3

回答已采纳

6回答

我还需要使用定点来保证计算机在数学运算中得到同样的结果吗？

c#、floating-point

我被告知大多数现代计算机都遵循相同的浮点标准，这是否意味着如果输入相同，它们在给定的数学运算中都会得到相同的浮点数答案吗？我之所以这样问是因为我正在研究如何在网络上制作一个RTS游戏，而同步数百个单位的位置听起来是一条不太好的路。因此，如果我只发送输入，我需要保证所有客户端通过让他们从这些输入运行模拟得到相同的结果。我读过较老的RTS游戏使用定点算法，但我不知道这是否仍然需要在现

浏览 0提问于2018-12-10得票数 12

回答已采纳

3回答

为什么Resharper在我将double与0进行比较时会抱怨？

c#、floating-point、resharper

如果我这样做了if (d == 0) {}为什么？将精确的零表示为双精度型或浮点型并不难，不是吗？我理解这样的警告是相关的，如果我将其与其他一些值进行比较，例如0.2，它没有确切的二进制表示。

浏览 5提问于2012-05-21得票数 18

回答已采纳

3回答

gcc和sin/cos/超越函数精度类似于Windows

c++、gcc、floating-point

我想在Windows软件的gcc/Linux移植版本中实现完全相同的浮点运算结果。出于这个原因，我希望所有的双精度运算都是64位精度的。然而，有一件事我不能修复，那就是像sin/asin之类的超越函数。文档说他们内部期望(我想也是使用)长的双精度，不管我做什么，他们产生的结果都不同于Windows对应的结果。

浏览 0提问于2013-02-25得票数 0

1回答

纸币和硬币在计算器中工作，但不在程序中工作

python-3.x

对于输入的576.43，它最后给出了2美分。我完全按照我的代码在计算器中做了所有的数学运算，最后得到了3美分。怎么啦？

浏览 0提问于2017-03-25得票数 0

3回答

PHP使用负数进行计算会得到错误的值

php、numbers

我的PHP代码：echo '<br/>';给出输出：-2.9559688030645E-14 我不明白为什么，我尝试了(浮点数)前面的值，但没有区别。

浏览 2提问于2014-04-03得票数 2

1回答

WebGL浮子模量行为

three.js、glsl、webgl

我正在经历以下片段阴影的奇怪行为："testNumber“变量只是我的控制变量，用于检查在统一的”行“中传递的实际上是什么。一些制服的“行”，给人一种奇怪

浏览 3提问于2017-11-20得票数 1

回答已采纳

1回答

python中的分数返回可笑的大数字

python、division、fractions

问题是，我的代码返回荒谬的分数(这是正确的)，但他们不是最小的分数，我知道，因为我只需要手工解决公式。这是我的密码：import sysdef t(n):如果您使用python fraction.py 2运行这段代码，您应该有4/15，但

浏览 2提问于2017-02-03得票数 0

回答已采纳

2回答

if-else语句的行为不正确

c++、if-statement

一个函数检查给定的边是否形成直角三角形。问题是，当我在classify中调用if-else语句中的函数时，即使isRightTriangle(侧)的值为真，我也总是得到“不是直角三角形”。

浏览 0提问于2013-08-02得票数 0

2回答

Python问题将numpy数组从float64转换为int

python、numpy

在Python (3.9.8版)和numpy (1.20.0版)试图将float64数字转换为int时，我遇到了一种奇怪的情况。它首先计算numpy的fft系数，然后用逆DFT和X = np.fft.fft(x)# calc fft coefficientsprint(X) [ 6. +0.j 0. +4.j -6.+12.j 0. -4.j 14. +0.j

浏览 6提问于2021-11-25得票数 0

回答已采纳

1回答

目标C余弦

objective-c

我只是在objective c中遇到了关于cos函数的奇怪问题。我已经安装了Xcode4.1.1和iOS 4.3SDK。我在计算一个数字的cos：这将返回除90度以外的几乎所有数字的正确答案。Y是6.12323e-17！这是不正确的。NSLog显示了一些不同的东西：NSLog(@"cos: %d&q

浏览 3提问于2011-08-08得票数 4

回答已采纳

3回答

我的glOrtho怎么了？负零而非零

c++、math、opengl、matrix、perspective

我最近遇到的一个问题是与我的glOrtho()实现有关的，这个问题在得到解释或向我指出具体问题时运气不是很好。我自己的glOrtho函数： vec_t* Utils::OrthoMatrix(vec_t* out_matrix, constwhich is 0.000000 for pr

浏览 2提问于2012-03-29得票数 0

回答已采纳

3回答

浮点、实和十进制数据类型的回顾

sql、sql-server

对于具有十进制和浮点数据类型的列中的同一组值，我希望重复#1。 5.8999999538064 实际结果:实际结果: 5.94 如果我对和执行一些基本的算术运算，没有四舍五入，

浏览 6提问于2015-08-12得票数 0

1回答

在球拍中定义单精度变量

racket

我必须在球拍中进行一些我以前从未使用过的计算。(bf/ (bf 1) (bf 7)) 我知道浮标(双精度)的缩写是fl。不过，我还是找不出单个浮标的正确缩写。

浏览 2提问于2017-08-06得票数 0

回答已采纳

点击加载更多