big.Float乘法精度的奇怪损失
big.Float是Go语言中的一个高精度浮点数类型，用于处理需要更高精度的计算。在进行浮点数乘法运算时，big.Float可能会出现精度损失的情况。
精度损失是由于浮点数的内部表示方式导致的。计算机在内存中以二进制形式存储浮点数，而浮点数的表示是有限的，无法精确表示所有的实数。因此，在进行浮点数运算时，可能会出现舍入误差，导致结果与预期的精度有所差异。
对于big.Float类型，它使用了任意精度的浮点数表示，可以提供更高的精度。但是，即使使用big.Float，仍然无法完全避免精度损失的问题。
为了减小精度损失，可以通过调整big.Float的精度设置来提高计算的精度。big.Float类型提供了SetPrec方法，可以设置计算的精度。通过增加精度，可以减小精度损失的影响，但同时也会增加计算的时间和内存消耗。
在实际应用中，如果对精度要求较高，可以根据具体情况调整big.Float的精度设置，以满足精度要求。同时，也可以结合其他数值计算库或算法来提高计算的精度和准确性。
对于big.Float乘法精度损失的奇怪现象，具体情况可能需要具体分析。可以考虑以下几个方面来解决问题：
- 调整big.Float的精度设置：通过增加精度，可以减小精度损失的影响。可以尝试增加精度并重新进行计算，看是否能够得到更准确的结果。
- 检查计算过程中是否存在其他误差来源：除了浮点数精度损失外，还可能存在其他误差来源，如输入数据的精度、计算过程中的舍入误差等。可以仔细检查计算过程中的各个环节，排除其他误差的可能性。
- 使用其他数值计算库或算法：如果对精度要求非常高，可以考虑使用其他数值计算库或算法来进行计算。这些库或算法可能提供更高的精度和准确性，以满足特定需求。
总之，big.Float乘法精度损失是一个常见的问题，可以通过调整精度设置、检查其他误差来源或使用其他数值计算库来解决。具体解决方案需要根据具体情况进行分析和选择。
相关·内容
3回答
C++或C中浮点乘法的最佳实践？
c、precision、multiplication、floating-accuracy
我需要做一个400 * 256.3的简单乘法。结果是102520。直截了当而简单。但是在C++ (或C)中实现这种乘法对我来说有点棘手和困惑。
我知道浮点数不是用计算机表示的。我写了代码来说明情况。输出也附加在一起。
因此，如果我使用浮点类型变量进行乘法，就会受到舍入误差的影响。使用双类型变量可以避免这个问题。但是，假设我在嵌入式系统上的资源非常有限，我必须尽可能地优化变量类型，我如何使用浮动类型变量来执行乘法，并且不受舍入误差的影响？
我知道计算机做的浮点数学一点也不坏。但我对浮点数学的最佳实践很好奇。256.3只是一个插图的值。我不知道在运行时将得到什么浮点值。但它确实是一个浮点值。
in
浏览 3提问于2016-11-14得票数 4
2回答
在财务之外使用小数
floating-point、decimal、floating-accuracy、financial
我总是听说浮点数存在舍入误差，因此，必须使用decimal类型来代替浮点数来进行金融运算。他们所说的finance是什么意思？他们是否只考虑金钱，而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数计算，抑或任何物质资产均须以小数计算？因为你知道，如果你损失了.0000000004美分，可能不会像你损失同等数量的实际物质价值那样可怕。我只是不喜欢这种双重标准。
浏览 2提问于2013-11-07得票数 0
1回答
数论应用中扩展精度浮点的快速计算
floating-point、floating-accuracy、hardware-acceleration、floating-point-precision
我是一名数学研究生，从事一个研究项目，其中包括计算高次数域中代数整数的范数。从本质上讲，这将涉及将100个更多的浮点数相乘，从而得到一个整数。我在用C语言编程。
我遇到的问题是，我开始需要计算超过1e20 = 10^20的范数，这超过了硬件的整数和浮点精度(Macbook)。
我可以尝试使用某种软件仿真来进行扩展精度，但我的理解是，这比硬件浮点计算慢了大约300倍。这意味着，我目前所做的计算需要几天，而不是几年，这是不可接受的。
我有两个问题: Q1:对于软件仿真扩展精度(例如10^36精度，大约是硬件精度的两倍)，我估计的300倍是不是太悲观了？
Q2:我在这个问题上花了几千美元，有什么样的
浏览 0提问于2013-08-31得票数 2
回答已采纳
6回答
为什么我不能乘一个浮子？
c、floating-point、floating-accuracy
可能重复：
我很惊讶为什么我试图用C乘浮子(用GCC 3.2)，它没有像我预期的那样做。作为样本：
int main() {
float nb = 3.11f;
nb *= 10;
printf("%f\n", nb);
}
显示: 31.099998
我很好奇浮标是如何实现的，为什么它会产生这种意想不到的行为？
浏览 1提问于2010-06-13得票数 8
回答已采纳
2回答
如何将一个定点数除以一个小的浮点数？
c、math、fixed-point
我需要将一组5U11数字除以6.02，并且我更喜欢这样做，而不是在float和back之间进行强制转换。
5U11表示16位无符号数，其中11个最低有效位表示小数部分。
我应该如何表示6.02，以及单次计算误差的上限是多少？
浏览 1提问于2014-02-25得票数 3
1回答
Floor/Ceil代码仍然不能按要求工作
rounding、floor、ceil
几周前，我得到了一段非常有用的代码来帮助我将我的健康数据结果舍入到1dp，使用舍入1.25到1.3的原则(Python3不是标准的)。不幸的是，我遇到了一个新定义的舍入规则不起作用的实例！有没有人可以建议修改一下下面的my_round？这是如此令人沮丧，因为我认为我已经得到了完美的解决方案。
import pandas as pd
import math
raw_data = {'AreaCode' : ['101', '101', '101'],
'Disaggregation' : [&
浏览 22提问于2020-02-21得票数 0
1回答
避免双精度损失
c、math
我有以下代码：
func(double val) {
// I am trying with the following values. both of which are in the range as per
// IEEE 754 std.
// val = 1.847474
int temp = [some_val = (1 << 23)];
double temp2 = val * temp;
printf("the produt111a = %15f\n",temp2);
}
temp2中的值会导致精度损失。
然而
浏览 5提问于2014-03-25得票数 0
1回答
符号计算的比较
matlab、calculation
我正在尝试在matlab上计算雅可比矩阵。我用两种方法计算矩阵：
1-手动计算函数的导数，然后实现它；2-我使用符号在Matlab中编写函数，我使用嵌入式函数计算导数，然后评估结果。
下面是使用这两种方法计算矩阵元素的结果：
0.812800813334022
0.812779921070141 (符号计算)
我发现这两个数字只与第三个数字一致。我的问题是：
我应该相信哪些结果？(很明显，它就是使用符号计算的那个，如果是这样，为什么呢？)
如果第一种方法不准确，我如何纠正它(以避免取消...)？
提前谢谢你。
浏览 16提问于2017-12-21得票数 2
1回答
具有某些运动方程的数值积分器的意外低误差
precision、numerical-methods、numerical-integration、runge-kutta、numerical-analysis
我有一个RKF7(8)积分器，我已经用几个简单的测试函数验证了它的输出。然而，当我在我感兴趣的运动方程上使用它时，局部截断误差突然变得非常小。对于1e-1附近的时间步长，我的错误都是围绕1e-18或1e-19的。对于简单的测试函数(到目前为止，是正弦函数和指数函数)，误差总是合理的，即对于相同的时间步长，误差在1e-7左右。
简单的测试函数和问题函数之间的唯一区别是它是一个巨大的代码块，可能有1000个不同的术语，其中一些具有相对较大的指数(如9或10)。这可能会影响精度吗？我是否应该更改代码以使用long double%s？
浏览 5提问于2020-05-27得票数 2
3回答
C#小数除法(非常奇怪的行为)
c#、decimal、division
有人能解释这个吗？
Decimal leftSide = 13.0M;
Decimal rightSide = 1.0M;
Decimal tmpDec = 39.0M;
tmpDec * (rightSide / leftSide) = 2.9999999999999999999999999991
tmpDec * rightSide / leftSide = 3
第一个数字(rightSide / leftSide)是否丢失了有效数字？
浏览 0提问于2013-04-10得票数 0
回答已采纳
我的MySQL数据库中有一个customer invoice表，其中包含一个名为price的十进制(10，2)字段。
当在php中获取这些值并计算总和时，
例如:在脚本中
$totalAmount = 0; // initialised them to
while(records){
$amount = $inv_amount - ($pay_amount + $onamount); //float i guess. 2.22, 14.22
$totalAmount = $totalAmount + $amount; //fl
浏览 1提问于2012-06-20得票数 6
回答已采纳
4回答
cpp部门-如何获得最准确的结果？
c++、division
我想将两个空变量相除，得到最准确的结果。做到这一点的最好方法是什么？
即5000034 / 5000000 = 1.0000068
浏览 3提问于2012-03-01得票数 1
回答已采纳
4回答
简单金融计算中的数值精度
math、numerical-methods
我在大学里学过一门课程，它解释了在有限精度的环境中，如何(以及其他事情)如何排序你的数学执行，以最大限度地提高精度并减少舍入误差的风险。
我们正在用你通常的利息计算和诸如此类的金融系统工作。有人能分享/提醒我如何组织你的计算，以最大限度地减少精度损失吗？
例如，我知道必须避免分裂。此外，当你除法时，如果可能的话，首先除以最大的数字。
浏览 6提问于2010-10-19得票数 1
回答已采纳
这是节目。它的意思是根据工作时间、小时费率、预扣缴税款等来计算员工的净工资。它计算正确，但双点精度格式是最后一个小数点，失去了计算的准确性。
样本输入：
姓名:史密斯
本周工作时间: 10小时
时薪: 6.75
联邦预扣税: 20%
国家税收: 9%
输出：
摘要
员工:史密斯
薪金毛额: 67.50
联邦扣缴额: 13.50
国家扣留: 6.08
扣除总额: 19.58
薪酬净额: 47.93
import java.util.*;
public class Payroll
{
static Scanner key = new Scanner(System.in);
publ
浏览 3提问于2016-08-21得票数 0
回答已采纳
3回答
围棋算法中浮点数精度的处理？
math、go、floating-point
我对一种精确减去2浮动的方法感兴趣。
我试过使用math/big库，但无法得到准确的结果。
我在Javascript中使用了库来解决这个问题。Go算术有类似的库/方法吗？
package main
import (
"fmt"
"math/big"
)
func main() {
const prec = 200
a := new(big.Float).SetPrec(prec).SetFloat64(5000.0)
b := new(big.Fl
浏览 8提问于2017-09-22得票数 4
回答已采纳
1回答
浮点精密金刚
go
我很好奇为什么下面的内容会产生两种不同的价值观。
fmt.Println(51.231576 * math.Pi / 180) // 0.8941596821857065
fmt.Println(float64(51.231576) * math.Pi / 180) //0.8941596821857064
我知道这是微小的差别，但我想了解原因。
谢谢
浏览 2提问于2019-10-15得票数 0
回答已采纳
2回答
使用SqlBulkCopy将记录大容量插入到SQL中时精度损失
.net、sql、sql-server-2008、bulkinsert、sqlbulkcopy
我正在使用以下代码将一个数据表批量插入到我的SQL表中：
// Set up the bulk copy object.
using (SqlBulkCopy bulkCopy =
new SqlBulkCopy(destinationConnection.Connection))
{
bulkCopy.DestinationTableName =
Constants.ReportDa
浏览 5提问于2013-06-30得票数 8
回答已采纳
1回答
Python:在查找大型数组的产品时，如何最好地减少浮点错误？
python、numpy、precision、floating-accuracy
假设我有一个包含大量浮点数的大数组，我需要找到该产品，同时尽可能少地降低浮点错误的精度：
import numpy as np
randoms = np.random.uniform(0.5, 1.61, 10000)
print(randoms[0:10])
array([ 1.01422339, 0.65581167, 0.8154046 , 1.49519379, 0.96114304,
1.20167417, 0.93667198, 0.66899907, 1.26731008, 1.59689486])
一种大概不好的方法是循环遍历数组并进行迭代乘法。这显然
浏览 1提问于2018-08-03得票数 1
回答已采纳
8回答
为什么我们还要用浮标？
math、data-types、numeric-precision、floating-point、byte
我明白为什么浮标在过去起了作用。我想我能理解为什么它们在今天的一些模拟例子中是有用的。但我认为这些例子并不常见。所以我不明白为什么浮点数在简单的模拟中更普遍，而不是非常高精度的整数。
一个经典的论点是浮动提供了更大的范围，但高精度的整数现在可以满足这一挑战。例如:使用现代64位处理器，我们可以进行高达2^64的快速整数计算.太阳系的宽度略小于100亿公里。100亿公里除以2^64约5微米。难道能够以半人头发的精确度来代表太阳系内的位置还不够吗？
另一方面，浮动计算的舍入误差可能会带来问题.您需要考虑计算的规模，以确保您不会在无意中引入错误的模拟。
那么，为什么个人电脑还需要FPU呢？为什么不把
浏览 0提问于2014-01-16得票数 35
9回答
脚本编写者是否必须考虑舍入误差？
dynamic-languages、scientific-computing
我正在学习C语言，于是产生了保护数字和舍入误差的想法。脚本语言的实践者(我这里指的是Python和Perl )需要担心这些东西吗？如果他们在做科学编程呢？
浏览 1提问于2009-08-31得票数 5
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频活动推荐
腾讯云开发者
