首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

【一问一答】Excel中因浮点运算导致的运算精度误差

问题描述:

excel单元格计算时,因被汇总数由公式计算得到,出现加减汇总计算时出现错误,但在格式中保留两三位小数时,显示的数字查不到任何问题,在设置为至少11位小数之后才会发现计算错误,数值很小,但使用加减法或判断类公式时会显示计算错误。

解决办法:

以上问题是由浮点运算导致的运算精度误差,用以下办法可解决:

1.单击文件选项,在选项对话框中单击【高级】,去掉选项“将精度设为所显示的精度”,数值较多时会出现总数与明细数结果相差较大的问题,比如工资表使用这种方法,每个人的工资加一块,与单位总工资可能会出现几分钱的误差。

2.不修改计算精度,直接修改单元格内的判断类公式,如原公式为“=if(a1-b1=0,1,0)”,修改为“=if(a1=b1,1,0)”,用等号代替减法计算来判断,避开使用加减法导致的计算误差。

3.使用以上办法仍无法解决时,可使用round函数保留适当的小数位,但在数值较多时,汇总或其它运算会出现总数与明细数结果相差较大的问题,可采用四舍六入五不变的办法来减少误差。

4.复制被汇总数,选择性粘贴为“数值”后设置公式进行计算。

注意事项:

1.如无必要或对设置不太了解,尽量不要修改选项中的高级设置。

2.因计算精度不同会导致总分不符的问题,尽量不要在原始数据中保留公式。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20210127A05TXB00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券