问题描述:
excel单元格计算时,因被汇总数由公式计算得到,出现加减汇总计算时出现错误,但在格式中保留两三位小数时,显示的数字查不到任何问题,在设置为至少11位小数之后才会发现计算错误,数值很小,但使用加减法或判断类公式时会显示计算错误。
解决办法:
以上问题是由浮点运算导致的运算精度误差,用以下办法可解决:
1.单击文件选项,在选项对话框中单击【高级】,去掉选项“将精度设为所显示的精度”,数值较多时会出现总数与明细数结果相差较大的问题,比如工资表使用这种方法,每个人的工资加一块,与单位总工资可能会出现几分钱的误差。
2.不修改计算精度,直接修改单元格内的判断类公式,如原公式为“=if(a1-b1=0,1,0)”,修改为“=if(a1=b1,1,0)”,用等号代替减法计算来判断,避开使用加减法导致的计算误差。
3.使用以上办法仍无法解决时,可使用round函数保留适当的小数位,但在数值较多时,汇总或其它运算会出现总数与明细数结果相差较大的问题,可采用四舍六入五不变的办法来减少误差。
4.复制被汇总数,选择性粘贴为“数值”后设置公式进行计算。
注意事项:
1.如无必要或对设置不太了解,尽量不要修改选项中的高级设置。
2.因计算精度不同会导致总分不符的问题,尽量不要在原始数据中保留公式。
领取专属 10元无门槛券
私享最新 技术干货