首页
学习
活动
专区
圈层
工具
发布
首页标签floating-point

#floating-point

财务对账差三毛的根因:金额字段浮点精度丢失原理与DECIMAL改造实战

数据库小学妹

月初财务拿着一张表来找我。系统导出的手续费总额,跟银行流水差了三毛钱。三毛不多,可账对不上就是大事。我把那个月的流水全导出来,算了一晚上。最后定位到的不是代码,...

6010

计算误差的真相:为什么 float 加法会出现精度损失?

Lion 莱恩呀

float(浮点数)是一种在计算机编程中常用的数据类型,它用于表示带小数点的数字。在大多数编程语言中,float类型通常使用32位来表示,也被称为“单精度浮点数...

3.1K00
领券