为什么有些数字在存储为浮点数时会失去准确性?
例如,十进制数9.2
可以精确地表示为两个十进制整数(92/10
)的比率,这两个整数都可以精确地表示为二进制(0b1011100/0b1010
)。但是,存储为浮点数的相同比率永远不会完全等于9.2
32-bit "single precision" float: 9.19999980926513671875
64-bit "double precision" float: 9.199999999999999289457264239899814128875732421875
这样一个看似简单的数字怎么会“太大”而无法在64位内存的中表达呢?
https://stackoverflow.com/questions/21895756
复制相似问题