我有一个有趣的愚蠢的问题:为什么javascript
要显示那个10.2 - 17 = -6.800000000000001
?
我在这里找到了类似的东西:Calculate a minus operation in javascript returns a incorrect value,但我不能对数字进行舍入。
我能在不指定使用多少个小数的情况下解决这个问题吗?(实际上我有一些结果可以有6-7个小数)
发布于 2012-06-22 13:43:59
浮点运算并不总是精确的。
特别是,没有将10.2精确表示为浮点值,因此将存储最接近的可表示值。这个值将与10.2略有不同。
处理它的最简单方法是在显示数字时将它们四舍五入到一定的小数位数。
一些语言有一个decimal
类型,可以精确地表示10.2。但是:
0.1 / 0.3
的结果不能精确地表示为小数。在显示结果时,可能仍需要将结果四舍五入到一定的小数位数。https://stackoverflow.com/questions/11150741
复制相似问题