首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >javascript add操作返回错误结果

javascript add操作返回错误结果
EN

Stack Overflow用户
提问于 2012-06-22 13:42:08
回答 1查看 191关注 0票数 2

我有一个有趣的愚蠢的问题:为什么javascript要显示那个10.2 - 17 = -6.800000000000001

我在这里找到了类似的东西:Calculate a minus operation in javascript returns a incorrect value,但我不能对数字进行舍入。

我能在不指定使用多少个小数的情况下解决这个问题吗?(实际上我有一些结果可以有6-7个小数)

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2012-06-22 13:43:59

浮点运算并不总是精确的。

特别是,没有将10.2精确表示为浮点值,因此将存储最接近的可表示值。这个值将与10.2略有不同。

处理它的最简单方法是在显示数字时将它们四舍五入到一定的小数位数。

一些语言有一个decimal类型,可以精确地表示10.2。但是:

  • Javascript没有这样的内置类型,所以你必须使用第三方library.
  • Decimal浮点数并不能解决所有的问题。例如,0.1 / 0.3的结果不能精确地表示为小数。在显示结果时,可能仍需要将结果四舍五入到一定的小数位数。
票数 5
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/11150741

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档