javascript中的十进制减法问题
javascript中的十进制减法问题
提问于 2012-05-23 05:20:01
可能重复： JavaScript的数学坏了吗？
当我在JS中减去6.4-1.6时，我得到的答案为4.800000000000001，但不使用toFixed()、toPrecision()和Math.round()，我需要的是4.8。知道吗？
谢谢,
晶型
回答 2
Stack Overflow用户
回答已采纳
发布于 2012-05-23 05:26:49
在进行减法之前转换为整数，以避免浮点算法的问题：
(6.4 * 10 - 1.6 * 10) / 10请参阅关于浮点算法，每个程序员应该知道些什么？
Stack Overflow用户
发布于 2012-05-23 05:24:47
这是IEEE754浮点数的众所周知的限制。有关解决方案，请参见如何处理JavaScript中的浮点数精度？。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/10713878
复制相关文章
相似问题
腾讯云开发者
