专栏首页前端小作坊0.1+0.2=0.30000000000000004问题的探究

0.1+0.2=0.30000000000000004问题的探究

0.1+0.2=0.30000000000000004问题的探究

今天花了一整天的时间复习二进制相关知识,在这里写下这篇blog作为总结!

为什么“0.1+0.2=0.30000000000000004”?

首先声明这不是bug,原因在与十进制到二进制的转换导致的精度问题!其次这几乎出现在很多的编程语言中:C/C++,Java,Javascript中,准确的说:“使用了IEEE 754浮点数格式”来存储浮点类型(float 32,double 64)的任何编程语言都有这个问题!

简要介绍下IEEE 754浮点格式:它用科学记数法以底数为2的小数来表示浮点数。IEEE浮点数(共32位)用1位表示数字符号,用8为表示指数,用23为来表示尾数(即小数部分)。此处指数用移码存储,尾数则是原码(没有符号位)。之所以用移码是因为移码的负数的符号位为0,这可以保证浮点数0的所有位都是0。双精度浮点数(64位),使用1位符号位、11位指数位、52位尾数位来表示。

因为科学记数法有很多种方式来表示给定的数字,所以要规范化浮点数,以便用底数为2并且小数点左边为1的小数来表示(注意是二进制的,所以只要不为0则一定有一位为1),按照需要调节指数就可以得到所需的数字。例如:十进制的1.25 => 二进制的1.01 => 则存储时指数为0、尾数为1.01、符号位为0.(十进制转二进制

回到开头,为什么“0.1+0.2=0.30000000000000004”?首先声明这是javascript语言计算的结果(注意Javascript的数字类型是以64位的IEEE 754格式存储的)。正如同十进制无法精确表示1/3(0.33333...)一样,二进制也有无法精确表示的值。例如1/10。64位浮点数情况下:

十进制0.1
=> 二进制0.00011001100110011...(循环0011)
=>尾数为1.1001100110011001100...1100(共52位,除了小数点左边的1),指数为-4(二进制移码为00000000010),符号位为0
=> 存储为:0 00000000100 10011001100110011...11001
=> 因为尾数最多52位,所以实际存储的值为0.00011001100110011001100110011001100110011001100110011001

十进制0.2
=> 二进制0.0011001100110011...(循环0011)
=>尾数为1.1001100110011001100...1100(共52位,除了小数点左边的1),指数为-3(二进制移码为00000000011),符号位为0
=> 存储为:0 00000000011 10011001100110011...11001
因为尾数最多52位,所以实际存储的值为0.00110011001100110011001100110011001100110011001100110011

两者相加:
0.00011001100110011001100110011001100110011001100110011001 +  0.00110011001100110011001100110011001100110011001100110011 = 0.01001100110011001100110011001100110011001100110011001100
转换成10进制之后得到:0.30000000000000004!

浮点数中的特殊数字

除了一般范围内的数字之外,还有一些特殊数字:无穷大、负无穷大、-0和NaN(“代表不是数字”)。造成了如下一些特殊情况:

public class FloatTest {
    public static void main(String[] args) {
        System.out.println(0.1f+0.2f); //0.3
        System.out.println(0.1d+0.2d); //0.30000000000000004
        System.out.println(Math.sqrt(-1.0)); //NaN
        System.out.println(0.0 / 0.0);//NaN
        System.out.println(1.0 / 0.0);//Infinity
        System.out.println(-1.0 / 0.0);//-Infinity
        System.out.println(0.0 / 0.0 + 1.0);//NaN + 1.0 = NaN
        System.out.println(1.0 / 0.0 + 1.0);//无穷大 + 1.0 = Infinity
        System.out.println(1.0 / 0.0 + 1.0 / 0.0);//无穷大 + 无穷大 = Infinity
        System.out.println(0.0 / 0.0 > 1.0);//NaN > 1.0 = false
        System.out.println(0.0 / 0.0 == 1.0);//NaN == 1.0 = false
        System.out.println(0.0 / 0.0 < 1.0);//NaN < 1.0 = false
        System.out.println(0.0 / 0.0 == 0.0 / 0.0);//NaN == NaN = false
        System.out.println(0.0 == -0.01); //false
    }
}

更精确的计算

既然一般的浮点数计算有这么多问题,那么如何实现更精确的计算呢?Java中提供了BigDecimal类实现基于十进制的浮点数计算。在Javascript 2(目前浏览器不支持)中提供一种use decimal;实现十进制浮点数计算:

{
    use decimal;
    var a = 0.1; // a is a decimal
    var b = 0.2; // b is a decimal
    var c = a + b; // c is a decimal (0.3)
}
var d = 0.1 + 0.2; // d is a double (0.30000000000000004)
var a = 0.1m; // a is a decimal
var b = 0.2m; // b is a decimal
var c = a + b; // c == 0.3m

C#也支持如上的m操作符实现十进制浮点数计算。

2013/07/12 更新:Javascript 目前有MathJs这样的第三方库可以实现精确的计算。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Web Animations的命名简化

    最早支持Web Animation的浏览器是Chrome 36,在Chrome 39中又更新了对播放的控制。在Javascript中我们可以调用Element....

    mmzhou
  • 中文排版二三事

    前段时间一直在折腾中文排版相关的事情,自认为结果还算不错。故开源之,即是Entry.css。这是一个可配置的、更适合阅读的中文文章样式库,可以用来快速搭建中文博...

    mmzhou
  • Permissions API

    如果你以前使用过Geolocation API,那么你很可能希望可以检查自己是否有权限来使用Geolocation API并且不展示确认框。这个简单的愿望目前是...

    mmzhou
  • 打破你的认知,java,除以0一定会崩溃吗?

    于是,我们发现, 正无穷大 的定义居然是 1.0f/0.0f 。 负无穷大 的定义为**-1.0f/0.0f**, 非数 的定义为 0.0f/0.0f

    慕容千语
  • 【是时候升级java11了】 jdk11优势和jdk选择

    从2019年1月份开始,Oracle JDK 开始对 Java SE 8 之后的版本开始进行商用收费,确切的说是 8u201/202 之后的版本。如果你用 Ja...

    冷冷
  • Java二进制和位运算,这一万字准能喂饱你

    本号正在连载Jackson深度解析系列,虽然目前还只讲到了其流式API层面,但已接触到其多个Feature特征。更为重要的是我在文章里赞其设计精妙,处理优雅,因...

    YourBatman
  • Java二进制和位运算,这一万字准能喂饱你

    本号正在连载Jackson深度解析系列,虽然目前还只讲到了其流式API层面,但已接触到其多个Feature特征。更为重要的是我在文章里赞其设计精妙,处理优雅,因...

    YourBatman
  • Java基础-day01-代码题

    Java基础day01-代码题巩固 ? ? 第一题:分析以下需求,并用代码实现 1.定义一个HelloWold类 2.在类中定义主方法 3.在主方法中使用输出语...

    Java帮帮
  • Java 8 日期时间 API

    java 8 通过发布新的Date-Time API (JSR 310)来进一步加强对日期和时间的处理。

    一滴水的眼泪
  • 我敢打赌绝大多数程序员没有这么深入研究过 System.out.println()!

    System.out.println 是一个 Java 语句,一般情况下是将传递的参数,打印到控制台。

    良月柒

扫码关注云+社区

领取腾讯云代金券