字节跳动面试 用double，1.0-0.9的结果不是0.1，为什么？

让我详细解释一下为什么 1.0 - 0.9 在二进制中不能精确表示。

1.0 的二进制表示

1.0 在二进制中可以精确表示。它的二进制表示为：

1.0 = 1.0 (二进制)

0.9 的二进制表示

0.9 是一个无法在二进制中精确表示的小数。二进制小数是通过求和 1/2, 1/4, 1/8, 1/16, ... 等幂次表示的。对于 0.9，二进制表示需要不断近似：

0.9 ≈ 0.1110011001100110011001100110011... (二进制)

这是一个无限循环小数。

计算误差

由于计算机中浮点数的存储位数是有限的，无法存储无限位数的小数。因此，计算机会将 0.9 近似为一个有限位数的二进制小数，这就引入了误差。例如，在 IEEE 754 双精度浮点数标准下，0.9 的表示近似为：

0.9 ≈ 0.89999999999999991118... (二进制)

结果的影响

当我们计算 1.0 - 0.9 时，实际上是在用近似值进行计算：

1.0 - 0.89999999999999991118 ≈ 0.10000000000000008882

这就是为什么你会发现计算结果不是精确的 0.1，而是一个非常接近但不完全相同的值。

总结来说，浮点数的二进制表示导致了 0.9 不能被精确表示，从而在计算中引入了误差。希望这个解释清楚了为什么会有这种情况。

详细说明double=0.9的表示方式

image.png

在计算机中，double 类型用于表示双精度浮点数，遵循 IEEE 754 标准。这个标准规定了浮点数的存储和表示方法。一个 double 类型的数在内存中占用 64 位，其中包含 1 位符号位，11 位指数位，以及 52 位尾数位。

将 0.9 表示为 double

1. 十进制到二进制：

如前所述，0.9 在二进制中是一个无限循环小数：

[ 0.9_{10} = 0.1110011001100110011..._2 ]

1. 规范化浮点表示：

将二进制小数规范化为 (1.x) 形式，同时调整指数。例如：

[ 0.1110011001100110011..._2 = 1.1100110011001100110011..._2 \times 2^{-1} ]

1. 提取尾数和指数：

尾数（Mantissa）部分为：1100110011001100110011001100110011001100110011001101

指数部分为：-1

1. 偏移指数：

IEEE 754 标准中，双精度浮点数使用偏移量为 1023 的偏移指数。因此：

[ -1 + 1023 = 1022 ]

将 1022 转换为二进制：

[ 1022_{10} = 1111111110_2 ]

1. 组合位串：

现在，我们可以将符号位、偏移后的指数位和尾数组合起来。

• 符号位（0 表示正数）：0
• 指数位：1111111110
• 尾数位：1100110011001100110011001100110011001100110011001101

因此，0.9 在 double 类型中的二进制表示为：

[ 0 \, 1111111110 \, 1100110011001100110011001100110011001100110011001101 ]

总结

在计算机内部，0.9 被表示为 IEEE 754 双精度浮点数，其二进制表示在内存中具体如下：

• 符号位：0
• 指数位：1111111110（十进制的 1022）
• 尾数位：1100110011001100110011001100110011001100110011001101

当你在代码中赋值 double x = 0.9; 时，编译器会将 0.9 转换为上述的二进制表示，存储在内存中。这种表示方式因为精度限制，实际上存储的数值并不是精确的 0.9，而是一个非常接近 0.9 的数值。