前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >浮点数比较的精度问题

浮点数比较的精度问题

作者头像
C语言与CPP编程
发布2020-12-02 10:06:08
1.5K0
发布2020-12-02 10:06:08
举报
文章被收录于专栏:c语言与cpp编程c语言与cpp编程

1 引言

先举个例子:

代码语言:javascript
复制
#include <stdio.h>

int main()
{
   float a = 0.1;
   float b = 0.2;
   float c = a + b;

   if(c == 0.3){
      printf("c == 0.3\n");
   }else{
      printf("0.1 + 0.2  != 0.3\n");
   }
   return 0;
}

c != 0.3

a,b,c局部变量值

如果变量 a , b 换 0.75 , 0.5 可以看出运行出 c == 1.25 ,说明浮点数运算是不稳定的。

a=0.5,b=0.75,c == 1.25

为什么会时好时坏,因为不是所有的小数能用浮点数标准 ( IEEE 754 ) 表示出来。

所以,判断两个浮点数变量是否相等,不能简单地通过 "==" 运算符实现,浮点数进行比较时,一般比较他们之间的差值在一定范围之内

代码语言:javascript
复制
bool feq(float a,float b){
 return fabs(a,b)<FLT_EPSILON;
}

FLT_EPSILON 数值是 1.192092896e-07F,最小的 float 型数,它使 1.0+FLT_EPSILON !=1.0

2 为什么浮点数精度会丢失

十进制小数转化为二进制数:乘以2直到没有了小数为止。

举个例子,0.9 表示成二进制数。

代码语言:javascript
复制
   0.9*2=1.8   取整数部分 1
   0.8(1.8的小数部分)*2=1.6    取整数部分 1
   0.6*2=1.2   取整数部分 1
   0.2*2=0.4   取整数部分 0
   0.4*2=0.8   取整数部分 0
   0.8*2=1.6   取整数部分 1
   0.6*2=1.2   取整数部分 0
    .........     
   0.9二进制表示为(从上往下): 1100100100100......

很显然,小数的二进制表示有时是不可能精确的。其实道理很简单,十进制系统中能不能准确表示出 2/3 呢?同样二进制系统也无法准确表示 1/10 。这也就解释了为什么浮点型精度丢失问题。

3 float 存储原理

float 型在内存中占 4 个字节。float 的 32 个二进制位结构如下:

float 内存存储结构

31

30

29----23

22----0

实数符号位

指数符号位

指数位

有效数位

其中符号位 1 表示正,0 表示负。有效位数位 24 位,其中一位是实数符号位。

将一个 float 型转化为内存存储格式的步骤为:

  • 先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。
  • 将这个二进制格式实数的小数点左移或右移 n 位,直到小数点移动到第一个有效数字的右边。
  • 从小数点右边第一位开始数出二十三位数字放入第 22 到第 0 位。
  • 如果实数是正的,则在第 31 位放入“0”,否则放入“1”。
  • 如果 是左移得到的,说明指数是正的,第 30 位放入“1”。如果 n 是右移得到的或 n=0,则第 30 位放入“0”。
  • 如果 n 是左移得到的,则将 n 减去 1 后化为二进制,并在左边加“0”补足七位,放入第 29 到第 23 位。如果n是右移得到的或 n=0,则将 n 化为二进制后在左边加“0”补足七位,再各位求反,再放入第 29 到第 23 位。

0.2356 的内存存储格式:

  • 将 0.2356 化为二进制后大约是0.00111100010100000100100000。
  • 将小数点右移三位得到1.11100010100000100100000。
  • 从小数点右边数出二十三位有效数字,即11100010100000100100000放 入第 22 到第 0 位。
  • 由于 0.2356 是正的,所以在第 31 位放入“0”。
  • 由于我们把小数点右移了,所以在第 30 位放入“0”。
  • 因为小数点被右移了 3 位,所以将 3 化为二进制,在左边补“0”补足七位,得到0000011,各位取反,得到1111100,放入第 29 到第 23 位。
  • 最后表示0.2356为:0 0 1111100 11100010100000100100000

浮点类型标识的有效数字及数值范围

  • Float :比特数为 32 ,有效数字为 6-7 ,数值范围为 -3.4E+38~3.4E+38
  • Double :比特数为 64 ,有效数字为 15-16 ,数值范围为 -1.7E-308~1.7E+308
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2020-07-20,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 C语言与CPP编程 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1 引言
  • 2 为什么浮点数精度会丢失
  • 3 float 存储原理
    • 浮点类型标识的有效数字及数值范围
    相关产品与服务
    对象存储
    对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
    领券
    问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档