前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >图解计算机中的数值范围和浮点数运算

图解计算机中的数值范围和浮点数运算

作者头像
冰河
发布2021-02-05 16:29:36
1K0
发布2021-02-05 16:29:36
举报
文章被收录于专栏:冰河技术冰河技术

作者个人研发的在高并发场景下,提供的简单、稳定、可扩展的延迟消息队列框架,具有精准的定时任务和延迟队列处理功能。自开源半年多以来,已成功为十几家中小型企业提供了精准定时调度方案,经受住了生产环境的考验。为使更多童鞋受益,现给出开源框架地址:

https://github.com/sunshinelyz/mykit-delay

PS: 欢迎各位Star源码,也可以pr你牛逼哄哄的代码。

写在前面

在【程序员进阶系列】专题的《图解计算机中数据的表示形式》一文中,我们详细的说明了在计算机中数据的表示形式。今天,我们继续来说计算机中的数值范围和浮点运算相关的知识。走起,继续,我们一起进阶,一起牛逼。

文章已收录到:

https://github.com/sunshinelyz/technology-binghe

https://gitee.com/binghe001/technology-binghe

数值的表示范围

在计算机中,码制所表示的范围,可以分为定点整数和定点小数。在定点数中,小数点是固定的。定点整数就是说小数点在最低位的后面,也就是在最右面,此时的小数点可以忽略不写。定点小数就是小数点在最高位的前面,也就是在最左边。

值得注意的是:在定点整数和定点小数中,小数点都不占位数。所以,小数点在定点整数和定点小数中不会影响数值的范围。

我们可以将定点整数和定点小数的取值范围总结成下表所示。

表格中的n表示机器的字长,也就是用多少位二进制数表示。

这张表小伙伴们不用死记硬背,说白了,这张表,冰河也记不住,那我们怎么办呢?不慌,这里,我给大家举一个例子。

例如,我们这里使用4位机器字长来表示,为了理解方便,这里我用四个方框来表示4位二进制数。

默认最高位为符号位,如下所示。

这里我们先用4位二进制数表示定点整数,则最小值为1111,最大值为0111。

最小值1111表示如下。

其转换成10进制数为-7。

最大值0111表示如下。

其转换为10进制数为7。

这样,我们使用4位二进制数表示的范围,则可以计算出结果为:-7 ~ 7。也就是 -(2^4-1^ - 1) ~ +(2^4-1^ -1),所以,当使用n位二进制数表示数值的范围时,我们可以得出数据的表示范围为:-(2^n-1^ - 1) ~ +(2^n-1^ -1)

其中,2^4-1^ - 1表示2的4-1次方减1,也就是2的3次方减1,结果为7。

所以,我们根本就不需要记住定点整数和定点小数的取值范围表,只需要简单的使用一个实际的二进制位进行验算即可得出正确的结果数据。比如,我这里以4位二进制位进行验算举例。

还有一点需要注意的是:补码和移码比原码和反码少一个数,就是-0。另外,验证定点小数和验证定点整数的方式相同,小伙伴们可自行验证定点小数的值,这里,我就不再赘述。

如果我们使用8位二进制数表示,则定点整数的取值范围为:

1111 1111 ~ 0111 1111 转换为十进制数就是:-127 ~ 127,将二进制数转换为补码为:1000 0000 ~ 0111 1111。

其中,-128的补码为1000 0000是人为规定的。

如果使用8位二进制数表示,则定点小数的取值范围为:

-0.1111 1111 ~ +0.11111111,补码的范围为:-1~ + +0.11111111。

其中,-1的补码为1000 0000是人为规定的。

浮点数的运算

浮点数的表示

首先,我们先来看下浮点数的表示形式,浮点数的表示形式如下,

N = 尾数 * 基数^指数^

对于浮点数来说,我们最常说的就是圆周率 π,数学上常使用3.14来表示π的值,如果使用科学计算法的话,我们可以使用形如3.14 * 10^3^ 这样的数来表示。其中,在3.14 * 10^3^中,3.14表示尾数,10表示基数,3表示指数。

另外,3.14 * 10^3^ 可以写成多种形式,比如可以写成 0.314 * 10^4^,也可以写成0.0314 * 10^5^。

注:3.14 * 10^3^ 表示3.14乘以10的3次方。

浮点数的存储格式

浮点数在计算机中的表示中,阶码是带符号的纯整数,尾数为带符号的纯小数。浮点数的表示格式如下所示。

一个数的浮点数表示不是唯一的。当小数点的位置发生改变时,阶码也会相应的改变。可以使用多个浮点形式表示同一个浮点数。浮点数的数值范围主要由阶码决定,数值的精度则是由尾数决定的。

浮点数的运算过程

运算的过程要依次经历对阶、尾数计算和结果格式化三个阶段。

例如计算:3.14 * 10^3^ + 1.5 * 10^5^的结果数据。

首先,我们需要先进行对阶操作,这里有个原则就是小数向大树看齐,这里我们需要将3.14 * 10^3^进行对阶操作,转化成0.0314 * 10^5^,然后与1.5 * 10^5^进行相加操作,得出结果数据1.5314 * 10^5^。

接下来,我们再来看看浮点数的特点。

浮点数的特点

浮点数的主要特点如下所示。

  • 一般尾数使用补码表示,阶码使用移码表示。
  • 阶码的位数决定数的表示范围,位数越多范围越大。
  • 尾数的位数决定数的有效精度,位数越多精度越高。
  • 对阶时,小数向大数看齐。
  • 对阶是通过较小数的尾数右移实现的。

好了,今天就到这儿吧,我是冰河,大家有啥问题可以在下方留言

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2021-01-24,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 冰河技术 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 写在前面
  • 数值的表示范围
  • 浮点数的运算
    • 浮点数的表示
      • 浮点数的存储格式
        • 浮点数的运算过程
          • 浮点数的特点
          相关产品与服务
          领券
          问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档