前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >定点数和浮点数_定点数和浮点数哪个精度高

定点数和浮点数_定点数和浮点数哪个精度高

作者头像
全栈程序员站长
发布2022-11-03 15:16:35
1K0
发布2022-11-03 15:16:35
举报
文章被收录于专栏:全栈程序员必看

计算机中常用的数据表示格式有两种,一是定点格式,二是浮点格式。所谓定点数和浮点数,是指在计算机中一个数的小数点的位置是固定的还是浮动的:如果一个数中小数点的位置是固定的,则为定点数;如果一个数中小数点的位置是浮动的,则为浮点数。一般来说,定点格式可表示的数值的范围有限,但要求的处理硬件比较简单。而浮点格式可表示的数值的范围很大,但要求的处理硬件比较复杂。

采用定点数表示法的计算机称为定点计算机,采用浮点数表示法的计算机称为浮点计算机。定点机在使用上不够方便,但其构造简单,造价低,一般微型机和单片机大多采用定点数的表示方法。浮点机可表示的数的范围比定点机大得多,使用也比较方便,但是比定点机复杂,造价高,在相同的条件下浮点运算比定点运算速度慢。目前,一般大、中型计算机及高档微型机都采用浮点表示法,或同时具有定点和浮点两种表示方法。

所谓定点格式,即约定机器中所有数据的小数点位置是固定不变的。通常将定点数据表示成纯小数或纯整数。为了将数表示成纯小数,通常把小数点固定在数值部分的最高位之前;而为了把数表示成纯整数,则把小数点固定在数值部分的最后面,如图2-1所示。

定点数和浮点数_定点数和浮点数哪个精度高
定点数和浮点数_定点数和浮点数哪个精度高

图中所标示的小数点“.”,在机器中是不表示出来的,而是事先约定在固定的位置。对于一台计算机,一旦确定了小数点的位置就不再改变。

对纯小数进行运算时,要用适当的比例因子进行折算,以免产生溢出,或过多损失精度。

假设用一个n位字来表示一个定点数x= x0 x1 x2 … xn-1,其中一位x0用来表示数的符号位,其余位数代表它的量值。为了对所有n位进行统一处理,符号位x0通常放在最左位置,并用数值0和1分别代表正号和负号。对于任意定点数x= x0 x1 x2 … xn-1,如果x表示的是纯小数,那么小数点位于x0和x1之间,数的表示范围为:0≤|x|≤1-2-(n-1);如果x 表示的是纯整数,则小数点位于最低位xn-1的右边,数的表示范围为:0≤|x|≤2n-1-1。

目前计算机中大多采用定点纯整数表示,因此将定点数表示的运算简称为整数运算。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/201125.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022年10月22日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档