首页
学习
活动
专区
工具
TVP
发布
社区首页 >问答首页 >为什么浮点数是不准确的?

为什么浮点数是不准确的?
EN

Stack Overflow用户
提问于 2014-02-20 08:39:02
回答 2查看 53.5K关注 0票数 231

为什么有些数字在存储为浮点数时会失去准确性?

例如,十进制数9.2可以精确地表示为两个十进制整数(92/10)的比率,这两个整数都可以精确地表示为二进制(0b1011100/0b1010)。但是,存储为浮点数的相同比率永远不会完全等于9.2

32-bit "single precision" float: 9.19999980926513671875
64-bit "double precision" float: 9.199999999999999289457264239899814128875732421875

这样一个看似简单的数字怎么会“太大”而无法在64位内存的中表达呢?

EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/21895756

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档