专栏首页新智元浮点运算为什么不准?有人为0.30000000000000004建了个网站

浮点运算为什么不准?有人为0.30000000000000004建了个网站

新智元报道

编辑:鹏飞

【新智元导读】计算机浮点运算会出现一定程度的不准确性,通常是.1 + .2!= .3。这个网站解释了为什么计算机会出现这样的情况,以及各种语言出现的不同结果,引发读者热议。浮点运算是计算机基本运算,但是会因为使用的编程语言不同而出现一些奇特的现象。来新智元 AI 朋友圈和AI大咖一起讨论吧~

浮点运算一直非常玄学。

任何一个学过小数点运算的拥有小学数学水平的人,都应该知道 1.0-0.9=0.1。然而当你把这个问题抛给可以计算出圆周率小数点后上百位、拥有超强算力的计算机的时候,结果总是非常迷。

你会发现,使用double或者float得出的计算结果,总是跟我们的预期有一点点差距,这就使得浮点运算容易让人觉得“不精确”。

实际上,因为我们人类理解的数字是十进制,而计算机理解的数字是二进制。比如101.11这个数字,在人类眼中是一百零一点一一,而在电脑看来则是1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75,这个差距着实有点可怕的。

用二进制来表达十进制的小数点,仿佛在接两根口径不一致的管子,就会出现总是对不上的情况。比如为了表示0.2这个十进制下的数字,二进制只能用 1/(2^n)来表示小数,于是:

0.01 = 1/4 = 0.25 ,太大

0.001 =1/8 = 0.125 , 又太小

0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了

0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了

0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大

0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错

0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875

……

当然,理论上是可以做到无限逼近的。然而我们的物理存储介质的容量毕竟不是无限扩展的,那么在编程语言中就会采用一些取巧的方式来进行权衡。比如java中规定double是32位,float是64位。但无论是多少位,总之是个博弈的结果,并不能完美的解决上述问题,甚至在不同平台、硬件下,同样的操作、同样的位数,得出的结果都可能不一样,更不用说在不同的编程语言环境下了。

比如0.1+0.2,结果如下:

有人因此建立了一个网站:

https://0.30000000000000004.com/

正是因为浮点运算的精度问题,使得其无法应用在像银行这样对数字极度敏感的场景中。银行使用的是定点计算,简单来说,就是把小数转换为整数的一种计算。因为这样操作,所有的账目都是可以预测的。

但浮点运算可以表示比的范围比整数更大、在大数运算中也更有优势,它天生是为表示超大数或者无限值。因此在类似图神经网络这种注重数量大于精度的场景下,才是浮点运算大显身手的地方。

本文分享自微信公众号 - 新智元(AI_era)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-12-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

推荐阅读

  • 远程办公经验为0,如何将日常工作平滑过度到线上?

    我是一名创业者,我的公司(深圳市友浩达科技有限公司)在2018年8月8日开始运营,现在还属于微型公司。这个春节假期,我一直十分关注疫情动向,也非常关心其对公司带来的影响。

    TVP官方团队
    TAPD 敏捷项目管理腾讯乐享企业邮箱企业编程算法
  • 数据中台,概念炒作还是另有奇效? | TVP思享

    作者简介:史凯,花名凯哥,腾讯云最具价值专家TVP,ThoughtWorks数据智能业务总经理。投身于企业数字化转型工作近20年。2000年初,在IBM 研发企业级中间件,接着加入埃森哲,为大型企业提供信息化架构规划,设计,ERP,云平台,数据仓库构建等技术咨询实施服务,随后在EMC负责企业应用转型业务,为企业提供云迁移,应用现代化服务。现在专注于企业智能化转型领域,是数据驱动的数字化转型的行业布道者,数据中台的推广者,精益数据创新体系的创始人,2019年荣获全球Data IQ 100人的数据赋能者称号,创业邦卓越生态聚合赋能官TOP 5。2019年度数字化转型专家奖。打造了行业第一个数据创新的数字化转型卡牌和工作坊。创建了精益数据创新方法论体系构建数据驱动的智能企业,并在多个企业验证成功,正在向国内外推广。

    TVP官方团队
    大数据数据分析企业
  • 扩展 Kubernetes 之 CRI

    使用 cri-containerd 的调用流程更为简洁, 省去了上面的调用流程的 1,2 两步

    王磊-AI基础
    Kubernetes
  • 扩展 Kubernetes 之 Kubectl Plugin

    kubectl 功能非常强大, 常见的命令使用方式可以参考 kubectl --help,或者这篇文章

    王磊-AI基础
    Kubernetes
  • 多种登录方式定量性能测试方案

    最近接到到一个测试任务,某服务提供了两种登录方式:1、账号密码登录;2、手机号+验证码登录。要对这两种登录按照一定的比例进行压测。

    八音弦
    测试服务 WeTest
  • 线程安全类在性能测试中应用

    首先验证接口参数签名是否正确,然后加锁去判断订单信息和状态,处理用户增添VIP时间事务,成功之后释放锁。锁是针对用户和订单的分布式锁,使用方案是用的redis。

    八音弦
    安全编程算法
  • 使用CDN(jsdelivr) 优化博客访问速度

    PS: 此篇文章适用于 使用 Github pages 或者 coding pages 的朋友,其他博客也类似.

    IFONLY@CUIT
    CDNGitGitHub开源
  • 扩展 Kubernetes 之 CNI

    Network Configuration 是 CNI 输入参数中最重要当部分, 可以存储在磁盘上

    王磊-AI基础
    Kubernetes
  • 聚焦【技术应变力】云加社区沙龙online重磅上线!

    云加社区结合特殊时期热点,挑选备受关注的音视频流量暴增、线下业务快速转线上、紧急上线防疫IoT应用等话题,邀请众多业界专家,为大家提供连续十一天的干货分享。从视野、预判、应对等多角度,帮助大家全面提升「技术应变力」!

    腾小云
  • 京东购物小程序购物车性能优化实践

    它是小程序开发工具内置的一个可视化监控工具,能够在 OS 级别上实时记录系统资源的使用情况。

    WecTeam
    渲染JavaScripthttps网络安全缓存

扫码关注云+社区

领取腾讯云代金券