开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

社区首页 >专栏 >Python 技术篇-容易被忽略的尾差问题

Python 技术篇-容易被忽略的尾差问题

作者头像

小蓝枣

发布于 2020-09-23 10:03:01

5080

发布于 2020-09-23 10:03:01

举报

文章被收录于专栏：CSDN博客专家-小蓝枣的博客

java和python都存在着这样的问题，3*0.1不是等于0.3，而是等于0.30000000000000004。换个思维，如果有这么一个判断，3*0.1==0.3，这样的结果就是False。

如果当我们做比较精密的计算比较时，一定要把尾差问题处理好，微小的差距错误可能导致整个项目的崩溃！！！ 一般的话我们保留常用的8位或几位小数，就可以解决此类问题。

在这里插入图片描述

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2019/02/13 ，如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自作者个人站点/博客前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体同步曝光计划，欢迎热爱写作的你一起参与！

评论

登录后参与评论

0 条评论

热度

最新

LV.