前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >javascript 浮点类型处理

javascript 浮点类型处理

作者头像
程序新视界
发布2022-05-06 09:39:18
4200
发布2022-05-06 09:39:18
举报
文章被收录于专栏:丑胖侠

项目中遇到的问题,记录一下解决方案。

问题

前台页面进行一些js数据计算,发现浮点类型(保留两位小数)的计算,比如0.03-0.01时结果是0.019999999999999997。当然,这并不是我们想要的结果。

解决方法

那么,如何解决上面的问题呢?由于遇到的问题是保留两位小数,那相对就简单一些了。这里仅提供一种解决方案。

首先,将两个浮点类型分别乘以100(0.03 * 100 -0.01 * 100) ,然后计算的结果再除以100。这样就规避了在做减法的时候上面出现的问题。就好比在开发中,我们更愿意使用单位为分的计算,而不是直接采用double类型的元去计算金额。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2016-11-01,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 问题
  • 解决方法
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档