前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >JS的toFixed方法设置小数点位数后再进行计算,数据出错问题

JS的toFixed方法设置小数点位数后再进行计算,数据出错问题

作者头像
书童小二
发布2018-09-03 19:19:18
3.5K0
发布2018-09-03 19:19:18
举报
文章被收录于专栏:前端儿

这个应该算作失真,或者也不算。情况就是用了toFixed后再进行相关计算,得不到预期的结果

具体看例子

比如想动态计算百分比,保留一位小数如94.4%这样子

代码语言:javascript
复制
var blobTo = 409600;
var totalSize = 433927;
var percent = (blobTo / totalSize).toFixed(3) * 100;

percent // 94.39999999999999

恰巧碰到这个,然而percent并不是预期的结果。于是,测试各段数据

代码语言:javascript
复制
var blobTo = 409600;
var totalSize = 433927;
var percent1 = (blobTo / totalSize);
var percent2 = (blobTo / totalSize).toFixed(3);
var percent3 = (blobTo / totalSize).toFixed(3) * 100;
var percent4 = (blobTo / totalSize).toFixed(3) * 1;
var percent5 = (blobTo / totalSize).toFixed(3) * 10;

console.log(percent1, typeof(percent1)); // 0.9439375747533572 "number"
console.log(percent2, typeof(percent2)); // 0.944 string
console.log(percent3, typeof(percent3)); // 94.39999999999999 "number"
console.log(percent4, typeof(percent4)); // 0.944 "number"
console.log(percent5, typeof(percent5)); // 9.44 "number"

好生奇怪... 乘以10正常,当乘以100时,好像失真了

不明觉厉

最后找到一种方法解决,在括号里面先乘上100

代码语言:javascript
复制
var percent = (100* blobTo / totalSize).toFixed(1);

percent // 94.4

还不知道具体是为啥这样,知道的可以告诉我哈~

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2016-10-13 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档