前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >关于JavaScript0.1+0.2=?浮点数精度问题

关于JavaScript0.1+0.2=?浮点数精度问题

作者头像
秋名山码神
发布2022-12-13 15:14:48
4860
发布2022-12-13 15:14:48
举报
文章被收录于专栏:码神随笔

不知道大家在计算JavaScript浮点数的时候有没有遇到过0.1+0.2 != 0.3的情况,

代码语言:javascript
复制
<script>
        var a1 = 0.1;
        var a2 = 0.2;
        alert(a1+a2);
</script>
在这里插入图片描述
在这里插入图片描述

化浮为整

浮点数的计算会出现这个问题,但是整数的计算就不会出现啊,把俩个小数换算为整数进行计算,再除以一个共同的倍数

代码语言:javascript
复制
var a1 = 0.1;
        var a2 = 0.2;
        a1 = a1 *10;
        a2 = a2 *10;
        alert((a1+a2)/10);
在这里插入图片描述
在这里插入图片描述

但是当俩个位数不同的小数的时候,这个方法便不再适用,这个10不是确定的,应该根据俩个相加的具体数值动态获取

怎么动态获取?

仔细观察不难发现,0.01和0.1只有小数点后面的不一样,我们只需要处理数字的位数,把数字当成字符串来进行处理即可

代码语言:javascript
复制
var a1 = "0.01";
alert(a1.length);//获取a1的长度

然后进行字符串分割(split函数)可以把应该字符串通过某种规则和标记符号进行分割,并且返回一个数组

代码语言:javascript
复制
var a1 = "0.01";
var a1_arr = a1.split(".");
var a1_arr_2 = a1_arr[1];
alert(a1_arr_2.length); //小数点后面的位数
在这里插入图片描述
在这里插入图片描述

这下子就转换为取俩个数中较小的那个数,俩个数乘以较小的数的小数点后的位数,化浮为整,因为整数的运算没有丢失精度,计算完成后,再将结果除以倍数,就可以得到正确答案。

那么当为1+1.01时候呢?

  1. toString,转换为俩个字符串
  2. 获取他们个周的小数位数,
  3. 去掉1.01的小数点,用replace
  4. 然后就是我们上面讲的字符串切割
  5. 比较谁的小数点位数大,进行补全

完整代码如下:

代码语言:javascript
复制
	<script>
        var add = function (a1,a2){
            //转换为字符串
            a1 = a1.toString();
            a2 = a2.toString();
            //获取小数点的位置
            var index1 = a1.indexOf(".");
            var index2 = a2.indexOf(".");
            //如果小数点存在,那么再获取各自的小数位数
            var ws1 = 0;
            var ws2 = 0;
            if(index1 != -1){
                ws1 = a1.split(".")[1].length;
            }
            if(index2 != -1){
                ws2 = a2.split(".")[1].length;
            }

            //谁的位数大,谁的位数小,计算要补全的0
            var bigger = (ws1>ws2) ? ws1 : ws2;
            var smaller = (ws1<ws2) ? ws1 : ws2;
            var zeroCount = bigger - smaller;

            //去除小数点
            a1 = a1.replace(".","");
            a2 = a2.replace(".","");

            //比较a1和a2
            if(ws1 == smaller){
                for(var i = 0; i<zeroCount; i++){
                    a1 += "0";
                }
            }else{
                for(var i = 0; i<zeroCount; i++){
                    a2 += "0";
                }
            }

            //计算
            var sum = parseInt(a1) + parseInt(a2);

            //较大的小数位数计算倍数
            var beishu = 1;
            for(var i = 0; i<bigger; i++){
                beishu = beishu * 10;
            }
            sum = sum/beishu;
            return sum;
        }

        alert(add(1.001,2.002));
    </script>
在这里插入图片描述
在这里插入图片描述
代码语言:javascript
复制
													——本文参考《JavaScript百炼成仙》
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022-09-15,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 化浮为整
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档