前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【说站】js浮点数精度丢失的问题及解决

【说站】js浮点数精度丢失的问题及解决

作者头像
很酷的站长
发布2022-11-24 11:23:50
3K0
发布2022-11-24 11:23:50
举报
文章被收录于专栏:站长的编程笔记

js浮点数精度丢失的问题及解决

说明

1、在数学计算中,小数会有一定的误差,这是计算机本身的bug,不仅是js语言,其他语言也有这个问题。

2、解决方案,不要让两个小数比较大小,一般不会影响正常开发。

实例

代码语言:javascript
复制
<script>
    /*NaN:  not a number 不是一个数字
       * 1.NaN是number数据类型中一个特殊的数值,是数学计算错误得到的一个结果
       * 2.NaN与任何数字都不相等,包括它的本身
       * 3.NaN与任何数字计算得到的都是NaN
      isNaN(数据):判断一个数据是不是NaN,结果为布尔类型  true:是 false:不是
     */
 
    //1.NaN:not a number 不是一个数字
    //NaN是number数据类型中一个特殊的数值,是数学计算错误得到的一个结果
    let num = '张三' - 100;//当某个表达式无法计算(计算错误时),会得到NaN
    console.log ( num );    //NaN
    console.log ( typeof  NaN );  //number
 
    //2.NaN与任何数字都不等,包含它本身
    console.log ( NaN == 0 );   //false
    console.log ( NaN == NaN );   //false
 
    //3.NaN与任何数字计算得到的都是NaN
    console.log ( NaN + 100 );   //NaN
 
    //4.isNaN(数据):检测一个数据是不是NaN  得到的结果是布尔类型
    console.log ( isNaN ( NaN ) );  //true
    console.log ( isNaN ( 123 ) );  //false
    //如果检测的数据不是number类型,js编译器会尝试着将这个数据转化为number类型,然后再判断
    //这种数据类型转换称为隐式转换:下一小节讲解
    console.log ( isNaN ( "abc" ) ); //true
 
    //5.(课后了解即可)number浮点数(小数)精度丢失
    //小数在进行数学计算时,会有一定的误差,这是计算机本身的bug,不仅是js语言,其他语言也有这个问题
    //解决方案:不要让两个小数比较大小,这种情况一般不会影响正常开发
    console.log ( 0.1 + 0.2 );   //0.300000000000004
    console.log ( 0.1 + 0.2 == 0.3 ); //false
    console.log ( 0.4 + 0.5 );   //0.9
    console.log ( 1.1 - 0.2 );   //0.9000000000000001
</script>

以上就是js浮点数精度丢失的问题及解决,希望对大家有所帮助。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • js浮点数精度丢失的问题及解决
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档