首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

小心double比较

对于double比较,存在一些可能的坑,大家应该都清楚。比如容易注意的是double==double的精度问题。...但是比较少注意的是double.NaN的比较 ---- 我们先看一个demo public static void Main() { Console.WriteLine("NaN ==...=NaN,但是可以使用NaN.Equals(NaN)判断相等性 而在符号比较上NaN都是返回false,使用CompareTo方法与其他double比较时,NaN都是返回-1 微软的考虑是NaN不是一个数值...而方法的比较是为了满足如IComparable接口的需要,便于排序等操作的使用 所以说有什么代码推荐呢?...涉及可能会出现NaN的情况,需要使用double.IsNaN进行判断 涉及double比较判断,建议使用True条件。 如判断a是否是正数,使用 result=a>0?

1.3K40

double类型大小比较的方法

问题 在Java中,int类型数据的大小比较可以使用双等号,double类型则不能使用双等号比较大小,那若使用double类型时怎么进行比较呢?...方法 转换为字符串 如果要比较的两个double数据的字符串精度相等,可以将数据转换成string然后借助string的equals方法来间接实现比较两个double数据是否相等。...代码运行结果如下: (2)使用doubleToLongBits()方法 该方法可以将double转换成long型数据,从而可以使double按照long的方法(, ==)判断是否大小和是否相等...代码中的0.0000001指范围(1e-6) 代码运行结果如下: 结语 针对如何在double类型时比较大小的问题,此处我们提供了三种解法,分别为先将它们转换类型变为字符串类型再进行比较,第二种是使用...注意第一种转换为字符串类型的方法只适用于比较精度相同的数据,并且只用于两者是否相等的情况下。

1.9K50
您找到你想要的搜索结果了吗?
是的
没有找到

float double取值范围_double float区别

没有 正0 0 0 -127 非0 0 非正规形式(正数) 0 1~254 -126~127 任意 1 正规形式(正数) 0 255 128 0 没有 正无穷 0 255 128 非0 没有 NaN double...符号位(S):1bit 指数位(E):11bit 尾数位(M):52bit double这里就类似float,只是double的长度更大,所以范围就更大,但规则是一样的。...double的值 = ( − 1 ) S ∗ ( 2 E − 1023 ) ∗ ( 1. M ) (-1)^S*(2^{E-1023})*(1.M ) (−1)S∗(2E−1023)∗(1.M)。...另外,Java中无穷大表示为: Float.POSITIVE_INFINITY或Double.POSITIVE_INFINITY//表示正无穷大 Float.NEGATIVE_INFINITY或Double.NEGATIVE_INFINITY...double 计算方式同float,double的尾数:52位, 2 − 52 2^{-52} 2−52=2.220446049250313E-16,最小是16位,但最小不是1.0E-16,所以精度是15

1.8K10

Java BigDecimal和double-BigDecimal转double-double转BigDecimal

表11-15 BigDecimal类的常用方法 序号 方 法 类型 描 述 1 public BigDecimal(double val) 构造 将double表示形式转换 为BigDecimal...第三行:问题在于Double.toString会使用一定的精度来四舍五入double,然后再输出。会。...2.如果你使用Double.toString来把double转化字符串,然后调用BigDecimal(String),这个也是不靠谱的,它不一定按你的想法工作。...3.如果你不是很在乎是否完全精确地表示,并且使用了BigDecimal(double),那么要注意double本身的特例,double的规范本身定义了几个特殊的double值(Infinite,-Infinite...所以, 把double强制转化成int确实是扔掉小数部分,但是你写在代码中的值,并不一定是编译器生成的真正的double值。

2.3K20

double精度丢失问题

前言在Java中,使用double类型时可能会遇到精度丢失的问题。这是由于double类型是一种浮点数类型,在表示某些小数时可能会存在精度损失。...另外,尽量避免直接比较两个double类型的值是否相等,而是考虑使用误差范围或者BigDecimal的compareTo方法来进行比较操作。...举个例子当我们使用double类型时可能会遇到精度丢失的问题,让我们来看一个简单的例子:public class DoublePrecisionIssue { public static void...main(String[] args) { double num1 = 0.1; double num2 = 0.2; double sum = num1 +...总结Double作为一个常用的数据类型。其实这是一个伪命题,因为它只用作于科学计算,在日常的业务处理当中。你无法把它用来作为一个处理逻辑计算的对象。但他越是作为一个双精度的基础的逻辑对象。

26210
领券