首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

double相加(減)结果会有些误差

前提介绍       今天在调试代码的时候发现了一个double类型数据相减的有趣问题,148163.1 - 82692.09大家猜猜结果等于多少,经过调试最终为5471.010000000009。...原因说明      double属于floating binary point types,也就是说都double型的数值在相加减的时候,会将数值转换成二进制的数值如10001.10010110011这种表示发再做相加减...2.使用Decimal类型: 用Decimal就不会出现上面的问题了,可以准确的计算小数值,知识Decimal的范围比double小,一般情况下也够用了。  ...Decimal类型的有效位数达到28位,而double类型的16位,所以Decimal类型Double类型能表示更精确的浮点数。相关知识可以参考下面的链接。...c#中decimal ,double,float 总结 1.在double类型数值进行比较大小的情况最好使用1.02-1.01==double.MinValue这种方式进行判断 2.使用double类型进行加减的情况下看看能否使用

1.2K80

double类型大小比较的方法

问题 在Java中,int类型数据的大小比较可以使用双等号,double类型则不能使用双等号比较大小,那若使用double类型时怎么进行比较呢?...方法 转换为字符串 如果要比较的两个double数据的字符串精度相等,可以将数据转换成string然后借助string的equals方法来间接实现比较两个double数据是否相等。...代码运行结果如下: (2)使用doubleToLongBits()方法 该方法可以将double转换成long型数据,从而可以使double按照long的方法(, ==)判断是否大小和是否相等...代码中的0.0000001指范围(1e-6) 代码运行结果如下: 结语 针对如何在double类型时比较大小的问题,此处我们提供了三种解法,分别为先将它们转换类型变为字符串类型再进行比较,第二种是使用...注意第一种转换为字符串类型的方法只适用于比较精度相同的数据,并且只用于两者是否相等的情况下。

2K50

基础数据类型Double详解

Double 基本数据类型double  的包装类 Double 类型的对象包含一个 double 类型的字段 ?...final int BYTES = SIZE / Byte.SIZE; 表示基本类型 double 的 Class 实例 public static final Class   TYPE...依然提供了根据基本类型double以及double的String形式构造 String形式依然借助于parseXXX形式 parseDouble Double(double value...0 int compareTo(Double anotherDouble) 实例方法两个对象进行大小比较,依赖于静态方法 parseXXX系列 字符串解析 为 基本类型, 不需要对象,...标准的一个实现,根本还是在于标准的理解 Double  和 Float 提供的方法结构基本上是一样的,毕竟都是浮点数,标准也都是IEEE754  至此,已经介绍了,基本类型包装类中的数值部分

3.7K10

matlab double类型数据_timestamp是什么数据类型

虽然matlab中读入图像的数据类型是uint8,但图像矩阵运算时的数据类型double类型。这么做一是为了保证精度,二是如不转换,在对uint8进行加减时会溢出。...做矩阵运算时,uint8类型的数组间可以相互运算,结果仍是uint8类型的;uint8类型数组不能和double型数组作运算。...但im2double()的参数是double型时,直接输出参数本身,不做任何数值类型和数值大小的处理。...所以如果矩阵数据图像是double类型(0~1之间)可直接im2uint8,这样不仅完成数据类型转换,而且将0~1之间映射为了0~255之间的数据。...im2double(Img); %将图像数组Img转换成double精度类型 im2uint8(Img);等价于uint8(round(I*255)); %将图像数组Img转换成unit8类型 im2uint16

1.1K10

: 0,a 是 Double 类型,那 b 是什么类型

数值类型的推导 我们的标题其实已经说得很清楚了,我把完整的代码贴出来: var a: Double? = null val b = a?: 0 问题就是,请问 b 的类型。...这个问题看上去似乎并没有什么难度,在 Kotlin 当中,所有数值类型都是 Number 的子类,也就是说 Double 和 Int 都是它的子类,这种情况下, b 的类型应该毫无疑问的是 Number...var a: Double? = null val b = a?: "0".toInt() 结果, b 仍然是 Any。换句话说, b 的类型推导实际上与 Java 的基本类型没有任何关系。...AtomicInteger 和 Double 只有一个公共父类 Number,不像前面还有个公共父接口 Comparable,这样问题就简单了,直接把 b 的类型推导成 Number 而不是 Any。...再问个为什么 这里有人肯定还是觉得奇怪,因为 Int 和 Double 的父类和接口都一样呀,为啥推导的结果不是 Number呢? ?

73610
领券