在C#中将浮点数转换为int时的奇怪行为

内容来源于 Stack Overflow,并遵循CC BY-SA 3.0许可协议进行翻译与使用

  • 回答 (2)
  • 关注 (0)
  • 查看 (28)

我有以下简单代码:

int speed1 = (int)(6.2f * 10);
float tmp = 6.2f * 10;
int speed2 = (int)tmp;

速度1和速度2应该有相同的数值,但事实上,我有:

speed1 = 61
speed2 = 62

我知道我应该使用Math.圆形而不是强制转换,但是我想了解为什么值是不同的。

我查看了生成的字节码,但是除了存储和加载之外,操作码是相同的。

我还在java中尝试了相同的代码,并正确地获得了62和62。

有人能解释一下吗?

编辑:在实际代码中,它不是直接6.2f* 10 but a function call *一个常数。我有以下字节码:

对于速度1:

IL_01b3:  ldloc.s    V_8
IL_01b5:  callvirt   instance float32 myPackage.MyClass::getSpeed()
IL_01ba:  ldc.r4     10.
IL_01bf:  mul
IL_01c0:  conv.i4
IL_01c1:  stloc.s    V_9

速度2:

IL_01c3:  ldloc.s    V_8
IL_01c5:  callvirt   instance float32 myPackage.MyClass::getSpeed()
IL_01ca:  ldc.r4     10.
IL_01cf:  mul
IL_01d0:  stloc.s    V_10
IL_01d2:  ldloc.s    V_10
IL_01d4:  conv.i4
IL_01d5:  stloc.s    V_11

我们可以看到操作数是浮动的,唯一的区别是stloc/ldloc。

至于虚拟机,我尝试使用Mono/Win 7、Mono/MacOS和.NET/Windows,结果相同

提问于
用户回答回答于

首先,我想你应该知道6.2f * 10由于浮点四舍五入而不是确切的62(它实际上是值61.99999809265137,表示为double你的问题只是关于为什么两个看似相同的计算结果会导致错误的值。

答案是在(int)(6.2f * 10),你是在double值61.99999809265137并将其截断为整数,从而产生61。

如属float f = 6.2f * 10,你取的是双倍值61.99999809265137和四舍五入到最近的地方float,也就是62。然后你把它截短float为整数,其结果是62。

练习:解释下列操作顺序的结果。

double d = 6.2f * 10;
int tmp2 = (int)d;
// evaluate tmp2

更新:正如评论中所指出的,表达式6.2f * 10形式上是float因为第二个参数有一个隐式转换为float那就是更好的隐式转换。double

这就是为什么在不同的系统上看到不同的行为:在表达式中(int)(6.2f * 10),编译器可以选择保留值。6.2f * 10在转换为int。如果是这样的话,结果是61。如果没有,结果是62。

在第二个示例中,将显式分配给float强制舍入在转换为整数之前进行。

用户回答回答于

描述

浮动数字很少精确。6.2f就像6.1999998.如果将此转换为int,它将截断它*10项结果61项。

DoubleConverter,有了这个类,就可以真正地将浮点数的值可视化为字符串。Doublefloat都是浮点数,小数点不是(它是一个不动点数)。

样本

DoubleConverter.ToExactString((6.2f * 10))
// output 61.9999980926513671875

扫码关注云+社区