#define SCALE (1 << 31)
#define fix_Q31_80(x) ( (int) ( (float)(x)*(float)0x80000000 ) )
#define fix_Q31_SC(x) ( (int) ( (float)(x)*(float)SCALE ) )
int main()
{
int fix_80 = fix_Q31_80(0.5f);
int fix_sc = fix_Q31_SC(0.5f);
}为什么fix_80和fix_sc的值不同?
fix_80 == Hex:0x40000000
fix_sc == Hex:0xc0000000发布于 2017-01-18 19:11:25
在大多数平台(例如,具有16位或32位int的系统)上,1 << 31是未定义的行为,因为它的结果不能用int (表达式的结果类型)表示。不要在代码中使用该表达式。另一方面,在使用32位int的系统上,1U << 31是一个有效的表达式,因为它的结果可以用unsigned int (表达式的结果类型)表示。
在32位int系统上,0x80000000是unsigned int类型的(相对)大的正整数。如果你足够幸运(或不幸)没有使用1 << 31表达式从你的鼻子里飞出来,那么这个表达式最有可能的结果是INT_MIN,它是一个(相对) int类型的大的负整数。
发布于 2017-01-18 21:35:44
所有整数常量都有一个类型。在1的情况下,类型是int。在包含32位整数的系统上,1 << 31给出的数字太大,无法表示为int。这是未定义的行为,因此是一个错误。
但0x80000000将按预期工作,因为在32位系统上,它恰好是unsigned int类型。这是因为当编译器查找十进制常量和十六进制常量应该具有的类型as explained here时,它们的行为是不同的。
正如一些人所提到的,不要在有符号类型上使用位运算符。
发布于 2017-01-18 19:26:15
0x80000000是一个大数字,需要32位来表示该数字。这意味着在32位系统上(或在32位兼容应用程序中),int太小。所以改用unsigned long:
#define SCALE (1u << 31)
#define fix_Q31_80(x) ( (unsigned long) ( (float)(x)*(float)0x80000000u ) )
#define fix_Q31_SC(x) ( (unsigned long) ( (float)(x)*(float)SCALE ) )
int main()
{
unsigned long fix_80 = fix_Q31_80(0.5f);
unsigned long fix_sc = fix_Q31_SC(0.5f);
}https://stackoverflow.com/questions/41717188
复制相似问题