首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >定义(1 << 31)还是使用0x80000000?结果不同

定义(1 << 31)还是使用0x80000000?结果不同
EN

Stack Overflow用户
提问于 2017-01-18 18:40:36
回答 3查看 6K关注 0票数 7
代码语言:javascript
运行
复制
#define SCALE (1 << 31)

#define fix_Q31_80(x) ( (int) ( (float)(x)*(float)0x80000000 ) )
#define fix_Q31_SC(x) ( (int) ( (float)(x)*(float)SCALE      ) )

int main()
{
    int fix_80 = fix_Q31_80(0.5f);
    int fix_sc = fix_Q31_SC(0.5f);
}

为什么fix_80fix_sc的值不同?

代码语言:javascript
运行
复制
fix_80 == Hex:0x40000000
fix_sc == Hex:0xc0000000
EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2017-01-18 19:11:25

在大多数平台(例如,具有16位或32位int的系统)上,1 << 31是未定义的行为,因为它的结果不能用int (表达式的结果类型)表示。不要在代码中使用该表达式。另一方面,在使用32位int的系统上,1U << 31是一个有效的表达式,因为它的结果可以用unsigned int (表达式的结果类型)表示。

在32位int系统上,0x80000000unsigned int类型的(相对)大的正整数。如果你足够幸运(或不幸)没有使用1 << 31表达式从你的鼻子里飞出来,那么这个表达式最有可能的结果是INT_MIN,它是一个(相对) int类型的大的负整数。

票数 13
EN

Stack Overflow用户

发布于 2017-01-18 21:35:44

所有整数常量都有一个类型。在1的情况下,类型是int。在包含32位整数的系统上,1 << 31给出的数字太大,无法表示为int。这是未定义的行为,因此是一个错误。

0x80000000将按预期工作,因为在32位系统上,它恰好是unsigned int类型。这是因为当编译器查找十进制常量和十六进制常量应该具有的类型as explained here时,它们的行为是不同的。

正如一些人所提到的,不要在有符号类型上使用位运算符。

票数 5
EN

Stack Overflow用户

发布于 2017-01-18 19:26:15

0x80000000是一个大数字,需要32位来表示该数字。这意味着在32位系统上(或在32位兼容应用程序中),int太小。所以改用unsigned long

代码语言:javascript
运行
复制
#define SCALE (1u << 31)

#define fix_Q31_80(x) ( (unsigned long) ( (float)(x)*(float)0x80000000u ) )
#define fix_Q31_SC(x) ( (unsigned long) ( (float)(x)*(float)SCALE       ) )

int main()
{
    unsigned long fix_80 = fix_Q31_80(0.5f);
    unsigned long fix_sc = fix_Q31_SC(0.5f);
}
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/41717188

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档