首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >定义(1 << 31)还是使用0x80000000?结果不同

定义(1 << 31)还是使用0x80000000?结果不同
EN

Stack Overflow用户
提问于 2017-01-18 18:40:36
回答 3查看 6K关注 0票数 7
代码语言:javascript
运行
复制
#define SCALE (1 << 31)

#define fix_Q31_80(x) ( (int) ( (float)(x)*(float)0x80000000 ) )
#define fix_Q31_SC(x) ( (int) ( (float)(x)*(float)SCALE      ) )

int main()
{
    int fix_80 = fix_Q31_80(0.5f);
    int fix_sc = fix_Q31_SC(0.5f);
}

为什么fix_80fix_sc的值不同?

代码语言:javascript
运行
复制
fix_80 == Hex:0x40000000
fix_sc == Hex:0xc0000000
EN

Stack Overflow用户

发布于 2017-01-18 19:26:15

0x80000000是一个大数字,需要32位来表示该数字。这意味着在32位系统上(或在32位兼容应用程序中),int太小。所以改用unsigned long

代码语言:javascript
运行
复制
#define SCALE (1u << 31)

#define fix_Q31_80(x) ( (unsigned long) ( (float)(x)*(float)0x80000000u ) )
#define fix_Q31_SC(x) ( (unsigned long) ( (float)(x)*(float)SCALE       ) )

int main()
{
    unsigned long fix_80 = fix_Q31_80(0.5f);
    unsigned long fix_sc = fix_Q31_SC(0.5f);
}
票数 1
EN
查看全部 3 条回答
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/41717188

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档