首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >解决“浮点上下文中整数除法”警告

解决“浮点上下文中整数除法”警告
EN

Stack Overflow用户
提问于 2020-11-28 18:35:05
回答 1查看 4K关注 0票数 5

在这一行代码中,如何解决“浮点上下文中的整数除法”警告:

代码语言:javascript
运行
复制
int fps = 60;
double timePerTick = 1000000000 / fps;
EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2020-11-28 18:37:09

当除以两个ints时,您将使用整数除法,然后将结果提升到双倍,在小数点之后丢失所有的精度。您可以通过使用double文本来使用浮点精度:

代码语言:javascript
运行
复制
double timePerTick = 1000000000.0 / fps;
// Here -----------------------^
票数 7
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/65053189

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档