首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >数据类型精度对性能的影响

数据类型精度对性能的影响
EN

Stack Overflow用户
提问于 2018-12-06 15:38:06
回答 1查看 70关注 0票数 2

在c++时库(日期纪年)中,使用这些库的高精度类型会降低性能(内存使用量、速度)还是与精度类型无关?

高精度类型:纳秒,微秒,毫秒,.

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2018-12-06 16:37:09

chrono::duration中,精度的选择是在精度和范围之间的权衡,对性能没有影响。

由时钟提供的时钟每个都具有嵌套的duration类型所记录的“本机精度”,这就是它的特性(客户端不能更改)。如果您想要的time_pointduration与此不同(在调用now()之后),则成本是一个乘法或除法,以获得所需的精度。一旦你有了你想要的精度,就不用再花那么多钱了。

精度越高,一般范围就越小。没有超流保护,除非您正在使用自定义Rep,它提供这样的检查。您可以使用静态duration::min()/max()成员函数检查您的范围。

在将具有非常大但在范围内的值的进程持续时间转换为更精细的精度时,可能会出现运行时错误源,从而导致溢出的精度更高。例如,如果您拥有超过292年的microseconds,并将其转换为nanoseconds,则会出现溢出。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/53654812

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档