首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >float32与float64的真正区别

float32与float64的真正区别
EN

Stack Overflow用户
提问于 2017-04-16 18:48:55
回答 3查看 67.9K关注 0票数 40

我想了解float16float32在结果精度方面的实际差异。例如,Numpy允许您选择想要(np.float16, np.float32, np.float64)的数据类型的范围。我担心的是,如果我决定使用float 16来保留内存并避免可能的溢出,那么与float32相比,这会导致最终结果的损失吗?

谢谢

EN

回答 3

Stack Overflow用户

发布于 2020-09-25 18:34:06

代码语言:javascript
运行
复制
a = np.array([0.123456789121212,2,3], dtype=np.float16)
print("16bit: ", a[0])

a = np.array([0.123456789121212,2,3], dtype=np.float32)
print("32bit: ", a[0])

b = np.array([0.123456789121212121212,2,3], dtype=np.float64)
print("64bit: ", b[0])
  • 16位: 0.1235
  • 32位: 0.12345679
  • 64位: 0.12345678912121212
票数 65
EN

Stack Overflow用户

发布于 2018-10-14 15:19:35

float32是一个32位数-- float64使用64位。

这意味着float64 64占用的内存是原来的两倍--在某些机器体系结构中,对它们进行操作可能要慢得多。

然而,floats 64可以比32位浮点数更准确地表示数字。

它们还允许存储更大的数字。

对于Python项目,我相信您知道输入变量及其性质。

为了做出决定,我们作为程序员需要问自己

  1. 我的输出需要什么样的精度?
  2. 速度根本不是问题吗?
  3. 每百万零件需要多少精度?

一个天真的例子是,如果我将我市的天气数据存储为12.3,14.5,11.1,9.9,12.2,8.2

第二天的预测产量可能是11.5或11.5164374

您认为存储float 32或float 64是必要的吗?

票数 39
EN

Stack Overflow用户

发布于 2022-05-23 15:04:32

float32不太精确,但比float64更快,flaot64比float32更精确,但消耗更多的内存。如果精度比速度更重要,你可以使用float64。如果速度比精度更重要,你可以使用float32。

票数 3
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/43440821

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档