前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Python中float类型、float32类型和float64类型的表示精度,所需内存及其之间的转换

Python中float类型、float32类型和float64类型的表示精度,所需内存及其之间的转换

作者头像
用户7886150
修改2021-01-25 10:25:48
11.4K0
修改2021-01-25 10:25:48
举报
文章被收录于专栏:bit哲学院bit哲学院

参考链接: Python float()

1. 表示精度和所需内存 

float类型和float64类型是一样的,都需要64个bits,而float32需要32个bits。 精度方面,float类型和float64类型在十进制中可以有16位,而float32类型在十进制中有8位,如下: 

>>> x = np.float64(1/3)

>>> x

0.3333333333333333

>>> y = np.float32(x)

>>> y

0.33333334

>>> p = 1000*(1/3)

>>> p

333.3333333333333

>>> q = np.float32(p)

>>> q

333.33334

2.转换 

1. ‘float’转’float64’ 

        x

       x

    x原本是’float’类型的 

x = np.float64(x)

经过上面的

        x

       x

    x就变成了’float64’类型 

2.’float64’转‘float’ 

        y

       y

    y原本是’float64’类型的 

y = np.float(y)

经过上面的

        y

       y

    y就变成了’float’类型 

3. ‘float64’与‘float32’之间的转换 

>>> x = np.float64(1/3)

>>> x

0.3333333333333333

>>> y = np.float32(x)

>>> y

0.33333334

>>> z = np.float64(y)

>>> z

0.3333333432674408

3. 当出现如下错误时需要进行类型的转换 

ValueError: Unknown label type: 'unknown'

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档