前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Python中的浮点数和小数

Python中的浮点数和小数

作者头像
老齐
发布2021-01-21 19:03:09
1.7K0
发布2021-01-21 19:03:09
举报
文章被收录于专栏:老齐教室老齐教室

简介

float类型,即浮点数,是Python内置的对象类型;decimal类型,即小数类型,则是Python的标准库之一decimal提供的对象类型,也是内置的。了解decimal类型的最佳资料,就是它的官方文档:https://docs.python.org/3/library/decimal.html。

在浮点数运算中,总会有误差的,这一点在下面会显示出来。要解决浮点数运算的误差问题,decimal所创建的小数类型,则是一种比较好的选择。

float类型

用浮点数运算,好处是方便、而且速度快。浮点数会给出你所声明的数字的近似值。例如,如果输出的是带有18位小数的0.1,我实际上得到的不是0.1,而是一个近似值。

代码语言:javascript
复制
>>> print(f"{0.1:.18f}")
0.100000000000000006

类似地,在执行操作时,例如使用浮点数做加法,也会得到一个近似值。这个过程中的代码可能令人困惑,如下所示:

代码语言:javascript
复制
>>> .1 + .1 + .1 == .3
False
>>> .1 + .1 + .1
0.30000000000000004

直观地说,这个加法是有意义的,根据你的数学知识,肯定会认为上面第一个表达式应该返回True,然而,一定要注意,浮点数是你所创建数字的近似值——只不过有时候近似的程度很高,以至于没有差别。由于这个浮点数是近似值,导致返回值是False。这说明了浮点数存在一个大问题,即缺乏可靠的相等性测试。为了在不使用decimal类型的情况下修正这个等式检验,我们可以用四舍五入。

代码语言:javascript
复制
>>> round(.1 + .1 + .1, 10) == round(.3, 10)
True
>>> round(.1 + .1 + .1, 10)
0.3

在本例中,我们对浮点数进行了四舍五入,以防止出现任何精度问题。如果你经常在代码库中使用浮点数和四舍五入,就应该考虑是不是可以使用decimal类型了。

decimal类型

如果需要精确计算,比如财务计算,就必须使用decimal类型——小数类型。不过,你也要关注一下decimal类型的精度优势和float类型的性能优势,根据具体要求,做出恰当的选择。

如果把前面示例中的浮点数改为小数类型,看看效果如何:

代码语言:javascript
复制
>>> from decimal import Decimal
>>> print(f"{Decimal('0.1'):.18f}")
0.100000000000000000
>>> Decimal('.1') + Decimal('.1') + Decimal('.1') == Decimal('.3')
True

这里使用decimal类型,就可以防止浮点数带来的细微误差。如果注意观察,你会看到小数使用字符串进行实例化。如果不这样,比如下面的例子,在实例化时,如果使用Decimal(0.01)创建一个小数实例,就会导致浮点数精度问题。

代码语言:javascript
复制
>>> from decimal import Decimal
>>> Decimal(0.01) == Decimal("0.01")
False

在本例中,我们期望这些小数值相等,但由于浮点数的精度问题,这一小数相等测试返回False。看看每个小数,你就知道为什么了。

代码语言:javascript
复制
>>> Decimal(0.01)
Decimal('0.01000000000000000020816681711721685132943093776702880859375')
>>> Decimal("0.01")
Decimal('0.01')

以浮点数为参数建立的Decimal实例,在技术上不是0.01,这将导致相等测试为False。所有小数都应该使用字符串创建,以防止精度问题。否则,我们就会失去小数的精度优势,并产生微妙的错误。

总结

decimal类型,能够让计算更精确,虽然要损失点性能。这就看你需要什么了。如果强调防止浮点数精度问题带来的细微错误,使用小数利大于弊。一定要注意,创建实例的时候,参数要用字符串。

参考:https://www.laac.dev/blog/float-vs-decimal-python/


本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-01-14,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 老齐教室 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 简介
  • float类型
  • decimal类型
  • 总结
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档