首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

说说Python3中的数字处理

最近在处理订单相关的问题,踩了数字的一些坑,在此记录下。

其中有问题的代码涉及金额比较,便于描述,假设了下面一段代码

跟踪代码才发现 order.pay_price 是 Decimal 类型,而 12.3 是浮点类型,Python 是强类型语言,类型不一样当然不等。

仔细想想,有点不对,你看 1 == 1.0 就成立啊,不也是不同类型(整型和浮点型)吗。

不管是不是强类型语言,数字之间作比较还是应该要能行的吧。

这里没有深挖,感觉就是 Python 设计的缘故吧。

所以,这里应该怎么作等值比较,试了下 math.isclose(a, b) ,嗯,行得通。

本应该在这里结束了,但,不小心玩了下

纳尼

然后打印了下值

我还有什么话可说呢,这下让我对 Python 浮点数的处理产生了怀疑。

也让自己对以前所写的数字比较产生了怀疑,天哪,全是 Bug 。不过后面想通了,不存在的 :)

这下,搞得我以后都不知道怎么处理数字了。程序中很多地方都没判断类型,呀,又是一堆隐患。(同样,还是想多了...)

为了理清自己的思路,又试了下

原来,Decimal 和整型是能进行算术运算的。

后面自己冷静了下,终于想通了。

程序中,我们用的很多库,涉及小数的基本上都是用的 Decimal 类型,比如 SQLAchemy ORM 取出来的小数数据都是此类型。

Decimal 之间比较一般精度的数字都是没问题的,并且程序中我们定义数字的初始值基本都是整型 0 ,和 Deciamal 运算没有问题,所以上面的疑虑都烟消云散了。

所以,在以后的数字处理中,自己尽量只使用整型和 Decimal 类型,来避免上面的隐形问题。

不过,要注意

这是由于浮点数 0.123 在转为 Decimal 的时候失去了精度

因此,定义 Decimal 类型的时候,我们尽量使用字符串来避免这个问题。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180704G05HYH00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券