python中四舍五入,颠覆你的想象

知识回顾:

上一节知识点主要讲到了进制转换,这一块其实属于计算机基础课程。在Python中主要涉及到:

  • hex函数:转十六进制
  • int(参数1,参数2)函数,参数1是表示实际的字符串数值,参数2是表示几进制数
  • oct函数,转为八进制
  • bin函数,转为二进制

本节知识视频教程

以下开始文字讲解:

一、传统的round函数

在python中,四舍五入并非数值运算中想象的那样简单,在程序运行的时候最终其实是转为二进制进行运算的,转换过程中可能出现错误的情况,是由于二进制转换过程中,浮点数的精度不一定能精确表达,导致精度丢失的问题造成的。因此在python中,如果对精度有一定要求的话,就不要使用round函数了,而是建议使用decimal库。

举例:

>>> x=123.455

>>> x

123.455

>>> a=round(x)

>>> a

123

>>> a=round(x,1)

>>> a

123.5

>>> a=round(x,2)

>>> a

123.45 #这个结果出现错误

从这个案例可以看出,当我们使用round函数进行四舍五入运算的时候,我们需要注意结果的正确性,可能会出现精度错误。

二、精度有要求的decimal

Python中用来计算十进制的模块Decimal模块,可以查看二进制进度丢失的情况。

>>> x

123.455

>>> print(decimal.Decimal(x))

123.4549999999999982946974341757595539093017578125

提问:如何解决因二进制精度存储丢失,造成的四舍五入问题?

首先,导入

from decimal import Decimal, Context, ROUND_HALF_UP

然后,开始四射五入法

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal('123.455')

>>> a

Decimal('123.46')

注意错误的方式和正确的方式

X=123.455

错误的方式,参数没有转为字符串

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(x)

>>> a

Decimal('123.45’)

正确的方式,需要先将x转为字符串

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(str(x))

>>> a

Decimal('123.46')

解释:四舍五入需要用到的函数

Context函数,有很多参数,都有默认的值,我们做四舍五入时候,只需要改变两个参数的值来设置python的context处理环境即可。

  • 参数1是prec参数,用来显示最终的数值位数,这个数值位数包含整数部分和小数部分。
  • 参数2是rounding参数,改为ROUND_HALF_UP作为四舍五入方式。

create_decimal函数,注意参数值是一个字符串

三、总结强调

1.默认情况下,python环境采用的是银行家的算法/思维。

2.灵活运用四舍五入的几个函数context函数,create_decimal函数。

3.掌握利用decimal模块下的Decimal函数来查看二进制存储的精度误差的方式。

原文发布于微信公众号 - 编程创造城市(bcczcs)

原文发表时间:2019-08-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券