首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

python中四舍五入,颠覆你的想象

知识回顾:

上一节知识点主要讲到了进制转换,这一块其实属于计算机基础课程。在Python中主要涉及到:

hex函数:转十六进制

int(参数1,参数2)函数,参数1是表示实际的字符串数值,参数2是表示几进制数

oct函数,转为八进制

bin函数,转为二进制

本节知识视频教程

以下开始文字讲解:

一、传统的round函数

在python中,四舍五入并非数值运算中想象的那样简单,在程序运行的时候最终其实是转为二进制进行运算的,转换过程中可能出现错误的情况,是由于二进制转换过程中,浮点数的精度不一定能精确表达,导致精度丢失的问题造成的。因此在python中,如果对精度有一定要求的话,就不要使用round函数了,而是建议使用decimal库。

举例:

>>> x=123.455

123.455

>>> a=round(x)

123

>>> a=round(x,1)

123.5

>>> a=round(x,2)

123.45 #这个结果出现错误

从这个案例可以看出,当我们使用round函数进行四舍五入运算的时候,我们需要注意结果的正确性,可能会出现精度错误。

二、精度有要求的decimal

Python中用来计算十进制的模块Decimal模块,可以查看二进制进度丢失的情况。

123.455

>>> print(decimal.Decimal(x))

123.4549999999999982946974341757595539093017578125

提问:如何解决因二进制精度存储丢失,造成的四舍五入问题?

首先,导入

from decimal import Decimal, Context, ROUND_HALF_UP

然后,开始四射五入法

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal('123.455')

Decimal('123.46')

注意错误的方式和正确的方式

X=123.455

错误的方式,参数没有转为字符串

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(x)

Decimal('123.45’)

正确的方式,需要先将x转为字符串

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(str(x))

Decimal('123.46')

解释:四舍五入需要用到的函数

Context函数,有很多参数,都有默认的值,我们做四舍五入时候,只需要改变两个参数的值来设置python的context处理环境即可。

参数1是prec参数,用来显示最终的数值位数,这个数值位数包含整数部分和小数部分。

参数2是rounding参数,改为ROUND_HALF_UP作为四舍五入方式。

create_decimal函数,注意参数值是一个字符串

三、总结强调

1.默认情况下,python环境采用的是银行家的算法/思维。

2.灵活运用四舍五入的几个函数context函数,create_decimal函数。

3.掌握利用decimal模块下的Decimal函数来查看二进制存储的精度误差的方式。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190822A0F5H500?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券