前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >python中四舍五入,颠覆你的想象

python中四舍五入,颠覆你的想象

作者头像
刘金玉编程
发布2019-08-26 16:06:46
5800
发布2019-08-26 16:06:46
举报
文章被收录于专栏:编程创造城市编程创造城市

知识回顾:

上一节知识点主要讲到了进制转换,这一块其实属于计算机基础课程。在Python中主要涉及到:

  • hex函数:转十六进制
  • int(参数1,参数2)函数,参数1是表示实际的字符串数值,参数2是表示几进制数
  • oct函数,转为八进制
  • bin函数,转为二进制

本节知识视频教程

以下开始文字讲解:

一、传统的round函数

在python中,四舍五入并非数值运算中想象的那样简单,在程序运行的时候最终其实是转为二进制进行运算的,转换过程中可能出现错误的情况,是由于二进制转换过程中,浮点数的精度不一定能精确表达,导致精度丢失的问题造成的。因此在python中,如果对精度有一定要求的话,就不要使用round函数了,而是建议使用decimal库。

举例:

>>> x=123.455

>>> x

123.455

>>> a=round(x)

>>> a

123

>>> a=round(x,1)

>>> a

123.5

>>> a=round(x,2)

>>> a

123.45 #这个结果出现错误

从这个案例可以看出,当我们使用round函数进行四舍五入运算的时候,我们需要注意结果的正确性,可能会出现精度错误。

二、精度有要求的decimal

Python中用来计算十进制的模块Decimal模块,可以查看二进制进度丢失的情况。

>>> x

123.455

>>> print(decimal.Decimal(x))

123.4549999999999982946974341757595539093017578125

提问:如何解决因二进制精度存储丢失,造成的四舍五入问题?

首先,导入

from decimal import Decimal, Context, ROUND_HALF_UP

然后,开始四射五入法

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal('123.455')

>>> a

Decimal('123.46')

注意错误的方式和正确的方式

X=123.455

错误的方式,参数没有转为字符串

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(x)

>>> a

Decimal('123.45’)

正确的方式,需要先将x转为字符串

>>> a=decimal.Context(prec=5,rounding=decimal.ROUND_HALF_UP).create_decimal(str(x))

>>> a

Decimal('123.46')

解释:四舍五入需要用到的函数

Context函数,有很多参数,都有默认的值,我们做四舍五入时候,只需要改变两个参数的值来设置python的context处理环境即可。

  • 参数1是prec参数,用来显示最终的数值位数,这个数值位数包含整数部分和小数部分。
  • 参数2是rounding参数,改为ROUND_HALF_UP作为四舍五入方式。

create_decimal函数,注意参数值是一个字符串

三、总结强调

1.默认情况下,python环境采用的是银行家的算法/思维。

2.灵活运用四舍五入的几个函数context函数,create_decimal函数。

3.掌握利用decimal模块下的Decimal函数来查看二进制存储的精度误差的方式。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2019-08-22,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 编程创造城市 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档