go: 小数（浮点数）运算的常用做法
浮点数一直以来存在舍入和精度损失两个问题。例如：
m1 := 8.3
m2 := 3.0
c := m1 - m2
// 浮点数精度损失
print("%v", c) // 5.300000000000001在go中，有两条经验。
大部分场景下float64足够
在大部分计算场景下，精度损失微乎其微。不影响最终的结果。
只需要在最终结果取值时，对结果进行舍入即可。舍入的方式有两种。
使用math.Floor直接对浮点结果进行舍入
方法来源https://blog.thinkeridea.com/202101/go/round.html
// Round 四舍五入，ROUND_HALF_UP 模式实现
// 返回将 val 根据指定精度 precision（十进制小数点后数字的数目）进行四舍五入的结果。precision 也可以是负数或零。
func Round(val float64, precision int) float64 {
p := math.Pow10(precision)
return math.Floor(val*p+0.5) / p
}使用方法：
Round(1555.15807659924030304, 0) = 1555，Round(1555.15807659924030304, 2) = 1555.16使用decimal进行取整
decimal库可以进行精确的小数运算，一般也支持小数的舍入。遗憾的是go本身未实现Decimal类型。
最常用的decimal库是： "github.com/shopspring/decimal"
"github.com/shopspring/decimal"
print("%v", c) // 5.300000000000001
// 将精度损失的数进行取整，获得一个合理的定点小数
d := decimal.NewFromFloat(c).Round(2)
print("%v", d) // 5.3
// 也能再次转换为一个float64的数
fd, ok := d.Float64()
print("%v %v", fd, ok) // 5.3, false抛弃浮点数，需要精确计算时，直接使用decimal库
// 可将浮点数初始化成decimal类型再进行运算
d1 := decimal.NewFromFloat(8.3)
d2 := decimal.NewFromFloat(3.0)
d3 := d1.Sub(d2)
print("%v", d3) // 5.3此时，因为抛弃了浮点类型，所有的结果运算都是精确的。但需要使用decimal的方法，而不能再使用 +/-等操作符了。便利性差一点。
本文参与 腾讯云自媒体分享计划，分享自作者个人站点/博客。
原始发表：2023-01-31 ，如有侵权请联系 cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读
目录