go float 相等比较 原
go float 相等比较 原
solate
发布于 2019-07-19 18:40:02
发布于 2019-07-19 18:40:02
float比较
因为浮点数不是一种精确的表达方式,所以像整型那样直接用==来判断两个浮点数是否相等是不可行的,这可能会导致不稳定的结果。
下面是一种推荐的替代方 :
使用中f1 > f2，math.Dim返回的是x-y与0中大的那个值，如果f1<f2会出现异常情况
import "math"
// p为用户自定义的比较精度0.00001
func IsEqual(f1, f2, p float64) bool {
return math.Dim(f1, f2) < p
}
//true 比较位数和精度相同
var a float64 = 0.0000123
var b float64 = 0.000012234
var p float64 = 0.0000001
//false p精度比比较位数更精确
var a float64 = 0.0000123
var b float64 = 0.000012234
var p float64 = 0.00000001
//false 精度0.0000002 大于比较精度
var a float64 = 0.0000124
var b float64 = 0.000012234
var p float64 = 0.0000001总结： flaot 因为底层存放的问题，并不是一个准确的值，所以在比较的时候不能直接进行相等比较，而在使用精度比较的时候，设置精度和比较位数一样，如果使用第二种比比较为更精确一位则两个数就不相等了。
本文参与 腾讯云自媒体分享计划，分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读
目录