NumberFormatter字符串(来自:NSNumber)方法存在小数位问题
NumberFormatter字符串(来自:NSNumber)方法存在小数位问题
提问于 2018-11-12 07:03:02
这是我的密码
let ns = NumberFormatter.init()
ns.allowsFloats = true
ns.maximumFractionDigits = 18 //This is a variable value
ns.minimumFractionDigits = 18 //This is a variable value
ns.roundingMode = .floor
ns.numberStyle = .decimal
let doubleValueOfDecimal : Double = 12.95699999999998
let numb = NSNumber.init(value: doubleValueOfDecimal)
print(numb)
let string = ns.string(from: numb)
print(string)下面是输出和输入doubleValueOfDecimal = 2.95699999999998 Output 2.95699999999998 Optional("2.956999999999980000")，但是如果我输入
doubleValueOfDecimal = 12.95699999999998输出是
12.95699999999998
Optional("12.957000000000000000")字符串转换舍入值。有人能解释一下这是怎么回事吗？
当我希望字符串转换显示确切的数字时，它是小数位的舍入。
回答 2
Stack Overflow用户
回答已采纳
发布于 2018-11-12 09:26:35
小数行为的期望值与Float和Double是二进制浮点的现实之间的裂痕，即小数的小数部分是1/10，1/100等的和，而二进制数的和是1/2，1/4等，另一些值是不精确的，反之亦然。
将代码更改为包括：
let doubleValueOfDecimal : Decimal = Decimal(string:"12.95699999999998")!
let numb = doubleValueOfDecimal as NSDecimalNumber输出结果可能与您所期望的一样：
12.95699999999998
12.956999999999980000Decimal类型是十进制浮点值类型，NSDecimalNumber是包含Decimal值的NSNumber的子类。
HTH
(注意:您必须从字符串初始化Decimal，因为使用数字文字似乎涉及到Swift编译器在处理过程中的某个点使用二进制浮点数.)
Stack Overflow用户
发布于 2018-11-12 07:29:55
使用NSNumber类的包装方法。`
打印(numb.stringValue)
let ns = NumberFormatter.init()
ns.allowsFloats = true
ns.maximumFractionDigits = 18
ns.minimumFractionDigits = 18
ns.roundingMode = .floor
ns.numberStyle = .decimal
let numb = NSNumber.init(value: doubleValueOfDecimal)
print(numb)
let string = ns.string(from: numb)
print(numb.stringValue)低于2.95699999999998，12.95699999999998值的输出。
输出
2.95699999999998
2.95699999999998
12.95699999999998
12.95699999999998
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/53257276
复制相关文章
相似问题
腾讯云开发者
