我在POWER/LOG上遇到的问题是,尽管它们似乎适合您发送的数据类型(输出变量类型与第一个变量的类型匹配),但精度似乎接近浮点数的极限,从而导致不正确的输出。示例:
DECLARE @ten numeric(18,4) = 10
declare @num numeric(18,4) = 234567890
SELECT power(@ten,log(@num,@ten))
输出= 234567890.0000,这是正确的
但是,如果我们增加精度,如下所示:
DECLARE @ten numeric(18,6) = 10
declare @num numeric(18,6) = 234567890
SELECT power(@ten,log(@num,@ten))
输出= 234567889.999999,这是不正确的,但舍入可以修复它(?)
最后,如果您将精度更改为类似于Numeric(18,9)的值,则问题会变得更糟:
DECLARE @ten numeric(18,9) = 10
declare @num numeric(18,9) = 234567890
SELECT power(@ten,log(@num,@ten))
Output = 234567889.999999310,这是不正确的,四舍五入无法修复它。
我假设问题是,尽管POWER和Log函数可以接受非常精确的数据类型,但它们的工作变量必须是浮点型?有没有人有这方面的经验,或者有解决这个问题的经验?
https://stackoverflow.com/questions/54028582
复制相似问题