我在POWER/LOG上遇到的问题是,尽管它们似乎适合您发送的数据类型(输出变量类型与第一个变量的类型匹配),但精度似乎接近浮点数的极限,从而导致不正确的输出。示例:
DECLARE @ten numeric(18,4) = 10
declare @num numeric(18,4) = 234567890
SELECT power(@ten,log(@num,@ten))
输出= 234567890.0000,这是正确的
但是,如果我们增加精度,如下所示:
DECLARE @ten numeric(18,6) = 10
declare @num numeric(18,6) = 234567890
SELECT power(@ten,log(@num,@ten))
输出= 234567889.999999,这是不正确的,但舍入可以修复它(?)
最后,如果您将精度更改为类似于Numeric(18,9)的值,则问题会变得更糟:
DECLARE @ten numeric(18,9) = 10
declare @num numeric(18,9) = 234567890
SELECT power(@ten,log(@num,@ten))
Output = 234567889.999999310,这是不正确的,四舍五入无法修复它。
我假设问题是,尽管POWER和Log函数可以接受非常精确的数据类型,但它们的工作变量必须是浮点型?有没有人有这方面的经验,或者有解决这个问题的经验?
发布于 2019-01-04 03:37:19
这篇评论太长了。
可以通过两种不同的方式处理非整数:使用定点运算或浮点运算。这两种方法都会引入错误。
log()
函数的文档说明是接受float
作为参数并返回float
。power()
的行为略有不同。第一个参数被转换为float
,但它还决定了返回类型。这就是为什么返回类型的规模是由@ten
的规模驱动的。
所发生的一切是,你看到的是具有不同尺度的完全相同的值。这个数字略有偏差并不奇怪--舍入问题是计算机上非整数运算的一个已知问题。
这一点都不奇怪。234567889.9999993145465850830
是产生的值。这是SQL Server能够得到的最接近实际答案的结果--并且足够接近大多数工作。
https://stackoverflow.com/questions/54028582
复制相似问题