我正在尝试检索SQLServer中双精度类型的字段值,然后将其转换为具有比例因子13和14的小数。如果比例为13,则会给出正确的结果。如果刻度为14,则该值将发生更改。我正在使用下面的查询和它们各自的结果。CAST(discount AS DECIMAL(30,13)) as real_value,FROM pricetable
WHERE ref = '
在Hive中,我对操作执行了一些测试,得到了一个我无法理解的行为。在执行该操作时,Hive将返回逗号后带有17个小数的以下结果:> 0.15337423312883436select cast(500 as decimal(38,18)) / cast(3260 as decimal(38,18));我希望有18个小数,但只显示了6个
weightedValue = CAST(prob*value as FLOAT(53))/CAST(totalValue as FLOAT(53))weightedValue= CAST(prob*value as DECIMAL(38,14))/CAST(totalValue as DECIMAL(38,14))
返回小数第6位截断的小数答案?“‘Prob”声明为小数(16,14),“value”声明为小数(17,0)