我当时正在研究一本算法书,它面对的是下面的句子。请给我描述一下。
实数(10,7)__:实(10,7)数据类型表示实数,精度为7位有效数字。
谢谢
发布于 2011-02-21 11:51:13
REAL
在SQL标准中定义为二进制浮点类型。但是,AFAIK的精度依赖于实现(通常是IEEE 754单精度或双精度,即常规的32或64位浮点数)。这可能是书中的错误,也可能是标准的专有扩展。
发布于 2011-02-21 11:49:00
SQL中真正的(10,7)数据类型类似于十进制(10,7)。这意味着你有一个像1234567890.0000001这样的数字
发布于 2011-02-21 11:54:19
我认为在这种情况下,这意味着你将有一个10位的数字,其中3位可以在小数点的左边,7在右边。
例如123.1234567
然而,在数学中,有效数字表示小数点之后的最左边数,小数点是非零和所有连续数:
例如,0.00000123将有3个科学意义上的有效数字(更多信息请参见:维基百科 )。
https://stackoverflow.com/questions/5065531
复制相似问题