首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >“真实的(10,7)”是什么意思?

“真实的(10,7)”是什么意思?
EN

Stack Overflow用户
提问于 2011-02-21 11:44:35
回答 3查看 1.6K关注 0票数 0

我当时正在研究一本算法书,它面对的是下面的句子。请给我描述一下。

实数(10,7)__:实(10,7)数据类型表示实数,精度为7位有效数字。

谢谢

EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2011-02-21 11:51:13

REAL在SQL标准中定义为二进制浮点类型。但是,AFAIK的精度依赖于实现(通常是IEEE 754单精度或双精度,即常规的32或64位浮点数)。这可能是书中的错误,也可能是标准的专有扩展。

票数 2
EN

Stack Overflow用户

发布于 2011-02-21 11:49:00

SQL中真正的(10,7)数据类型类似于十进制(10,7)。这意味着你有一个像1234567890.0000001这样的数字

票数 0
EN

Stack Overflow用户

发布于 2011-02-21 11:54:19

我认为在这种情况下,这意味着你将有一个10位的数字,其中3位可以在小数点的左边,7在右边。

例如123.1234567

然而,在数学中,有效数字表示小数点之后的最左边数,小数点是非零和所有连续数:

例如,0.00000123将有3个科学意义上的有效数字(更多信息请参见:维基百科 )。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/5065531

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档