前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Oracle number数据类型的使用[通俗易懂]

Oracle number数据类型的使用[通俗易懂]

作者头像
全栈程序员站长
发布2022-09-15 10:46:36
5580
发布2022-09-15 10:46:36
举报
文章被收录于专栏:全栈程序员必看

大家好,又见面了,我是你们的朋友全栈君。

需要首先明白有效位的含义:从左到右,从第一个不为零的数开始计数


第一种情况: number后面都是两个正数,第一个数表示有效位,第二个数表示小数点后的位数(也就是精确度,需要进行四舍五入) 例如

代码语言:javascript
复制
number(2,1)

存入的数据有 1,0.1,1.666 分析过程: 存入1:要求有效位小于等于2,所以自动补充0,存入1实际上判断的是1.0是否符合条件,自然可以添加 存入0.1:要求有效位小于等于2,不需要补充0,符合条件 存入1.666:虽然要求有效位大于2,但是需要进入四舍五入,所以存入的是1.7 结论: 如果实际有效位低于所要求的有效位,可以先补充出所需的有效位,所以一般满足实际有效位低于或等于要求有效位的数都可以添加。如果实际有效位大于所要求的有效位则还需要再按照要求四舍五入后再进入判断是否符合有效位


第二种情况 第一个数为正数,第二个数为负数,表示小数点前的位数,有效位等于两位数的绝对值和 例如

代码语言:javascript
复制
number(2,-2) 

存入的数据有 1555,1555.5 分析过程: 存入1555:要求有效位小于等于2+2 = 4,符合条件,但需要对倒数第二个数进行四舍五入,所以最后存入的数为1600 存入1555.5:虽然要求有效位大于2+2 = 4,不符合条件,但是仍可以存入,猜测是忽略了小数点后的,最后存入的数为1600

结论: 大部分同上,只不过加了一个条件,小数点后不做处理直接忽略。

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/163895.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档