Postgresql中精确浮点类型decimal和不精确浮点类型real（案例）
Postgresql中精确浮点类型decimal和不精确浮点类型real（案例）
mingjie
发布于 2022-11-30 16:10:17
发布于 2022-11-30 16:10:17
文章被收录于专栏：Postgresql源码分析
Postgresql提供四类浮点型，其中两类完全相同decimal、numeric；按功能看可以分成两类：
- 精确型：decimal、numeric
- 不精确型：real、double precision
https://www.postgresql.org/docs/14/datatype-numeric.html
为什么说不精确呢？因为数据类型成功插入后，查询出来值可能和你插入的值不一样，原因是长度截断和四舍五入。 精确类型不会发生截断且如果超长了直接报错，主要插入成功了，查出来的一定等于插入的结果。
看下具体例子：
real：【不精确类型】【定长类型】PG10：六位有效数字，会四舍五入（PG14八位有效数字）
create table f1 (a real);
insert into f1 values (1.23456789);
insert into f1 values (1234.23456789012345);
insert into f1 values (123456.23456789);
insert into f1 values (123456.23456789012345);
select * from f1;
a
---------
1.23457
1234.23
123456
123456double：【不精确类型】【定长类型】PG10：十五位有效数字，会四舍五入（PG14十七位有效数字）
create table f2 (a double precision);
insert into f2 values (123456789.123456789);
insert into f2 values (1.1234567890123456789);
insert into f2 values (12345678901234567890.1234567890123456789);
select * from f2;
a
----------------------
123456789.123457
1.12345678901235
1.23456789012346e+19decimal / numeric：【精确类型】【变长类型】不会四舍五入，最高小数点前131072位，以及小数点后16383位，超出报错：ERROR: value overflows numeric format。
create table f3 (a decimal);
insert into f3 values (123456789.123456789);
insert into f3 values (1.1234567890123456789);
insert into f3 values (12345678901234567890.1234567890123456789);
insert into f3 values (12345678901234567890.12345678901234567890123456789012345678901234567890);
select * from f3;
a
------------------------------------------------------------------------
123456789.123456789
1.1234567890123456789
12345678901234567890.1234567890123456789
12345678901234567890.1234567890123456789012345678901234567890123456789从存储角度看，real、double是定长类型，decimal / numeric是变长类型。
在构造tuple时，计算数据长度会走不同分支：
（《Postgresql源码（58）元组拼接heap_form_tuple剖析》）
real类型长度计算：定长计算方法
heap_compute_data_size
data_length = att_align_datum(data_length, atti->attalign, atti->attlen, val);
data_length = att_addlength_datum(data_length, atti->attlen, val);
decimal类型长度计算：变长计算方法
heap_compute_data_size
if (ATT_IS_PACKABLE(atti) && VARATT_CAN_MAKE_SHORT(DatumGetPointer(val)))
data_length += VARATT_CONVERTED_SHORT_SIZE(DatumGetPointer(val));本文参与 腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。
原始发表：2022-10-10，如有侵权请联系 cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读
腾讯云开发者
