首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >RoR十进制字段具有:精度=> 10,:标度=> 6不存储小数

RoR十进制字段具有:精度=> 10,:标度=> 6不存储小数
EN

Stack Overflow用户
提问于 2014-11-02 01:15:51
回答 1查看 215关注 0票数 0

我有一个不存储小数的十进制字段,尽管模式文件说:

代码语言:javascript
运行
复制
t.decimal  "kg", :precision => 10, :scale => 6

如果我这样做了:

代码语言:javascript
运行
复制
(15,000 * 1,010)/1,000,000 

哪个应该是15.15

它将只显示15.00

关于DDBB:

代码语言:javascript
运行
复制
BigDecimal:7fd4cc707300,'0.15E2',9(36)
EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2014-11-02 01:26:27

我相信你得到的结果是15,而不是15.15,这就是Fixnum部门的工作方式。如果要在结果中包含小数,则需要在操作数中包含小数:

示例:

代码语言:javascript
运行
复制
# Decimal on denominator
> (15000 * 1010)/1000000.0
=> 15.15

# or, on numerator
> (15000.0 * 1010)/1000000
=> 15.15

然后,您可以使用此值存储在kg字段中。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/26695043

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档