首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >基于Camunda和SpringBoot的Dmn表变量舍入(双重计算精度问题)

基于Camunda和SpringBoot的Dmn表变量舍入(双重计算精度问题)
EN

Stack Overflow用户
提问于 2022-11-23 14:00:29
回答 1查看 24关注 0票数 0

我用卡蒙达和春靴。

我创建了一个dmn表。但我发现了一个双精度的计算问题。

我需要用这个dmn表来计算结果。我们有两个来自java的变量: float a,double b。例如: a= 0.2、b=0.6和interval:

但是,精度问题给出的b=0.600000000001~为0.6,而表给出了另一个间隔

如何在dmn表中舍入以接收作为#.#的变量结果?

我找到了一种循环变量的方法,但我不工作

EN

回答 1

Stack Overflow用户

发布于 2022-11-28 12:00:21

我找到了解决办法。问题就在于浮点值。

我刚在表达式字段中添加了脚本

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/74548020

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档