腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
Big
Decimal
vs
double
,
提供
更好
的
精度
java
、
bigdecimal
我在遗留软件中发现了一些代码,我有兴趣知道哪种代码
提供
了
更好
的
精度
,因为它目前采用了双
精度
并对其进行了计算:
double
doubleNum = (Math.round(55.88d * 100)BigDecimal bsv = BigDecimal.valueOf(2.33); System.out.println(bnv.subtract(bsv).setScale(2)); 两者产生相同
的
输出,我
的
理解是使用bigdecimal可以确保更精确
浏览 51
提问于2021-10-08
得票数 1
回答已采纳
1
回答
在RestAssured jsonPathEvaluator中,没有为双
精度
值
提供
正确
的
值
rest-assured
、
rest-assured-jsonpath
我有一个如下所示
的
json响应: { { } "someId": "pqrsId", } } 当我尝试打印时 response.getBody().asString() 我可以将nextTier.endThreshold
的
值设为
浏览 24
提问于2021-11-23
得票数 0
2
回答
获取
decimal
c#后
的
精确
精度
数
c#
、
floating-point
、
decimal
我想要得到准确
的
小数位数,就像我们除以1/397一样,它应该返回小数点后99位
的
小数位数。我在c#中尝试过,但它没有让我达到这个
精度
级别,它四舍五入为10或12。
浏览 1
提问于2011-07-24
得票数 2
回答已采纳
3
回答
检查计算结果是整数还是十进制
java
、
double
、
long-integer
、
rounding-error
我有这个公式在一个函数中,m是long类型
的
输入。我需要检查这个表达式
的
结果是整数还是十进制,如果是整数返回结果,如果是十进制返回1。因此,我决定将结果放在一个
double
中:我在这里找到了一些解决办法,比如
浏览 5
提问于2017-10-26
得票数 2
回答已采纳
3
回答
来自不正确
的
双
精度
值
的
BigDecimal?
java
、
double
、
bigdecimal
这是我
的
代码:System.out.println("The
Double
: " + theDouble.toString());System.out.println("The
Big
: " + theBigDecimal.toString()); 这就是我得到<
浏览 3
提问于2010-09-12
得票数 5
回答已采纳
2
回答
Hibernate围着我
的
替身转?
java
、
hibernate
、
postgresql
、
jdbc
我得到了一个双
精度
数,我正试图将其保存到postgres数值列中。update tbl set col=151.33160591125488 ...has所需<em
浏览 1
提问于2009-10-16
得票数 2
回答已采纳
3
回答
以双
精度
表示
的
精度
java
我对java
的
精确度有问题。我得计算一下:a = 5.454E14c = 2.3 比分是-2.3。我该怎么解决它呢?
浏览 2
提问于2011-06-30
得票数 0
3
回答
向下舍入一个双
精度
数并与另一个数字进行比较
java
、
bigdecimal
我正在尝试使用
Big
decimal
向下舍入一个双
精度
数,然后与另一个数字进行比较,例如: //
decimal
浏览 1
提问于2012-08-03
得票数 1
回答已采纳
2
回答
如何在使用
Double
.parseDouble()时禁用自动转换为指数表达式?
java
当我运行以下程序时:我得到:1.0E14 如何禁用自动转换以获得100000000000000.0
浏览 0
提问于2011-07-01
得票数 0
回答已采纳
3
回答
发生算术溢出或其他算术异常
的
解决方案?
sql
、
db2
、
aggregate-functions
我使用
的
是db2,不确定是什么版本。当我尝试对一个表求和时,我得到一个溢出错误。我认为我可以将总和转换为BIGINT,这似乎适用于总和,但我希望获得百分比,并且当我转换为BIGINT时,我
的
数据不准确。如何获得percentage _DeliveredB/A
的
准确百分比?将分子和分母转换为BIGINT并除以percentage不会得到正确
的
结果。下面是我
的
脚本:FAT.DIM_BUILDING_ID,SUM(CAST(FAT.AMOUNT
浏览 2
提问于2013-09-25
得票数 0
回答已采纳
4
回答
在C#中对双
精度
值进行舍入
c#
、
double
、
rounding
我想要一个在C#中对双
精度
值进行舍入
的
方法。它需要能够将双
精度
值舍入为任何舍入精确值。我手头
的
代码看起来像这样: { }
double
intv = Math.Abs(roundingInte
浏览 1
提问于2010-01-25
得票数 31
回答已采纳
5
回答
双
精度
c#
、
double
、
precision
我正在开发一个精确度非常重要
的
应用程序。但这对.NET并不重要,为什么呢?我不知道。
double
value = 3.5;但消息框显示: 3.5请帮助我,谢谢。
浏览 2
提问于2009-05-16
得票数 1
回答已采纳
2
回答
Double
to BigDecimal,将两者进行比较
java
、
double
、
bigdecimal
首先,使用(
double
) Math.round(x*10000000)/10000000比较
double
的
自身,运行良好,但随后..数字是相同
的
,但不是(反之亦然),因此循环无休止地继续下去。尝试对它们进行四舍五入并比较长值,仍然是一样
的
。最后,尝试使用
Big
-
decimal
,再次遇到问题。BigDecimal value=new BigDecimal(
Double
.toString(decimalNumber),MathContext.<
浏览 1
提问于2013-04-04
得票数 2
回答已采纳
1
回答
Android -
double
到
Big
Decimal
的
转换问题
java
、
android
我正在尝试将用户
的
输入从EditText转换为
Big
Decimal
。然而,我在做这件事时遇到了问题。我
的
结果不会转换。例如,计算完成后,这个数字将是12.345678。调用round()方法后,四舍五入
的
值仍然是一样
的
。我做错了什么吗?我在和钱打交道
double
totalPrice =
Double
.parseDouble(price.getText().toString());} r
浏览 4
提问于2012-02-05
得票数 0
回答已采纳
1
回答
如何在c#中从双值中修剪十进制
c#
、
double
、
rounding
我试图从1719.4703776041661双值中删除c#中
的
最后一个数字。我想要双倍值
的
12位数字。我怎样才能做到这一点?
double
.parse(value.ToString("N12"))
浏览 4
提问于2020-06-19
得票数 1
回答已采纳
3
回答
C#能比doubles存储更精确
的
数据吗?
c#
、
types
、
double
、
precision
C#中
的
double
没有足够
的
精度
满足我
的
需求。我正在写一个分形程序,在放大几次之后,我
的
精度
就用完了。 有没有一种数据类型可以保存比双
精度
型更精确
的
浮点信息(即更多
的
小数位)?
浏览 3
提问于2011-03-29
得票数 12
回答已采纳
5
回答
C#双类型格式
c#
我正在尝试将C#
的
双
精度
值转换为指数表示法
的
字符串。考虑下面的C#代码:Console.WriteLine(d1.ToString("0.0####################E0"));如果可能的话,谁能告诉我从
double
d1输出"1.2345678901
浏览 0
提问于2013-06-12
得票数 3
回答已采纳
3
回答
浮标、双打和长双打有保证
的
最小
精度
吗?
c++
、
floating-point
、
language-lawyer
、
floating-point-precision
、
minimum
从我之前
的
问题"“中,我收到了一个,它说, 我查过这些宏。它们可以在头<cfloat>中找到。在中,它们列出了float、
double
和long
double
的
宏。下面是用于最小
精度
值
的
浏览 1
提问于2015-06-02
得票数 6
回答已采纳
1
回答
在convert.tosingle方法中避免舍入
c#
、
floating-point
、
rounding-error
考虑一下,float f = convert.ToSingle(a);它正在四舍五入。同样
的
问题是我不能改变代码中浮点数
的
数据类型。请帮帮忙。
浏览 4
提问于2010-08-24
得票数 0
3
回答
在java中添加双
精度
值时出错
java
我有以下代码:
double
d2=3434.0; System.out.println
浏览 3
提问于2012-02-09
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
线上慎用 BigDecimal,坑的差点被开了……
由Decimal操作计算引发的Spark数据丢失问题
MySQL数据库之数据类型
MySQL数据库应用总结(八)—MySQL数据库的数据类型和运算符(下)
MySQL高性能表设计规范
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券