腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
双
精度
vs浮点
精度
问题
c++
、
double
、
precision
#include <iostream> { std::cout << answer;}我被期望从双
精度
中获得更高的
精度
;我如何获得更多的
精度
,比如: 0.666666666666667
浏览 1
提问于2020-07-14
得票数 0
2
回答
浮动与双数学Java
java
、
floating-point
、
precision
以下内容之间是否存在
精度
差异(假设a和b的值可以在浮点数中不
丢失
精度
地表示)。用浮标:float b;双打:
double
b;
double
result = 1 + a*b;
浏览 5
提问于2016-08-22
得票数 6
回答已采纳
2
回答
在Java中将整数文本赋值给双
精度
变量
java
、
double
、
int
、
variable-assignment
、
literals
如果我执行以下操作由于0是使用32位的整数字面量,而d是使用64位的双
精度
变量,那么剩余的32位是否会被随机垃圾填充,或者Java是否正确地提升了字面量?
浏览 4
提问于2012-02-09
得票数 5
回答已采纳
1
回答
Java: Math.pow返回混乱的结果
java
我正在研究Java语言中的Math.pow()函数,但是下面的代码给出了不同的结果,分别如下所示。BigDecimal divisor = new BigDecimal(Math.pow(10,9)+7);System.out.println(dividend.remainder(divisor)); // 543543558System.out.println((1000000000543543509L%((int)Math.pow(10,9)+7
浏览 0
提问于2017-09-29
得票数 1
2
回答
查找浮点类型可以处理的最大整数大小,而不
丢失
精度
。
c++
、
floating-point
、
double
、
precision
Double
的范围超过了64位整数,但是它的
精度
不太取决于它的表示形式(因为
double
也是64位的,所以它不能适应更多的实际值)。因此,当表示较大的整数时,开始在整数部分中失去
精度
。<int,
double
>(); maxint_to_
double
<int, float>();2147483647.000000
浏览 2
提问于2010-04-06
得票数 6
回答已采纳
2
回答
如何将日期时间转换为双
精度
?
c#
如何将日期时间转换为双
精度
?
浏览 4
提问于2011-03-03
得票数 6
回答已采纳
2
回答
DECIMAL_DIG和LDBL_DIG在<float.h>中有什么区别?
c
、
floating-point
宏常量DECIMAL_DIG是 这两种定义有什么区别?是否存在这样的情况,即使用一个而另一个可能导致不正确的结果?
浏览 7
提问于2016-09-26
得票数 6
4
回答
for循环期间的
精度
损失[数组]
java
double
[] temperature = new
double
[length]; {} 在for循环期间,我在循环的“温度”部分周围得到了错误“需要int;found:
double
的
精度
可能
丢失
”。我如何创建一个for循环来
浏览 0
提问于2014-01-26
得票数 0
1
回答
加速此标准差方法
objective-c
、
c
、
nsdecimalnumber
、
standard-deviation
我有这个方法来计算NSNumber整数数组的标准差,给定一个平均值。计算使用NSDecimals来保留最高分辨率。这是目前需要很多cpu周期,任何帮助它加速,同时保留所需的分辨率是感激的!谢谢。 for (NSN
浏览 3
提问于2012-06-14
得票数 1
3
回答
故意失准
java
、
casting
、
ide
、
int
、
double
同时将
double
转换为int:int i = (int) d;我知道我完全可以禁用所有
丢失
的精确警告,但这不太好。我正在使用Intellij IDEA 13
浏览 1
提问于2013-12-25
得票数 4
回答已采纳
3
回答
为什么不能将
Double
隐式转换为Decimal
c#
、
types
、
casting
当涉及到小数和双
精度
时,我不理解转换规则。
double
doub = (
double
) dec;decimal dec = doub; // CS0029: Cannot implicitly convert type '
double
浏览 1
提问于2011-10-19
得票数 30
回答已采纳
1
回答
在Java中将BigDecimal转换为
Double
时,何时出现“数据
丢失
”?
java
、
string
、
double
、
converter
、
bigdecimal
我知道在Java中将BigDecimal值转换为双倍时存在“
精度
问题”。当简单地使用BigDecimal ()将数据从BigDecimal.doubleValue()转换为双倍时,什么时候会出现“数据
丢失
”?例如,如果我将1.1从BigDecimal转换成双倍并打印出来,它会打印" 1.1“,我认为它没有数据
丢失
( BigDecimal为1.1,打印值为1.1)。
浏览 1
提问于2018-04-25
得票数 1
回答已采纳
1
回答
新类型由十进制和双
精度
组成
c#
、
algorithm
、
oop
、
types
在我的应用程序中,我的计算需要
精度
为十进制,数据范围为双
精度
。如果我使用decimal,计算会导致溢出,如果我使用
double
,计算会导致精确
丢失
。解决方案是什么?
浏览 0
提问于2012-03-06
得票数 1
回答已采纳
1
回答
精度
损失从浮点型到双
精度
,从双
精度
到浮点型?
c++
、
c
、
floating-accuracy
float fv = orginal_value; // original_value may be any float value
double
dv = (
double
)fv;fv可能会
丢失
任何
精度
?
浏览 0
提问于2016-04-25
得票数 11
回答已采纳
2
回答
将浮点数转换为双
精度
时的
精度
损失
c++
、
casting
、
floating-point
、
double
、
precision
我想我的c++程序遇到了
精度
问题。我不明白为什么我的价值观会得到不同的结果。如果我这样写,res等于1321.0000001192093:
double
res = -1512.*((
double
)sy - (2. / 3.));
double
res2 = -1512.*(-0.207010582 - (2. / 3.)); 为什么在我写这篇文章的时候,甚至syd和syd2都不一样
浏览 1
提问于2021-03-30
得票数 0
1
回答
达特双型的奇怪行为
dart
以下代码输出以下结果:print('type of firstValue: ${firstValue.runtimeType}'); //
double
double
secondValue = 1; print('type
浏览 3
提问于2021-01-23
得票数 0
回答已采纳
1
回答
在cgal上
丢失
双
精度
cgal
这些值具有双
精度
。有什么线索吗?
浏览 1
提问于2015-11-26
得票数 0
2
回答
循环中的数组可能会
丢失
精度
错误
arrays
、
precision
array1 [] = new
double
[100]; {
double
smallest = array[0];} 错误: /Users/Crbn/in
浏览 6
提问于2014-07-27
得票数 5
回答已采纳
1
回答
bson-append_
double
双
精度
bson
、
mongo-c-driver
我在下面的函数bson_append_
double
中遇到了问题:bson_append_
double
(pbson, field_name, -1,(
double
)dvalue
浏览 3
提问于2017-05-29
得票数 1
1
回答
解决“浮点上下文中整数除法”警告
java
、
intellij-idea
、
floating-point
、
suppress-warnings
、
integer-division
在这一行代码中,如何解决“浮点上下文中的整数除法”警告:
double
timePerTick = 1000000000 / fps;
浏览 11
提问于2020-11-28
得票数 5
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Java中的BigDecimal类你了解多少?
线上慎用 BigDecimal,坑的差点被开了……
同事因在涉及金钱交易中使用double造成无法挽回的损失,已跑路
怎样实现小数的四舍五入?
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券