腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
在Java中将整数文本赋值给双
精度
变量
java
、
double
、
int
、
variable-assignment
、
literals
如果我执行以下操作由于0是使用32位的整数字面量,而d是使用64位的双
精度
变量,那么剩余的32位是否会被随机垃圾填充,或者Java是否正确地提升了字面量?
浏览 4
提问于2012-02-09
得票数 5
回答已采纳
2
回答
浮动与双数学Java
java
、
floating-point
、
precision
以下内容之间是否存在
精度
差异(假设a和b的值可以在浮点数中不
丢失
精度
地表示)。用浮标:
float
b;双打:double b; double result = 1 + a*b;
浏览 5
提问于2016-08-22
得票数 6
回答已采纳
4
回答
在C++中编写全
精度
的浮点数
c++
、
io
、
floating-point
在C++中,我可以在不损失
精度
的情况下以文本格式写入和读回浮点数(或双
精度
)吗?请考虑以下几点:{ // Set some flags on fout } { fin >> f;
浏览 4
提问于2011-09-07
得票数 8
回答已采纳
1
回答
精度
损失从浮点型到双
精度
,从双
精度
到浮点型?
c++
、
c
、
floating-accuracy
float
fv = orginal_value; // original_value may be any
float
valuedouble dv = (double)fv;fv= (
float
)dv; fv应该恰好等于original_value吗?可能会
丢失
任何
精度
?
浏览 0
提问于2016-04-25
得票数 11
回答已采纳
4
回答
为什么Java隐式地(不强制转换)将` `long` `转换为` `
float
` `?
java
、
casting
long l = 123456789L;System.out.println(f); // outputs 1.23456792E8 鉴于long比
float
具有更大的位深度
浏览 5
提问于2009-08-18
得票数 45
回答已采纳
1
回答
用计算设置SQL十进制
丢失
精度
sql
、
sql-server
十进制变量失去
精度
。然而,如果我只选择方程,
精度
是完好无损的。如何在不
丢失
精度
的情况下设置十进制变量?SQL SELECT @_oDiscount AS DecimalVariable, CAST(9.99 AS decimal(10,2)) * CAST(.5 AS
float
) AS
浏览 2
提问于2013-12-24
得票数 0
回答已采纳
1
回答
Python折扣率2项加税程序输出不正确
python-3.x
first_item = int(
float
(input("Price of 1st item: "))) second_item = int(
float
(input("Price of 2nd item
浏览 22
提问于2019-09-11
得票数 0
2
回答
如何在Server 2008 R2中将十进制转换为科学
sql
、
sql-server
、
sql-server-2008-r2
我有一张名叫Product的桌子。这张桌子是这样的:1 xyz 4654.000000000000000我想用科学的符号来表示Volume。Volume的数据类型为decimal(20,8)。
浏览 2
提问于2015-07-11
得票数 0
回答已采纳
1
回答
Elasticsearch painless返回错误的长值
elasticsearch
、
elasticsearch-painless
当我尝试从时间戳(使用docker.elastic.co/elasticsearch/elasticsearch:7.11.0图像)获取millis时,Elasticsearch返回舍入的值。 我的映射: { "properties": { "updated_at": { } }
浏览 21
提问于2021-03-22
得票数 0
回答已采纳
5
回答
无法从双
精度
转换为浮点型
android
、
integer
、
division
到目前为止,我的函数如下: long unixTime = System.currentTimeMillis它给我的错误是“无法从双
精度
转换为浮点型”的onerm
浏览 2
提问于2013-01-25
得票数 14
回答已采纳
4
回答
C#浮点数到十进制的转换
c#
、
floating-point
、
precision
任何像这样转换浮点数的聪明方法:转换为小数(或双
精度
)而不损失
精度
?
浏览 6
提问于2010-04-08
得票数 18
回答已采纳
2
回答
将浮点数转换为双
精度
时的
精度
损失
c++
、
casting
、
floating-point
、
double
、
precision
我想我的c++程序遇到了
精度
问题。我不明白为什么我的价值观会得到不同的结果。如果我这样写,res等于1321.0000001192093:double res = -1512.syd和syd2都不一样:double syd2 = -0.207010582000000000; 有没有人能帮我一下,把我的浮动正确地转换成双
精度
浏览 1
提问于2021-03-30
得票数 0
5
回答
原始值转换
java
、
primitive-types
这是Java中的代码片段:
float
f = i; 为什么输出不等于0?它执行扩展,所以它不应该
丢失
数据。然后,您只需截断该值。诚挚的问候
浏览 2
提问于2012-10-16
得票数 3
回答已采纳
5
回答
浮点类型的Java -2数组-发现可能的
精度
损失:要求的浮点数: int
java
、
arrays
、
arraylist
、
floating-point
我有两个浮点类型的数组
float
[] b = new
float
[100]; for (int i=0; i<100; i++) {} 发现
精度
可能
丢失
的错误:要求的浮点数: int
浏览 0
提问于2012-02-18
得票数 0
2
回答
从字符串到数字的Javascript类型转换
javascript
、
reactjs
、
type-conversion
在20个字符串转换
JS
新数字方法时,我遇到了一个问题。
浏览 5
提问于2017-09-12
得票数 0
回答已采纳
1
回答
从
float
32 ->
float
64返回到
float
32是否会
丢失
精度
?
python
、
numpy
、
floating-point
从numpy
float
32到python
float
(
float
64)再到numpy
float
32,有可能失去任何保真度或
精度
吗?我似乎找不到有数据
丢失
的案例,但我周围的每个人都在宣称,世界末日将会到来,因为有数据
丢失
。在继续之前,我只需要找到一个文档/示例来证明数据
丢失
了。def serialize(val): # val is a np.
flo
浏览 2
提问于2012-09-21
得票数 1
回答已采纳
1
回答
在将
float
32转换为
float
64时,golang失去了
精度
吗?
go
、
floating-point
、
double
在Golang中,当
float
64变量首先转换为
float
32,然后转换为
float
64时,它的值似乎会发生变化。a := -8888.95fmt.Println(
float
32(a)) // -8888.95fmt.Println(
float
64(
float
32(a))) // -8888.9501953125
浏览 3
提问于2021-04-18
得票数 0
1
回答
为什么5726718050568503296在
JS
中被截断
javascript
、
floating-point
、
ieee-754
而且,按照和其他编程语言,看起来5726718050568503296值可以精确地表示,而不会失去
精度
。为什么它在
JS
中
丢失
了3位重要数字(转载在最新稳定的google chrome和firefox中) 这个问题最初是从触发的。该值在双IEEE754中绝对是可表示的,查看Go:中裸位是如何转换为
float
64的。
浏览 5
提问于2021-04-22
得票数 9
回答已采纳
2
回答
将SQL Server列从实数转换为浮点数,而不会引入小错误
sql-server
、
casting
、
floating-point
、
precision
我正在使用一个SQL Server数据库,在该数据库中,我需要将数据从类型为real的列获取到另一个类型为
float
的表中的另一列。据我所知,与
float
相比,real本质上只是一个
精度
较低的浮点型(24),后者的默认
精度
为53。因此,当从实数转换为浮点数时,我希望获得更高的
精度
,或者至少不会
丢失
源值的
精度
。然而,在这样做的时候,实际上似乎失去了一些
精度
:为什么会发生这种情况,有没有一种方法可以在执行此操作时至少保持源值的
精度</e
浏览 0
提问于2020-12-03
得票数 0
1
回答
numpy.vstack
丢失
精度
float
16
python
、
numpy
、
floating-point
、
precision
、
floating-accuracy
但是问题是,当我为X轴建立矩阵时,我失去了我的十进制
精度
,你可以看到下面。}) df_y = np.array([item for item in df['push_up']],dtype=np.
float</
浏览 14
提问于2022-06-04
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
JavaScript零基础保姆级教程-2
Java中的BigDecimal类你了解多少?
3行代码提速模型训练:这个算法让你的GPU老树开新花
MySQL数据库之数据类型
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券