腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
在Java中隐式转换
、
我知道类型转换是在Java中自动完成的,因为低
精度
的基元类型是为了更高的
精度
。例如,在此代码中:int j = 40;我的问题是,内部到底发生了什么?在第三条语句中,i和j的值是否分别传递给
float
,然后添加到一起? 或者,首先以int类型进行
加法
,然后将
加法
结果转换为
float
。
浏览 0
提问于2017-02-20
得票数 2
回答已采纳
4
回答
浇铸浮子
、
我的代码是: char paus[2];
float
dmillit = .000005; dbuffer = (
float
)millit + dmillit
浏览 8
提问于2010-08-27
得票数 0
回答已采纳
2
回答
如果定义了浮点数,是否需要指定x.yf?
、
、
、
所以我的问题是完全没问题,或者如果一个人需要做:我被告知,C编译器将不带f的浮点数作为双值,这种情况可能会导致某些地方的不精确计算
浏览 4
提问于2014-11-07
得票数 2
回答已采纳
2
回答
theano在CPU和GPU上的结果不同
、
、
、
我写了一个Theano机器学习程序。但是我在CPU和GPU上得到了两个截然不同的结果。 但是,损失函数会增加,最终成为图形处理器上的NaN。
浏览 0
提问于2016-03-29
得票数 0
1
回答
数字算法中Oracle数据库隐式
精度
转换
、
试图找到详细说明在对不同
精度
的数字执行算术时会发生什么的文档:寻找对
加法
、减法、乘法和除法进行此转换的规则。浏览了Oracle文档,但只能找到从
Float
/Double/Char到Number的隐式转换信息,而不是不同
精度
的数字之间的转换信息。
浏览 0
提问于2018-08-31
得票数 1
回答已采纳
1
回答
char或
float
溢出
、
、
、
我得到了以下示例代码:
float
f, g; // some values get assigned to x and f here...
浏览 0
提问于2011-05-09
得票数 1
回答已采纳
2
回答
使用模板切换SSE内部
、
、
、
我使用模板专门化的方式来切换浮点数/双
精度
SSE-内部函数:struct simd typedef Precision simd_vector;struct simd<
float
> typedef __m128 simd_vector;struct simd<double> typedef __m128d simd_vector;
浏览 0
提问于2013-07-22
得票数 3
回答已采纳
1
回答
从
float
转换为BigDecimal然后再返回是否有危险?
、
、
、
测试平台实质上是测试一块充当单
精度
浮点
加法
器的硬件,因此向量将符合IEEE754标准。那么这会截断结果吗?BigDecimal repA = new BigDecimal(
Float
.toString(A)); BigDecimal repB = new BigDecimal(
浏览 0
提问于2012-04-01
得票数 5
回答已采纳
8
回答
使用2“浮点数模拟”双“
、
、
、
、
我正在为一个只支持32位单
精度
浮点算法的嵌入式硬件编写程序.然而,我正在实现的算法需要64位双
精度
加法
和比较.我试图使用两个double的元组来模拟
float
数据类型,因此double d将被模拟为包含tuple:(
float
d.hi,
float
d.low)的struct。
浏览 14
提问于2011-07-20
得票数 66
回答已采纳
3
回答
浮点算术运算的
精度
是多少?
、
、
、
、
考虑下面两个非常简单的乘法:long double result2;
float
var2=6.789;double var4=234.987; result2=var3*var4; 默认情况下,乘法的
精度
是否高于操作数?我的意思是,在第一次乘法的情况下,它是以双
精度
完成的,而在x86架构中的第二次乘法是以80位扩展
精度
完成的,还是我们应该像下面这样将表达式中的
浏览 15
提问于2014-08-14
得票数 7
2
回答
浮动与双数学Java
、
、
以下内容之间是否存在
精度
差异(假设a和b的值可以在浮点数中不丢失
精度
地表示)。用浮标:
float
b;双打:double b; double result = 1 + a*b;
浏览 5
提问于2016-08-22
得票数 6
回答已采纳
3
回答
关于C函数,它唯一的区别是某些参数的数据类型
const enum CBLAS_TRANSPOSE TransB, const int M, const int N, const int lda, const
float
*B, const int ldb,与其将这个函数定义两次,只是数据类型不
浏览 20
提问于2011-12-01
得票数 2
4
回答
为什么[
float
.MaxValue ==
float
.MaxValue + 1]返回true?
、
、
float
.MaxValue ==
float
.MaxValue + 1 // returns true
浏览 3
提问于2010-11-23
得票数 28
回答已采纳
1
回答
如何强制NumPy始终使用
精度
(
float
32,
float
64 .)?
、
、
、
请参阅 我的目标是研究每个
float
16、
float
32和
float
64的输出
精度
是如何变化的(在numpy中有)。因此,对于第一种情况,我需要将所有的计算都保留在
float
16中。是否有一种方法可以在整个计算中始终使用统一的上下文,即使用
float
16来执行所有的计算(
加法
、减法、cos、sin,例如,不需要重写带强制转换的代码)?
浏览 0
提问于2019-03-06
得票数 3
1
回答
time.time()无法在Cython中的预定时间内运行while循环
、
这只是一个演示的最小示例: import time cdef
float
end_time = time.time(
浏览 12
提问于2019-05-06
得票数 5
回答已采纳
1
回答
鲁棒线性插值
、
特别是,Shewchuk实现了一个定位函数orient2d,它使用自适应
精度
精确地测试三点的方位。
浏览 3
提问于2016-10-01
得票数 6
回答已采纳
1
回答
具有递减和增量循环的不同结果
、
我逐渐意识到,在增量和递减的迭代之间,我没有得到相同的结果。当这个数学表达式n + (1/(i^4))迭代并在自身上添加一个新值( 75+倍)时,我得到了一个细微的差别,即迭代的次数为i。在75次迭代中,每个循环的结果保持不变。知道为什么会发生这种事吗?这是我正在运行的代码:for i in 1:75end x = x + (1/(i^4)) print("final x
浏览 4
提问于2017-09-14
得票数 0
回答已采纳
4
回答
这个sqrt近似的内联装配函数是如何工作的?
、
、
、
、
通过阅读3D游戏编程Gurus的技巧,我看到了用内联程序集编写的这个函数:{ add eax, 0x3F800000 } }i
浏览 17
提问于2017-01-21
得票数 5
回答已采纳
4
回答
为什么java中具有相同值的long和double会产生不同的结果
、
、
(String[] args) { double secondDouble = 1.65d;
float
secondFloat = 1.65f; System.out.println("
FLO
浏览 1
提问于2013-05-17
得票数 2
回答已采纳
1
回答
不包括小数c++的浮点
加法
、
、
我正在尝试做一个elipsoid,为此,我需要以下操作在这种情况下
浏览 0
提问于2015-09-25
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
同事因在涉及金钱交易中使用double造成无法挽回的损失,已跑路
go语言学习历程(19)
JavaScript零基础保姆级教程-2
Python基础(2)
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券