腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
c#中的浮点数和双
精度
c#
、
matrix
、
precision
、
matrix-multiplication
在矩阵
乘法
代码上有点小问题。我似乎在大矩阵
乘法
上失去了
精度
(我的代码在小矩阵上运行得很好)。)
精度
,以确保在将两个浮点数相乘时不会
丢失
精度
。看一下IL代码,我可以看到两个conv.r8,这让我认为IL代码中包含了从浮点到双
精度
的转换。,它就不应该使用双
精度
乘法
,而应该使用单
精度
乘法
,这就给了我一直在跟踪的误差。有没有办法强制执行这种双
精度
乘法
? 谢谢
浏览 3
提问于2010-09-30
得票数 0
回答已采纳
3
回答
java
中双
精度
乘法
的准确性?
java
、
floating-point
、
multiplication
、
double-precision
在
java
中,
乘法
运算符对于双
精度
值的保证
精度
是多少? 例如,2.2x100是220.00000000000003,但220是一个双
精度
数字。
浏览 3
提问于2011-06-24
得票数 7
回答已采纳
2
回答
如果只使用整数的
乘法
和除法,会不会失去
精度
?用双打怎么样?
java
、
integer
、
double
、
precision
在
java
中,如果像下面这样的操作只使用整数、
乘法
和除法,那么result是否可能由于
精度
下降而不等于int3呢?
浏览 3
提问于2016-04-11
得票数 0
回答已采纳
2
回答
我不明白一个方程式的答案怎么会有意义,这个方程式先加上长整型和浮点型,然后再乘以双
精度
java
、
double
、
long-integer
、
addition
我不明白这个等式怎么会变成34.0,当用它来
乘法
时,5.0F != 5会吗?f = 5.0F (float) d = 6.0 (double)
浏览 0
提问于2013-07-15
得票数 0
回答已采纳
4
回答
Java
浮点高精确库
java
、
floating-point
有哪些
Java
库可以快速实现几千位
精度
的浮点或定点操作?它们的性能如何? 对我的一个要求是,它实现的
乘法
算法比朴素的
乘法
算法更好,后者对于2倍大的位数需要4倍的时间(请比较)。
浏览 0
提问于2008-11-10
得票数 23
回答已采纳
1
回答
C: 8x8 -> 16位
乘法
精度
保证整数提升?
c
、
standards
、
language-features
、
integer-promotion
我正在试图弄清楚C标准(C90,尽管我正在研究德里克琼斯的注释C99书)是否保证我不会
丢失
精度
乘以两个无符号8位值,并存储到一个16位的结果。当我阅读6.3.1.1中描述的整数提升时,第一行的效果应该是: foo和10被提升为无符号int,所执行的
乘法
,以及在foo_u16中存储为无符号int的结果。如果编译器知道一条执行8x8->16位
乘法
而不
丢失
精度
的指令,那么越好越好;但是
精度
是得到保证的。我看对了吗? 向你问好,克雷格·布洛姆
浏览 2
提问于2010-04-22
得票数 5
1
回答
Excel操作顺序(不同结果,仅限于除法/
乘法
)
excel
、
math
、
operator-precedence
我知道PEDMAS (操作顺序)因素中,但为什么我得到的计算结果不同,只涉及
乘法
和除法?C: 1.022248108A / B * C = 0.000556但是:这是因为Excel
丢失
了
精度
吗
浏览 3
提问于2018-06-04
得票数 1
回答已采纳
10
回答
为什么我会得到不同的答案,用不同的顺序乘以三个双值?
java
、
double
、
multiplication
我正在用
java
执行以下代码,但我得到了两个不同的答案,在数学上应该是相同的数字。
浏览 0
提问于2015-03-18
得票数 2
2
回答
在
Java
中将整数文本赋值给双
精度
变量
java
、
double
、
int
、
variable-assignment
、
literals
如果我执行以下操作由于0是使用32位的整数字面量,而d是使用64位的双
精度
变量,那么剩余的32位是否会被随机垃圾填充,或者
Java
是否正确地提升了字面量?
浏览 4
提问于2012-02-09
得票数 5
回答已采纳
4
回答
在复合赋值运算符中进行强制转换?
c++
我的代码,简而言之,归结为:x *= 0.5;x = (int)(x * 0.5);那么,有没有办法像这样投射呢?
浏览 5
提问于2012-06-06
得票数 4
3
回答
浮点算术运算的
精度
是多少?
c++
、
floating-point
、
rounding
、
floating-point-precision
、
arithmetic-expressions
考虑下面两个非常简单的
乘法
:long double result2;float var2=6.789;double var4=234.987; result2=var3*var4; 默认情况下,
乘法
的
精度
是否高于操作数?我的意思是,在第一次
乘法
的情况下,它是以双
精度
完成的,而在x86架构中的第二次
乘法
是以80位扩展
精度
完成的
浏览 15
提问于2014-08-14
得票数 7
1
回答
用表列关闭Spark计算中的舍入
apache-spark-sql
、
azure-databricks
我需要使用Spark在上使用两个列来计算: column1 = column2,但是它总是返回一个舍入为6个小数的结果,即使我用十进制(38,18)来设置或转换这些列。 insert into test_calc_round values (0.123456789, 1), (0.123456789, 0.1), (0.123456789, 0.01
浏览 5
提问于2022-06-01
得票数 1
2
回答
为什么下面的圆函数不舍入一些数值?
javascript
、
math
这是一项功能: const multiplier = Math.pow(10, precision || 0)}SET_CAMERA_ZOOM (state, number = 0) { const cameraZoom = state.markerEditor.cameraZoom const
浏览 1
提问于2018-01-19
得票数 1
回答已采纳
4
回答
整数
乘法
、溢出与信息
丢失
java
、
overflow
、
hashcode
、
multiplication
我正在阅读约书亚·布洛赫的“有效
Java
”的。在第8项:当重写等于时始终重写hashCode,作者在哈希函数中使用以下组合步骤:然后,他解释了为什么选择37人(重点是另加): 我的问题是,为什么组合因子(37)是奇数?不管因素是奇数还是偶数,
乘法
溢出不会导致信息
丢失
吗?
浏览 9
提问于2011-12-20
得票数 16
回答已采纳
2
回答
JavaScript
乘法
算法
javascript
、
math
、
multiplication
、
floating-point-precision
、
integer-arithmetic
我在我的FireFox和Chrome控制台中都尝试了这个表达式:实际结果: 1798.9999999999998 parseInt(17.99 * 100); 实际结果: 1798
浏览 3
提问于2014-02-21
得票数 0
回答已采纳
2
回答
为什么fibonacci序列的闭包形式在实际中不被使用?
sequence
、
dynamic-programming
、
fibonacci
Fibonacci序列有一个封闭形式,可以通过得到。它是:有关术语的含义,请参见上面的链接或。但在解答中,所采用的方法之一似乎是快速矩阵指数法,它可以很有效地在O(log(n))时间内得到第n个斐波那契数。 但是,封闭形式表达式涉及到一系列的项,这些项被提升到第n次方。所以,你可以用快速指数法计算所有这些项,这样就能有效地得到结果。为什么在矩阵上进行快速幂比在封闭形式表达式中出现的标量上要好呢?此外,为了寻找如何有效地进行矩
浏览 2
提问于2021-10-22
得票数 0
回答已采纳
3
回答
Java
双
精度
常数
乘法
/除法
java
、
double
、
bytecode
可能重复: 我认为我的问题在于
java
处理双
精度
计算的方式,但我无法解释我错过了什么。
浏览 1
提问于2012-07-16
得票数 5
回答已采纳
2
回答
Big Decimal vs double,提供更好的
精度
java
、
bigdecimal
我在遗留软件中发现了一些代码,我有兴趣知道哪种代码提供了更好的
精度
,因为它目前采用了双
精度
并对其进行了计算: double doubleNum = (Math.round(55.88d * 100)但在将double转换为BigDecimal时可能会出现损失 另外,第一个选项在投射时可能会
丢失
。 我一直使用BigDecimal,但在本例中。
浏览 51
提问于2021-10-08
得票数 1
回答已采纳
1
回答
对角线OpenGL线失去垂直分量?
opengl
我试着画一条对角线,但OpenGL显示它是一条水平线,我不知道为什么。设置OpenGL: return 0; return 0; { ZeroMemory(&m_pfd, sizeof(PIXELFORMATD
浏览 0
提问于2013-09-20
得票数 0
2
回答
使双
精度
最大化的排序操作
java
、
double
、
precision
、
arbitrary-precision
我正在开发一些工具来计算在最坏情况下可以接近1e-25的数字,并将它们用
Java
进行比较。很明显我用的是双
精度
。我在中读到,我不应该期望比1e-15更高的1e-17
精度
,而处理的是在以“更好”的顺序排序操作时获得更好的
精度
。我宁愿不使用类或等效类,因为代码已经足够慢了;) (当然,除非它们不会对速度造成太大影响)。 如有任何信息,将不胜感激!问题是:“怎样才能使计算的
精度
损失最小化
浏览 5
提问于2013-06-15
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Java中的BigDecimal类你了解多少?
由Decimal操作计算引发的Spark数据丢失问题
java中BigDecimal的数学运算
每次矩阵相乘用不到一个光子,手写数字识别准度超90%,光学神经网络效率提升数个量级
Java 语言中 String 类的 hashCode 方法
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券