腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
c#中的浮点数和双
精度
、
、
、
在矩阵
乘法
代码上有点小问题。我似乎在大矩阵
乘法
上失去了
精度
(我的代码在小矩阵上运行得很好)。)
精度
,以确保在将两个浮点数相乘时不会丢失
精度
。看一下IL代码,我可以看到两个conv.r8,这让我认为IL代码中包含了从浮点到双
精度
的转换。,它就不应该使用双
精度
乘法
,而应该使用单
精度
乘法
,这就给了我一直在跟踪的误差。有没有办法强制执行这种双
精度
乘法
? 谢谢
浏览 3
提问于2010-09-30
得票数 0
回答已采纳
3
回答
浮点算术运算的
精度
是多少?
、
、
、
、
考虑下面两个非常简单的
乘法
:long double result2;float var2=6.789;double var4=234.987; result2=var3*var4; 默认情况下,
乘法
的
精度
是否高于操作数?我的意思是,在第一次
乘法
的情况下,它是以双
精度
完成的,而在x86架构中的第二次
乘法
是以80位扩展
精度
完成的
浏览 15
提问于2014-08-14
得票数 7
1
回答
Javascript uint32数学不工作吗?
uint32数学中有些奇怪的东西:a[2] = a[0] * a[1];给出2524872960,我认为是错误的,因为在C中: unsigned a[3] = { 1103515245, 1103527590, 0 }; printf("%u\n", a[2]);} 提
浏览 1
提问于2016-04-01
得票数 2
回答已采纳
3
回答
java中双
精度
乘法
的准确性?
、
、
、
在java中,
乘法
运算符对于双
精度
值的保证
精度
是多少? 例如,2.2x100是220.00000000000003,但220是一个双
精度
数字。
浏览 3
提问于2011-06-24
得票数 7
回答已采纳
2
回答
python如何在
乘法
后对float32数进行舍入?
、
、
、
我正在硬件上设计一个单
精度
浮点
乘法
器,我使用python来验证我的设计。这是单
精度
浮点格式。S|指数|尾数(S1^S2)| E1 + E2 - 127 | Mantissa1 * Mantissa2所以我在这里想问一下python是如何处理尾数
乘法
的。谢谢。
浏览 0
提问于2019-06-03
得票数 2
1
回答
单
精度
浮点分割的最佳
精度
、
、
、
、
如果只使用单
精度
加/子和
乘法
硬件(不使用FMA),是否可以执行除法并获得IEEE-754单
精度
正确值?具体而言,如果在单
精度
硬件上执行牛顿-拉夫森法进行浮点除法,是否有可能达到IEEE-754正确的结果?
浏览 1
提问于2014-07-18
得票数 3
回答已采纳
3
回答
双
精度
:大数相乘
、
、
、
、
我有一些简单的运算(减法,
乘法
)和大数(整数)。它们太大了,所以我不得不将它们存储到long double变量中。这很好,但在某些情况下
乘法
会失去
精度
。
乘法
的结果应该以零的顺序结束。我的问题是,怎么做,拜托?有没有办法强迫long double表现得更好?或者是否有任何选择来获得存储数字的
精度
?编辑:如果我失去了精确性,
浏览 0
提问于2012-03-17
得票数 0
回答已采纳
1
回答
没有扩展
精度
FPU的数值陷阱
、
、
、
、
然而,大多数示例依赖于扩展
精度
FPU或扩展
精度
操作(例如
乘法
-累加)。除了有符号零和涉及NaN的比较之外,当扩展
精度
硬件被禁用时,是否有任何令人惊讶的数值行为的好例子?
浏览 0
提问于2011-07-26
得票数 1
回答已采纳
1
回答
摩氏复矩阵
乘法
早期逼近
、
如何提高复矩阵
乘法
结果的
精度
。它大约在小数点4位,这是结果的一个例子(35.9682,-150.246),但是我想要至少小数点8位的
精度
。谢谢
浏览 2
提问于2015-04-12
得票数 1
回答已采纳
2
回答
乘浮
精度
、
、
在浮点数和双数上执行运算(如
乘法
、除法、加法和减法)是否保持其
精度
? 例如,如果我乘以(或除以,加,减) 1000浮动在一起,我还能保持7位数的
精度
吗?我在这个网站上读到,
精度
是维持的(),但我想再检查一遍。
浏览 1
提问于2016-05-07
得票数 4
回答已采纳
1
回答
Javascript中的无符号32位整数
、
、
x >>> 0或x | 0的技巧不起作用(对于
乘法
,它们似乎适用于加/减),并且doubles在
乘法
过程中会失去
精度
。 to wolfram alpha,给出了上面的等式。
浏览 1
提问于2012-07-29
得票数 9
回答已采纳
1
回答
Binet公式的运行时
、
对于Fib(n),我将变量设置为n位
精度
;因此,我相信将两个数字相乘是n Log(n)。幂运算是,我相信n次Log(n)
乘法
;所以我相信我有n次Log(n)Log(n )。无论是在假设(将浮点数和
乘法
次数乘以整数指数)还是结论中,这都是正确的吗?如果我的
精度
很高,并且我使用
精度
g(n);那么我认为这将减少到g(n) Log( g(n) );但是我认为g(N)应该是g(n)=n Log(phi)+1;这应该不会对渐近性产生实际影响。
浏览 2
提问于2012-02-15
得票数 0
回答已采纳
3
回答
为什么使用float而不是double不能提高Android的性能?
、
由于所有的智能手机(至少是我能找到的智能手机)都有32位处理器,我想在大量计算中使用单
精度
浮点值将比使用双
精度
浮点值的性能要好得多。然而,情况似乎并非如此。即使我避免类型转换,并尽可能使用FloatMath包,在比较基于浮点数的方法和基于双
精度
的方法时,除了内存使用之外,我几乎看不到任何性能上的改进。我目前正在开发一个相当大的计算密集型声音分析工具,每秒可以进行几百万次
乘法
和加法运算。由于32位处理器上的双
精度
乘法
需要几个时钟周期,而单
精度
需要1个时钟周期,所以我认为类
浏览 1
提问于2011-02-24
得票数 12
回答已采纳
1
回答
python
乘法
精度
、
、
我正在尝试用python3做一些相对简单的事情 fx = 2400/5.52 124*ifx*fx 提供124.00000000000001 这就产生了一个实际的问题,就是上面的问题是乘以-1,然后倒掉的 我也尝试过使用python3浮动,但得到了相同的结果(上面的答案不是打印语句,只是在numpy shell中执行) 谢谢
浏览 20
提问于2020-04-25
得票数 1
1
回答
基于ECC的工作
精度
和时间常数算法?
、
我对椭圆曲线密码感兴趣,并找到了常时
乘法
算法。在这些算法中,必须执行算术运算(如加法和
乘法
)。这些“内部”操作也必须在固定时间内执行,对吗?那么我猜所有中间变量的
精度
都是一样的。但是这里需要什么
精度
(例如,如果我把两个256位数相乘,我想结果需要512位)。 在恒定时间内执行这些“内部”算术运算的好算法是什么?
浏览 0
提问于2016-08-30
得票数 3
回答已采纳
4
回答
Java浮点高精确库
、
有哪些Java库可以快速实现几千位
精度
的浮点或定点操作?它们的性能如何? 对我的一个要求是,它实现的
乘法
算法比朴素的
乘法
算法更好,后者对于2倍大的位数需要4倍的时间(请比较)。
浏览 0
提问于2008-11-10
得票数 23
回答已采纳
1
回答
翘曲矩阵-
乘法
函数-支持单
精度
乘数吗?
、
、
、
在中,有一个支持类型组合的表,其中
乘法
要么是子单
精度
浮点类型,要么是double -从不浮动。但是-在中,它说: 数据类型(矩阵片段的T)可以是double、float、__half、__nv_bfloat16、char,或者是对
乘法
数没有符号的char,对于累加器则是double、float那么,
乘法
矩阵可以是float,还是不能呢?
浏览 4
提问于2022-05-12
得票数 1
3
回答
把一个字母乘以一个数字
试图绕过我正在看的一些JavaScript代码。我看到的是这样的事情:var result = myVariable * 6;
浏览 7
提问于2013-03-24
得票数 0
回答已采纳
1
回答
Python浮点算术基础
、
、
正如预期的那样,由于其有限的
精度
,Python的浮点
乘法
不是分布在加法上的:Out[10]: 60.0 In [11]: 200 * (
乘法
?
浏览 3
提问于2015-01-02
得票数 2
1
回答
在哪里使用decimal.ROUND_05UP?
、
、
、
Python中的decimal模块为舍入Decimal提供了此选项。这类四舍五入有什么实际用途?
浏览 6
提问于2015-11-01
得票数 4
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Python基础教程 序列相加&乘法
SMT输给了加法,BEC输给了乘法
Python教程:Python中的序列相乘(乘法)详解
scratch 编程:连续加法与偶数连续乘法
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券