腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
使用java、javascript和使用processing.
js
运行嵌入式时的处理差异
java
、
javascript
、
global-variables
、
processing
、
fill
在我的应用程序引擎上,我从一个html文件加载草图,如下所示:对于前面的问题,我确保使用的是最新版本的processing.
js
<head> <script src="/statics/processing.
js
" type="text/javascript"></script> <sc
浏览 1
提问于2014-09-22
得票数 0
1
回答
单
精度
浮点分割的最佳
精度
c
、
math
、
assembly
、
floating-point
、
verilog
如果只使用单
精度
加/子和乘法硬件(不使用FMA),是否可以执行
除法
并获得IEEE-754单
精度
正确值?具体而言,如果在单
精度
硬件上执行牛顿-拉夫森法进行浮点
除法
,是否有可能达到IEEE-754正确的结果?
浏览 1
提问于2014-07-18
得票数 3
回答已采纳
1
回答
为什么nvprof没有浮点
除法
操作的指标?
cuda
、
floating-point
、
nvprof
使用nvprof来测量我的样本内核的浮点操作,似乎没有flop_count_dp_div的度量标准,实际的双
精度
除法
操作是根据双
精度
的add/mul/fma,甚至是一些单
精度
操作的fma来度量的。我想知道为什么会出现这种情况,如果没有源代码,如何从nvprof报告中推断内核的动态
除法
操作数?
浏览 3
提问于2019-08-30
得票数 2
回答已采纳
2
回答
我想在不包含浮点数的系统中执行两个128位无符号整数的乘法和
除法
floating-point
、
precision
、
smartcontracts
、
clarity
、
128-bit
所以我不能把两个非常大的数字相乘,因为它降低了我的
精度
。我想要
精度
达到16小数位。如果我也做数字
除法
我只得到3,因为我的系统不包含浮点,所以浮点部分被忽略。为了达到这个
精度
,我通过将1e16乘以16小数点的
精度
来增加我的分值。我还试着用科学的符号来解决我的
精度
,这样我就可以乘法和
除法
了。2.5/4 or 2.5x425x10^-1和4x10^0,但由于这一点,我的乘法仍然是scale-down格式,
浏览 17
提问于2022-01-12
得票数 0
1
回答
在Python中将float转换为bigint时,什么是防止溢出的好方法?
python
、
type-conversion
、
integer-overflow
当修剪由
除法
产生的大小数时,我得到一个溢出问题。100000000000000123.1)>>> floor(100000000000000123.1) 100000000000000128 从类型上看,数字似乎是一个普通的浮点数,它不能以所需的
精度
存储有没有更好的数据类型来存储‘长浮点数/双
精度
浮点数’?如果是,我如何强制大整数的
除法
不返回一个低
精度
的浮点数?顺便说一句,我使用的是64位Python 3.6。
浏览 32
提问于2019-04-17
得票数 0
回答已采纳
2
回答
仅使用加法和乘法实现
除法
c#
、
math
、
division
但我想不出一种计算2 BigDecimals
除法
的方法。使用这三个操作符来实现
除法
的最快方法是什么?还是有更好的方法来做到这一点?(同时考虑开发时间和算法速度)目标2:正如您提到的,BigDecimal的目的不是一个固定的
精度
。那么如何实现无限
精度
的呢?另一个问题:是否更好(关于速度和灵活性)使用Microsoft的BigRational类来处理任意
精度
的算术,然后在这个线程中使用Christopher的扩
浏览 2
提问于2013-08-29
得票数 2
回答已采纳
3
回答
如果没有余数,双
除法
是否等于整数
除法
?
java
、
floating-point
、
jvm
在JVM上,两个双值之间的
除法
总是产生与整数
除法
相同的结果吗? double resultDouble = y / x; // double division resultDouble总是等于resultInt,还是会有一些
精度
下降
浏览 4
提问于2017-05-16
得票数 5
回答已采纳
1
回答
只在小数重复时设置BigDecimal
精度
java
、
precision
、
bigdecimal
我知道我可以使用BigDecimal.divide()方法来设置一个固定的
精度
:BigDecimal a2 = new BigDecimal(3);但如果
除法
结果是准确的:BigDecimal a2 = new BigDecimal(4); BigDecimal division = a
浏览 2
提问于2015-05-06
得票数 3
回答已采纳
3
回答
双
精度
浮点数的
除法
c++
、
visual-studio-2008
、
division
我对双
精度
和浮点数的
除法
的
精度
和速度有疑问。如果它们不是双
精度
的,是否需要更多的时间来计算(因为改变了浮点数的大小以适应双倍尺寸)?
浏览 1
提问于2012-10-24
得票数 1
回答已采纳
1
回答
MySQL
除法
精度
mysql
mysql> SELECT 100 / 35600.00 * 35600.00; | 100 / 35600.00 * 35600.00 || 99.999973 ||
浏览 2
提问于2015-01-27
得票数 4
回答已采纳
2
回答
如何检查带bcdiv()的
除法
是否会产生有限的结果?
php
、
math
、
numbers
、
decimal
、
bc
我正在构建一个类,用于在PHP中使用任意
精度
的十进制数,在内部使用。,在
除法
之前,我如何知道结果是否是有限的,在这种情况下,计算结果的规模?
浏览 4
提问于2012-03-21
得票数 0
2
回答
C++双
精度
不能等于两个整型
除法
c++
、
double
、
division
我有点纠结于这个问题:double c = a / b;这将输出以下内容:为什么?double aa = a,c = aa / bb;2.5
浏览 0
提问于2016-12-25
得票数 0
1
回答
模运算向量化
c
、
intel
、
vectorization
这是一个循环: long b* = new long[32]; double d = 3.14159268; //..... d+= (a[i] % b[i])/c[i];如何使用英特尔C++矢量化功能(例如#杂注simd或sse指令)实现此循环? #pragma simd reduction(+:c) for(int
浏览 1
提问于2013-09-24
得票数 0
1
回答
双
精度
除法
division
、
numerical-methods
作为Tikhonov最小二乘解的一部分,需要计算量:然而,如果a真的很小(即矩阵的小奇异值),则a*a可能无法以双
精度
表示。
浏览 4
提问于2014-01-18
得票数 1
2
回答
python
除法
精度
python
、
division
我知道浮点是不准确的,当我用Python执行以下操作时,我想知道获得0.08354而不是(0.08353999999999999)的最佳方法:
浏览 4
提问于2016-10-21
得票数 1
回答已采纳
2
回答
乘浮
精度
floating-point
、
double
、
precision
在浮点数和双数上执行运算(如乘法、
除法
、加法和减法)是否保持其
精度
? 例如,如果我乘以(或除以,加,减) 1000浮动在一起,我还能保持7位数的
精度
吗?我在这个网站上读到,
精度
是维持的(),但我想再检查一遍。
浏览 1
提问于2016-05-07
得票数 4
回答已采纳
6
回答
Java中的十进制格式?
java
有没有人能给我解释一下这个的输出: DecimalFormat first = new DecimalFormat("#.###"); String format_string = first.format(y);是这样的吗: 2但是,当我将15/7更改为它给了我正确的答案 2.143 请
浏览 2
提问于2013-01-21
得票数 5
回答已采纳
5
回答
快速1/X
除法
(倒数)
c++
、
performance
如果
精度
不是很关键,有没有办法提高速度的倒数(
除法
1比X)? 所以,我需要计算1/X。有没有什么变通办法,所以我失去了
精度
,但速度更快了?
浏览 86
提问于2012-03-30
得票数 27
1
回答
浮点多重分割
精度
问题
c++
、
c
、
floating-point
、
precision
在我的C++代码中,我面临着浮点
精度
问题d / 0.01 == 3240.0;d / 0.1 == 324.0在我的用例中,我将通过简单地乘以或除以0.1、0.01、0.05这样的东西,在不同的标度之间进行一些转换。我的意思是,我不需要很高的
精度
,我的操作数通常小于6小数位,可以用64位双倍表示,而不需要<e
浏览 0
提问于2019-05-31
得票数 0
回答已采纳
4
回答
将int除以int并将结果存储为双
精度
时出现意外结果
java
、
int
、
double
、
division
这段代码简单地将一个int除以另一个int,将结果存储在一个双
精度
变量中并打印出来:int b = 557; 执行此代码后,输出为:这很奇怪,因为200/557是0.3590664272890485 我注意到,如果将a和b转换为
除法
行中的为什么我必须将我的变量转换为双
精度
才能得到真正的
除法
结果?
浏览 4
提问于2013-05-02
得票数 6
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
编程科普|信息学奥赛一本通题单1307:高精度乘/除法、回文数(课堂笔记)
MathType编辑短除法的操作步骤!
Creo应用钣金折弯扣除法
Scratch实例编程:计算有余数的除法
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券