腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
有一个叫“2的补码”的硬件单元吗?
hardware
、
twos-complement
我知道,为了做
减法
,你应该对第二个数字做2的补变换。是否有专门的硬件来检查MSB,如果发现它是1,则进行转换? 另外,该系统是否用于
浮点数
的
减法
?
浏览 4
提问于2011-06-06
得票数 1
回答已采纳
5
回答
C#
减法
错误? 12.345 - 12 = 0.345000000000001
c#
、
numbers
、
floating-point
、
floating-accuracy
、
subtraction
我是C#的初学者,我正在处理
浮点数
。我需要在这两个数字之间做
减法
,但它不起作用。我知道它是由
浮点数
引起的,但是我怎么才能修复它,如果你这么好,你能解释为什么会发生这种情况吗?提前谢谢。
浏览 0
提问于2012-03-27
得票数 13
回答已采纳
1
回答
DBL_MAX - DBL_MIN要多久才能与DBL_MIN相等
c++
、
time
、
duration
我没有在图书馆和其他地方阅读,但我想知道下面的代码需要多长时间才能运行,大约15分钟后我就停止了,因为我的电脑认为它是病毒。double current = __DBL_MAX__; }
浏览 3
提问于2022-04-22
得票数 0
2
回答
用
减法
代替除法:如何用
减法
逼近除法
python
、
math
、
division
、
subtraction
、
bignum
我想做除法但
减法
。我也不一定要确切的答案。也没有
浮点数
(最好),这是如何实现的?(预先谢谢:) 而且,这个过程几乎应该和正常的分割一样快。
浏览 9
提问于2022-09-02
得票数 -3
4
回答
C-如何划分
浮点数
?
c
、
floating-point
、
floating-point-conversion
interval: ");b=1; printf("%f\n",piece); 我想要的是打印一些依赖于&d的
浮点数
浏览 4
提问于2011-03-03
得票数 0
回答已采纳
2
回答
计算
浮点数
时最大可能的舍入误差
java
、
floating-point
、
rounding
、
floating-accuracy
、
rounding-error
我正在用
Java
开发一个时间关键算法,因此不使用BigDecimal。为了处理四舍五入错误,我设置了一个上误差界,在此范围内,不同的
浮点数
被认为是完全相同的。现在的问题是,这个约束应该是什么?换句话说,当使用
浮点数
(浮点加法、
减法
、乘法和除法)执行计算操作时,可能出现的最大舍入误差是什么?PS:这个问题与语言无关。编辑2:我似乎需要根据我使用的
浮点数
是如何生成的来计算错误。return (((long)(next(26)) << 27) +
浏览 4
提问于2015-06-17
得票数 3
2
回答
Javascript -价格和
浮点数
javascript
、
floating-point
、
decimal
、
currency
、
decimal-point
我在价格i.e. decimal numbers such as 999.99上执行了一些操作运算包括乘法、加法、
减法
和除法。如果能帮上忙就太好了! 谢谢:)
浏览 1
提问于2012-05-24
得票数 2
2
回答
在python中将float转换为long
python
、
integer
、
long-integer
我有一个返回n!的函数fac(n),我将它与gamma(n+1)进行比较。>>> gamma(101)-fac(100)>>> math.floor(gamma(101))-fac(100)>>> long(gamma(101))-fac(100) -1716052534060312817912314997891197522637580074354635372754659484313875350886868191008427848256820699
浏览 0
提问于2011-09-08
得票数 4
回答已采纳
2
回答
如何在JUnit中测试浮动/双的相等性?
java
、
junit
assertEquals(double,double)方法是有道理地被反对的。在junit中是否有其他和/或不同的方法??还是我自己的小扩展? return Math.abs(d1 - d2) < 1e-8;
浏览 1
提问于2015-08-02
得票数 1
回答已采纳
1
回答
在对
浮点数
进行操作时,
Java
中使用哪种舍入方法?
java
、
floating-point
、
operation
、
rounding-error
语言是
Java
,这台机器是一台普通的PC机,带有Intel处理器。这种类型是双倍的。
浮点数
不能精确地表示每个小数,除法或
减法
等运算的结果以某种方式舍入到某种近似浮点表示。
浏览 2
提问于2016-07-07
得票数 1
回答已采纳
1
回答
使用cv::Mat作为有符号值
c++
、
opencv
、
mat
例如,如果我执行
减法
操作,我希望将负值存储为负值,如果我执行了除法操作,则希望将结果存储为
浮点数
。做这个最好的方法是什么?非常感谢
浏览 7
提问于2015-05-17
得票数 0
回答已采纳
4
回答
浮点数
减法
问题
c++
、
c
这个程序必须计算最少数量的硬币,但它有某种错误,因为结果是奇怪的。这可能是明显的错误,但我找不到。 float x; scanf("%f", &x); while(x>=0.25){ quaters++; printf("%f\n
浏览 1
提问于2015-09-22
得票数 1
回答已采纳
2
回答
如何在javascript中创建
减法
函数
javascript
、
html
、
add
、
subtraction
我试着做加法--加所有的价格和
减法
--减去价格函数 可以
减法
我希望输出将是十进制/
浮点数
。
浏览 2
提问于2019-05-21
得票数 1
1
回答
在Python语言中汇编Random.random()的
浮点数
python
、
random
、
floating-point
、
floating-point-precision
但是超类并不使用这个函数来计算random()返回的
浮点数
。因为我不是
浮点数
的专家,所以我不确定这是不是正确的方法。我不会因为
减法
而失去精确度吗?我可以从随机数位中构建数字,使其在[0.0,1.0]中而不进行
减法
吗?
浏览 4
提问于2012-12-25
得票数 2
回答已采纳
1
回答
如何在python (不是dtype)中只获得列表理解的输出值?
python
我有一个值列表,对于每个值,我想要减去一个固定值。当我用列表理解时,输出不是一个列表,而是一个以混乱的方式包含dtype的列表。我只需要从列表理解中得到的值,我想稍后将这些值放到df中。>>> temp_times>>> print(
浏览 0
提问于2019-08-29
得票数 0
回答已采纳
2
回答
Java
中的
浮点数
和整数值
减法
java
、
type-conversion
我用
java
编写了以下代码:{ { int int_val = (int)val
浏览 0
提问于2013-02-05
得票数 0
回答已采纳
1
回答
这是IEEE数学中舍入误差的直观表示吗
floating-point
、
ieee-754
、
floating-point-precision
在Wolfram Alpha中: 当
减法
操作数的数量级差异大于2^24 (32位
浮点数
)时,解决方案中出现的舍入错误是这样的吗?
浏览 2
提问于2012-09-22
得票数 1
回答已采纳
2
回答
将UInt64转换为浮动在C#中的数据丢失
c#
我试图对两个UInt64值做一些垫子,并将结果存储在一个
浮点数
中:UInt64 val64_2 = 18446744073709551000使用double代替val似乎有效,但
浮点数
确实可以存储615.0。我在这里错过了什么?
浏览 0
提问于2015-01-30
得票数 0
回答已采纳
1
回答
当将
浮点数
减去int数组时有关自动数组的Numpy问题
python
、
arrays
、
numpy
嗨,我试图为Numpy 2D数组上的整个列减去一个数字,并将得到的值放入同一列,但是当
减法
数字是浮动的,数组列是整数时,Numpy似乎将
减法
的结果转换为int,然后更新它。为什么会发生这种事?
减法
浮点数
Out[2]: array([ 1.5, 2.5, 3.5
浏览 2
提问于2015-09-24
得票数 0
回答已采纳
1
回答
uint8_t操作,它们何时溢出?
c++
、
char
、
overflow
、
unsigned-char
、
integer-promotion
uint8_t a = 3;uint8_t c = a - b; // c is 253 float d = a - b; // d is -3float e = (a - b) + (a - c);是否有可能发生溢出,即使分配给的变量是
浮点数
?
浏览 1
提问于2015-08-06
得票数 4
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
整数与浮点数
学会减法
字符串、整数、浮点数
如何使用整数和浮点数
Python 浮点数的冷知识
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券