腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
比较
浮点数
和整数
c++
、
c
、
floating-point
、
precision
、
floating-accuracy
出于安全考虑,我需要执行两次相同的
计算
,一次只有整数(int32)变量,另一次只有浮点(float32)变量。在
计算
结束时,对这两个结果进行了
比较
。 如果!(a > b) && !(a < b)为真,那么_a_和_b_可能是相同的,否则就不是。如果我将
浮点数
转换为整数,我就得到了数字的整数部分,为什么通过使用一个联合对象并在那里定义
浏览 5
提问于2014-11-22
得票数 0
回答已采纳
2
回答
带有自定义
比较
的Python list.count
python
我需要
计算
浮点值在列表中出现的次数,并且我有自定义的
比较
函数(它将
浮点数
与相对容差进行
比较
)。 有没有一个简单的解决方案来使用自定义
比较
函数来
计算
列表中的元素?据我所知,list.count()不接受
比较
函数--只接受一个参数进行计数。
浏览 0
提问于2019-12-06
得票数 0
1
回答
在Python语言中
计算
浮点数
组的crc32校验和
python
、
c++
、
crc32
我尝试在Python语言中
计算
浮点数
组的crc32校验和,然后将其与C++中
计算
的crc32校验和进行
比较
,对于单个
浮点数
,我使用以下代码:获取数组的crc32校验和的代码应该是什么样子的?我尝试将每个
浮点数
的校验和相加,但这给出了错误的校验和
浏览 10
提问于2020-11-26
得票数 1
1
回答
Numpy array_equal和float精确相等检查
python
、
numpy
、
floating-point
、
precision
、
equality
我知道这里也有类似的精度问题,但是我正在阅读一个项目的代码,该项目正在进行
浮点数
之间的精确相等
比较
,这让我感到困惑。numpy.array_equal(x1, x2) 因此,精确的平等(无容错)对于这个程序的工作至关重要,而且它似乎工
浏览 35
提问于2020-06-02
得票数 1
回答已采纳
1
回答
从VBA到Javascript的转换
javascript
、
vba
、
excel
我正在尝试将一些VBA excel代码转换为
JS
,但即使我对自己很确定,代码也不能正常工作。下面是一些给我带来麻烦的片段:
JS
: tri1 = tri1 + Math.pow(2, (2 - tour));VBA:If (y And (2 ^ (5 - Tour))) <> (Tri2 And 2 ^ (5 - Tour)) Then
JS
: if ((y && Math.pow(2, 5 - tour)) != (tri2 &
浏览 4
提问于2015-12-16
得票数 1
3
回答
比较
浮点数
-相同的数字,但不等于?
php
、
floating-point
当然,在试图处理付款时,它们应该匹配,以防止在最后一分钟手动覆盖支付金额,或者当然,避免
计算
错误。所以为了测试vars,我偷偷溜进来:var_dump($carttotal); 查看发生了什么(在我做了* 1
计算
以确保它们被处理为
浮点数
浏览 6
提问于2011-12-02
得票数 17
回答已采纳
7
回答
objective-C中
比较
浮点数
的奇怪问题
iphone
、
objective-c
、
casting
、
floating-point
在算法中的某些点上,我需要将类的属性的浮点值与
浮点数
进行
比较
。
浏览 0
提问于2009-10-24
得票数 24
回答已采纳
1
回答
为什么有些
浮点数
<整数
比较
比其他
比较
慢四倍?
python
、
performance
、
floating-point
、
cpython
、
python-internals
当将
浮点数
与整数进行
比较
时,有些值的
计算
时间要比其他类似大小的值要长得多。timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times但是,如果
浮点数
或整数以一定的量变得更小或更大,则
比较
运行得更快: >>> timeit.timeit("562949953420000.7 < 562949953422000"
浏览 1
提问于2015-05-07
得票数 290
回答已采纳
2
回答
ScalaTest -测试两个带误差的
浮点数
组之间的相等性
scala
、
floating-point
、
scalatest
我想测试这个函数并手工
计算
出正确的值。但是,由于它是
浮点数
,所以我不能直接进行
比较
,所以ScalaTest有什么好的语法可以让我
比较
双数组和epsilion/错误裕度吗? 谢谢
浏览 4
提问于2014-11-30
得票数 12
回答已采纳
3
回答
在Cortex M0上,浮点
比较
与整数
比较
的开销有多大?
floating-point
、
embedded
、
instruction-set
、
cortex-m
所以我正在做一个需要
计算
浮点数
的嵌入式项目。显然,有多种方法可以估计输出并减少
计算
周期。我的问题是,浮点
比较
与整数
比较
(相对而言,不是精确周期)的开销有多大?
浏览 1
提问于2015-09-16
得票数 2
1
回答
标准Go库中的Float64减()实现
go
isNaN(x[j])) } 我确信,浮点值(至少在IEEE 754语义中)不能直接进行
比较
。为什么以这种方式实现的
比较
是在标准的Go lib中实现的?
浏览 2
提问于2022-01-28
得票数 2
回答已采纳
3
回答
javascript输入type=text的
计算
javascript
我有一个输入的type=文本,我取其值与另一个已知值进行
比较
。当用户输入整数或
浮点数
时,效果很好。但是,如果用户输入一个
计算
(例如12/297或12 +9),我希望执行
计算
,然后将结果与已知值进行
比较
。关于我会怎么做的任何建议。输入字段是简单的作为
浮点数
获取值的代码是: parseFloat(document.getElementById("A1")
浏览 2
提问于2014-05-25
得票数 0
回答已采纳
1
回答
Cython精度和数据类型
python
、
types
、
cython
我理解在cython中有些精度会丢失,因为cython
浮点数
与python
浮点数
不一样。我需要进行
比较
精确的
计算
,所以我很想了解这种行为。
浏览 5
提问于2015-12-07
得票数 3
2
回答
如果语句似乎没有正常工作
swift
、
if-statement
、
sprite-kit
将速度与最小速度进行
比较
,以查看速度是否应继续下降。由于某些原因,即使速度等于最小,它也会继续降低速度。 var wallSpeed : CGFloat!
浏览 0
提问于2018-07-06
得票数 1
回答已采纳
2
回答
用于缓存昂贵
计算
的浮点等式
c++
、
c
、
floating-point
、
floating-point-comparison
由于
浮点数
字不是实数,所以有很多问题和答案都是关于由不同
计算
产生的两个
浮点数
完全相等的危险。这个问题是而不是关于正确性取决于等式检查,而是基于它的缓存。if(myfloat !如果两者真的是相等的(这意味着如果我们可以用reals而不是浮点来
计算
的话),但错误地被检测为没有,在最坏的情况下,我们做昂贵的
计算
冗余,但我们的程序的答案仍然是正确的。如果
计算
是在比
浮点数
的内存表示更宽的寄存器中完成的(例如,在启用80位fp寄存器时在32位x86上),则A
浏览 5
提问于2016-10-05
得票数 2
2
回答
四舍五入误差逼近
java
、
floating-point
可能重复: public class Test { double x = 0.3 - 0.2; System.out.println(x); }产出为: 0.0999
浏览 5
提问于2011-05-22
得票数 1
回答已采纳
1
回答
序列上的哪个()-命令找不到模式
r
which(seq(0, 1600, 0.05) == 0.3) returns但这一点:[1] 7
浏览 1
提问于2012-11-15
得票数 1
回答已采纳
2
回答
为什么在
计算
浮点数
和双精度数时会有错误?
floating-point
、
double
我一直在想,为什么
浮点数
不是真正准确的,而
计算
机应该给出准确的答案。我在一本书中读到,最好将变量与我们想要的值周围的数字进行
比较
,因为
计算
值可能并不总是我们期望的整数。机器是如何
计算
这些划分的呢?
浏览 0
提问于2011-10-08
得票数 1
回答已采纳
1
回答
比较
Python中的float和int
python
我试图看看两个点之间的
计算
距离是否小于给定半径,如下所示: print "Distance:我知道我不应该直接
比较
浮标,我应该用一个阈值来
比较
。既然如此,是否有更好的方法来检查
浮点数
是否小于int (或另一个
浮点数
)。 更新从所有的回复中看,这个
比较
似乎都是正常的。
浏览 2
提问于2012-04-05
得票数 10
回答已采纳
1
回答
将文本字段转换为数值,然后让计时器在该值处停止
ios
、
xcode
、
uitextfield
、
nstimer
我希望计时器在用户定义的文本字段输入时停止,然后重置并重复,直到达到用户定义的重复次数(另一个文本字段)。当我使用滑块时,效果很好,但我在使用滑块时遇到了一些其他问题,所以我改成了文本字段。我认为问题在于将文本字段转换为数值,我尝试了许多不同的方法,但都没有成功。该应用程序是一个简单的练习重复计数器,具有保持时间。任何帮助都是非常感谢的。谢谢..。float floatReps=[repsText.text floatValue]; CountH
浏览 2
提问于2012-08-28
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
特别注意,在Python中比较浮点数的正确方法
如何使用 Google CrUX 分析和比较 JS 框架的性能
JS实现计算最少回文切割数
编程字典-Vue.js 计算属性
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券