比较两个浮点值的更好的方法是什么-使用Epsilon还是使用缩放的大小数比较？
例如，您的数据范围是0.00 - 49,999.99？
浏览 0提问于2009-01-12得票数 0
回答已采纳
说：
“当将整数与浮点数进行比较时，精度较低的术语被转换为另一项的类型，除非操作符是=:=或=/=。浮点数比整数更精确，直到浮点数的所有重要数字都位于小数点的左边。当浮点数大于/小于+/-9007199254740992.0时会发生这种情况。转换策略会根据浮点数的大小而改变，否则大浮点数和整数的比较将失去它们的传递性。”对于较大数的浮点数<->整数比较策略的
浏览 1提问于2020-10-06得票数 1
回答已采纳
3回答
我想要写一个函数，它接受两个整数列表并返回一个浮点值。这两个列表大小相等。浮点数是比较除以列表大小的结果。
该函数应该将第一列表中的每一位精英与第二份列表中的每一位精英进行比较。如果元素i大于元素j，则比较结果增加1；如果元素i小于元素j，则比较结果减少1。在上述操作结束时，我们返回上面描述的浮点值。
浏览 7提问于2014-06-04得票数 0
回答已采纳
2回答
Go浮动比较
、、
为了比较两个浮点数(float64)在Go中是否相等，我对IEEE754和浮点数的二进制表示的粗浅理解使我认为这是一个很好的解决方案： return diff < 2问题是:与旧的abs(diff) < epsilon方法相比，这是一种更通用、更精确、更有效的方法来比较两个任意大小的浮点数的我的理由是，如果一个人在二进制表示中只允许一个
浏览 1提问于2017-12-25得票数 6
回答已采纳
3回答
我认识到浮点数和双值并不是推荐的基本数据类型(不建议以专业的方式使用货币)，因为浮点数和双倍的舍入精度问题。将坐标与数据类型(浮点或双)进行比较，将来会有什么问题吗？用大小数是好的吗？还是用浮子还是双倍更安全？
浏览 13提问于2013-12-18得票数 21
回答已采纳
1回答
当将浮点数与整数进行比较时，有些值的计算时间要比其他类似大小的值要长得多。timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times但是，如果浮点数或整数以一定的量变得更小或更大，则比较运行得更快：
>>> timeit.timeit("562949953420000.7 < 562949953422000"
浏览 1提问于2015-05-07得票数 290
回答已采纳
我必须编写单元测试来比较代码的输出，为此我必须比较两个包含浮点数的pyspark数据帧。当我尝试将它们与assetEquals进行比较时，它失败了，指出相应的值不匹配，这主要是浮点比较的问题，我想在这里使用类似np.isclose的东西，但我不确定如何使用，因为np.isclose不适用于我的情况我希望这两个dfs在最大小数点5比较，但不确定如何做到这一点。
浏览 35提问于2019-09-12得票数 2
2回答
我的值在0到1之间存储为浮点数。我知道，可分辨浮子之间的差值越小，浮点数越接近于0。因此，我认为精度在我的情况下是很高的(因为最高可能的浮点数是1..)。我的感应器有多大，当我比较其中的两个浮标时，我必须考虑它的大小？也就是说，1.0f与小于1.0f的最大可表示浮点之间的差距有多大？如果这个问题看上去过于宽泛/笼统，我很抱歉，但我找不到答案：谢谢
浏览 3提问于2016-10-21得票数 2
回答已采纳
4回答
两个浮点值(IEEE 754 binary64)可以作为整数比较吗？假设long long和double的大小相同。
浏览 4提问于2015-11-12得票数 4
回答已采纳
我已经写了一个基本浮点加法器的verilog代码。该算法包括一个63位比较器来获得结果的符号。if (a[62:0]>b[62:0])else 有没有办法减小比较器或任何其他方法的大小，同时仍然得到符号结果
浏览 0提问于2013-11-21得票数 1
1回答
我正在尝试将一些VBA excel代码转换为JS，但即使我对自己很确定，代码也不能正常工作。下面是一些给我带来麻烦的片段：JS: tri1 = tri1 + Math.pow(2, (2 - tour));VBA:If (y And (2 ^ (5 - Tour))) <> (Tri2 And 2 ^ (5 - Tour)) Then
JS: if ((y && Math.pow(2, 5 - tour)) != (tri2 &
浏览 4提问于2015-12-16得票数 1
if (fabs(one_float - other_float) < SUFFICIENTLY_SMALL) {} current_height = new_height;在上面的例子中，我们有一个事件处理程序，它可能会自发地触发，并且我们只想在真正调整大小的情况下重新分配资源我们可能采用通常的路径进行近似比较，
浏览 9提问于2016-04-03得票数 4
回答已采纳
因此，它愿意比较1 = 1.0，即使一个是整数，另一个是浮点数……默认情况下，比较字符串和字符时不区分大小写。例如，行为将是：
>> strict-lesser?
浏览 13提问于2015-03-30得票数 1
7回答
在算法中的某些点上，我需要将类的属性的浮点值与浮点数进行比较。所以我这样做：}
其中currentValue是浮点型属性。
浏览 0提问于2009-10-24得票数 24
回答已采纳
2回答
对象的内存使用情况
、、、
如果我有一个对象，并且想要计算出一个关于对象大小的粗略估计，与其组件的大小相比较，我可以这样做吗？
对象有一个整型字段和一个浮点型字段。因此，该对象的空间使用量是对该对象的引用的大小(8)字节+两个原始值16+16的大小，这给我提供了40字节或25%的额外空间需求。
浏览 0提问于2013-02-12得票数 0
回答已采纳
在Catch C++单元测试框架中有没有可能比较基于浮点类型的std::vectors？我知道我可以比较两个容器和每个元素的大小(使用Approx)，但这很混乱。
整数类型向量的比较工作正常。
浏览 1提问于2016-12-15得票数 9
2回答
我在和帕斯卡一起写程序。有一些条件上的麻烦。1 15 1tArea1 =6和sumAreas =6帮帮我求你了。Tnx x1,x2,x3,x4,y1,y2,y3,y4: real; tArea1, tArea2, tArea3, tArea4, sumAreas : real;
function segmentLe
浏览 5提问于2015-09-17得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
