1回答
从VBA到Javascript的转换
javascript、vba、excel
我正在尝试将一些VBA excel代码转换为JS，但即使我对自己很确定，代码也不能正常工作。下面是一些给我带来麻烦的片段：JS: tri1 = tri1 + Math.pow(2, (2 - tour));VBA:If (y And (2 ^ (5 - Tour))) <> (Tri2 And 2 ^ (5 - Tour)) Then
JS: if ((y && Math.pow(2, 5 - tour)) != (tri2 &
浏览 4提问于2015-12-16得票数 1
1回答
对象的Jest toBeCloseTo
javascript、jestjs
在jest中，我们让toEqual检查两个对象的相等，但不能比较它的近似相等的浮点数属性；我们也有toBeCloseTo，但它只能比较两个浮点数，而不是将近似相等策略应用于一个对象中的所有浮点数属性。我不想手动比较每个浮点数属性，因为这可能会丢失显示两个对象差异的详细结果。(矩阵对象还包含其他非浮点数字字段，例如字符串) 有没有更好的方法来近似比较两个矩阵？我该怎么做呢？
浏览 30提问于2020-07-27得票数 1
回答已采纳
1回答
浮点数.没有算术运算和精度误差
javascript、node.js、ecmascript-6
如果我不对浮点数执行任何算术操作，我会遇到任何浮点数精度错误吗？我在程序中对数字所做的唯一操作仅限于以下几个方面：
console.log(x < y)console.log(x == y)至于parseFloat()的实现，我使用的是最新的Node.js
浏览 2提问于2020-02-22得票数 0
1回答
为什么-0 === 0的值为true？
javascript
根据我所读到的，除了数组索引和按位操作的操作数之外，JavaScript中的所有数字都保存为浮点数。
因为所有的浮点数都有一个符号位，所以-0 === 0应该计算为false。
浏览 0提问于2016-05-04得票数 6
1回答
在Rescript中比较字符串
reason、rescript
在浏览之后，似乎没有一个函数可以比较两个返回布尔值的字符串。最好的选择是localeCompare，但它的行为与JS的==略有不同。为什么localeCompare返回一个浮点数而不是一个整数？
浏览 8提问于2020-12-21得票数 1
回答已采纳
1回答
为什么Erlang中的“[整型<->浮点数]转换策略会根据浮点数的大小而改变？”
floating-point、erlang
说：
“当将整数与浮点数进行比较时，精度较低的术语被转换为另一项的类型，除非操作符是=:=或=/=。浮点数比整数更精确，直到浮点数的所有重要数字都位于小数点的左边。当浮点数大于/小于+/-9007199254740992.0时会发生这种情况。转换策略会根据浮点数的大小而改变，否则大浮点数和整数的比较将失去它们的传递性。”对于较大数的浮点数<->整数比较策略的改变，其原因是“否
浏览 1提问于2020-10-06得票数 1
回答已采纳
3回答
我知道如何使用% 2和/2将浮点数转换为它的二进制表示形式，但是有没有更快捷、更简洁的方法呢？我正在做的事情是否被认为是按位表示一个浮点数？因为我应该在两个浮点数之间使用按位比较，但我不确定这是否意味着使用按位操作。array[] = num % 2;我所做的是对两个浮点数使用上面的方法，用它们自己的数组加载它们，并通过它们的数组对它们进行比较。编辑:我必须使用逐位比较和运算来比较两个浮点数
浏览 6提问于2016-02-19得票数 2
3回答
比较浮点数和双精度数并打印它们
double
假设我有一个非常大的数字，比如15位，我把输入赋给两个变量，一个是浮点数，一个是双精度，如果我要比较两个数字，你会如何比较它们？我认为double的精度可以达到15位数？而float有8？那么，我是简单地比较它们，而浮点数只包含8位数字，然后填充其余的数字，还是让浮点数打印出所有15位数字，然后进行比较？另外，如果我被要求打印浮点数，标准的方法是打印8位数字吗？它的最大精度是多少？
浏览 4提问于2012-08-16得票数 0
回答已采纳
1回答
NSSet:我应该在NSSet中使用float/double吗？
ios、objective-c、macos、cocoa、nsset
正如我们所知，在比较浮点数时存在浮点数精度问题。那么，当NSSet股票中有浮动/双倍的NSValues时，会发生什么呢？我们不应该在NSSet中使用浮点数来避免浮动精度问题吗？
浏览 2提问于2014-12-16得票数 4
回答已采纳
3回答
Python将"5.4“但不是"5.4.4”转换为浮点数，这里发生了什么？
python、type-conversion、syntax-error
我正在编写一个脚本，它通过rpm包和Im试图将包的发行版本与命令行中提供的两个参数进行比较--fromVersion和- to version。options.toVersion ):
我搜索了堆栈溢出和google，但我惊讶地发现，我没有找到任何将int与浮点数进行比较的好例子，或者如果用户输入了浮点数，那么它就必须将浮点数与浮点数进行比较。我也尝试了没有转换，然后它工
浏览 6提问于2013-11-06得票数 1
回答已采纳
1回答
在Java中比较浮点型和整型值安全吗？
java、floating-point
像这样比较一个浮点数和一个整数是安全的吗？static void foo(float n) { // code }
根据，如果其中一个参数为float，则在比较之前将另一个参数转换为但据我所知，如果转换后的浮点数与原始浮点数的二进制相同，这样的比较将返回true。我们如何确保这一点？
浏览 7提问于2017-01-15得票数 4
回答已采纳
1回答
比较python中的字符串和浮点数
python
我有两个列表，其中包含我想要比较的值。如果值可以转换为浮点数，我想要比较浮点数，否则我只想将值作为字符串进行比较。如何进行区分以检查某个值是否可以转换为浮点型？
浏览 5提问于2009-11-20得票数 0
回答已采纳
3回答
比较浮点(原语类型)和==运算符
java、compare
我有一个代码，其中我正在比较浮点数和==运算符float n = Float.parseFloat(sFloat); System.out.println("inside if");else{}
浏览 5提问于2016-04-07得票数 1
回答已采纳
2回答
通过忽略金刚的最后一点来比较浮标
go、floating-point
我想用这种方式来比较Go中float64数据类型的浮点数。不幸的是，位运算符没有为浮点数定义。在Go语言中，是否有一种比较浮点数的方法？
浏览 4提问于2017-09-10得票数 0
回答已采纳
1回答
在PHP中，你能安全地比较两个浮点数吗？
php、floating-point、epsilon
与使用epsilon进行浮点数比较相比，您是否可以通过将两个浮点数四舍五入到所需的精度来可靠地比较它们的等价性？
浏览 2提问于2015-08-21得票数 0
2回答
比较两个浮点值
ruby、floating-point、comparison
我想要比较两个浮点数，如果它们的整个部分(小数左边)相等，并且它们的分数(小数右边)都是>= .5或<= .5，则返回true。
我这样做的方法是将浮点数转换为字符串，并通过在'.'上进行分隔并在if语句中进行两个比较来标记每个浮点数的两个部分(整个/部分)。
浏览 4提问于2015-07-25得票数 0
2回答
F# -如何比较浮点数
f#、floating-point、floating-accuracy
如何有效地比较几乎相等的浮点数？它也应该适用于非常大和非常小的值。我正在考虑首先比较指数，然后比较意义(尾数)，而忽略其52位的最后4位。这是一种好的方法吗？如何获得浮点数的指数和意义？
浏览 2提问于2013-06-11得票数 2
回答已采纳
2回答
大于或等于C中与浮点数的比较
c、floating-point、comparison
我们一次又一次地被告知，当我们与C语言中的浮点数进行相等(==)比较时，我们应该非常小心，因为浮点数是近似表示的。然而，当涉及到大于或等于比较(>=)时，我们没有看到太多警告，而在理论上，我们可能会遇到同样的问题。谢谢。
浏览 2提问于2019-09-06得票数 0
1回答
我有一个查询，它接受一个值或一个值数组来与其中一列进行比较，并返回包含该值或存在于值数组中的所有行。如何使用IN子句比较浮点数？
浏览 0提问于2013-06-18得票数 0
5回答
对于较小的浮点值，我们是否需要epsilon值的比较？
c++、algorithm、optimization、floating-point、precision
我曾经历过不同的线程来比较较小或较大的浮点数，而不是相等的比较，但不清楚，我们是否也需要epsilon值逻辑来比较较小或更大的浮点数？comparator }{我知道要比较浮子的相等
浏览 33提问于2022-05-18得票数 2
云服务器
ICP备案
对象存储
即时通信 IM
云直播
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号