比较数字范围内的小数

文章/答案/技术大牛

发布

1回答

c#、wpf、visual-studio、textbox、decimal

我在一个文本框中有一个小数，我试图在一个设定的数字之间进行调整。正如您在图片中看到的，我有一个满刻度的值，它用十进制2.9995 mV/V更新CalCert上的值。这里的问题是十进制值必须是3 mV的正负30。举例说明。2.9970 - 3.0030就是这个范围。任何超出该范围的内容都需要它来触发一个警告对话框。我的代码，我要使用的，我不确定为什么它不工作。我使用的是if

浏览 19提问于2021-09-10得票数 0

4回答

DECIMAL(x,0)有什么用？

mysql

在DECIMAL(M，D)列中，MySQL给出了D的范围为0到30的选项。何时以及为什么要指定没有小数位的小数？

浏览 2提问于2012-05-15得票数 9

回答已采纳

1回答

良好的双比较耐受性

unit-testing、comparison、floating-point-precision

当比较单元测试中的双数时，我正试图找到一个很好的耐受性。如果我允许一个固定的公差，正如我在这个网站上提到的(如return abs(actual-expected) < 0.00001;)，这将经常失败时，数字是非常大，因为性质浮点表示。如果我在允许的%误差方面使用相对公差(例如return abs(actual-expected) < abs(actual * 0.001); )，那么对于小数字(对于非常小的数字

浏览 5提问于2013-10-09得票数 4

回答已采纳

1回答

在HiveSQL中使用等号比较double和int是正确的吗？

sql、hive

我想将double与在配置单元中使用=的int进行比较。例如，假设字段score的类型为double，那么使用=将score与整数进行比较是否正确？

浏览 0提问于2020-02-13得票数 0

1回答

c#大双倍比较

c#、comparison、largenumber

让我首先说，这不是一个关于十进制精度公差比较的问题！这个问题更多的是关于大双数的固有表示法，在一定范围内，计算机开始失去意义，而不是在十进制方面。例如。double d1 = 1e20+8000;Debug.WriteLine(d1 == d2); 现在这是真的，对我来说，这是非常不可接受的。在项目的此时转换为十进制是不可能的。有什么方法可以减轻这种情况，例如，计算在^20时，计算机表示数字^20 +- 8000

浏览 0提问于2018-09-17得票数 1

3回答

在特定范围内生成随机数

python

如何在(0，0.1)范围内生成2位小数的随机数。到目前为止，我的代码生成的是在0，0.1范围内有两个小数位的数字 radius = round(random.uniform(0, 0.1), 2)

浏览 1提问于2016-11-25得票数 3

1回答

在Javacc中0到180之间的数字和小数位置的正则表达式

java、regex、javacc

我试图只允许3数字，并且只允许在0 - 180之间。我不知道如何在JavaCC中为这两个令牌创建正则表达式。

浏览 2提问于2015-03-09得票数 1

回答已采纳

1回答

为什么C#要这样转呢？

c#、floating-point、rounding

所以，我得到了一个浮点数：这是一个随机选择的数字，因为我正在对我正在编写的BCD代码块进行一些单元测试。每当我将上面的数字与一个字符串进行比较("-123456.668915"是明确的)时，我就会发现C#是如何舍入这个数字的。它把它打成-123456.7。这已在NUnit中签入，并具有直接的控制台输出。为什么它会像这样四舍五入？根据MSDN，浮动的范

浏览 3提问于2014-01-30得票数 2

回答已采纳

3回答

Excel中一个以上小数点与版本号的比较

vba、excel

我有一个工作表，它将软件版本号存储在一个单元格中，它使用多个小数点。例如5.2.16我尝试过的一种方法是删除带有替换的小数，并将数字存储在一个长变量中。 lngMyNumber = Replace(&

浏览 4提问于2015-05-01得票数 2

回答已采纳

1回答

条件格式显示视觉上相同的数字之间的差异

ms-access、ms-access-2013

在Microsoft Access 2013中，我在包含货币格式的表单上有两个文本框，并比较了两个小数。如果数字在视觉上是相同的，我希望比较框变成绿色。如果它们在视觉上是不同的，我希望比较框变成红色。然而，即使数字在视觉上是相同的，该框也经常变为红色。显然，它是在比较汇总的小数。如果我确保格式是货币，并且小数位是相同

浏览 4提问于2016-04-22得票数 0

2回答

最大“十进制后位”长度的格式

vba、excel

我有一个包含不同小数位数的数字的范围。我需要编写一个代码，对整个范围进行格式化，使小数位数等于范围内值中小数位数的最大值。

浏览 6提问于2014-06-19得票数 0

回答已采纳

2回答

使用Julia的范围函数，使范围值具有相同数目的有效数字

floating-point、julia、precision

考虑朱莉娅中的下列函数：输出如下: 0.0 p1 p2 . 0.5 现在，p1、p2等在小数点之后有不同的数字数。我想做的是得到一个在小数点之后有固定数字数的输出。例如，我希望将边界点设置为0.00000和0.50000，并在小数点之后分别得到5位数的范围内的点。我还想将输出打印到一个文件中，以便每个<

浏览 3提问于2022-09-24得票数 1

回答已采纳

1回答

Lotus :如何在逗号之后提取特定位置的数字

lotus-notes

ILLotusNotes6.5我有一些数字字段设置为在comme之后只显示2个数字(ex 2,25)，但有时完全数字是ex的。2 25387。我如何通过莲花笔记脚本检查多少小数小数有一个数字？在此之后，如何提取特定位置或范围内的数字？

浏览 0提问于2015-09-18得票数 0

回答已采纳

3回答

比较小数的最佳方法是什么？

.net、compare、int、floating-accuracy、fuzzy-comparison

比较小数的最佳方法是什么？另一种解决方案是使用自定义函数来测试差异，当差异小于0.01时，数字应该相等。其他可能的解决方案(更好的解决方案)是什么？

浏览 0提问于2013-02-08得票数 4

回答已采纳

1回答

测试-js:科学软件:重要数字

floating-point、jestjs、precision、floating-accuracy、significant-digits

我正在尝试用Jest测试用TypeScript编写的科学软件。我想测试我所有的浮点结果到8个重要数字，但它似乎是唯一可用的测试方法，在ts-jest，"toBeCloseTo"，工作后的十进制小数点后的十进制表示法。科学和工程界工作到重要的数字，而不是小数点之后的数字。忽略了一些功能。如果没有，是否有计划添加它？同时，我有一个解决办法，它只适用于小数点后

浏览 4提问于2020-04-30得票数 0

1回答

如果一个数字包含小数点，它必须有一个小数点。

javascript、angular、regex、typescript

还有另一个问题，它处理强制小数位，在这种情况下，它是可选的，并且只有在有小数的情况下。我需要检查一个数字在数字输入中是否有效，方法是将它与粘贴上的regex进行比较并输入。这个数字可以包含最多9个数字，如果它有小数点，则最多包含6个小数点。例如：是一个有效的数字，但是或

浏览 8提问于2022-06-09得票数 -1

5回答

价格输入模式html5

regex、html、grails

我已经有了输入域，并且我想检查价格输入域的值的点是否存在。该值将如下所示的12.00。以下是我的代码我写了类似这样的\d+(\.\d{2})?，但是收到了错误。有什么建议吗？

浏览 0提问于2012-04-27得票数 3

回答已采纳

7回答

如何解决JavaScript中的十进制问题？

javascript、math、floating-point、decimal

可能的重复： 0.1 + 0.2 === 0.3有办法解决这个问题吗？

浏览 6提问于2009-11-04得票数 2

回答已采纳

2回答

递增数的完整性比较

algorithm

服务器不断生成越来越多的数字(不能保证是连续的)，并通过不同的http数据包不断地将这些数字发送到客户端。并且数据包可能丢失(服务器不会存储是否成功发送该号码的状态)。现在，客户端希望确定某个范围内的数字序列是否与服务器一致。例如，客户想要找到丢失的18人的号码。如何使用最小数据量完成此过程。例如，具有start_num=3、end_num=34的客户端请求服务器

浏览 0提问于2018-05-09得票数 0

1回答

如何判断用户输入的小数位数？

c、rounding

我正在尝试编写一个程序，该程序采用一个数字和所需的小数位数，然后通过比较该数字与该数字+1的距离来对该数字进行适当的舍入。",tester);在我询问他们想要将数字四舍五入到的小数位数之后，我如何检查他们输入的数字中有多少位小数</em

浏览 1提问于2014-04-17得票数 0

点击加载更多