2回答
我想在数组中找到一个浮点数，如下所示： arr = np.asarray([1351.1 , 1351.11, 1351.14, 1351.16, 1351.17])
index = np.searchsorted(arr, 1351.14, side="right") - 1 # return 2 但我发现它返回错误的方式如下： index = np.searchsorted(arr, 1351.1 + 0.04, side="right") - 1 # return 1 因为我想像这样搜索
浏览 17提问于2021-01-26得票数 2
我试过：50000000000000004529848325000000000000000000000000
浏览 19提问于2021-12-23得票数 1
回答已采纳
1回答
鉴于以下情况：1 * .3 === .3 // true
由于IEEE 754双精度浮点不能准确地表示一个或多个操作数，因此...the former不会导致为什么后者返回true。是因为0.3恰好在IEEE 754双精度浮点中精确表示吗？
浏览 2提问于2017-05-31得票数 1
回答已采纳
1回答
从二进制到基数48的转换
、、、、
48)]) ans.reverse() return ("".join(ans))
它返回了错误的值，我看了一下我的代码，似乎在这个特定的测试用例中，我的函数返回Dragonfly00w6而不是Dragonfly2026，为什么这种情况只发生在这种情况下，而不是在其他情况下？
浏览 15提问于2020-06-07得票数 0
回答已采纳
2回答
我知道在C#中默认情况下不允许从双精度到浮点数的隐式转换，但是有什么方法可以启用这种转换吗？带着某种语料库？我不关心精度的缺乏(因为我的应用程序在任何地方都不需要超过浮点精度)，更多的是因为必须始终确保将所有十进制值显式声明为浮点数而感到恼火，否则我会得到编译错误。
浏览 0提问于2018-11-03得票数 1
5回答
我可以更改除法值-它表示一个映射，我可以对其进行偏移-以纠正最终的浮点错误。为了纠正错误，我使用以下代码：{ double oldFValue = fValue;我在调试器(Visual Studio 2010)中有：oldFValue = 0.010742187500000000
你能解释一下为什么双精度值不同于浮点值<em
浏览 1提问于2012-02-05得票数 1
回答已采纳
当修剪由除法产生的大小数时，我得到一个溢出问题。100000000000000123.1)>>> floor(100000000000000123.1)
100000000000000128 从类型上看，数字似乎是一个普通的浮点数，它不能以所需的精度存储。因此，即使使用floor()，我也会遇到同样的问题。有没有更好的数据类型来存储‘长浮点数/双精度浮点数’？如果是，我如何强制大整数的除法不返回
浏览 32提问于2019-04-17得票数 0
回答已采纳
我正尝试在python中执行除法运算，(3000/365)*365输出3000.0000000000005。而实际上这应该返回3000？ 有没有人能帮我理解一下我在这里遗漏了什么？
浏览 15提问于2020-12-21得票数 0
回答已采纳
3回答
我是否可以安全地将双精度数转换为浮点数，或者是否有一个函数可以将PyObject转换为float，即PyObject_AsFloat。
浏览 1提问于2015-01-15得票数 0
除法50/0.02返回一个浮点数：然而，按我看来，50/0.02的楼层划分结果却是一个错误的答案：有人能解释一下这种差异是如何造成的吗？
浏览 0提问于2014-06-05得票数 2
回答已采纳
2回答
我有一个API调用，它返回一个双精度值。double的小数长度可以从多个小数位到几个小数位(这都取决于执行器的状态)。此双精度表示执行器范围半径上的当前位置。我一直在使用浮点数来节省空间，但我仍然有6-8个小数长度的浮点数。我对floor或ceil不感兴趣，只是因为它不能完成我想要的工作。我不是在谈论std::cout上的输出精度，我知道如何设置它。我说的是浮点数的实际精度。即:我感兴趣的浮点数谁将有0.XX格式和0
浏览 4提问于2011-07-12得票数 4
回答已采纳
2回答
assert (n-1) == (2**k) * m # this does not hold true for large values of n for some reason
问题是它不适用于当我在python中评估2926172291557515 * 2**460时，我得到: 8711599454063889889401923055669626316647070894345982715097720460936366477064539266279767451213791729696559357170292404522606916263
浏览 1提问于2018-04-09得票数 1
回答已采纳
我问是因为官方文件里有两个不同的答案..。
我认为在第1页上有一个错误，因为PostgreSQL和mistake只需要4字节的存储.那么，为什么MySQL
浏览 1提问于2019-08-10得票数 2
我正在寻找在不损失精度的情况下将浮点数转换为双精度的最佳实践。到目前为止，我只发现一种正确的方法是将浮点数转换为字符串，将字符串转换为双精度。搜索Float API时，我偶然发现了这个方法doubleValue()。我原以为这是一个静态构造函数，它会在不降低精度的情况下从我的浮点数中返回一个双精度值，但以下代码的行为类似于强制转换： public static voidfl
浏览 4提问于2011-11-18得票数 1
回答已采纳
基本上:对于任意两个正整数a和b，为此，我将使用Python 3。我不确定我是否能理解整数溢出的概念，但是，根据我上面的理解，我做了一些研究，Python中没有整数溢出。 print (a_in, b_in,"OPS",lcm_fast(a_in,b_in),lcm_slow(a_in,b_in))
浏览 2提问于2017-04-19得票数 3
回答已采纳
4回答
我很好奇为什么IEEE把32位浮点数称为单精度。它只是一种标准化的手段，或者“single”实际上指的是一个单一的“东西”。
它仅仅是一个标准化的级别吗？例如，精度级别1(单精度)，精度级别2(双精度)等等？我到处搜索，发现了很多关于浮点数的历史，但没有一个能完全回答我的问题。
浏览 0提问于2013-07-20得票数 9
回答已采纳
我想在python中捕获精确到亚秒级的时间戳。看起来标准答案是int(time.time() * 1000)我担心一些小数时间不能正确表示为浮点数，在这些情况下时间戳会向前或向后跳跃。如果是这样，解决方法是什么？
浏览 3提问于2012-11-08得票数 4
回答已采纳
2回答
我正在将python代码嵌入我的c++程序中。PyFloat_AsDouble的使用正在造成精度的下降。它只保持6位精确数字。我的程序对精度非常敏感。有已知的解决办法吗？; i<PyList_Size(_ret); i++){}
retValsi的精度只有6，而python代码返回的值是一个可以具有更高精度的浮点</e
浏览 7提问于2014-04-07得票数 0
回答已采纳
我正在编写一段代码，其中说这应该在Python 3中工作：其中:t是浮点数，宽度是整数，精度是整数。我一直收到这样的错误消息：
谁能给我指明正确的方向？
浏览 6提问于2017-06-20得票数 2
回答已采纳
当我调用这个函数时：在打印maxState时，我意识到maxState失去了浮点数的精度。有什么方法可以在不失去精度的情况下获得maxState？
浏览 3提问于2014-10-18得票数 1
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
