2回答
与C相比，Python的小数精度如何？
python、c、programming-languages、floating-accuracy、language-implementation
我正在寻找寻找第n个斐波那契数的，这让我很好奇。
我知道Python可以处理任意大的整数，但是对于小数，你能得到什么样的精度？它是直接放在C double之上还是什么，或者它也使用了一个更精确的修改后的实现？(显然不是任意精确度。;D)
浏览 4提问于2010-07-08得票数 1
回答已采纳
1回答
在Python中，为什么最小的浮点值和最大的浮点值有不同的有效位数？
python、python-2.7
我刚刚在一本机器学习书中读到，浮点变量的最小非零值是2.2250738585082014x10^-308，最大值是1.7976931348623157x10^308。 对此有何解释？为什么正指数和负指数的值不一样？
浏览 16提问于2019-04-28得票数 3
回答已采纳
2回答
什么是浮点数，我的想法正确吗？
python、floating-point
我知道int是实数，double基本上是两个中间带点的数字，是小数吗？现在出现了一个棘手的问题，即float数据类型。我觉得浮点型是一种安全的数据类型，你不确定并且想要接受整数和小数，我说的对吗？是不是既接受整数又接受小数？对于任何努力理解的人来说，这是我的计算器的代码，它可能会有所帮助。
浏览 2提问于2018-07-21得票数 1
1回答
与RDD和DataFrame不同的浮点精度
apache-spark、pyspark、spark-dataframe、rdd
我将RDD更改为DataFrame，并将结果与我使用read.csv导入的另一个DataFrame进行了比较，但浮点精度与这两种方法并不相同。谢谢你的帮助。 oi.product_id order by o.date, oi.product_id')
是一样的吗
浏览 0提问于2018-01-26得票数 5
回答已采纳
1回答
有可能解决MATLAB和Python之间的滤波器舍入误差吗？
python、matlab
我正在尝试将一些Matlab代码复制到Python中，目前我正在开发一个单元测试来检查等价性。在下面的代码中，我得到了E-11顺序的错误，这表明它可能是一个舍入错误。Matlab代码：x = 1:100000;y = filter(b, 1, x);Pythonsignal.lfilter(mat_data('b'), 1, mat_data
浏览 21提问于2018-12-13得票数 1
2回答
内存缩减
python、memory、floating-point
我需要减少Python代码的内存消耗。一种选择是降低可变精度。在这方面：
谢谢..。
浏览 10提问于2011-12-14得票数 0
2回答
浮点数精度
python、floating-point
Python中的浮点数的精度是多少？它总是双精度的，还是它的实现或特定的平台？它在CPython和PyPy上有区别吗？
浏览 3提问于2017-02-01得票数 2
回答已采纳
1回答
是否有办法通过浮动精度或限制浮动范围来加速python？
python、performance、math、optimization、precision
在glsl中，可以使用低精度浮点数来加快计算速度。有没有办法限制python中浮标的精度或范围，以加快计算速度？
浏览 4提问于2022-03-02得票数 3
2回答
如何在二进制文件中存储高精度浮点数，Python 2.7？
python、python-2.7、floating-point、floating-point-precision
在Python2.7中，我需要将高精度浮点数(比如来自numpy的np.float64或来自Decimal模块的decimal )记录到一个二进制文件中，然后再读回来。我怎么能做到呢？我想只存储一个高精度浮点数的位图像，没有任何开销。提前感谢！
浏览 3提问于2013-12-03得票数 0
2回答
Python到C的浮点不精确
python、c、floating-point
当我把用Python语言创建的csv文件中的浮点数导入到用C语言编写的程序中时，我遇到了一些精度问题。下面的代码是我的程序中发生的事情的一个例子: Python将一个float32值写入一个文件(在本例中是9.8431373e+00)，我将其读入一个字符串，并使用strtof将其转换回float32，但最后一个小数位的结果不同float对象有32
浏览 39提问于2021-10-19得票数 0
回答已采纳
3回答
Python中的浮动限制
python、floating-point
我正在用python写一个程序。sys.setrecursionlimit(1500)对于N= 1000，M=1和N= 1000，M=2，它给出了相同的答案在搜索时，我发现浮动的限制超过了10^400。我的问题是如何克服它
浏览 0提问于2012-01-08得票数 3
1回答
在Python中将float转换为bigint时，什么是防止溢出的好方法？
python、type-conversion、integer-overflow
当修剪由除法产生的大小数时，我得到一个溢出问题。100000000000000123.1)>>> floor(100000000000000123.1)
100000000000000128 从类型上看，数字似乎是一个普通的浮点数，它不能以所需的精度存储。因此，即使使用floor()，我也会遇到同样的问题。有没有更好的数据类型来存储‘长浮点数/双精度浮点数</
浏览 32提问于2019-04-17得票数 0
回答已采纳
2回答
Python -除法结果中的有效位数
python、floating-point、format、division、digits
1280.01960784313732.50980392157有效位数/精度是如何确定的？提前感谢您的时间和耐心。
浏览 0提问于2010-04-01得票数 3
1回答
如何将任意精度(dtype=object)的浮点数数组转换为整数数组
python、numpy
我有一个任意精度的浮点数(dtype=object)。如何将这个具有任意精度的浮点数数组转换为整数数组？，dtype=对象)b= a*821627.1218279279222972 a= b.astype(int)如何舍入b以得到整数数组而不失去精度？np.astype给出了以下错误：非常感谢你的帮助！
浏览 9提问于2022-10-16得票数 0
有没有什么办法可以让python显式地将所有浮点数视为32位，即使在64位机器上也是如此？
我不想更改密码...
浏览 0提问于2011-11-11得票数 1
3回答
a//b和int(a/b)的区别是什么？
python、python-3.x
对于较小的数字，它们似乎相等，但对于较大的数字，它们似乎是不同的。
浏览 24提问于2017-02-17得票数 2
回答已采纳
4回答
区分单精度和双精度
python、floating-point、double-precision
Python的float数据类型确实使用了双重精度(64位)。但是，对于我的具体实现(通过发送带有类型标记的值)，我希望区分可以表示为(32位)单精度浮点数和(64位)双精度浮点数的值。更确切地说，我想做这样的事情： binary=struct.pack('>d', value) binary=stru
浏览 8提问于2013-11-14得票数 2
回答已采纳
1回答
int(r/2)和r/2输出之间的差异
python、python-3.x
r/2输出为7.960698371813948e+21r//2给了我7960698371813947370955
为什么前两件案子的价值有那么大的不同
浏览 1提问于2020-01-08得票数 2
回答已采纳
1回答
对于不同的精度，浮点类型是“嵌套的”吗？
precision
我目前正在用python编写科学代码。这段代码使用了几种不同类型的浮点精度，即半精度、单精度和双精度(使用numpy)。然而，我的问题更一般，因为它不是特定于python的。问:这些精度是否“嵌套”，即任何数字在较低精度下都可以精确表示(即没有近似值)，在较高精度下也可以精确表示。 另一种说法:当转换为更高精度时，我是否更改了浮点数的</
浏览 37提问于2021-11-17得票数 0
回答已采纳
1回答
在Python上使用decimal计算Pi
python、pi
我正在尝试使用Ramanujan的公式之一在Python上以任意精度计算π：。它基本上需要大量的阶乘运算和高精度的浮点数除法。到目前为止，我的代码如下：
我在圆周率的第15位附近得到了错误( 3.1415926535897930，应该是3.1415926535897932 )。你能给出一些建议吗?为什么会发生这种情况？我使用的是decimal类型，文档上说它允许任意精度的浮
浏览 1提问于2013-06-03得票数 6
回答已采纳
云服务器
对象存储
ICP备案
云点播
实时音视频
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号