我正在将一些数字从matlab "mat"文件版本5导入到python中，它们具有不同的精度。这是python代码：Matlab output: -0.00309677333880590 -> 18 " "
为什么python和matlab会有不同的精度
浏览 94提问于2018-08-02得票数 3
回答已采纳
对于较小的数字，它们似乎相等，但对于较大的数字，它们似乎是不同的。a = int(1267650600228229401496703205376/10)print(a - b) # prints 7036874417767
b = 1493845793475 // 10怎么会这样?
浏览 24提问于2017-02-17得票数 2
回答已采纳
1回答
从大量数据中，我想降低每个数字的精度，即浮动或int (Python3)：1.2345678 --> 1.234
0.12345678 --> 0.1234
浏览 1提问于2019-10-22得票数 0
回答已采纳
我正在做一个整数到布尔程序，处理一些大数，测试用例是-159213967436894741911。r/2输出为7.960698371813948e+21r//2给了我7960698371813947370955
浏览 1提问于2020-01-08得票数 2
回答已采纳
我在Python2、Python3和C中尝试过这样的方法：
为什么这些格式字符串以不同的精度返回数字？
浏览 8提问于2015-06-01得票数 1
回答已采纳
1回答
在过去的几天里，我一直在尝试用Python实现RSA算法。我的代码适用于较小的质数(至少直到前一百万个质数)。但是，在尝试使用第49到第50百万次时，我的代码崩溃并给出了错误的结果。然而，当使用质数961752619和961752931对数字50进行加密时，我得到781250000000，解密后得到482883073917854018。
我尝试了前50000个数字，使用后一对素数，没有一个返回正确的值。显然，这里出了点
浏览 36提问于2018-06-26得票数 2
回答已采纳
我使用的是python3的模块。底层算术是使用处理器的浮点类型完成的，还是使用整数完成的？对我来说，结果是“精确”和任意精度的概念表明，在表面之下使用了整数数学。
浏览 0提问于2018-01-27得票数 0
这两种方法在获得模型精度方面有什么区别？
我在python3中使用了这两种方法，并且通常得到相同的结果。然而，在一些情况下，我得到了完全不同的结果，所以我试图找出可能的原因。
浏览 0提问于2019-09-10得票数 2
回答已采纳
1回答
我需要除以2个整数，并将结果显示为至少76位的精度。例如，当我将1除以3时，我需要显示0.33333333333...当我在python中除法并让它在小数点后显示76位数字时，它没有给出足够的精度，也就是说，有些数字是错误的。我使用的是Python3。有没有更好的方法来划分和显示十进制数字？任何帮助都将不胜感激！
浏览 11提问于2017-12-30得票数 1
回答已采纳
1回答
在python中，我发现了一些非常奇怪的代码： if num % i == 0: print(num, '=', i, '*', j)else:Python给了我
99999999999999999999999999999 = 3 * 33333333333333333
浏览 5提问于2015-12-20得票数 0
回答已采纳
小代码：Python2输出：Python3输出：为什么getsizeof()函数的输出在Python2和Python3中有所不同？
浏览 0提问于2018-10-08得票数 3
回答已采纳
我在做一个简单的问题，解决2^1000的数字之和。解决方案非常琐碎，我知道；但是请看下面的代码片段：sum=0 sum+=n%10 print(n)上面的片段给出了错误的答案。然而，如果我做一个小小的改变：sum=0 sum+=n%10 print(n)那么答案是正确的。谁能告诉我这里有什么区别吗？
(注意:这种差异只出现在n的大值上。
浏览 3提问于2016-10-27得票数 2
回答已采纳
我正在使用TF对象检测API来检测自定义数据集上的对象，但是当涉及到精度时，我不知道如何计算它，因此，如何计算自定义数据集上的对象检测模型的准确性？并找到模型在测试数据集上的置信度分数？
浏览 1提问于2019-10-31得票数 0
3回答
我达到了机器精度的极限，所以我开始尝试使用mpmath来进行任意精度的矩阵求逆，但即使使用gmpy，它也非常慢。以精度30 (十进制)对大小为20、30、60的随机矩阵求逆需要大约0.19秒、0.60秒和4.61秒，而在mathematica中相同的操作需要0.0084、0.015和0.055秒。这是在arch linux机器上使用python3和mpmath 0.17 (不确定gmpy版本)。我不需要任意的精度-- 128位可能就足够了。我也不明白mpmath怎么会这么慢。它一定是使用了一种非常不同的矩
浏览 5提问于2013-03-10得票数 3
2回答
我对浮点数有个问题： b = 0.4813-9.999999999998899e-05 b = Decimal(0.4813) Decimal('-0.000099999999999988986587595718447118997573852539062500')
浏览 1提问于2018-07-07得票数 3
回答已采纳
1回答
当我使用PyTorch从float创建一个张量，然后将其转换回float时，它会产生一个不同的结果。为什么会这样，我如何修复它以返回相同的值？ num = 0.9
float(torch.tensor(num)) 输出： 0.8999999761581421
浏览 14提问于2020-11-28得票数 0
回答已采纳
我想在anaconda/Python3中将精确的顺序时间数组(见下文)转换为日期-时间格式(YYYY-MM-DD hh:mm:ss.sss)。我找不到任何考虑原始数据精度的解决方案。
浏览 46提问于2020-02-16得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
腾讯会议活动推荐
腾讯云开发者
