1回答
设a1为第一项，r为常数，每一项乘以得到下一项，n为项的数量，几何级数为：ai = a1*r**(i-1)，pn是n项的乘积，sn是n项的和。我有计算这个的公式，但是Fortran95 (Plato2)不允许我需要的精度。(例如:我无法获得-1.234E+00567890作为结果)。
我如何“充分”使用双精度来处理这个“巨大”的数字呢？
浏览 8提问于2017-01-12得票数 0
3回答
我必须找到几何级数1/3 + 1/9 + 1/27的和……我必须用一定的精度输出和。这是我的代码：#include <iomanip>
{ int
浏览 1提问于2013-10-31得票数 1
回答已采纳
1回答
我有一个要求，以高效的方式获得更高精度的低精度地散列(而不是转换为lon lat，然后再编码)。我找到了其他方法的解决方案，高精度的地哈希转换成低精度的地哈希框。我想要做的就是得到一个大多边形的较低精度的盒子，然后把它们转换成更高的精度。这样，我可以瘫痪一个非常大的<
浏览 4提问于2021-10-15得票数 0
回答已采纳
1回答
我在数据结构课程的作业中有一个问题，我想出了两个算法来解决这个问题，一个是O(n^2)时间，另一个是：
T(n) =3*n+ 1*1 + 2*2 + 4*4 + 8*8 + 16*16 +.+ logn我知道，从1到logn的几何级数之和是O(logn)，因为我可以使用几何级数公式。但是这里有几何级数的平方，我不知道如何计算。
浏览 0提问于2018-06-26得票数 1
回答已采纳
1回答
在计算log (a/b) (其中a和b是给定精度(这里称为本机精度)的两个非零正有限浮点操作数)时，一个明显的问题是商a/b可能无法以该精度表示为浮点数。此外，当源操作数的比率接近1时，精度将会丢失。
这可能会通过暂时切换到更高精度的计算来解决。但是，这种更高的精度可能并不容易获得，例如，当本机精度为doub
浏览 17提问于2018-08-07得票数 5
回答已采纳
2回答
我正在将python代码嵌入我的c++程序中。PyFloat_AsDouble的使用正在造成精度的下降。它只保持6位精确数字。我的程序对精度非常敏感。有已知的解决办法吗？下面是相关的C++代码：vector<double> retVals;
浏览 7提问于2014-04-07得票数 0
回答已采纳
我想获得更高精度的1/7，但它被截断了。如何在转换有理数时获得更高的精度？'0.142857142857'
浏览 0提问于2009-11-12得票数 7
回答已采纳
1回答
我有一个程序可以进行迭代计算，但是如果我的精度不高，计算就会很快停止。因此，我必须获得更高的精度。我已经用Python编写了相同的程序，在这种语言中，我的解决方案是使用：使用它，我可以选择一个精确值，它下面的所有代码都具有定义的精度。在R中有没有人知道这样的东西？
谢谢!
浏览 14提问于2017-08-19得票数 0
1回答
MATLAB减法时的精度
、、、
我需要一个高精度的项目，我正在工作。我在减法时遇到的问题如下所示：我知道这与双精度有关有没有什么方法可以让我得到更高的精度？我检查了"vpa“功能，但我无法获得更高的精度。有人能帮我一下吗？
提前谢谢你！
浏览 4提问于2014-10-21得票数 3
我认为这是由于JavaScript Number的有限精度和sinus算法的有限精度造成的。
如何防止这些舍入错误？使用更高精度的BigNumber类型和更高精度的正弦算法会有帮助吗？或者，这只会给你一个较小的舍入误差，但仍然是一个错误？
浏览 2提问于2014-02-05得票数 1
在C/C++中：
我需要找出一些大数字是否是完美平方，但是我的代码发现像851659987045856130这样的数字是有效的，当922854261.000000487617621781778是实际的平方根(精度更高)而不是整数时。有没有办法延迟舍入以获得更高的精度？我知道上面的数字甚至没有“完美平方最后一位”，但我想知道一般情况下，是否有可能检查这么大的数字是否实际上是一个合理但比标准精度</em
浏览 0提问于2016-07-15得票数 0
我正在运行一个非常小的数据库，其中包含一个表，该表的列包含INTERVAL HOUR TO MINUTE类型的数据。虽然这意味着表将只存储分钟精度的时间间隔，但我正在使用的数据库系统(PostgreSQL)将在AVG()等聚合函数上返回微秒精度的时间间隔。我可以依赖这个行为吗，或者将来数据库系统是否可能只以分钟精度返回值？其他DBMS在这方面的表现如何？
我之所以这样问，是因为表中的值不需要比分钟精度</em
浏览 2提问于2011-11-07得票数 3
回答已采纳
2回答
我目前在数据科学领域，特别是在ML领域是新的。解决一个问题有多种方法。监督的，无监督的学习。我想知道什么是方法，以及如何在实际测试用例中准确地确定使用哪种算法。即使选择了特定的算法，我们如何知道其他算法可能比这个算法具有更高的精度和精度呢？
浏览 0提问于2017-05-26得票数 1
2回答
增加阈值会提高精度吗？
、、、、
📷
这里的精度在阈值0.85 >精度在阈值0.90。难道不是应该相反吗？增加阈值会减少假阳性，并且精度会比以前更高？
浏览 0提问于2020-04-28得票数 3
回答已采纳
item.getAzimuth();int p = item.getPrn();到目前为止，我只得到一个精度点的值，主要是.0，例如：
(173.0，47.0，74，30.0)浮点数是否有更高的精度？我能够使用Criteria来获得精度、纬度和经度更高的精度。我也需要尝试获取尽可能精确的卫星信息。谢谢
浏览 3提问于2013-04-11得票数 1
我正在准备考试，我解决了这个问题在Java中，为了获得更高的精度，应该按照哪个顺序来添加数字？
浏览 0提问于2015-01-19得票数 2
回答已采纳
这是一个与实体框架和Server (2016)相关的问题。这似乎是不正确的，因为建议，当UNIONing时，精度将被调整为容纳它所必需的最广泛的精度。查询1的结
浏览 1提问于2016-12-15得票数 2
回答已采纳
1回答
我有一堆照片从OS复制到使用cp -a的Linux系统上的Samba挂载。由于某种原因，目标文件的mtime被设置为当前时间，而不是源文件的mtime。我试图通过使用Finder复制文件来弥补这一点，现在mtime显然被复制了，但是只有1秒的精度，这就混淆了使用例如ls -ltr查看文件的时间顺序。
我能在原始文件上看到更高精度的多倍。如何以更高的精度在目标文件上
浏览 0提问于2019-12-28得票数 -1
我有一个基于AJO的解决方案来比较两个Calendar对象，但是它对于我的用例来说太慢了(它被多次调用)，我希望有一个本地的解决方案。
abas日期(GD-Field)所代表的最高精度是什么？仅仅几秒钟，或者有什么方法可以获得UNIX时间戳或类似的东西，以获得更高的精度。
浏览 2提问于2015-11-03得票数 1
回答已采纳
2回答
double answer = a/b; std::cout << std::to_string(answer);浮点型或双精度型: 0.666667；编辑:不能因为使用to_string而丢失精度；
浏览 1提问于2020-07-14得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
实时音视频活动推荐
腾讯云开发者
