我一直在使用库进行高精度的算术计算。为了保持更高的精度,我使用Bignumber对象的toFixed方法,如下所示:
(new BigNumber(6000 )).minus(9006000).div(9006000).times(4503000我试着用C#数据类型来验证这个计算结果,因为十进制比双进精度高,但是在粒度级别上的结果是不同的。lastsavedrefinedgoalMonthly1 + (lastsavedrefinedgoalMonthly1 * ((rg1 - last
我想用任意精度的计算( A / B )的一些( C /D)根,用于根的十进制展开(例如,如果所需的精度是整数E,则结果应该包含根的小数点之后的E数字;E可能至少等于数万个;A、B、C、D是包含数万小数位数的整数我试着使用,但它的精度有限,输入的大小也有限。例如,如果我想用1025个有效数字计算2的平方根(最后一个数字可能以某种方式舍入),我对Decimal.js使用了以下代码:var据我所知,有一些
我试图使用以下公式计算:在上面的公式中,我用b代替10来计算C10。我希望能够使用Boost的cpp_dec_float计算任意精度的常数。我已经验证使用floor() log10() 和log10() on cpp_dec_float 返回变量的精度是正确的。
因为最外面的求和直到无穷大,所以我必须在某个点停止计算。为了检查是否超出了精度,在计算c之前,我先将c += n / pow(10, n + sub)转换为字符串,然