我想用任意精度的计算( A / B )的一些( C /D)根,用于根的十进制展开(例如,如果所需的精度是整数E,则结果应该包含根的小数点之后的E数字;E可能至少等于数万个;A、B、C、D是包含数万小数位数的整数我试着使用,但它的精度有限,输入的大小也有限。例如,如果我想用1025个有效数字计算2的平方根(最后一个数字可能以某种方式舍入),我对Decimal.js使用了以下代码:var据我所知,有一些
我正在使用Math.js在JavaScript中执行矩阵计算(例如,计算行列式、特征值、逆矩阵)。我希望计算执行得更快(它是在2X2矩阵上计算它们,但它每秒应该执行很多次,现在它导致了明显的延迟),但精度并不是那么重要(我认为精度的两个小数位就足够了)。有没有办法指定计算的精确度?谢谢!下面是一个计算示例:var A = [[3.5, 9], [9, 1]] mat
我一直在使用Decimal.js来提高我的函数的精度,该函数通过反复尝试计算a = tan(a)的正根。它工作,但它返回一个“精度限制超过”错误的nTan(504) (将返回4.4934.达到505位数)或更高。var Decimal = require("decimal.js"); var test =不计算超过504位数时,它广告的容量高