腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
JAVA :除以2个大小数,并保留小数点后的最大位数
、
我想除以两个大的小数,并在非终止
除法
结果中保留最大可能位数(例如1000位)。我应该写什么代码来做这件事呢? 请注意:有没有可能有一个
高精度
的实现,因为我正在处理重要数据。
浏览 2
提问于2013-03-07
得票数 3
回答已采纳
2
回答
小数除以小数,得到零。
、
、
、
、
我原以为
高精度
的
除法
会得到更高的精度结果,为什么不是这样呢?
浏览 8
提问于2014-01-16
得票数 3
回答已采纳
3
回答
double在java中只返回一个精度。
在我的代码中,我对数字进行
除法
运算,并将其存储在一个双变量中。但该变量仅以一个精度返回。我想提
高精度
,我该怎么做呢?
浏览 0
提问于2012-12-17
得票数 0
4
回答
简单金融计算中的数值精度
、
我在大学里学过一门课程,它解释了在有限精度的环境中,如何(以及其他事情)如何排序你的数学执行,以最大限度地提
高精度
并减少舍入误差的风险。 我们正在用你通常的利息计算和诸如此类的金融系统工作。此外,当你
除法
时,如果可能的话,首先除以最大的数字。
浏览 6
提问于2010-10-19
得票数 1
回答已采纳
1
回答
python计算中需要的许多小数位。
、
、
我需要精确地总结一长串十进制数,精确到至少小数点50位。我也需要能打印一些数字。我真正需要的是无限小数位。我的尝试是:from decimal import *lista = [1/4,1/3,1/5,1/6,1
浏览 2
提问于2013-08-15
得票数 0
回答已采纳
4
回答
舍入整数而不使用浮点数、双整数或
除法
、
、
当我们乘val*0x535A8时,有一种方法可以通过舍入来进一步提
高精度
,但不需要使用任何浮点、双倍或
除法
。
浏览 2
提问于2014-01-17
得票数 6
回答已采纳
5
回答
Java不打印小数位
我正在尝试执行一个非常基本的操作,如下所示:System.out.println(a);
浏览 0
提问于2013-03-02
得票数 2
1
回答
用GMP解析十进制值?
、
我的目的是在加法和减法等运算中保持精确的小数,但对于像
除法
或指数这样的运算,我要切换到
高精度
的浮点。
浏览 1
提问于2013-03-11
得票数 0
1
回答
Python计算错误
、
我正在尝试实现一个LCM查找算法。它需要为非常大的数字找到LCM。LCM(A, B) = (A * B) / GCD(A, B)输入:226553150 1023473145应该是的,46374212988031350。
浏览 2
提问于2016-05-21
得票数 3
1
回答
为什么整数
除法
和在除后转换成int的结果对于大数来说是不同的?
、
、
print(10**40//2)守则的输出:5000000000000000151893014213501833445376
浏览 2
提问于2014-11-04
得票数 2
回答已采纳
4
回答
带查找表的乘法逆
、
、
我有一个在子程序中多次使用的公式,但我的处理器没有
除法
指令(M0),因此这是由软件库处理的。为了加速此操作,我正在考虑使用查找表来存储求逆的结果。然而,这仍然会占用2kb的空间(每个值2个字节)。由于我有" 1000 ",我正在考虑使用乘以1000的结果来提
高精度
。
浏览 0
提问于2020-11-04
得票数 2
1
回答
在Python上使用decimal计算Pi
、
它基本上需要大量的阶乘运算和
高精度
的浮点数
除法
。
浏览 1
提问于2013-06-03
得票数 6
回答已采纳
0
回答
如何在mysql中使用
除法
提
高精度
我有一个sql查询select 1/3,它返回0.33333。有没有办法把精度提高到小数点后20位?
浏览 7
提问于2017-12-03
得票数 2
回答已采纳
2
回答
Java和无限小数位?
、
、
是否有一种简单的方法可以在java中操作
高精度
的十进制数,而不限制十进制位的数量,以及在println中输出数字或将其写入文件的能力?加法、减法、乘法和
除法
应该足够了。
浏览 2
提问于2013-12-31
得票数 0
回答已采纳
1
回答
如何用Python生成随机Decimal128、Decimal256数
、
、
、
我正在对ClickHouse 进行测试,以验证十进制数据类型。根据文件:P-精确。有效范围:1: 76。确定小数位数可以有多少(包括小数)。S级的。有效范围:0: P.确定小数位分数可以有多少个。取决于P参数值,Decimal(P,S)是以下同义词: Decimal32: >>
浏览 0
提问于2021-04-29
得票数 0
回答已采纳
1
回答
在
高精度
计算导数时被零误差
除法
、
、
、
、
我正在使用斜率法计算函数的导数。我需要放大图表来查看实际发生了什么,但数据点太低,无法提供平滑的曲线。因此,当我增加循环中的迭代次数时,程序会给出在true_divide中遇到的RuntimeWarning: divide by 0的错误。函数为红色,其导数图为绿色,如下所示: ? ? ? 正如这里可以看到的那样,曲线并不平滑,即它缺乏数据点。我使用for循环来迭代我的程序,当我增加范围时,它会产生错误。计算是使用数值方法完成的,我只使用步长0.0001。在此之后,程序不会提供正确的值。这里可以做些什么?
浏览 10
提问于2020-04-18
得票数 0
1
回答
如何改变Matlab的默认数据精度,而不是vpa?
、
、
我想对两个大型矩阵进行矩阵
除法
,A\ b,(例如1000乘1000和1000乘1)。我总是从这个操作中得到一个警告:警告:矩阵接近单数或严重缩放。结果可能不准确。我尝试使用“vpa”来提
高精度
,但是转换大矩阵的速度太慢了,而且数据类型不再是'double‘了,这会在以后的算法中造成一些问题。
浏览 20
提问于2022-08-14
得票数 1
2
回答
我们能用字符串来实现
高精度
的浮点数字吗?
、
、
我目前正在编写一个需要
高精度
浮点数字的软件.有时,我需要比double给我更高的精度。我知道为什么经典的浮点数只能达到有限的精度。乘法和
除法
会更复杂,但也会奏效。我的问题是: 这一技术会不会慢得多(对于10小数位)?
浏览 4
提问于2016-08-21
得票数 1
回答已采纳
1
回答
使用java、javascript和使用processing.
js
运行嵌入式时的处理差异
、
、
、
、
在我的应用程序引擎上,我从一个html文件加载草图,如下所示:对于前面的问题,我确保使用的是最新版本的processing.
js
<head> <script src="/statics/processing.
js
" type="text/javascript"></script> <sc
浏览 1
提问于2014-09-22
得票数 0
6
回答
为什么在Java中双浇铸的精度会下降?
我惊讶地看到以下Java中的差异:第一个表达式中的括号是否通过设计使计算失去了准确性?
浏览 4
提问于2015-10-18
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
编程科普|信息学奥赛一本通题单1307:高精度乘/除法、回文数(课堂笔记)
MathType编辑短除法的操作步骤!
Creo应用钣金折弯扣除法
Scratch实例编程:计算有余数的除法
贾跃亭被解除法拉第未来执行官职务
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券