腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
减去bigDecimal数,
精度
为0?
java
、
bigdecimal
在
减法
中,它们都有非零
精度
,但结果有precision=0。 我期望测试是一个值为-1.79的bigDecimal,int表示应该是-179,
精度
为然而,在BigDecimal类中
浏览 0
提问于2019-04-14
得票数 2
回答已采纳
1
回答
Numpy
减法
精度
python
、
arrays
、
python-3.x
、
numpy
我有一个numpy数组,x,它是根据一个复杂的方程计算出来的:print(x)print(1.0-x)[ 1. 1. 1.][ -2.22044605e-16 3.33066907e-16 -4.44089210e-16]显式地从包含这些数组的数组开始:print(y)
浏览 2
提问于2017-03-02
得票数 1
2
回答
乘浮
精度
floating-point
、
double
、
precision
在浮点数和双数上执行运算(如乘法、除法、加法和
减法
)是否保持其
精度
? 例如,如果我乘以(或除以,加,减) 1000浮动在一起,我还能保持7位数的
精度
吗?我在这个网站上读到,
精度
是维持的(),但我想再检查一遍。
浏览 1
提问于2016-05-07
得票数 4
回答已采纳
1
回答
MATLAB
减法
时的
精度
matlab
、
precision
、
floating-accuracy
、
double-precision
我需要一个高
精度
的项目,我正在工作。我在
减法
时遇到的问题如下所示:我知道这与双
精度
有关有没有什么方法可以让我得到更高的
精度
?我检查了"vpa“功能,但我无法获得更高的
精度
。有人能帮我一下吗? 提前谢谢你!
浏览 4
提问于2014-10-21
得票数 3
1
回答
为什么```Float16(1.1)-Float16(1)=Float16(0.0996)```?
julia
因为Float16允许10位的分数,所以当我用10位的
精度
做手工
减法
时,我不会得到0.0996。 有人能让我了解一下如何使用这些位元进行
减法
吗?
浏览 4
提问于2022-01-13
得票数 4
回答已采纳
1
回答
AMD和VEGA指令集中的V_SUB_F64
opencl
、
gpu
、
amd
、
amd-gcn
他们是如何实现双
精度
减法
的?
浏览 33
提问于2018-06-08
得票数 1
1
回答
了解并行约简的浮点
精度
分析
opencl
、
mpi
、
gpu
、
multicore
我正在尝试分析如何使用reduction (并行)来添加大量浮点数以及其中涉及的
精度
损失。与串行加法相比,
减法
无疑有助于获得更高的
精度
。
浏览 0
提问于2014-03-04
得票数 2
2
回答
减法
结果
精度
问题
c#
double d=16/60; //I got d is 0.0 , but I expected d could be 0.27. 编辑最佳答案:)d= Math.Round(d, 2); //result being 0.27
浏览 4
提问于2012-12-11
得票数 0
回答已采纳
6
回答
双重
减法
精度
问题
java
、
double
我的同事做了这个实验: double a = 1.435; double c = a - b; }对于这个第一级操作,我预期输出如下:但出乎意料的是,输出结果是:为什么double会在如此简单的操作中失败
浏览 0
提问于2012-03-28
得票数 27
回答已采纳
1
回答
数字算法中Oracle数据库隐式
精度
转换
oracle
、
oracle11g
试图找到详细说明在对不同
精度
的数字执行算术时会发生什么的文档:寻找对加法、
减法
、乘法和除法进行此转换的规则。浏览了Oracle文档,但只能找到从Float/Double/Char到Number的隐式转换信息,而不是不同
精度
的数字之间的转换信息。
浏览 0
提问于2018-08-31
得票数 1
回答已采纳
1
回答
计算后的小数问题数
sql
、
sql-server
所有的数字字段都有数据类型decimal(10,4),但是当我进行计算时,有时它以5小数点的
精度
舍入。
浏览 0
提问于2020-04-09
得票数 0
回答已采纳
1
回答
R/ RStudio中显示的数值
精度
r
、
rstudio
、
precision
我遇到了一个问题,数字结果的显示
精度
有时会恢复为四舍五入的整数格式。例如,某些天,像这样的简单计算会生成预期的小数
精度
结果:> x但是,我可以改天再来,再试一次,然后得到:>x我已经通过
减法
验证了隐藏的
精度
仍然存在:例如,它可能会显示344,但值344.25仍然包含在变量中。我不能弄清楚什么在改变(或者如何控制它),所以它只保持一种一致的方式,最好是小数点右侧的一些显示
精度<
浏览 1
提问于2018-10-17
得票数 0
2
回答
浮点无意义的加法与
减法
floating-point
、
precision
、
floating-accuracy
、
numerical-analysis
同时学习浮点算术中的
精度
和避免
精度
的不同方法(使用共轭、泰勒级数等)书中经常提到两个非常相似的数字的相减或一个大数字和一个小数字的相减是导致错误的最大原因。为什么只有
减法
而不是加法呢?
浏览 2
提问于2010-09-19
得票数 1
1
回答
双
精度
数量级
fortran
、
double-precision
两个理论上相等的双
精度
数字之间的
减法
应该是多少个数量级的差?谢谢你,普拉迪普
浏览 7
提问于2013-03-19
得票数 2
1
回答
单
精度
浮点分割的最佳
精度
c
、
math
、
assembly
、
floating-point
、
verilog
如果只使用单
精度
加/子和乘法硬件(不使用FMA),是否可以执行除法并获得IEEE-754单
精度
正确值?具体而言,如果在单
精度
硬件上执行牛顿-拉夫森法进行浮点除法,是否有可能达到IEEE-754正确的结果?
浏览 1
提问于2014-07-18
得票数 3
回答已采纳
1
回答
gmpy2:如何跟踪mpc操作的
精度
?
python
、
math
、
precision
、
gmp
当我计算x+y时,可能是x和y的某些部分抵消了,所以我得到的
精度
较低。我想我需要计算出当我做加法和
减法
时有多少位被抵消,然后把这个从x或y的最小
精度
中去掉,对于乘法和除法,我想我最多只会损失1位的
精度
。因此,问题非常普遍:如何跟踪mpc对象的
精度
,特别是在添加和减去它们时?
浏览 0
提问于2012-07-29
得票数 1
回答已采纳
1
回答
当测试和训练数据集来自不同的来源时,为什么测试
精度
保持不变,并且在二进制分类中没有增加?
image-processing
、
machine-learning
、
classification
、
deep-learning
、
theano
我想做二进制分类使用深CNN和我有以下的测试
精度
和训练
精度
的结果。蓝线显示列车
精度
,红线在近250个历次后显示测试
精度
。为什么测试的准确性几乎是恒定的,而不是提高?编辑:在我添加了辍学层,回归项和平均
减法
之后,我仍然得到了一些奇怪的结果,从一开始就说模型太合适了!
浏览 0
提问于2017-01-29
得票数 3
1
回答
将int有效地转换为double
java
、
casting
、
int
、
double
我想减去2个双
精度
数,然后将结果转换为一个整数。i = (int) ( d2 /0.00001); // 53Double不能表示所有的值,因此
减法
可能会产生错误的值
减法
的值也会比预期的略大吗?(例如0.00540000000001) Math.ceil在这种情况下给了我正确的答案,但是有没有更好的方法来解决这个问题呢?
浏览 1
提问于2014-06-25
得票数 0
1
回答
numpy浮点
减法
精度
问题
python
、
numpy
、
floating-point
我有一个numpy.float64对象,我们称它为值为'1.0‘的A,它是从我正在使用的程序中生成的,我检查了它的类型当我减去这两个值时,我奇怪地得到了这个值:-2.22044604925e-16,而我实际期望的值是0我不确定发生了什么,为什么我得不到0的值,有没有指针?
浏览 0
提问于2016-03-14
得票数 0
1
回答
数的双
精度
java
、
language-agnostic
、
programming-languages
、
precision
、
double-precision
如果我们假设变量x和y可以用双
精度
表示,那么就不会出现错误。写x^2 - y^2还是只写(x + y)(x-y)比较好?
浏览 1
提问于2013-10-17
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
给ASP.NET Core Web发布包做减法
学会减法
为出行生活做点减法!
生活减法时代已然开始
ASP.NET心得
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券