腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(7196)
视频
沙龙
1
回答
为什么
这种
单精度
和
双
精度
比较
在
numpy
中会
失败
?
python
、
numpy
、
floating-point
给定: val = 1e20 a = np.array(val); b = np.array(val, 'f4') 我不明白
为什么
a == b是假的,但是np.allclose(a, b)是真的。毕竟
单精度
浮点数的范围是~10^38。事实上,由于np.can_cast(1e20, 'f4')是真的,我希望上面的相等应该是有效的。
浏览 5
提问于2019-09-25
得票数 1
1
回答
为什么
我的Float64 tf.matmul
在
TensorFlow2中的CPU性能比
NumPy
matmul慢得多,甚至
在
图形模式下也是如此?
numpy
、
performance
、
tensorflow
、
matrix-multiplication
、
intel-mkl
我正在
比较
TensorFlow 2
和
NumPy
中矩阵矩阵产品的单线程性能。分别对
单精度
(float32)
和
双
精度
(float64)进行了
比较
。我发现,
NumPy
性能几乎等同于用于
单精度
和
双
精度
(DGEMM
和
SGEMM)的Intel MKL C++实现(用作矩阵乘法的基准)。但在TensorFlow中,只有
单精度
(float32)
浏览 9
提问于2022-01-16
得票数 1
回答已采纳
1
回答
何时使用dsgesv
和
dgesv求解线性方程组?
algorithm
、
performance
、
matrix
、
precision
、
lapack
在
LAPACK文档中,它指出DSGESV (或复数的ZCGESV )是: dsgesv
和
zcgesv是用于开发快速
单精度
硬件的混合
精度
迭代精化子程序。他们首先尝试将矩阵分解为
单精度
(dsgesv)或单复
精度
(zcgesv),并在迭代精化过程中使用
这种
分解生成具有
双
精度
(dsgesv) /
双
复
精度
(zcgesv)法向后误差质量的解(见下文)。如果该方法
失败
,则该方法分别切
浏览 1
提问于2016-03-26
得票数 2
2
回答
Python float vs
numpy
.float32
python
、
python-2.7
、
numpy
使用
numpy
.float32。t =
numpy
.float32(.3)r =
numpy
.float32(-.3)_t == 1 # -> Falsex = 1_t = t+x+r
为什么
?
浏览 1
提问于2017-05-15
得票数 1
1
回答
IDL与Python浮点数之争
python
、
precision
、
idl-programming-language
我一直
在
将IDL代码翻译成Python,并注意到最终产品中的不同之处。两者之间的差异也不容忽视(例如,通过IDL,我得到了19.03,而Python产生了19.16)。我确认这两个脚本产生相同的值(它们
在
第四、第五或第六小数点时通常不同),直到我开始执行多个数组操作为止。我怀疑
精度
可能是造成
这种
情况的原因( Python数组都是type=FLOAT)。我希望结果是相同的,因为两种语言都在使用浮动
精度
。底线是错误以不同的方式
在
两种语言中传播,从而产生不同的结果。我的问题是: 这两种语言
浏览 2
提问于2017-05-05
得票数 0
回答已采纳
1
回答
在
python中查找
单精度
epsilon值
python
查找机器的epsilon,用于
单精度
和
双
精度
浮点运算。我已经使用以下代码实现了
双
精度
,但在python中找不到
单精度
epsilon值,尽管
在
c++中它是5:960464*10**-8import
numpy
as np epsilon
浏览 1
提问于2018-01-20
得票数 0
2
回答
为什么
相同的代码会在32位
和
64位机器上产生不同的数值结果?
c
、
floating-point
我们正在C中开发一个数值例程库,我们还不确定我们将使用
单精度
(float)还是
双
精度
(double),因此
在
决定之前,我们已经将类型SP定义为别名:当我们运行单元测试时,它们都通过了我的机器(64位Ubuntu),但是它们
在
我同事的机器上
失败
了(32位Ubuntu错误地安装在64位机器上)。使用Git的bisect命令,我们找到了开始在他的机器和我的机器之间产生不同结果的确切差异:+typedef float
浏览 1
提问于2011-10-21
得票数 7
回答已采纳
1
回答
双
精度
浮点数
在
图形上是不是可以
在
开普勒上模拟?
cuda
、
floating-point
通过
比较
图形版本
和
计算版本的SMXes,我注意到
在
图形版本的方框图中没有
双
精度
单位。
在
计算版本中,数据块显示为黄色。是否
在
图形芯片上模拟了
双
精度
?这似乎是可能的,因为吞吐量仅为
单精度
的1/24。
浏览 0
提问于2013-02-02
得票数 0
回答已采纳
1
回答
浮点数乘法
在
Numpy
和
R中给出了不同的结果
python
、
r
、
numpy
、
precision
、
ieee-754
我正在用Python (
Numpy
)
和
R进行数据分析。我的数据是向量795067 X3,计算该数据的平均值、中值、标准差
和
IQR的结果不同,这取决于我是使用
Numpy
还是R。数据的最大值
和
最小值是相同的。
在
Numpy
中乘以1.2*1.2将得到1.4 (与R相同)。 乘以1.22*1.22
在
Numpy
中得到1.4884,与R.然而,
在
Numpy
中将1.222*1.222乘以1.49328399
浏览 8
提问于2016-04-15
得票数 2
回答已采纳
1
回答
双
精度
神经网络与
单精度
神经网络的最终
精度
deep-learning
我想知道是否有人有
在
CIFAR10或ILSVRC-2012数据集上训练深度神经网络并
比较
单精度
和
双
精度
计算的最终结果的经验?
浏览 1
提问于2015-08-11
得票数 3
2
回答
对于固定的数据大小,
双
精度
CUDA代码比
单精度
CUDA代码更快
c++
、
performance
、
cuda
我已经
在
CUDA中实现了一个算法,它的运行速度似乎比单一
精度
快得多。50迭代:20.1881秒
双
倍单次81.9562秒500迭代:199.045秒
双
倍单次413.129秒知道
为什么
双</e
浏览 11
提问于2013-09-08
得票数 1
回答已采纳
5
回答
半
精度
浮点在Java中的应用
java
、
floating-point
、
ieee-754
、
precision
是否有任何地方的Java库可以对数字执行计算,或者将它们转换成双
精度
? 编辑:转换需要100%的准确性--输入文件中有大量的N
浏览 1
提问于2011-05-28
得票数 36
回答已采纳
2
回答
双
精度
和
单精度
浮点数?
python
、
numpy
、
floating-point
、
precision
、
single-precision
我想知道
为什么
双
精度
和
单精度
的数字有时是相等的,有时不是。例如,当我有以下情况时,它们是不相等的:y=np.float32(1./3.)我理解
为什么
第一组x
和
y不相等,但我不太清楚
为什么
第二组相等。
浏览 2
提问于2017-09-14
得票数 0
回答已采纳
1
回答
TensorFlow加大数
python-3.x
、
tensorflow2.0
在
我的模型中,我可以用一些大数来添加一些小的数字。但这会产生一个不正确的值。,dtype=np.float32) 这给了<tf.Tensor: shape=(), dtype=float32,
numpy
=-155786280000000.0>正确的答案应该是-155786277522874
浏览 1
提问于2020-11-05
得票数 0
回答已采纳
4
回答
浮点
比较
的差异C
c
、
floating-point
的值改为1.7,那么if(a<1.7)elseOUTPUT : falsePS :我已经看过链接了。
浏览 5
提问于2012-08-19
得票数 0
回答已采纳
1
回答
为什么
不在Python中使用
双
精度
?
python
、
double
、
precision
、
matrix-multiplication
我刚接触Python (主要使用MATLAB
和
Mathematica),我
在
使用Python获得
双
精度
算术时遇到了问题。import
numpy
as npp= np.array([*range(N+1)])pkp= pkp.reshape(N+1,N+1) pn =np.cos((np.pi/N) * pkp) 这里我只得到了pn的
单精度
,但是如果我这样做 np.cos((np.pi/N) * 2) 我得到了<em
浏览 28
提问于2019-09-12
得票数 1
1
回答
机器史诗: MatLab对枫树
matlab
、
numerical-methods
、
scientific-computing
、
maple
我正在学习
单精度
和
双
精度
的机器感应器,并
比较
不同程序的值。例如,
在
matlab中有以下代码:>> eps 给出2.220446049250313e-16。枫树看起来是从3到4的集合,造成
这种
差异的原因是什么?
浏览 3
提问于2015-09-03
得票数 2
回答已采纳
3
回答
C程序的输出正确吗?
c
if (f1 == f2) else} 由于float
和
double具有不同的
精度
,所以我期望输出是unequal,但我得到的是equal。
为什么
是
这种
情况?
浏览 7
提问于2011-10-12
得票数 0
回答已采纳
2
回答
如何在python中获得等于java Float.valueof()的
双
精度
值
python
、
java
、
double
例如:
在
Java中{ long lg_val = Long.parseLongfloat fg_val = Float.valueOf(lg_val); }结果- 1.61917542E10 (打印
双
值) 但是
在
python ()方法中,返回相同的值16191753860.0。如何在python中进行双重
浏览 9
提问于2022-04-19
得票数 -1
1
回答
在
使用浮动原点时跟踪“真实”世界坐标
java
、
opengl
、
graphics
、
lwjgl
在
我的游戏中,我尝试使用“浮点原点”方法来防止模型因浮点不精确而变形。然而,我很难跟踪玩家的“真实”位置,因为原点一直
在
移动,我应该使用网格系统吗? 你有什么推荐的?
浏览 0
提问于2018-09-23
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Java数据类型
为什么0.1+0.2不等于0.3?原来编程语言是这么算的……
云计算雾计算,如今又出了“边缘计算”——链科技
云计算雾计算,如今又出了“边缘计算”
MQL4编程——基本数据类型
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券