3回答
MATLAB支持float16操作吗？如果是这样，如何将双倍矩阵转换为float16？我正在对一个大矩阵进行算术运算，其中16位浮点表示对于我的表示就足够了。用双精度数据类型表示会占用4倍以上的内存。
浏览 6提问于2012-08-29得票数 4
回答已采纳
当类型为np.float16时，为什么Pandas不对DataFrames进行循环或或
pd.DataFrame(np.random.rand(10) for x in range(0, 10)).astype(np.float16).round({0:2
浏览 5提问于2020-12-08得票数 0
在对Numpy Numpy数字执行数学运算时，结果也是float16类型的float16。我的问题是，结果到底是如何计算出来的？假设我将两个float16数字相乘/相加，python会在float32中生成结果，然后将结果截断/舍入为float16吗？或者计算是在“16位多路复用器/加法器硬件”中执行的吗？
浏览 3提问于2016-08-16得票数 20
回答已采纳
我有一个应用程序，其中Set语义对我很有用，但我正在处理浮点数。我希望在集合中包含一个不完全相等的标准--也就是说，如果我的集合已经包含了0.5，如果尝试添加它，我希望它忽略0.50000000000000000018。是否有现有的机器允许这样做？
浏览 1提问于2022-06-10得票数 4
回答已采纳
1回答
数组的范围是-100.0到2048.0，它们是浮点数。我想决定哪种类型的数据应该在PYTHON中使用float/float 16/float 32，比如它的大小尽可能小。
浏览 3提问于2017-05-14得票数 0
回答已采纳
在其他语言中，似乎有很多半浮点的问题，但却找不到Erlang的问题。问题是: Erlang有什么解决办法将2字节二进制转换成浮点数？*感谢以下的回答。我以后再试*
浏览 2提问于2019-11-13得票数 1
我有uint8格式的数据。试图对这个数据进行tf/keras模型的训练会给我带来以下错误：这里的其他问题建议将数字转换为浮点数；例如使用：然而，它显着地增加了内存使用量。有没有办法在不增加内存使用的情况下将uint8数据输入tf/keras模型进行训练？
浏览 24提问于2022-10-09得票数 0
最近，我遇到了一个令人惊讶和烦人的错误，在这个bug中，我将一个整数转换为一个float16，并且值发生了变化：>>> np.array([2049]).astype(np.float16)>>> np.array([2049]).astype(np.float16).astype(np.int32我想它与半浮点表示有关，但我不明白为什么2049是第一个被严重抛出的整数。
这个问
浏览 13提问于2022-03-11得票数 -1
回答已采纳
1回答
问题float16只在16位支持的GPU实例上运行时才可用吗？然而，有两种精度较低的dtype，float16和bfloat16，它们各自占用16位内存。NVIDIA GPU可以在float16中比在float32中更快地运行操作，而TPU可以比float32更快地在bfloat16中运行操作。Keras混合精度API允许您将float16或bfloat16与float32混合使用，以获得float32
浏览 8提问于2021-04-06得票数 2
3回答
必须能够表示超出-1.0 - +1.0的数字(否则我只会使用标准化的GL_SHORT )。
算术运算并不重要--我只关心存储。
浏览 3提问于2014-03-05得票数 10
回答已采纳
我正在尝试用手计算Float16(1.1)-Float16(1)。因为Float16允许10位的分数，所以当我用10位的精度做手工减法时，我不会得到0.0996。
浏览 4提问于2022-01-13得票数 4
回答已采纳
我们可以通过指定它们来访问它的(标量)组件：x.sA // refers to the 11th element of the float16 variable x我们如何在那里访问float32 y或float128 w .Is的组件？(我没有发现它是内置的)，我也可以组合索引：float4 y = x.sB1A
浏览 6提问于2022-08-16得票数 0
回答已采纳
1回答
我试着用一个数字作为精确的数字来精确地计算线性回归。没有numpy，它工作得很好，但是对于大量的项目，numpy表现得更好，这就是我需要使用numpy的原因。但是问题是，当我为X轴建立矩阵时，我失去了我的十进制精度，你可以看到下面。import numpy as npdf = pd.DataFrame({
'force': [item[0] for item
浏览 14提问于2022-06-04得票数 0
回答已采纳
variables.data-00000-of-00001 (3.6GB) saved_model.pb
为了减少型号的尺寸，我想把所有的重量都投给float16我想我必须一个一个地读取模型的所有层，并手动将重物投给float16，然后使用model.save()保存它，但我不知道如何做到这一点。
浏览 2提问于2022-09-25得票数 0
如果不是，那么最简单的方法是将dtype float16的numpy数组转换成这样的格式(用于存储)并将其转换回(用于float16中的计算)，可能使用numpy的位操作？为此，我正在处理各种浮点表示形式。我已经为我的numpy神经网络建立了一个向前通过的框架，因此，上面这样的内容将帮助我通过将值存储在我的自定义数据类型中来检查准确性的降低。
浏览 0提问于2019-07-10得票数 1
回答已采纳
使用给定的fp数，例如float16，用完全错误的结果构造和是直接的。, 0. ], dtype=float16)# array([1.0e-04, 2.0e-04, 3.0e-04, ..., 2.5e-01, 2.5e-01, 2.5e-01],奖励:相同的问题与“积极”而不是“非否定”。有可能吗？
浏览 0提问于2019-09-15得票数 25
回答已采纳
我打算使用float16精度来运行它。如果没有自定义函数，我可以使用以下方法轻松地在float32和float16之间进行选择： K.set_floatxK.set_epsilon(1e-7)
在同一个文件中也有几个内置的激活函数，Keras
浏览 0提问于2019-06-16得票数 2
1回答
除了内存使用和磁盘使用之外，float16计算是否会比Pandas中的float32计算更快？如果是这样的话，我还需要多少性能呢？
浏览 0提问于2021-01-13得票数 1
回答已采纳
3回答
我想了解float16和float32在结果精度方面的实际差异。例如，Numpy允许您选择想要(np.float16, np.float32, np.float64)的数据类型的范围。
浏览 11提问于2017-04-16得票数 40
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
对象存储
云直播活动推荐
腾讯云开发者
