我目前正在用python编写科学代码。这段代码使用了几种不同类型的浮点精度，即半精度、单精度和双精度(使用numpy)。然而，我的问题更一般，因为它不是特定于python的。问:这些精度是否“嵌套”，即任何数字在较低精度下都可以精确表示(即没有近似值)，在较高精度下也可以精确表示。 另一种说法:当转换为更高精度时，我是否更改了浮点数的值？
浏览 37提问于2021-11-17得票数 0
回答已采纳
z2) 100 continue我正在使用下面的python我是不是遗漏了与在Python和Fortran之间传递数据有关的东西？巨大的差异表明了实现中的一个重大缺陷。
浏览 0提问于2015-05-12得票数 7
回答已采纳
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半
浏览 0提问于2011-09-15得票数 4
我有一个代码，在这里我必须处理半精确浮点表示数字。为此，我使用与此类型相关的所有操作符(算术、逻辑、关系)创建了自己的C++类fp16，这些运算符重载了自定义函数，同时使用了一个带有半精度浮点数的单精度浮点数字。半精度浮点=1位，5指数位，10位= 16位因此，我如何从一个精确浮点数转换为一个半精度浮点数：-
对于有意义和比特-我使用截断，即从32位松散的13位得到10位意义和半
浏览 0提问于2011-09-15得票数 0
2回答
我正在用C语言(我的mac基于ARM)实现半精度软件，但运行时间并不比单精度或双精度软件快。我用一个非常简单的代码测试了一半，一个，两个，就像添加数字一样。一半的速度比单倍或双倍慢。time = (double)(end1 - start1)/CLOCKS_PER_SEC;
return 0;在我看来，半精度比单精度或双<em
浏览 10提问于2022-07-09得票数 2
为此，我创建了自己的C++类fp16，其中包含与此类型相关的所有运算符(算术逻辑运算符、关系运算符)，同时使用带有半精度浮点数的数字。半精度浮点=1个符号位、5个指数位、10个有效位数= 16位因此，我要做的是将单精度浮点数转换为半精度浮点数：
对于有效位数-我使用截断，即从32位中松散13位，以获得10位有效数的半精度浮点数。
浏览 10提问于2011-09-15得票数 3
回答已采纳
我确实有mpmath语言的代码，它完成了我所做的主要工作，除了以任意精度求解半定编程。为此，我也许能够使用SDPA- GMP，这是一个C++软件，它使用GMP作为基础任意精确库来解决任意精度的SDP。
你知道有没有可能在python中调用它？
浏览 3提问于2020-08-04得票数 0
1回答
是否有可能在英特尔芯片上执行半精度浮点算法？
我知道如何加载/存储/转换半精度浮点数1，但我不知道如何在不转换为单精度浮点数的情况下添加/乘它们。
浏览 0提问于2018-04-24得票数 16
回答已采纳
5回答
是否有任何地方的Java库可以对数字执行计算，或者将它们转换成双精度？
编辑：转换需要100%的准确性--输入文件中有大量的NaNs、无穷大和异常。
浏览 1提问于2011-05-28得票数 36
回答已采纳
由于CUDA 7.5/8.0和设备与Pascal GPU，CUDA支持一半精度(FP16)数据类型的箱外。此外，CUBLAS中的许多BLAS调用支持半精度类型，例如作为cublasHgemm提供的GEMM操作。我的问题是主机不支持半精度类型。
浏览 7提问于2017-03-30得票数 0
回答已采纳
1回答
我首先尝试实现这个Matlab2019b(它有一个半精确的数据类型)，但它不支持半精度稀疏矩阵，所以我不得不使用完整矩阵。但是，在Matlab中，半精度的算术要慢得多，我发现要用大约20分钟的时间来计算，比如一个500×500的矩阵(我想要达到1000×1000)。我记得numpy/scipy有一个float 16数据类型，所以我决定尝试在python中实现它。我发现这大约需要6分钟才能运行，这比使用半精度浮动时的MATLAB代码要快得多，但
浏览 4提问于2020-04-29得票数 0
2回答
例如：
返回与self最近的整数。从0.0开始到一半的情况。我所要求的大多数同事都倾向于使用和学习大部分/仅仅是“从零到一半”，当我想出不同的四舍五入策略时，他们实际上是很困惑的。铁锈公司的开发人
浏览 2提问于2022-09-10得票数 0
回答已采纳
1回答
半浮子GLSL的优化
、、、、
在阅读时，我在第4.4.1节中找到了一些有趣的段落，涉及优化半精度float的GGX近似的实现。我理解1 - dot(n, h) * dot(n,h)的计算可能导致所谓的，以及为什么使用交叉积解决了这个问题，但是我不知道这与半精度float有什么关系。与丝有关的是，它是初步开发的移动平台，如安卓，其中一半精度的float是支持硬件。
我知道，使用半精度的float对移动和最现代桌面目标的性能都很重要。因此，我想了解以下代码是如何为半<
浏览 2提问于2020-07-25得票数 1
回答已采纳
给定一个以IEEE754单精度格式(在某些语言/平台中通常称为float )表示的任意数字，我可以确定该数字也可以精确地表示为双精度格式吗？如果是，当考虑半精度到单精度和双精度到四倍精度时，该属性是否有效？
浏览 2提问于2011-10-05得票数 7
回答已采纳
1回答
这是我第一次写一个基于Pytorch的CNN。我终于让代码运行到了为第一批数据生成输出的地步，但在第二批数据中生成了nans。出于调试目的，我极大地简化了模型，但它仍然不能正常工作。这里显示的模型只是几个具有线性输出的完全连接的层。 我猜问题出在反向传播这一步，但我不清楚问题出在哪里，为什么。 以下是模型的一个非常简化的版本，它仍然会产生错误： 数据加载器： batch_size = 36# note "rollaxis" to move channel from last to first dimension
# X_tra
浏览 72提问于2019-10-19得票数 4
当我遇到ARGB半精度浮动像素格式时。读取16位转换为32位c基元浮点数相乘255或1(我不确定半浮点数的有效范围是多少)转换为字节值
但我无法得到可见的图像。将半精度浮子转换为8位颜色强度值的公式是什么？
浏览 3提问于2011-06-15得票数 0
回答已采纳
编程指南提供了双精度(%ld)和向量类型(例如%v4f)的说明，但没有半精度浮点数的说明。
浏览 3提问于2012-01-19得票数 1
回答已采纳
1回答
CUDA中有没有半精度的浮点数？
背景:我想使用glTexSubImage3D操作opengl纹理，其中的数据来自我使用CUDA生成的PBO。纹理是以GL_INTENSITY16格式存储的(这是一个半精度浮点类型afaik)，我不想使用glPixelTransferf(GL_x_SCALE，...)从整数值进行缩放，因为在没有缩放的情况下似乎要快得多
浏览 1提问于2011-07-27得票数 6
回答已采纳
1回答
我只想知道在培训中使用是否可取/必要的，因为文档中写着：
梯度缩放有助于防止小幅度的梯度在混合精度的训练中冲淡到零(“下垂”)。
浏览 21提问于2022-06-07得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
