腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(8899)
视频
沙龙
2
回答
是否有向量寄存器使用相同的指数位来实现
单精度
和
双
精度
?
、
、
、
、
可以将一对32位的
单精度
浮点数存储在64位
双
精度
数字所取的相同空间中。例如,SSE2指令集的XMM寄存器可以存储四个
单精度
数字或两个
双
精度
数字。根据IEEE 754标准,
单精度
和
双
精度
的区别不仅在于
精度
本身,而且在于可用范围:8和11指数位。从直觉上看,如果你设计一个FPU来处理2N个
单精度
数字或N个并行
双
精度
数字,那么如果你偏离IEEE标准并使两者都使用相同的指
浏览 3
提问于2020-09-12
得票数 2
回答已采纳
10
回答
单精度
浮点运算和
双
精度
浮点运算有什么区别?
、
、
、
单精度
浮点运算和
双
精度
浮点运算有什么区别? 我特别感兴趣的是
与
视频游戏机相关的实用术语。例如,任天堂64是否有64位处理器,如果有,这是否意味着它能够进行
双
精度
浮点运算?PS3和Xbox360可以实现
双
精度
浮点运算,还是只能实现
单精度
浮点运算,并且通常使用
双
精度
功能(如果它们存在的话?)。
浏览 3
提问于2009-04-29
得票数 186
回答已采纳
1
回答
单精度
的CUDA带宽和
双
精度
的带宽
我更改了
单精度
和
双
精度
的代码,结果如下:
双
精度
:26/s printf("Effective Bandwidth (GB/s): %fn", N*4*3/milliseconds/1e6);printf("Effective Bandwidth (GB/
浏览 0
提问于2016-11-11
得票数 0
1
回答
在Fortran中将
双
精度
赋给
单精度
数组
、
、
、
、
我有一些使用
双
精度
数组的例程,但对于我的一些计算,似乎不需要
双
精度
算术,
单精度
算术就足够了。因此,我需要将
双
精度
数组分配给
单精度
数组:real*4 :: A_aux(100,100) A_aux(i,1:100在执行
单精度
计算后,我需要将
单精度
数组分配回
双
精度
数组。 这种方法对于处理
双</e
浏览 108
提问于2016-08-30
得票数 1
3
回答
"real*8“是什么意思?
、
、
、
用Fortran90编写的程序手册上写道:“所有实数变量和参数都是以64位
精度
(即real*8)指定的。” 根据的说法,
单精度
对应于32位
精度
,而
双
精度
对应于64位
精度
,因此显然该程序使用
双
精度
。然而,似乎说
单精度
通常提供6-9位数字,而通常提供15-17位数字。这是否意味着“64位
精度
”语句
与
real*8不一致?
浏览 0
提问于2012-05-10
得票数 33
回答已采纳
1
回答
以IEEE
单精度
和
双
精度
表示的总数
、
IEEE
单精度
格式和
双
精度
格式可以表示多少个总数?
单精度
-1符号位,8指数,23位尾数
双
精度
-1符号位,11指数位,52尾数
浏览 0
提问于2011-12-06
得票数 0
1
回答
如果实数被作为
双
精度
传递,我如何在Fortran中签入?
、
、
调用程序根据用户输入开关传递给我的程序
单精度
数字或
双
精度
数字。do something with x同样,调用程序可能会将x作为
单精度
数作为
双
精度
数传递。如果x是作为
单精度
数字传递的,我希望我的程序失败。"有没有一种方法可以测试x,看看它是
单精度
数字还是
双
精度
数字?
浏览 1
提问于2017-09-02
得票数 1
1
回答
单精度
指令
与
双
精度
指令的区别
、
、
、
我们都知道MIPS FPU有两种
精度
,
单精度
或
双
精度
。当我在指令集中查看它时,我发现相同的操作,
单精度
和
双
精度
的指令没有什么不同。例如,在这里,从,指令ADD.fmt 无论是
双
精度
还是
单精度
,操作数和函数代码都是相同的。译码器如何知道它是一个单或
双
精度
指令?或5位fmt区域中的任何隐藏信息?
浏览 2
提问于2015-07-09
得票数 2
回答已采纳
1
回答
何时使用dsgesv和dgesv求解线性方程组?
、
、
、
、
在LAPACK文档中,它指出DSGESV (或复数的ZCGESV )是: dsgesv和zcgesv是用于开发快速
单精度
硬件的混合
精度
迭代精化子程序。他们首先尝试将矩阵分解为
单精度
(dsgesv)或单复
精度
(zcgesv),并在迭代精化过程中使用这种分解生成具有
双
精度
(dsgesv) /
双
复
精度
(zcgesv)法向后误差质量的解(见下文)。如果该方法失败,则该方法分别切换到
双
精度
或
双
复杂
浏览 1
提问于2016-03-26
得票数 2
1
回答
OCaml中的IEEE64和32位浮点验证
、
、
、
我有一个
与
下面的正则表达式\-?[0-9]*\.[0-9]+匹配的字符串,它应该表示一个IEEE浮点数。它可以是
单精度
的,也可以是
双
精度
的,我提前知道类型。我需要检查它是否可以被解释为给定
精度
中的有效值。类似于:val is_valid_double: string -> bool 对于
双
精度
数字,我可以使用float_of_string我不确定如何处理
单精度
。
浏览 4
提问于2017-07-28
得票数 2
1
回答
在iOS上,当您将一个
双
精度
值传递给一个需要[single]浮点数作为参数的方法时,实际发生了什么?
、
、
假设我有一个a函数:我使用
双
精度
浮点值调用该函数,如下所示:从12.0 (
双
精度
)到12.0f (
单精度
)的转换是在编译时还是在运行时完成的,还是两者都没有?为了清楚起见:我并不要求
单精度
和
双
精度
浮点数之间的区别。
浏览 0
提问于2012-07-17
得票数 2
回答已采纳
2
回答
是否所有的
单精度
数字都可以用
双
精度
格式表示?
、
给定一个以IEEE754
单精度
格式(在某些语言/平台中通常称为float )表示的任意数字,我可以确定该数字也可以精确地表示为
双
精度
格式吗?如果是,当考虑半
精度
到
单精度
和
双
精度
到四倍
精度
时,该属性是否有效?
浏览 2
提问于2011-10-05
得票数 7
回答已采纳
1
回答
在GPU上,是否有可能通过组合double和float操作来获得更多的flops?
、
、
、
、
如果图形处理器每秒可以执行N1
单精度
运算,而N2每秒可以执行
双
精度
运算。有没有可能,通过混合(独立的)
单精度
和
双
精度
运算来实现每秒N1+N2总运算,或者至少比N1和N2更大的运算?在英特尔/amd CPU上,我非常确定这是不可能的,因为
双
精度
和
单精度
至少共享一些执行资源。但我不知道这是否适用于现代的nvidia或amd GPUs。
浏览 5
提问于2021-05-01
得票数 2
1
回答
MySQL
中
双
精度
和浮点数据类型的最大
精度
是多少
、
、
、
在
MySQL
中,当您定义
双
精度
或浮点数时,您可以像定义double(10,0)那样定义
精度
。我还注意到,您可以在没有
精度
的情况下定义这些类型(我假设这意味着最大可能的值)。这些数据类型的最大值是多少?
浏览 2
提问于2011-12-26
得票数 3
回答已采纳
6
回答
float比double慢吗?64位程序运行速度比32位程序快吗?
、
、
、
、
我听说现代的Intel和AMD CPU可以用
双
精度
运算比用浮点数计算快。 那么标准的数学函数(sqrt、pow、log、sin、cos等)呢?在
单精度
下计算它们应该会快得多,因为它需要的浮点运算应该更少。例如,
与
双
精度
sqrt相比,
单精度
sqrt可以使用更简单的数学公式。
浏览 10
提问于2011-04-21
得票数 15
回答已采纳
3
回答
在
单精度
CPU上进行
双
精度
计算
、
、
、
我想知道在
单精度
MCU上被要求做
双
精度
计算会发生什么?对于这样的计算,是否有一个已知的性能负载?集成的
单精度
单元(FPU)是否提高了性能?我有一个大的嵌入式软件,有一些
双
精度
的计算,我想决定一个CPU基于更高的速度或内置的
双
精度
FPU
浏览 6
提问于2014-07-12
得票数 1
2
回答
Ruby
单精度
数
、
、
我正在尝试在Ruby中使用Windows上的COM组件,它要求数字以
单精度
表示。如何在Ruby中创建
单精度
浮点数?
浏览 2
提问于2011-11-17
得票数 3
回答已采纳
2
回答
mysql
中的双数据类型
、
我将列的一个长度定义为double(16,2)。这里16不是固定的。但是,2是固定的。尽管显示长度(16)将根据计算而变化。所以我想让它变长。
浏览 5
提问于2014-02-05
得票数 2
1
回答
mysql
浮动数据返回不同的值
、
我试图用许多小数创建一个浮点值。我的桌子 id INT(10) NULL DEFAULT NULL,)INSERT INTO number_type_check (floatNumber) VALUES (987654321.98765);
浏览 1
提问于2014-09-22
得票数 0
回答已采纳
2
回答
Fortran:铸造
双
精度
复杂到
单精度
、
我可以使用sngl将
双
精度
实变量转换为
单精度
。但是,如何将
双
精度
复杂变量转换为单个
精度
变量呢?
浏览 0
提问于2014-11-14
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
防水板测厚仪验收全 功能精度双验收
Mysql基础:Mysql架构与事务
Keepalived+双主实现mysql高可用
Java数据类型
2023年深度学习GPU服务器配置推荐参考(3)
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券