腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
在单
精度
CPU上进行
双
精度
计算
、
、
、
我想知道在单
精度
MCU上被要求做
双
精度
计算
会发生什么?对于这样的
计算
,是否有一个已知的性能负载?集成的单
精度
单元(FPU)是否提高了性能?我有一个大的嵌入式软件,有一些
双
精度
的
计算
,我想决定一个CPU基于更高的速度或内置的
双
精度
FPU
浏览 6
提问于2014-07-12
得票数 1
1
回答
如果我有一个具有1 1PFlop/s单
精度
浮点功率的GPU服务器,我能做
双
精度
计算
吗?
如果我有一个具有1 1PFlop/s单
精度
浮点功率的GPU服务器,我能做
双
精度
计算
吗?如果是的话,
计算
能力相当于
双
精度
计算
吗?
浏览 6
提问于2022-10-23
得票数 -2
7
回答
计算
列表中的重复数
、
我有一份清单:现在我需要编写一个
计算
双
精度
数的程序。当一个数字之前的数字相同时,该数字是
双
精度
的。我希望你能理解。所以1是
双
精度
,4是
双
精度
,我们在7,7,7中得到了2个
双
精度
。
浏览 0
提问于2010-10-01
得票数 8
1
回答
关于x87 FPU的
精度
、
、
x87控制字的8位和9位决定了浮点
计算
的
精度
.默认的
精度
是
双
扩展
精度
。在执行指令"FINIT“后,
精度
被设置为
双
浮点数。问题是,在执行"FINIT“之后,x87 FPU只使用80位数据寄存器中的64位来
计算
。并且FPU不能接受(输出)
双
扩展
精度
浮动值(从(到)内存).是这样的吗?
浏览 0
提问于2013-12-22
得票数 0
回答已采纳
2
回答
C++铸成一个更精确的类型,并失去准确性?
、
、
考虑两种
计算
方法:->应用
双
精度
时序函数->铸成长
双
->铸成双倍第二个解能给出一个比第一个更不准确的结果吗?
浏览 1
提问于2012-05-27
得票数 3
回答已采纳
5
回答
比较
双
精度
值的奇怪行为,两个
PHP
双
精度
值不相等
、
、
在
PHP
中,我有两个看似相等的
双
精度
值(至少在回显时是这样)。 但是,当将它们与
双
等数进行比较时,由于某种原因,它的
计算
结果为false。在进行这种比较时,有没有什么特殊的考虑?
浏览 0
提问于2011-03-11
得票数 8
回答已采纳
1
回答
在Fortran中将
双
精度
赋给单
精度
数组
、
、
、
、
我有一些使用
双
精度
数组的例程,但对于我的一些
计算
,似乎不需要
双
精度
算术,单
精度
算术就足够了。因此,我需要将
双
精度
数组分配给单
精度
数组:real*4 :: A_aux(100,100) A_aux(i,1:100在执行单
精度
计算
后,我需要将单
精度
数组分配回
双
精度
数组
浏览 108
提问于2016-08-30
得票数 1
1
回答
单
精度
的CUDA带宽和
双
精度
的带宽
我更改了单
精度
和
双
精度
的代码,结果如下:
双
精度
:26/s printf("Effective Bandwidth (GB/s): %fn", N*4*3/milliseconds/1e6);printf("Effective Bandwidth
浏览 0
提问于2016-11-11
得票数 0
3
回答
C语言中数字的隐式类型
、
、
、
、
例如,如果我在
计算
中有一个十进制数,小数是否总是被视为
双
精度
?如果我有一个非十进制的数字,它总是被视为一个int吗?如果我的非十进制数大于一个整数值怎么办?float a = 1.0 / 25; 是否将1.0视为
双
精度
型,而将25视为整型?然后将25提升为
双
精度
,以
双
精度
执行
计算
,然后将结果转换为浮点数?
浏览 0
提问于2012-04-18
得票数 0
回答已采纳
1
回答
在haskell中返回Double
现在我要做的是编写另一个函数,triangle_areas (注意这里的复数用法),它接受一个
双
精度
列表,将每组连续的三个
双
精度
视为三角形三条边的长度,使用triangle_area
计算
其面积;在处理列表中的所有
双
精度
后,将所有
计算
的面积作为
双
精度
列表返回。
浏览 1
提问于2016-04-03
得票数 1
1
回答
双
精度
浮点数在图形上是不是可以在开普勒上模拟?
、
通过比较图形版本和
计算
版本的SMXes,我注意到在图形版本的方框图中没有
双
精度
单位。在
计算
版本中,数据块显示为黄色。是否在图形芯片上模拟了
双
精度
?这似乎是可能的,因为吞吐量仅为单
精度
的1/24。
浏览 0
提问于2013-02-02
得票数 0
回答已采纳
2
回答
将double强制转换为浮点数后的值不正确
、
、
、
我有一些执行高
精度
算术的C代码,这些算术是由gcc(gcc (GCC) 4.4.4 20100726 (红帽4.4.4-13))编译的。.The
计算
的最终结果是一个
双
精度
型,其值为622.079995861189。我正在将
双
精度
转换为浮点型。frequency_value =(浮点数)current_freq; 其中current_freq是
双
精度
数,frequency_value是转换为622.080017后frequency_value在gdb中,
浏览 1
提问于2011-09-09
得票数 2
回答已采纳
1
回答
java:如何将
双
精度
数字转换为十进制
、
、
、
我想把
双
精度
数字转换成十进制。例如,我有23.43,
双
精度
值将是(使用matlab):174 71 255 122 20 110 55 64现在有了这个,我怎么才能写一个得到23.43的java程序呢?下面是matlab中的
双
精度
计算
:Bits用法62到52指
浏览 1
提问于2012-05-24
得票数 0
回答已采纳
4
回答
Java中的Double vs doubleValue
如果一个方法返回一个
双
精度
值,为什么我们要在它上面调用这个方法"doubleValue“?它已经返回了一个
双
精度
值,并且在
计算
中,似乎
计算
正确。
浏览 1
提问于2012-01-03
得票数 7
回答已采纳
1
回答
为什么SAP Business One SDK使用double来赚钱?
我总是读到我应该在金钱和财务
计算
(example)中使用decimal或类似的工具。然而,据我所知,所有的Business One SDK都使用doubles?这样可以吗?每次进行
计算
时,我是否需要将
双
精度
值转换为小数,如果我想为API对象设置
双
精度
值(我现在正在做的),是否需要将其转换回
双
精度
? ?
浏览 7
提问于2019-04-26
得票数 1
回答已采纳
1
回答
c++
双
舍入问题
为什么?使用而不是以及如何修复它?
浏览 2
提问于2015-10-29
得票数 1
回答已采纳
16
回答
在所有值之和超过
双
精度
限制的情况下,
计算
平均值的好方法是什么?
、
、
我需要
计算
一组非常大的
双
精度
值(10^9值)的平均值。这些值的总和超过了
双
精度
值的上限,所以有没有人知道
计算
平均值的小窍门,而不需要同时
计算
总和? 我使用的是Java1.5。
浏览 3
提问于2009-12-19
得票数 48
回答已采纳
4
回答
系统的所有浮点操作都是一样的吗?
、
、
、
我们用
PHP
制作这个web应用程序,当处理报告时,我们有Excel文件来比较我们的结果,以确保我们的代码正在进行正确的操作。 现在,由于浮点运算,我们遇到了一些差异。我的问题是,如果Excel将它的浮点运算委托给CPU,而
PHP
也依赖于CPU来执行它的操作。或者每个应用程序都实现了自己的一组数学算法?
浏览 1
提问于2010-04-14
得票数 4
回答已采纳
5
回答
半
精度
浮点在Java中的应用
、
、
、
是否有任何地方的Java库可以对数字执行
计算
,或者将它们转换成双
精度
? 编辑:转换需要100%的准确性--输入文件中有大量的NaNs、无穷大和异常。
浏览 1
提问于2011-05-28
得票数 36
回答已采纳
2
回答
Objective C 2.0中的小数字
、
我创建了一个
计算
器类,它执行基本的+,-,%,*和sin,cos,tan,sqrt和其他数学函数。我有所有
双
精度
类型的变量,对于大数字来说一切都很好,所以我可以
计算
像1.35E122这样的数字,但问题是非常小的数字。例如,如果我
计算
1/98556321,我得到0,而我想得到1.01464E-8。我是否应该重写我的代码,以便我只操作NSDecimalNumber的,如果是的话,我应该如何处理只接受
双
精度
和长
双
精度
值的sin和c
浏览 1
提问于2010-08-20
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
JavaScript计算精度问题
计算精度效率双提升 十沣科技推出光滑粒子法仿真软件TF-SPH
防水板测厚仪验收全 功能精度双验收
js浮点数精度计算问题解决
双水路高精度冷水机 使用方便且性价比更高
热门
标签
更多标签
云服务器
ICP备案
实时音视频
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券