腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
在Visual C++中如何处理双
精度
浮点
数或
浮点
数?
假设float a = (1.5 * b),其中b是
浮点
型
,那么这个表达式是如何
计算
的?1.5是被视为双
精度
型
还是
浮点
型
?
浏览 2
提问于2012-01-06
得票数 2
2
回答
将double强制转换为
浮点
数后的值不正确
、
、
、
我有一些执行高
精度
算术的C代码,这些算术是由gcc(gcc (GCC) 4.4.4 20100726 (红帽4.4.4-13))编译的。.The
计算
的最终结果是一个双
精度
型
,其值为622.079995861189。我正在将双
精度
转换为
浮点
型
。frequency_value =(
浮点
数)current_freq; 其中current_freq是双
精度
数,frequency_value是转换为622.080017后frequency_va
浏览 1
提问于2011-09-09
得票数 2
回答已采纳
2
回答
如何将Char转换为Float
、
、
、
、
如何在AVR studio 4中编码时将无符号字符值转换为
浮点
型
或双
精度
型
?请帮帮忙我是个初学者,我的问题可能听起来也很愚蠢:/我使用lcd_gotoxy(0,0);lcd_puts (keyPressed); 现在我想用这个值来
计算
一些东西..如何将其转换为
浮点
型
或双
精度
型
?
浏览 10
提问于2013-08-29
得票数 5
回答已采纳
1
回答
C++11类
型
推断如何决定是
浮点
型
还是双
精度
型
?
、
、
考虑以下类型推断的示例:在C++11类
型
推断下,这是否
计算
为
浮点
型
或双
精度
型
?这种行为可以控制吗?
浏览 1
提问于2012-09-23
得票数 10
回答已采纳
2
回答
sse/sse2双矩阵
浮点
向量乘法
、
、
、
矩阵为双
精度
,向量为
浮点
型
。重点是我必须在
浮点
数上做的所有
计算
-当我从矩阵中获得数据时,我将其提升为
浮点
数,进行
计算
并获得
浮点
数向量(稍后在
浮点
数上进行一些额外的
计算
后,我必须将一些
浮点
值(
浮点
数矩阵)添加到双
精度
值(双
精度
矩阵)我的问题是,我如何使用SSE/SSE2来做这件事-问题是double-我有指向double*的指针,我必须以
浏览 0
提问于2011-02-28
得票数 2
回答已采纳
1
回答
为什么我们说双
型
是实
浮点
,是
浮点
型
精度
的两倍?
、
、
这里
浮点
类型的
精度
是6位数。而双
型
的
精度
为15位。双
型
的
精度
明显是浮子
型
的两倍以上。说双
型
是实
浮点
,是
浮点
型
精度
的两倍,这样说还正确吗?
浏览 2
提问于2018-07-15
得票数 1
回答已采纳
4
回答
在C++中,长
浮点
数和双
精度
浮点
数有什么区别?
、
、
所以我知道在
浮点
数和双
精度
数的
精度
上有很大的不同。我明白了。我保证。 但是,在C++中,当调用scanf和printf时,用于指定双
精度
值的符号是"%lf",这代表长
浮点
数,对吧?因此,虽然
浮点
型
比双
精度
型
精度
低,但长
浮点
型
(假设称为长
浮点
型
,因为它可以有更多的术语而“更长”)的
精度
是相同的,因此本质上是相同
浏览 24
提问于2013-06-01
得票数 6
回答已采纳
1
回答
在toString()中使用∞而不是"infinity“
、
、
、
、
如何让Java在打印/toString
浮点
值(
浮点
型
、双
精度
、
浮点
型
、双
精度
)时使用∞符号而不是字符串"infinity“?
浏览 1
提问于2013-03-19
得票数 3
回答已采纳
4
回答
浮点
型
除法返回int - PHP 7
、
在PHP7中做应该是直接
计算
的事情。下面的代码永远不会产生一个
浮点
型
的结果。运行var_dump($C)返回int(2)$B = 0.20; 我不需要结果是
浮点
型
,我需要的是
精度
。我尝试过使用ini_set('precision', n)设置
精度
。我已经在三个环境中尝试了该代码,并获得了相同的结果。声明(float)也不起作用。 我做错了什么?
浏览 3
提问于2017-01-24
得票数 0
1
回答
Java变量数字文字
、
、
我该如何
计算
呢? (ii)为什么我需要在分号之前使用L、D、F?既然我们已经使用了关键字double,int,那么为什么我们需要在变量上使用L,D,F呢? 请帮帮我。我是编程新手。
浏览 14
提问于2020-06-23
得票数 0
回答已采纳
5
回答
对于.Net中的科学
计算
,推荐的数据类型是什么?
、
、
在.Net中进行科学
计算
时最推荐使用的数据类型是什么?它是
浮点
型
的,双
精度
的还是其他的?
浏览 3
提问于2010-08-02
得票数 9
回答已采纳
2
回答
C和C++中双
浮点
值的表示法
、
、
、
、
在C/C++中双
精度
浮点
值的表示法是什么?我很确定2.0f被解析为
浮点
型
,而2.0被解析为双
精度
型
,但是.5呢?
浏览 0
提问于2012-11-08
得票数 1
3
回答
双
精度
浮点
数的除法
、
、
我对双
精度
和
浮点
数的除法的
精度
和速度有疑问。如果它们不是双
精度
的,是否需要更多的时间来
计算
(因为改变了
浮点
数的大小以适应双倍尺寸)?
浏览 1
提问于2012-10-24
得票数 1
回答已采纳
1
回答
检查模板类型并进行相应的
计算
我正在尝试创建一个泛
型
类来处理
浮点
数和双
精度
数。我需要根据变量的类型(
浮点
型
或双
精度
型
)执行
计算
,但我不确定下面的实现是否正确。我需要一些建议。
浏览 0
提问于2013-10-03
得票数 0
4
回答
计算
浮点
数据类型的范围
有没有可能以一种可移植的方式
计算
浮点
型
、双
精度
型
和长整型双
精度
数据类型的范围,而无需读取float.h和使用ANSI?通过可移植,我的意思是包括那些当目标机器不符合IEEE754标准的情况。我正在读K&R书,练习2-1要求我“
计算
”它们,所以我想这意味着完全避免使用FLT_MIN、FLT_MAX、DBL_MIN和DBL_MAX (直接读取这些值肯定不会被归类为“
计算
”)。
浏览 6
提问于2009-02-08
得票数 5
回答已采纳
3
回答
为什么总是返回原始值?
、
、
、
我有以下函数 p_Value = "0"; if (Frequency.equals("W")) else if (Frequency.equals("F"
浏览 0
提问于2012-06-29
得票数 0
回答已采纳
3
回答
将公式转换为Java
、
我想用这个公式:并将其转换为java代码。我不认为下面的代码是正确的,因为我认为我得到了错误的结果。这是我正在处理的原始图像:B=图像链接 这是我的输出实际的样子(我的应用程序):Invert inv = new Invert();inv.setParent(this); BufferedImage img = inv.filter()
浏览 1
提问于2012-11-28
得票数 2
回答已采纳
5
回答
简单的Java泛
型
问题
、
我想有一个方法来
计算
一个整型,双
精度
和
浮点
型
的LinkedList的平均值。我该怎么办?谢谢。
浏览 0
提问于2010-09-27
得票数 0
回答已采纳
2
回答
在JavaScript中从双
精度
到
浮点
型
?
、
我的理解是,JavaScript中的所有数字都是双
精度
浮点
数。如何在JavaScript中将双
精度
型
转换为
浮点
型
?我理解精确度的损失,但这是可以容忍的。 我需要描述C风格的
浮点
数
浏览 13
提问于2016-08-05
得票数 0
回答已采纳
2
回答
CGFloat/NSTimeInterval是否会失去准确性
在用NSTimeInterval除以CGFloat时,是否会损失
精度
? 我正在尝试将NSTimeInterval转换为UIView.frame.size.width,并且当前将其转换为float。
浏览 0
提问于2012-08-11
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
js浮点数精度计算问题解决
Python modbus 浮点型数据处理
浮点型和布尔型:数据处理与逻辑判断的基石
【一问一答】Excel中因浮点运算导致的运算精度误差
Unity技术分享67-资源泄露、ETC压缩、动画文件浮点数精度
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券