腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
10
回答
单精度
浮点
运算
和双精度
浮点
运算
有什么区别?
floating-point
、
precision
、
processor
、
operations
单精度
浮点
运算
和双精度
浮点
运算
有什么区别? 我特别感兴趣的是与视频游戏机相关的实用术语。例如,任天堂64是否有64位处理器,如果有,这是否意味着它能够进行双精度
浮点
运算
?PS3和Xbox360可以实现双精度
浮点
运算
,还是只能实现单精度
浮点
运算
,并且通常使用双精度功能(如果它们存在的话?)。
浏览 3
提问于2009-04-29
得票数 186
回答已采纳
6
回答
我使用的是node.
js
,并且我尝试将两个整数相加,但是,它们只是将它们放在一起
node.js
、
integer
我使用的是node.
js
,我试图将两个整数相加,但是,他们只是把它们放在一起……我查找了Float,试图对整数进行
浮点
运算
,但node.
js
无法识别float。
浏览 0
提问于2013-01-01
得票数 3
回答已采纳
2
回答
iPhone 4和iPad 2:定点
运算
相对于
浮点
运算
的优势
iphone
、
android
、
ipad
、
floating-point
、
fpu
我听说iPhone 4和iPad有一个叫做VFP的
浮点
运算
单元,它在某种程度上优化了
浮点
运算
,甚至允许使用单指令多路复用(尽管GCC是否利用了这一点还是个疑问)。然而,我读到对于一些Android设备,使用定点而不是
浮点
的加速可以导致性能提高20倍。 在这些设备中使用定点
运算
而不是
浮点
来实现
浮点
密集型代码有什么好处?
浏览 2
提问于2011-04-01
得票数 1
回答已采纳
2
回答
ARM是否支持64位
浮点
数的SIMD操作?
arm
、
precision
、
simd
霓虹灯可以对32位
浮点
数进行SIMD
运算
。但是不对64位
浮点
数执行SIMD操作。VFU不是SIMD。它只能在一个元素上进行32位或64位
浮点
运算
。 ARM是否支持64位
浮点
数的SIMD操作?
浏览 4
提问于2016-03-17
得票数 4
9
回答
使用==
运算
符比较
浮点
数/双精度值
java
、
floating-point
当我开始使用相等
运算
符比较两个
浮点
值时,我使用的代码审查工具抱怨如下。正确的方法是什么,怎么做?有没有我可以重用的助手函数(commons-*)?描述说明比较这两个
浮点
值,看看它们的值是否接近。float b; {}
浏览 44
提问于2011-07-27
得票数 19
回答已采纳
8
回答
用于嵌入式应用的
浮点
库
c
、
embedded
、
floating-point
它没有
浮点
协处理器。标准C库可以模拟
浮点
运算
,但由于它的大小,我没有使用它。undefined reference to `__adddf3'undefined
浏览 0
提问于2010-02-03
得票数 3
1
回答
在模糊化中添加
浮点
操作?
fuzzing
、
automated-testing
、
dynamic-analysis
在分析一篇软件测试论文时,我读到在模糊化技术中增加
浮点
运算
能带来什么样的好处?
浮点
操作用于软件测试的优点是什么?
浏览 0
提问于2019-07-26
得票数 0
回答已采纳
1
回答
parseDecimal in JavaScript?
javascript
、
math
、
floating-point
、
floating-point-precision
我有一些
JS
计算在进行。由于
浮点
算术通常使用数字的近似值,而不是精确值,如果将这些
浮点
数字舍入到固定的精度,则通常会得到一些细微的差别。当你与美元打交道时,人们不喜欢这些细微的差别。有人知道我如何做数学
运算
(乘法和加法),而不引入这些来自
浮点
近似的四舍五入误差?我发现另一篇文章带来了同样的问题,并确认
JS
没有内置的十进制数据类型:。你可以看到你的
JS
终端626.185.toFixed(2) == 626
浏览 4
提问于2012-06-11
得票数 3
1
回答
整数的多少位与32位
浮点
的精度匹配?
integer
、
verilog
、
point
、
floating
我正在尝试比较合成
浮点
运算
符和整数
运算
符的时间和成本,但为了正确地比较它们,我需要使用32位
浮点
数表示的整数
运算
的相同相对位数。感谢您的帮助!
浏览 1
提问于2017-09-27
得票数 0
2
回答
JavaScript零位左移和右移等价于Python?
javascript
、
python
、
bit-manipulation
、
rounding
、
floor
在JavaScript中,我们可以使用按位左移和右移
运算
符来截断
浮点
数,并将其舍入最接近的整数。示例:console.log(2.667 >> 0); //outputs 2console.log
浏览 5
提问于2015-01-20
得票数 2
回答已采纳
1
回答
使用
浮点
可以有效地模拟哪些整数
运算
?
floating-point
、
integer
、
numerical-methods
我需要在一个本机支持16位整数
运算
和32位
浮点
运算
的处理器上工作。一些以处理器为目标的算法需要高于16位的整数数学精度。最直接的选择是使用16位整数操作进行模拟。我注意到有些架构支持24位整数
运算
。因此,
浮点
单元以某种方式被用于整数
运算
。在某些情况下,是否可以使用
浮点
指令来提高效率?
浏览 1
提问于2018-11-06
得票数 1
1
回答
Elixir真的需要两组相等
运算
符(普通和严格)吗?
elixir
我正在学习Elixir,并且刚刚了解了两对相等
运算
符==、!=和===以及!==。我认为Elixir有两组相等
运算
符是错误的。他们创建了一个“严格的”相等
运算
符,用于比较整数和
浮点
数的情况。请注意,这种通过值比较整型和
浮点
型的情况是
运算
符在比较两种不同类型时的正常工作方式的例外,这会导致类型比较,而不是值比较。因此,我们对类型比较规则进行了例外处理,并添加了两个
运算
符来支持该例外。所以整型和
浮点
型可以通过值来比较,这是一种大多数人认为是糟糕的编程实践的
浏览 13
提问于2018-08-08
得票数 1
1
回答
返回整数
coldfusion
、
duck-typing
我一直在回顾asm.
js
,而且我知道它所做的事情之一就是使用按位
运算
将数字强制为整数。如果不是如果我这是否确保我只返回整数,而不是整数的
浮点
表示?
浏览 3
提问于2015-02-03
得票数 0
回答已采纳
9
回答
使用double比使用float快吗?
c++
、
performance
、
x86
、
intel
、
osx-snow-leopard
双精度值存储的精度更高,并且大小是
浮点
数的两倍,但是Intel CPU是否针对
浮点
数进行了优化?对于64位架构,答案会改变吗?
浏览 9
提问于2010-08-07
得票数 74
回答已采纳
3
回答
关系
运算
符以什么方式不服从
浮点
值的compareTo契约?
java
、
floating-point
、
compare
、
compareto
引用了约书亚布洛赫的有效Java -第二版 当与
浮点
值一起使用时,关系
运算
符在什么方面不遵守compareTo的一般契约?
浏览 3
提问于2012-10-12
得票数 11
回答已采纳
1
回答
手机CPU有独立的整数和
浮点
计算单元,可以并行工作吗?
android
、
arm
、
x86-64
、
cpu-architecture
、
arm64
在桌面CPU上,交错整数和
浮点
计算(例如
浮点
数数组:在计算数组值的同时更新整数索引)比所有整数计算要快于所有
浮点
数计算。这是因为整数
运算
和
浮点
运算
是由CPU的不同部分处理的,所以它们基本上可以同时处理。 对于较新的手机的CPU和ARM架构,总体上是一样的吗?
浏览 10
提问于2020-07-19
得票数 0
回答已采纳
1
回答
将数字从单精度
浮点
表示转换为半精度
浮点
floating-point
、
precision
为此,我创建了自己的C++类fp16,其中包含与此类型相关的所有
运算
符(算术逻辑
运算
符、关系
运算
符),同时使用带有半精度
浮点
数的数字。半精度
浮点
=1个符号位、5个指数位、10个有效位数= 16位因此,我要做的是将单精度
浮点
数转换为半精度
浮点
数: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数的半精度
浮点
数。
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
2
回答
Touch Pro 2、ARM芯片和
浮点
指令
windows-mobile
有人知道HTC Touch Pro 2中的高通MSM7200A ARM11是否支持
浮点
运算
吗?有没有办法根据处理器的名字来识别它是否支持
浮点
运算
?
浏览 1
提问于2009-08-28
得票数 1
回答已采纳
1
回答
估计CPU的性能
performance
、
cpu
、
computer-science
所以就是这样, “对于整数
运算
,a+b和a*b需要几乎相同的时间,对于
浮点
(32位)乘法,它需要大约3倍的时间。
浮点
加法和整数加法需要几乎相同的时间。对于一个20%的逻辑
运算
(无论如何都需要相同的时间),40%的加法
运算
和40%的乘法
运算
的程序,展示了如何计算在同一个CPU上将数学从整数
运算
转换为
浮点
运算
的估计性能。”
浏览 2
提问于2016-12-16
得票数 0
1
回答
有
浮点
数吗??
javascript
、
numbers
、
bitwise-operators
、
arithmetic-expressions
假设我编写了如下代码:结果为1。有人能通过显示它的内部二进制数来让我完全理解它吗?我如何一步一步地得到这个结果?
浏览 3
提问于2018-05-22
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
【一问一答】Excel中因浮点运算导致的运算精度误差
JS运算符-2
JS运算符-1
js浮点数精度计算问题解决
JS中最容易忽视的运算符in
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券