腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
CUDA中的最小/最大整数
cuda
我在文档中看到有用于单
精度
和双
精度
最小/最大
运算
的函数(例如fminf())。我假设这些都是
高度
优化的,等等。似乎没有像这样的整数函数。这是真的吗?这有什么原因吗?
浏览 0
提问于2015-05-01
得票数 11
回答已采纳
10
回答
单
精度
浮点
运算
和双
精度
浮点
运算
有什么区别?
floating-point
、
precision
、
processor
、
operations
单
精度
浮点
运算
和双
精度
浮点
运算
有什么区别? 我特别感兴趣的是与视频游戏机相关的实用术语。例如,任天堂64是否有64位处理器,如果有,这是否意味着它能够进行双
精度
浮点
运算
?PS3和Xbox360可以实现双
精度
浮点
运算
,还是只能实现单
精度
浮点
运算
,并且通常使用双
精度
功能(如果它们存在的话?)。
浏览 3
提问于2009-04-29
得票数 186
回答已采纳
1
回答
在GPU上,是否有可能通过组合double和float操作来获得更多的flops?
double
、
gpu
、
nvidia
、
amd-processor
、
flops
如果图形处理器每秒可以执行N1单
精度
运算
,而N2每秒可以执行双
精度
运算
。有没有可能,通过混合(独立的)单
精度
和双
精度
运算
来实现每秒N1+N2总
运算
,或者至少比N1和N2更大的
运算
?在英特尔/amd CPU上,我非常确定这是不可能的,因为双
精度
和单
精度
至少共享一些执行资源。但我不知道这是否适用于现代的nvidia或amd GPUs。
浏览 5
提问于2021-05-01
得票数 2
3
回答
变量类型的C#新手问题
c#
、
integer
、
double
、
type-conversion
IntPtr.Zero);我总是得到
高度
和宽度都相同的图像
浏览 1
提问于2010-03-26
得票数 1
回答已采纳
1
回答
将数字从单
精度
浮点表示转换为半
精度
浮点
floating-point
、
precision
为此,我创建了自己的C++类fp16,其中包含与此类型相关的所有
运算
符(算术逻辑
运算
符、关系
运算
符),同时使用带有半
精度
浮点数的数字。半
精度
浮点=1个符号位、5个指数位、10个有效位数= 16位因此,我要做的是将单
精度
浮点数转换为半
精度
浮点数: 对于有效位数-我使用截断,即从32位中松散13位,以获得10位有效数的半
精度
浮点数。
浏览 10
提问于2011-09-15
得票数 3
回答已采纳
3
回答
Kahan求和
algorithm
、
floating-point
额外的
精度
什么时候会有用呢? 我听说在某些平台上,双
精度
运算
比浮点数
运算
更快。我如何在我的机器上测试它?
浏览 0
提问于2011-02-09
得票数 5
1
回答
Python有限域矩阵求幂
python
、
matrix
、
modulo
、
exponentiation
、
arbitrary-precision
有没有一种简单的方法来计算(特别是幂/幂)元素是有限域的整数的矩阵,或者至少有%
运算
符支持的任意整数
精度
矩阵?我试过numpy,但问题是它使用固定
精度
的数据类型,所以它很快就溢出了……然后我尝试了渐近,因为它支持任意整数
精度
,但它似乎不支持有限域
运算
(除了逆
运算
)……
浏览 2
提问于2017-04-17
得票数 1
1
回答
向量双双浮点
运算
floating-point
、
vectorization
、
precision
、
simd
、
double-double-arithmetic
存在双
精度
浮点数不足以处理的工作负载,因此需要四
精度
浮点数。这很少在硬件中提供,因此一种解决方法是使用双
精度
,其中128位数字由一对64位数字表示。这不是真正的IEEE-754四
精度
--首先,你不会得到任何额外的指数位--但对于许多目的来说,它已经足够接近了,而且比纯软件实现要快得多。 许多计算机都提供向量浮点
运算
,最好将这些
运算
用于双
精度
运算
。
浏览 16
提问于2019-04-19
得票数 1
回答已采纳
9
回答
使用double比使用float快吗?
c++
、
performance
、
x86
、
intel
、
osx-snow-leopard
双
精度
值存储的
精度
更高,并且大小是浮点数的两倍,但是Intel CPU是否针对浮点数进行了优化?对于64位架构,答案会改变吗?
浏览 9
提问于2010-08-07
得票数 74
回答已采纳
1
回答
用asm.
js
进行高
精度
的计算实用吗?
javascript
、
html
、
math
、
fractals
、
asm.js
我的理解是Javascript只对数字使用一种数据类型,即双
精度
浮点。由于这个限制,我不能让我的程序像我希望的那样精确地绘制。请看这里的示例:有没有一种使用asm.
js
进行高
精度
计算的实用方法?有多高?
精度
需要是可调的。 如果我不得不试试,我猜既然asm.
js
确实支持整数
运算
,我可以通过使用整数数组来表示小数点后的大量数字来实现它。我可以将数字表
浏览 7
提问于2014-02-28
得票数 4
2
回答
x86/x64处理器使用哪些寄存器进行浮点
运算
?
floating-point
、
x86
、
64-bit
、
simd
、
cpu-registers
x86/x64使用SIMD寄存器进行高
精度
浮点
运算
还是使用专用FP寄存器? 我指的是高
精度
版本,而不是常规的double
精度
。
浏览 3
提问于2013-08-09
得票数 1
6
回答
float比double慢吗?64位程序运行速度比32位程序快吗?
c#
、
java
、
c++
、
c
、
static-typing
我听说现代的Intel和AMD CPU可以用双
精度
运算
比用浮点数计算快。 那么标准的数学函数(sqrt、pow、log、sin、cos等)呢?在单
精度
下计算它们应该会快得多,因为它需要的浮点
运算
应该更少。例如,与双
精度
sqrt相比,单
精度
sqrt可以使用更简单的数学公式。
浏览 10
提问于2011-04-21
得票数 15
回答已采纳
3
回答
java中双
精度
乘法的准确性?
java
、
floating-point
、
multiplication
、
double-precision
在java中,乘法
运算
符对于双
精度
值的保证
精度
是多少? 例如,2.2x100是220.00000000000003,但220是一个双
精度
数字。
浏览 3
提问于2011-06-24
得票数 7
回答已采纳
1
回答
获取用户的颤振网站位置
flutter
、
dart
、
geolocation
、
flutter-web
我目前使用的颤振地理插件访问用户的位置(纬度/经度),但它似乎还不适用于网络。我试图找到一些东西来检索用户在网页中的位置,但我找不到。
浏览 1
提问于2020-02-13
得票数 3
回答已采纳
1
回答
检查源代码,以便使用双
精度
浮点操作
linker
、
double
、
precision
我正在寻找一种简单的方法来阻止我们的项目使用双
精度
浮点操作。目前,我正在努力使用正则表达式来筛选双倍(长双,等等)。项目中的变量和常量。但是整个软件中的变量/常量/定义流很难理解。我们的单片机通过硬件支持单
精度
浮点
运算
,但不支持双
精度
浮点
运算
.我们希望通过通知用户(例如,失败的构建过程),严格禁止非预期地使用双
精度
浮点操作。有谁有检查双
精度
操作的一般方法吗?在“链接者”里?非常感谢!
浏览 8
提问于2022-06-14
得票数 0
2
回答
cuda和双
精度
浮点
运算
cuda
、
gpu
这就是我发现的:“内核只执行单
精度
浮点
运算
,有一个双
精度
浮点单元。” 这是否适用于所有计算功能(版本)?
浏览 4
提问于2012-03-27
得票数 0
1
回答
基于ECC的工作
精度
和时间常数算法?
elliptic-curves
、
timing-attack
在这些算法中,必须执行算术
运算
(如加法和乘法)。这些“内部”操作也必须在固定时间内执行,对吗?那么我猜所有中间变量的
精度
都是一样的。但是这里需要什么
精度
(例如,如果我把两个256位数相乘,我想结果需要512位)。 在恒定时间内执行这些“内部”算术
运算
的好算法是什么?
浏览 0
提问于2016-08-30
得票数 3
回答已采纳
2
回答
在nodejs中执行128位
运算
javascript
、
node.js
我们需要一种在Node.
js
程序中进行128位
运算
的方法。看起来我可以链接一个C++库来完成这个任务,但是由于它对于许多平台来说都是开源的,所以我首先想尝试一些不会引入特殊平台构建的东西。
浏览 2
提问于2014-04-21
得票数 1
回答已采纳
3
回答
如何在Dyalog APL中提高可变
精度
?
apl
、
dyalog
我知道⎕PP的值设置了
精度
,但我不能将其增加到18以上,因此我无法获得超过18位的
精度
,并且我需要对大数字进行
运算
。有什么方法可以提高
精度
吗?
浏览 0
提问于2009-06-09
得票数 2
回答已采纳
5
回答
Java中的优先级
java
、
increment
、
operator-precedence
根据优先级表,一元后缀增量和递减
运算
符比关系
运算
符具有更高的
精度
,那么为什么在这样的表达式(x++ >=10)中,关系
运算
符先求值,然后变量增加?
浏览 5
提问于2017-07-11
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
JS运算符-2
JS运算符-1
如何完成高精度整数运算?
JS中最容易忽视的运算符in
【一问一答】Excel中因浮点运算导致的运算精度误差
热门
标签
更多标签
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券