腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(1605)
视频
沙龙
1
回答
测试
变量
是否
达到
界
限时
浮点
精度
的
影响
c++
、
loops
、
testing
、
precision
我有一个C/C++函数checkt (FLT t),其中FLT是由预处理器设置
的
浮点
精度
,我想在更大
的
代码中使用它,以确保传递给它
的
值在0,1
的
范围内。它经常用于以固定增量增加
变量
,当参数超出范围时,checkt会触发错误。在这个简单
的
例子中,我想以0.1为10个增量从0.0到1.0。但是,由于0.1不能完美地表示为0.1000000000,因此在
精度
限制下,我将在循环结束时精确地获得值1.0。如果FLT设置为double,
浏览 14
提问于2021-04-06
得票数 2
2
回答
OpenCL,一半对浮动性能
c++
、
c
、
opencl
、
gpu
、
gpgpu
我目前正在开发一个需要存储和处理大量
变量
的
应用程序(~4gb
浮点
数)。 在计算中,混合浮子和半浮子
的
性能
是否
浏览 4
提问于2012-10-16
得票数 2
回答已采纳
2
回答
在编译armv7应用程序时使用iOS会对性能产生什么
影响
?
ios
、
ios5
、
foursquare
、
armv7
、
armv6
我们
的
应用程序使用了foursquare API,我对用armv7体系结构编译是如何
影响
的
感兴趣:使用armv6体系结构进行编译
是否
在
浮点
计算
的
位置、
精度
或速度方面提供了相对
的
好处有人
测试
过这个来测量实际
的
差异吗?或者它太小了,不会有任何
影响
吗? 我想知道
是否
值得使用混合armv7 6/armv7 7构建来改
浏览 5
提问于2012-01-07
得票数 3
7
回答
关于
浮点
计算
的
准确性/
精度
,如果有的话,可以提出什么主张?
c++
、
floating-point
、
ieee-754
我在做一个做
浮点
计算
的
应用程序。我们在英特尔
的
VC++上使用双
精度
浮点
值
的
x86 .我们声称我们
的
计算精确到n位小数位数(现在是7位,但试图声称15位数)。我知道
影响
整体
精度
的
因素很多,如FPU控制状态、编译器/优化器、
浮点
模型和操作本身
的
总体顺序(即算法本身),但考虑到FP计算中固有的不确定性(例如,0.1无法表示),对所有计算都要求任何特定
精度
似乎是
浏览 9
提问于2010-02-15
得票数 5
回答已采纳
5
回答
格式值要用宽度和
精度
浮动
python
、
floating-point
我想验证一个字符串输入,以验证它
是否
可以按照给定
的
宽度和
精度
被格式化为一个有效
的
浮点
数。width = 10 "{10.4f}".format(value) print "not valid" 此
测试
失败,但应该有效,因为可以将12视为
浮点
12.0000。I也希望进行动态
测试
,因为宽度和
精度
浏览 11
提问于2014-03-24
得票数 2
回答已采纳
2
回答
为什么C#中
的
浮点
精度
在用括号分隔和用语句分隔时有区别?
c#
、
floating-point
、
precision
我知道
浮点
精度
在常规情况下是如何工作
的
,但我在C#代码中偶然发现了一个奇怪
的
情况。result2 *= dt; 从我认为
浮点
运算是左结合
的
,这意味着值是以从左到右
的
方式进
浏览 3
提问于2010-03-22
得票数 5
回答已采纳
1
回答
用Python复制C定点数学
python
、
c
、
precision
、
numerical-methods
、
fixed-point
我试图在Python中复制最初用C编写
的
DSP算法。诀窍是,我还需要保留C版本中32位不动点
变量
的
相同行为,包括有限
的
精度
会带来
的
任何数字错误。我认为目前
的
备选方案如下: 我知道python类型可以用于定点算法,但是从我所能知道
的
情况来看,没有办法调整一个十进制
变量
的
大小。据我所知,numpy不支持做定点操作。我做了一个快速
的
实验,看看摆弄十进制
的
精确性是如何
影响
浏览 0
提问于2019-06-16
得票数 1
4
回答
在元组内浮动,在访问时更改值
python
所以我有一个元组列表,每个元组有两个
浮点
数。每个元组表示一个范围。我正在浏览另一个
浮点
数列表,这些
浮点
数表示要适合范围
的
值。所有这些
浮点
数都小于1,但都是正数,所以
精度
很重要。我用来确定一个值
是否
适合某个范围
的
测试
之一在应该通过
的
时候失败了。)if curValue > range[0] and ... blah :根据curValu
浏览 3
提问于2011-07-15
得票数 2
回答已采纳
2
回答
确定
浮点
变量
的当前
精度
/感应器
c
、
double-precision
、
epsilon
我正试图用最低限度
的
金额将两倍
的
同等价值分开。上下文是一个事件模拟。我不希望事件同时发生,所以我将新事件设置为发生
的
时间增加最少。(这种情况经常发生(自我实现
的
RNG),所以我实际上需要进行探测,直到找到没有发生事件
的
时间。目前,我
的
代码想要这样做(未经
测试
,视为伪代码): { struct event* nexteventinqueue我
的
大多数时间甚至还没有<em
浏览 5
提问于2014-11-13
得票数 0
回答已采纳
1
回答
比较有理数
c++
、
operator-overloading
、
rational-numbers
= 0);}; 使用
浮点
算法实现剩余
的
关系运算符(<、>、<=、>=)
是否
可行,还是会导致容易出错
的
结果请注意,我只考虑过
浮点
数,因为交叉相乘在许多情况下会导致整数溢出。
浏览 3
提问于2015-02-16
得票数 3
回答已采纳
1
回答
在OpenGL ES 2.0 / GLSL中,哪里需要
精度
说明符?
glsl
、
opengl-es-2.0
你填入值
的
变量
是否
规定了你正在使用
的
精度
,在等号
的
右边?例如,这里
的
精度
说明符
是否
有任何含义上
的
区别:下面是另一个例子:floaty =lowp 1. * lowp 2.; 如果你取一些
浮点
数,并从它们创建一个向量或矩阵,这个向量或矩阵
是否
会
达到
浏览 1
提问于2011-03-20
得票数 57
回答已采纳
2
回答
两个
浮点
加法不会改变结果。
c
、
floating-point
、
add
、
precision
\n",loopCounter,data1); }} 我正在使用GCC编译器在Linux机器上运行这段代码,但是如果添加
的
2
浮点
数
达到
了2048.0值,它就不会再改变了。
浏览 0
提问于2017-08-30
得票数 2
回答已采纳
3
回答
在不丢失信息
的
情况下将
浮点
数转换为字符串- Python
python
、
pandas
、
floating-point
、
geopy
现在,我在熊猫
的
两个不同
的
栏里有Lat和Long,两者都是浮子型
的
。现在要使用locator.reverse(''),,输入必须是字符串。当我尝试将
浮点
数转换成字符串时,我丢失了一些改变数字形式
的
信息,例如谢谢你
的
帮助!
浏览 2
提问于2021-06-22
得票数 0
回答已采纳
1
回答
最大
浮点
变量
c++
、
double
、
floating-accuracy
、
buffer-overflow
该程序以参数为一倍,用长
浮点
值进行计算。例如double myvar= n*0.000005478554 /298477。问题是,我不确定实际
的
计算值
是否
插入到myvar中。因为当我改变它时,它产生了同样
的
东西,cout<<"myvar ="<<myvar;,c++中最大
的
类型是什么,可以用来
达到
最大
的
精度
?
是否
由于双
变量
不能保存太多
的
信息而导致
浏览 1
提问于2014-02-13
得票数 0
2
回答
将有符号整数转换为二进制
浮点
数比逆运算便宜吗?
c++
、
casting
、
floating-point
、
integer
、
cross-platform
我很好奇,把一个整数转换成
浮点
数
是否
也很昂贵,因为我在这个问题上找到
的
所有材料都只谈到从
浮点
到整数
的
转换有多昂贵。 在别人说“你为什么不直接
测试
一下”之前?我不是在讨论特定体系结构上
的
性能,而是对遵循标准
的
跨多个平台
的
转换
的
算法行为感兴趣。在一般情况下,转换算法有什么固有的
影响
性能
的
东西吗?从直觉上讲,我认为从整数到
浮点
数
的
转换通常更容易,原因如
浏览 5
提问于2015-12-03
得票数 5
回答已采纳
4
回答
使C
浮点
文字浮动(而不是双倍)
c
、
gcc
、
floating-point
、
literals
众所周知,在C语言中,
浮点
文字(例如1.23)具有double类型。因此,任何涉及它们
的
计算都会被提升到两倍。if (x < 2.5) ...if (x < 2.5f) ...但是这很容易被
浏览 0
提问于2015-08-28
得票数 81
回答已采纳
1
回答
如何定期缩放2D对象?
c++
、
opengl
我正在尝试一个可变
的
比例因子,这样每一帧
的
比例都会以+或- .05
的
比例变化,这给了它一个增长/缩小
的
动画方面。 我
的
缩放因子(scale_x、scale_y和scale_z)被初始化为1.0。我想要发生
的
是,对于渲染
的
每一帧,每个比例因子都会以某个固定值(如.05)增大或缩小。理想情况下,一开始它应该在每一帧中不断减去.05,直到它
达到
一个固定值,比如0.2。它应该给人一种随着时间
的
推移而缩小和增长
的
错觉
浏览 0
提问于2014-09-11
得票数 0
1
回答
具有相同拟合值
的
回归模型,当与r中
的
等号算子相比较时,它们
的
输出为假。
r
、
regression
、
equals
给定来自odor包
的
faraway数据集
的
二次模型:> lmod6 <- lm(odor ~ polym(temp,gas,pack,degree = 2),odor) 13 14 15 -30.6
浏览 3
提问于2020-05-29
得票数 1
回答已采纳
1
回答
最大深度超过
scip
为什么scip分支会在很多
变量
上而不再调用LP求解器?我和伊波普一起办
的
。下面是我
的
输入文件和输出。
浏览 7
提问于2014-12-15
得票数 2
回答已采纳
4
回答
从i386移动到x86_64时
的
浮点
精度
c
、
64-bit
、
floating-point
我有一个为Linux x86 32位开发
的
应用程序。有很多
浮点
运算和很多
测试
取决于结果。现在我们正在将它移植到x86_64上,但是在这个体系结构中,
测试
结果是不同
的
。387个FPU对所有操作使用80位内
精度
,并且只将结果转换为给定
的
浮点
类型(
浮点
、双倍或长双),而SSE则使用操作数类型来确定其内部
精度
。我认为这是因为libm是在编译时没有fpmath覆盖
的
。 我尝试使用387仿真构建libm (gl
浏览 4
提问于2008-11-27
得票数 12
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
测试人员必学的软件快速测试方法(二)
Google发布新API,支持训练更小、更快的AI模型
如何使用python进行正确的四舍五入?这个坑有点大
Java遇到的问题,解决方法,和笔记(1)
Scratch怎么调试程序呢?看看他怎么说
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券