腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
视频
沙龙
1
回答
有哪些HiveQL可以限制,而SQL不能呢?
sql
、
hiveql
我计划从HiveQL迁移到SQL,但我不知道这两种语言之间的限制或关注点。我知道从SQL到HiveQL有一些限制。 例如,1:SQL可以按一个"FROM“语句设置两个或多个表,但HiveQL不能。2:SQL可以按列排序,列不是"SELECT",但HiveQL不能。3:SQL可以在"WHERE”语句中使用" in“,但HiveQL不能。等等。 我想知道的是,当HiveQL迁移到SQL时,是否存在任何存储点或关注点。我做了一些研究,但没有找到。没有手术吗? 谢谢。
浏览 5
提问于2022-07-12
得票数 0
2
回答
定点到浮点以及向后转换
floating-point
、
floating-accuracy
、
ieee-754
、
fixed-point
正在转换固定的点。(用于分数的固定n位)到IEEE双安全? ie: IEEE双精度格式可以表示一个定点可以表示的所有数字吗? 测试:数字转换为浮动pt格式,然后返回到其原始的固定pt格式。
浏览 5
提问于2010-04-04
得票数 0
回答已采纳
1
回答
值不必要地四舍五入
php
、
number-formatting
我有一些数据库数据,我正在做一些简单的数学运算。由于某种原因,我无法将总数四舍五入到最接近的美元。不过,我也需要包括美分信息。我确信每个itemPrice条目在数据库中都包含两个小数位。 if (strpos($row2["itemDiscount"],'%') !== false) { $itemDiscount = $row2["itemDiscount"]; $itemDetailTotalUnformatted = $row2["itemQuantity"]*($itemPrice*(1-($itemDis
浏览 2
提问于2012-05-24
得票数 0
回答已采纳
1
回答
从不动点整数重构IEEE754浮点二进制
c
、
floating-point
、
ieee-754
、
fixed-point
我有一个使用定点数字的程序,因为我使用的CPU不支持IEEE754浮点数。 首先通过查找指数将标准IEEE754s转换为不动点,然后通过手动访问内存中所述IEE754浮点的位数等方法,我一直做得很好。在转换之后,我就可以做定点计算了。 但是,是否有可能将不动点(例如Q15.16整数)重构为没有FPO的IEE754浮点,以便支持type 754/FPO的CPU能够将其读取为它们的本机浮点数类型?是任何地方的代码或例子,CPU的FPO单元实际上如何在原始字节操作中进行这种转换,还是仅仅是一些在软件中无法实现的黑魔法?很明显,我不是在寻找超精确的转换。 到目前为止我看到的所有答案都是使用FPO的。例
浏览 5
提问于2020-05-03
得票数 1
回答已采纳
1
回答
如何将C++中的浮点数截断为2个小数?
c++
、
visual-studio
我不确定如何让这个函数返回小数点后两位的float。 float calcPrice(float a, float b, string x) { if (x == "X") return (a - b) * 7.5; else return (a - b) * 9.75; }
浏览 0
提问于2020-08-18
得票数 0
2
回答
用十进制类型累积错误?
c#
、
.net
、
decimal
、
rounding-error
我有一个累积十进制值的应用程序(包括加和减)。为了避免积累错误,我使用十进制类型而不是加倍类型。然而,我遇到了一种情况,这种行为与我所期望的不太一样。 我有x=a+ b,其中a= 487.5M,b=433.333333333333333333333333333335M。 计算加法,得到x=920.833333333333333333333333334M。 然后,y=967.87500000000000000000000000001M。 我想断言y-x=y-a- b。但是, Y-x=47.04166666666666666666666667 Y-a-b=47.041666666666666666
浏览 0
提问于2013-10-08
得票数 0
回答已采纳
1
回答
整数的多少位与32位浮点的精度匹配?
integer
、
verilog
、
point
、
floating
我正在尝试比较合成浮点运算符和整数运算符的时间和成本,但为了正确地比较它们,我需要使用32位浮点数表示的整数运算的相同相对位数。感谢您的帮助!
浏览 1
提问于2017-09-27
得票数 0
2
回答
在财务之外使用小数
floating-point
、
decimal
、
floating-accuracy
、
financial
我总是听说浮点数存在舍入误差,因此,必须使用decimal类型来代替浮点数来进行金融运算。他们所说的finance是什么意思?他们是否只考虑金钱,而金、铜、铁、蜂蜜、木头、毛料、谷类等仍须以实数计算,抑或任何物质资产均须以小数计算?因为你知道,如果你损失了.0000000004美分,可能不会像你损失同等数量的实际物质价值那样可怕。我只是不喜欢这种双重标准。
浏览 2
提问于2013-11-07
得票数 0
2
回答
如何将Oracle NUMBER主键转换为Ado.Net消耗的SQL Server
sql-server
、
oracle
、
ado.net
这可能是一个复合问题,因为我可能不完全理解这个问题。 我从Oracle Apex查询接口收集数据,并将结果存储在本地SQL Server实例中,以便本地应用程序可以利用这些数据。 我从中提取的Oracle数据库使用定义为NUMBER数据类型(没有定义精度或小数位数)的主键。我应该在SQL Server端使用什么数据类型来存储Oracle NUMBER字段? 我在大多数文档中都发现了将SQL Server中的数字数据字段存储为浮点型的状态,但这没有什么帮助,因为这些数字字段中有许多表示主键(使用浮点值作为主键不是一个好主意)。 我曾经尝试过在Sql Server中使用DECIMAL(38,38)
浏览 4
提问于2011-02-02
得票数 0
回答已采纳
1
回答
如何从连续的块模型生成定点代码?
matlab
、
code-generation
、
simulink
、
fixed-point
我正在尝试为控制器和对象模型生成C代码,这些模型在时间上是连续的,所以代码应该生成浮点支持。但是我的实时目标(RTlinux内核x86)不支持浮点进程。因此,我必须想出一个用定点进程生成代码的解决方案。 首先,这样做是可能的吗?如果是,那么有没有人可以发布一些可能的建议。 -- 问候
浏览 13
提问于2016-08-10
得票数 0
1
回答
不使用math.h的更快的log10函数
c
、
algorithm
对于log10函数和math.h的导入,我有一些问题。目前,这个功能的使用可能是非常关键的,我需要减少它们的消耗。 有没有一种方法可以使用不需要包含math.h库的更快的log10函数? 一些精确性:我需要一个实数的日志算法(从-100开始).至100.)并返回真实的价值。如果逼近表的速度比log10快,则可以接受在各步骤之间进行插值的近似表。
浏览 1
提问于2016-11-23
得票数 0
1
回答
在颜色混合期间,当颜色超出范围时会发生什么情况
opengl
、
blending
假设我有这样的混合方程和系数,例如,颜色超出了范围 Source color: (0.8f, 0.8f, 0.8f, 1.0) Destination color: (0.8f, 0.8f, 0.8f, 1.0) glBlendFunc(GL_ONE, GL_ONE); glBlendEquation(GL_FUNC_ADD); 颜色应该在计算后归一化还是被钳制?GL标准所定义的内容,我找不到。
浏览 0
提问于2017-11-22
得票数 0
4
回答
在Java中将浮点转换为32位定点
java
、
algorithm
、
math
、
compression
我必须在Java中将浮点转换为32位定点。 不能理解什么是32位定点? 有没有人能帮上忙呢?
浏览 5
提问于2010-08-04
得票数 13
1
回答
没有库的浮点操作
c
、
floating-point
、
embedded
、
uint32
我正在寻找一种有效的方法,以正确地做数学运算浮动值。由于我在嵌入式C中,我不想对浮点数据类型使用任何额外的库。 据我所知,正确的方法是将浮动值作为原始二进制(符号、指数、尾数)处理,然后这样操作。但我找不到任何例子来说明这究竟是如何运作的。 我正在寻找关于如何在不使用浮点数据类型的情况下执行以下操作的说明:给定一个变量int,它的值可以从0到10000。 Y=x* 0.720 + 84.234; Y=y/ 2.5; 感谢您的上网时间。
浏览 3
提问于2022-04-18
得票数 0
2
回答
大小浮点值如何用定点表示?
c
、
floating-point
、
fixed-point
我知道在没有Floating Point Units的机器上,这样的数字要么用定点表示,要么用libc模拟。 在前一种情况下,如何在定点重现非常大和非常小的FPU值?我的理解是定点的小数分辨率是有限的,这里解释: 所以,如果我尝试在C中编译一个非常小/很大的fp值,对于一台没有FPU的机器,这个数字如何在定点中被抑制?
浏览 5
提问于2020-06-30
得票数 2
1
回答
Yii2如何在迁移过程中更改双类型的精度
mysql
、
activerecord
、
yii2
我正在使用MySQL数据库,并试图更改列的精度。我需要将数字限制在逗号后面的2个零。但执行此代码后:数据库中的$this->alterColumn(offer::tableName(), 'price', $this->double(8.2)->null());列精度为空。 结果: 我做错什么了?
浏览 11
提问于2021-12-08
得票数 0
1
回答
OpenMP C-并行循环平均给出了不同的结果
c
、
parallel-processing
、
openmp
、
average
我正在尝试将我的C程序并行化,该程序读取5000个包含数据的文件,并对文件中的每一行进行平均。例如 文件1: 1 2 文件2: 3 4 输出将为: 2 3 程序运行得很好,直到我将其并行化,然后我每次运行都会得到不同的答案。程序看起来像这样: #pragma omp parallel for for(int i=0; i<numFiles; i++){ //Process FILES processFile(argv[i+2],alpha,entropySum,entropy2Sum); } 其中,processFiles在argv中打开文件,并将行i中的
浏览 1
提问于2019-01-13
得票数 0
12
回答
为什么c/c++浮点类型的名称如此奇怪?
c++
、
c
、
floating-point
、
history
、
ieee-754
C++提供了三种浮点类型: float、double和long double。我不经常在代码中使用浮点,但是当我使用浮点时,我总是会被一些无关紧要的代码行的警告所困扰,比如 float PiForSquares = 4.0; 问题是,字面值4.0是一个双精度型,而不是浮点型--这令人恼火。 对于整数类型,我们有short int,int和long int,这是非常简单的。为什么C没有短浮点型,浮点型和长浮点型?那么“双倍”到底从何而来呢? 编辑:浮点类型之间的关系似乎类似于整数。double必须至少和float一样大,long double至少和double一样大。不作其他精度/范围的保证。
浏览 0
提问于2008-12-29
得票数 16
2
回答
定点MATLAB DSP算法
floating-point
、
matlab
、
fixed-point
、
ti-dsp
我有一个关于在MATLAB中为德州仪器TMS320C64xx数字信号处理器编写算法的问题: 我有一个工作草率的实现,我的过滤器在MATLAB。我的目标是使用MATLAB嵌入式编码器将该算法转换为C,然后将其导入并加载到DSP上。 为了做到这一点,我知道我需要对我的MATLAB代码做一些事情。例如,我需要为矩阵预先分配空间,这样它就知道要使它们的大小(除非我想要为可变大小的数据而烦恼)。所有这些把MATLAB代码转换成C‘’ish代码,使MATLAB编码器能够或多或少地将它转换成代码。但是,我不知道如何确保我的数据类型(例如,我的过滤器的系数)是不动点,而不是浮点,这样MATLAB嵌入式编码器将
浏览 1
提问于2011-06-13
得票数 4
回答已采纳
2
回答
使用顶点着色器的定点算术
c++
、
algorithm
、
opengl
、
game-engine
如果我使用定点(或用1表示最小游戏单元的整数)来描述我的顶点向量,我如何设置OpenGL/eigen转换来使用它?如果我在顶点着色器中执行此操作: gl_Position = projectionMatrix * viewMatrix * modelMatrix * vec4(in_Position, 1.0) 如果我将in_Position作为GL_INT的vec3传入,同时将矩阵作为GL_FLOAT mat4传入,是否会完成正确的强制转换?有性能成本吗? 有没有可能让我的转换矩阵也是定点的? 这是用2D游戏完成的,我认为这比3D游戏更可行。我真的更喜欢准确性,因为当距离原点很远时,大地图上
浏览 1
提问于2012-12-08
得票数 4
回答已采纳
1
回答
双倍上的MySQL算子精度
mysql
、
precision
我试图用MySQL (InnoDb)存储一个货币值,我需要编写查询来聚合一些记录(sum),而且我对输出的精度有问题! 我已经将字段的类型设置为双倍,并且我的值是精确的,但是MySQL的操作符并不像我所需要的那么精确。就其价值而言,PHP的默认操作符也不够精确,但是PHP中有一些bc*函数可以做到这一点。 我想知道是否有任何方法来调整MySQL操作符的精度?包括聚合函数? 作为记录,存储到MySQL并从它检索不会影响我的值--这意味着double是我的字段的理想类型。
浏览 1
提问于2014-06-22
得票数 0
回答已采纳
7
回答
浮点与定点:优缺点是什么?
c++
、
c
、
processor
、
video-game-consoles
浮点类型通过将数字的有效数字和指数分别存储在单独的二进制字中来表示数字,以便它适合16、32、64或128位。 定点类型存储具有两个字的数字,一个表示整数部分,另一个表示超过基数的部分,以负指数、2^-1、2^-2、2^-3等表示。 浮点数更好,因为它们在指数意义上有更大的范围,但如果想要在某个范围内以更高的精度存储数字,例如只使用从-16到16的整数,则不是这样,因此使用更多的位来保存超过基数的数字。 就性能而言,哪一个具有最好的性能,或者是否存在一些比另一个更快的情况? 在视频游戏编程中,每个人都使用浮点数是因为FPU让它更快,还是因为性能下降可以忽略不计,还是他们自己做了固定类型? 为什
浏览 49
提问于2010-09-12
得票数 22
回答已采纳
1
回答
这种深度缓冲可视化是否应该是平滑的?
opengl
、
glsl
、
depth-buffer
、
ssao
我正在用SSAO调试一个,并尝试可视化我的深度缓冲区。结果如下: 我将深度和法线存储在一个16位的RGBA纹理中。这是我的深度传球着色器: // Vertex shader #version 150 core #extension GL_ARB_explicit_attrib_location : enable uniform mat4 _ViewMatrix; uniform mat4 _ViewProjectionMatrix; uniform mat4 modelMatrix; layout (location = 0) in vec4 aPosition; layout (loc
浏览 3
提问于2014-02-09
得票数 3
回答已采纳
1
回答
无法向mysql数据库插入浮点数或小数
mysql
、
sql
我想将值33.55555插入到数据库中。即使在将mysql行更改为float或decimal之后,我也无法正确执行此操作。 mysql: ALTER TABLE `test` CHANGE `test1` `test1` DECIMAL( 10,10 ) NOT NULL 插入33.55555后,它将通过以下sql命令转换为0.9999999999 ALTER TABLE `test` CHANGE `test1` `test1` FLOAT( 10,10 ) NOT NULL 将33.55555转换为1.0000000000
浏览 11
提问于2012-11-29
得票数 2
1
回答
从Excel导入只有3位小数的数值
sql
、
sql-server-2008
、
import
、
ssms
我使用Tasks -> Import -> Excel 2007将excel文件导入到我的数据库中 我的excel文件中的行的值最多只有三位小数,但是在将它们导入数据库时,数据类型float被赋予列,并且它现在在小数之后具有6数字。 我只想在我的最终用户应用程序中显示最多3位小数。有没有办法把它限制在DB中只有三位小数?
浏览 3
提问于2012-03-05
得票数 0
回答已采纳
4
回答
MongoDB是否支持浮点类型?
mongodb
、
database
、
nosql
我正在将mysql数据库迁移到mongodb。但是我读入了MongoDb数据类型,然后没有引用浮点类型,比如float,double,decimal。 我的sql模式中有一些带有decimal类型的字段,我该怎么做呢?
浏览 7
提问于2011-10-07
得票数 32
回答已采纳
1
回答
FloatBuffer和3D图形
java
、
opengl
、
lwjgl
、
floatbuffer
我一直在寻找初学者对floatBuffer是什么以及它与3D编程的关系的解释(特别是在java的LWJGL中使用)。似乎我不得不将它分配给照明和广告牌之类的东西,但我不完全理解它的用途或它是什么,有人能解释一下吗?
浏览 1
提问于2012-04-20
得票数 0
回答已采纳
1
回答
Matlab中的不动点
matlab
、
matlab-deployment
、
fixed-point
有人能解释一下这个吗? 据我所知,它提供了较少的precision..Is,这是一个人希望通过使用它来获得的加速?什么时候适合使用?我应该在Matlab Coder中使用它吗?
浏览 0
提问于2012-03-06
得票数 2
回答已采纳
1
回答
为什么会这样?-2.22044604925E-16
php
、
null
、
while-loop
、
range
、
zero
使用范围函数时,如果范围在0到1之间,并且每一步递增0.05,则当您尝试从1减去循环中的当前值时,循环会生成错误的结果。 正如您在下面看到的,数组中的最后一个元素是整数1。脚本应该返回1减1的结果。但是,由于某些原因,PHP将1-1视为-2.22044604925E-16而不是零。 重现代码: foreach (range(0,1,0.05) as $t) { echo (1-$t).'<br />'; } Expected result: ---------------- 1 0.95 0.9 0.85 0.8 0.75 0.7 0.65
浏览 3
提问于2013-09-30
得票数 0
2
回答
数字排序依据的字段类型是否正确?
mysql
、
sql-order-by
、
decimal-point
在MySQL中,数字的合适字段类型是什么? 我有一个字段,它的数字分别是0.00,4.12,99.10,130.99 因此,TINYINT或SMALLINT无效,因为它们将小数位移至0、4、131等。 当我调用VARCHAR时,我无法正确排序,因为它在130.99之后对99.10进行排序 我需要哪种类型?最大数字不会大于1000。
浏览 0
提问于2013-02-17
得票数 0
回答已采纳
4
回答
在没有C++的设备上使用定点算法的好处
c++
、
optimization
、
arm
、
fixed-point
我想为ARM设备优化我的C++代码,因为它没有浮点单元。我的大多数函数都使用浮点数,我正在考虑将它们改为定点。 在ARM设备的情况下有真正的好处吗,或者编译器是否足够聪明来自己做这件事? 例如,在ARM设备上这样做会更有效吗 //unsigned char const* input unsigned int a, b; a= *input++ << 12; b= *input++ << 12; a*=1024; //0.25 shifted 12 bits b*=1024; //0.25 shifted 12 bits *output++ = (a+b)
浏览 4
提问于2012-05-25
得票数 3
回答已采纳
4
回答
在考虑速度和安全性的情况下,从MySQL调用数据的最佳方式是什么?
php
、
mysql
有人能提供一些建议来构建既快速又安全的MySQL查询吗? 目前我使用的是典型的MySQL调用方法 $q = ("..."); $r = mysql_query($q); 但是我正在研究OOP数据库编程,所以我想知道在考虑安全性和速度的情况下,在多个页面上使用和实现哪种方法是最好的。
浏览 0
提问于2011-05-16
得票数 1
回答已采纳
5
回答
嵌入式开发板
arm
、
embedded
我是新的嵌入式开发世界,并希望得到我的第一个董事会。 经过一些研究,我意识到使用FPU的选择并不多。这在我的项目中很重要,因为我要做很多浮点计算。 我找到了,它似乎运行在ARM920T内核上。这个特殊的单元非常适合我的需求(价格不错,所有的I/O端口,还有一个触摸屏来引导),但它似乎没有FPU。我不知道我会为FP模拟付出多大的代价,所以我不确定是否要扣动扳机。 尽管如此: 是否有人能确认这个产品(Mini2440)是否有FPU? 我的项目将进行图像采集和分析。有人有在这样的平台上运行像OpenMP这样的东西的经验吗? 请建议任何其他类似的董事会在≤200美元的价格范围内,有一个FP
浏览 6
提问于2010-04-19
得票数 5
回答已采纳
1
回答
不动点卡尔曼滤波的奇异实现
filter
、
signal-processing
、
fixed-point
、
kalman-filter
我已经实现了跟踪正弦波的线性卡尔曼滤波器的几个实现。我有一个Python和一个C实现,它们都可以工作。 然而,我也开发了一个使用不动点实现的版本,它可以工作,但我看到了一种奇怪的效果,它最初似乎适合,然后偏离了其他Kalman滤波器代码的输出。 见下面的情节: 我在想,是否有人对不动点实现可能出了什么问题有一些直觉?
浏览 2
提问于2017-01-18
得票数 0
回答已采纳
1
回答
mysql:更新记录出现“截断不正确的双精度值”错误
php
、
mysql
不确定为什么会发生这种情况: mysql_query("update items set photoids=photoids+',$newphotoid' where id='$row[id]'"); photoids单元格最初是空的,但是command通过scandir()循环填充了photoids red。 和$rowid一样,$newphotoid肯定是存在的,并且总是唯一的。 完全迷失了。请帮帮我!
浏览 0
提问于2011-11-11
得票数 0
回答已采纳
1
回答
十进制与整数;给定一个固定的数值范围,哪一个更适合精确计算?
data-structures
、
math
、
persistence
、
future-proof
在与别人进行了“激烈的讨论”之后,我想为了子孙后代的利益,我会问这个问题。如果我的假设是不正确的,我愿意被纠正,但是我希望听到一个比我更有信誉的人的第三方意见。 让我们假设我们需要计算和存储以十进制格式表示的数值。然而,所有的数值输入和输出都必须符合特定的数值范围。此外,小数是很重要的,但是我们永远不会对任何小于小数位的值感兴趣。这对任何计算都是正确的。如果计算结果在10^-8范围内包含有效数字,则基本上为0。同样,如果值高于我们的上限,那么这将被认为是一个错误案例。 考虑到这些永远不会改变的固定约束,使用传统的十进制(S,p)数据类型更好,还是使用一个整数类型,它可以包含所有的值表示的值S-
浏览 0
提问于2014-10-15
得票数 4
回答已采纳
2
回答
在Ada中定义通用标量类型包
ada
我想通过制作一个处理多项式的Ada包来测试编写Ada包的难度。多项式可以被定义为一大类代数结构,所以为了反映这一点,我想让这个包变得通用,这样它就可以与浮点数、整数或其他数值子类型一起使用。 现在我想说的是,我对Ada的类型系统是如何工作的或者它的包系统是如何工作的知之甚少。在网络上似乎缺乏好的初学者Ada信息,所以我不得不从不那么新手友好的维基书籍中收集我能收集到的智慧。 页面包含一些有关类型层次结构的信息。基于此,似乎我的多项式包要基于的一个合理类型是Scalar类型,因为很明显,它是定义算术运算的类型。这就是我在polynomials.ads中尝试过的 generic MAX_
浏览 1
提问于2012-11-16
得票数 3
回答已采纳
7
回答
这些天什么时候使用固定点
optimization
、
floating-point
、
performance
、
numerical
、
fixed-point
对于密集的数字运算,我考虑使用定点而不是浮点。当然,固定点类型的大小是多少字节,它将在什么CPU上运行,如果我可以使用(对于Intel) MMX或SSE或任何新出现的东西,这都是很重要的。 我在想,如果现在浮点运算的速度比以往任何时候都快,那么是否值得考虑定点?有没有一般的经验法则,我们可以说它会比几个百分点更重要?从35,000英尺的数值性能来看,情况如何?(顺便说一句,我假设大多数计算机中都有通用CPU,而不是DSP或专用嵌入式系统。)
浏览 0
提问于2008-10-05
得票数 23
回答已采纳
1
回答
如何在vhdl中添加实数
vhdl
我正试着做这个加法 time_count_real <= time_count_real + 0.000_000_02 ; 但我面临着这个错误 cannot synthesize non-constant real objects or values 那么,我怎样才能添加实数呢?
浏览 5
提问于2014-04-08
得票数 1
回答已采纳
1
回答
快速浮点乘法
floating-point
、
embedded
我在一个嵌入式平台上工作,需要一个更快的方法来做一些算法的浮点乘法。有谁知道一个快速的实现,我可以放弃一些精度来换取速度。
浏览 1
提问于2013-05-31
得票数 0
1
回答
定点fx表示法和转换
c
、
integer
、
fixed-point
、
human-readable
我有一个fx1.15符号。基础整数值是63183 (寄存器值)。 现在,根据维基百科,它的完整长度是15比特。值不适合里面,对吗? 那么假设它是一个fx1.16值,我如何将它转换为人类可读的值?
浏览 1
提问于2012-03-04
得票数 1
回答已采纳
6
回答
定点与浮点数
numbers
、
computer-science
、
representation
我只是不能理解定点和浮点数,因为在Google上很难读懂它们的定义。但在我读过的书中,没有一个能对它们的真正含义提供足够简单的解释。我可以通过示例得到一个简单的定义吗?
浏览 2
提问于2011-09-23
得票数 133
1
回答
使用两个整数的二进制浮点数?
floating-point
、
binary
今天,我了解了浮点数是如何表示二进制的。嗯,我能理解为什么IEE-754技术标准聪明地使用相对较少的位来存储大量的数字。我也明白为什么有时候用四个4位来表示每个符号是有用的(就像你可以做的一样,对吗?),当你想要精确的数字时。 总之,我的问题是,用两个整数“只是”存储浮点数字不是更方便吗?例如,您可以将逗号前的数字表示为34位整数,将逗号后面的数字表示为30位整数。那么你能写出任何数字在+-850亿和大约9个小数位数范围内,对吗? 与双精度浮点数相比,它仍然是一个相对较小的数字范围,但据我所知,它比Cobol方法好吗? 谢谢。
浏览 3
提问于2013-12-17
得票数 4
回答已采纳
2
回答
整数或浮点数在哪种情况下都可以?
c++
、
types
、
floating-point
、
precision
、
scientific-computing
将关于整数和浮点数的相对优点的讨论转移到一个单独的问题中。这就是:在既不是整型也不是浮点型的情况下,你更喜欢整型还是浮点型?例如,在为控制良好的比例范围开发几何引擎时,您更喜欢使用最小可行单位的整数坐标还是浮点/双精度坐标?
浏览 0
提问于2013-08-26
得票数 0
2
回答
存储长浮点型MySQL
mysql
我应该在MySQL中选择哪种数据类型来存储这样的数字50.078294547389426
浏览 0
提问于2010-10-21
得票数 2
2
回答
在mysql中,两个相等值的减法不是零
mysql
为什么mysql中两个相等的值相减不等于零? 这两种字段类型都是双精度的。见下图
浏览 18
提问于2014-01-20
得票数 0
1
回答
Vulkan采样器没有显示正确的边框颜色
textures
、
vulkan
、
sampling
我用“夹子到边框”对图像之外的纹理(其格式为vk:: format ::eR8G8B8A8Unorm)进行示例,并将边框颜色设置为不透明的白色。但是我得到的渲染边框颜色总是黑色的,我找不到原因。 以下是与此相关的示例设置: vk::SamplerCreateInfo samplerInfo = {}; samplerInfo.addressModeU = vk::SamplerAddressMode::eClampToBorder; samplerInfo.addressModeV = vk::SamplerAddressMode::eClampToBorder; samplerInfo.
浏览 0
提问于2020-12-21
得票数 2
回答已采纳
1
回答
CCK Decimal和Float字段有什么区别?
drupal
、
drupal-6
、
cck
的Numer子模块提供了两个字段: decimal和float。从技术上讲,小数是浮点数,那么这两个字段有什么区别呢?
浏览 1
提问于2010-11-15
得票数 2
回答已采纳
1
回答
两个U16到浮点数的Modbus转换
math
、
protocols
我有两个相互传递实数的系统。一个接收系统不能准确地将两个U16s转换为浮点数(使用内部函数)。例如,100.15正在被转换为100.21。准确性对我的应用程序非常重要。我需要自己执行转换,但缺乏这样做的数学知识。有没有人能提供将两个Modbus U16s转换为浮点数所需的数学运算? 示例:给定123.456个Modbus通道17142和59769
浏览 3
提问于2012-09-04
得票数 0
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
mysql保证原子性和持久性的利器:undo和redo
如何实现Redis缓存和MySQL数据的一致性?
如何保障 MySQL和Redis 的数据一致性?
程序员:数据库操作,如何选择合适的数据类型?
延时双删实现MySQL和Redis的数据一致性
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券