mysql浮点型和定点性 - 腾讯云开发者社区

文章/答案/技术大牛

发布

1回答

有哪些HiveQL可以限制，而SQL不能呢？

sql、hiveql

我计划从HiveQL迁移到SQL，但我不知道这两种语言之间的限制或关注点。我知道从SQL到HiveQL有一些限制。我想知道的是，当HiveQL迁移到SQL时，是否存在任何存储点或关注点。我做了一些研究，但没有找到。没有手术吗？

浏览 5提问于2022-07-12得票数 0

2回答

iPhone 4和iPad 2:定点运算相对于浮点运算的优势

iphone、android、ipad、floating-point、fpu

我听说iPhone 4和iPad有一个叫做VFP的浮点运算单元，它在某种程度上优化了浮点运算，甚至允许使用单指令多路复用(尽管GCC是否利用了这一点还是个疑问)。然而，我读到对于一些Android设备，使用定点而不是浮点的加速可以导致性能提高20倍。在这些设备中使用定点运算而不是浮点来实现浮点密集型代码有什么好处？

浏览 2提问于2011-04-01得票数 1

回答已采纳

8回答

我需要加快一个程序，任天堂DS，它没有FPU，所以我需要改变浮点的数学(这是模拟和慢速)为定点。我从一开始就将浮点数转换为int，每当我需要转换它们时，我就使用x>>8将定点变量x转换为实际数字，使用x<<8来转换为定点。很快，我发现不可能跟踪需要转换的内容，我也意识到很难改变数字的精确性(在这种情况下是8)。我的问题是，我应该如何使这件事变得更简单、更快？我应该创建一个FixedPoint类，还是只创建一个带有一些函数/宏来转换它们

浏览 7提问于2008-09-17得票数 55

2回答

在iPhone上将无符号字符图像转换为浮点图像的最快方法

iphone、c++、arm

我需要将无符号字符图像(640x480x1)或更小的图像转换为浮点图像进行处理。在这种情况下，由于问题的复杂性，我不能进行定点计算。我目前使用霓虹灯的过程分为两步。霓虹灯可以相当快地将整数转换为浮点型，但不能将无符号字符转换为浮点型。1)使用LUT将无符号字符图像转换为整数图像(由于我知道范围，因此不进行泛型转换) 2)使用霓虹灯将整数转换为浮点数这个过程大约需要10-15毫秒的时间来准备图像进行处理。我也可以在第一步中使用LUT直

浏览 3提问于2011-06-18得票数 1

回答已采纳

2回答

为什么RSA使用不动点类型数字？

rsa

为什么RSA使用定点数字而不是浮点数？是否有太多浮点实现可供选择？定点算法是否增加了因式分解的难度？或者是别的什么东西？浮点的额外复杂性不是会增加算法的安全性吗？

浏览 0提问于2013-05-02得票数 -1

回答已采纳

1回答

浮点到定点的转换

floating-point、vhdl、fixed、fpga

我正在创建一个使用固定点进行计算的硬件模块。但输入是浮点，因此我希望将浮点输入转换为定点(Q8.8)。我一直在尝试使用David Bishops库()来处理浮点和定点。此外，使用to_float( fixed )将fixed转换为浮点型也能正常工作。我错过了什么吗？有没有其他简单的方法来实现浮点型->的固定转换？

浏览 0提问于2015-04-29得票数 1

2回答

定点到浮点以及向后转换

floating-point、floating-accuracy、ieee-754、fixed-point

ie: IEEE双精度格式可以表示一个定点可以表示的所有数字吗？测试:数字转换为浮动pt格式，然后返回到其原始的固定pt格式。

浏览 5提问于2010-04-04得票数 0

回答已采纳

2回答

对于定点数字类，我应该坚持32位还是64位类型？

c#、int、32bit-64bit、long-integer、fixed-point

我在C#中开发了一个游戏，该游戏目前使用浮点数进行一些计算和计算。这个游戏将以网络功能和一个基本的重放系统为特色，这个系统可以随时跟踪输入和玩家的基本动作。由于浮点数被认为是不确定的属性，我已经浏览了一些关于固定点数的资源，以便为自己提供浮点的替代。我想为我的

浏览 5提问于2015-01-17得票数 3

回答已采纳

3回答

在Ruby on Rails中处理定点/精确小数的最佳方法

mysql、ruby-on-rails、ruby、floating-accuracy、fixed-point

我使用的是一个MySQL数据库，列类型为浮点型。虽然这在大多数情况下都是有效的，但有时我会在计算和舍入浮点数时遇到错误。或者在Ruby / Rails中有一种等价的方法来做定点十进制算术。我假设任何方法都需要大量的重构，我如何最大限度地避免这种情况呢？

浏览 0提问于2011-06-14得票数 1

回答已采纳

2回答

如何将Oracle NUMBER主键转换为Ado.Net消耗的SQL Server

sql-server、oracle、ado.net

我在大多数文档中都发现了将SQL Server中的数字数据字段存储为浮点型的状态，但这没有什么帮助，因为这些数字字段中有许多表示主键(使用浮点值作为主键不是一个好主意)。

浏览 4提问于2011-02-02得票数 0

回答已采纳

2回答

在财务之外使用小数

floating-point、decimal、floating-accuracy、financial

我总是听说浮点数存在舍入误差，因此，必须使用decimal类型来代替浮点数来进行金融运算。他们所说的finance是什么意思？

浏览 2提问于2013-11-07得票数 0

1回答

如何将C++中的浮点数截断为2个小数？

c++、visual-studio

我不确定如何让这个函数返回小数点后两位的float。 if (x == "X") return (a - b) * 7.5; }

浏览 0提问于2020-08-18得票数 0

1回答

值不必要地四舍五入

php、number-formatting

我有一些数据库数据，我正在做一些简单的数学运算。由于某种原因，我无法将总数四舍五入到最接近的美元。不过，我也需要包括美分信息。我确信每个itemPrice条目在数据库中都包含两个小数位。 $itemDiscount = $row2["itemDiscount"]; $itemDetailTotalUnformatted = $row2["itemQuantity"]*($itemPrice*(1-($itemDis

浏览 2提问于2012-05-24得票数 0

回答已采纳

1回答

MySQL奇怪的浮点和十进制行为

mysql、floating-point、decimal

我有一个包含float(10,5)和decimal(10,5)列的表update table1结果是：float = 100000.00000结果是：decimal = 999.999 为什么

浏览 1提问于2013-12-11得票数 3

回答已采纳

1回答

从不动点整数重构IEEE754浮点二进制

c、floating-point、ieee-754、fixed-point

我有一个使用定点数字的程序，因为我使用的CPU不支持IEEE754浮点数。但是，是否有可能将不动点(例如Q15.16整数)重构为没有FPO的IEE754浮点，以便支持type 754/FPO的CPU能够将其读取为它们的本机浮点数类型？编辑:通过使用EOF的答案作为基线，我能够创建以下代码片段，用于从不动点整数重构IEE

浏览 5提问于2020-05-03得票数 1

回答已采纳

2回答

用十进制类型累积错误？

c#、.net、decimal、rounding-error

我有一个累积十进制值的应用程序(包括加和减)。为了避免积累错误，我使用十进制类型而不是加倍类型。然而，我遇到了一种情况，这种行为与我所期望的不太一样。对于系统所能做的事情的精确性有着实际的物理限制，但是对它所要做的事情的逻辑解释应该尽可能的精确。主要的关键要求是系统的总数量不应因这些不同的操作而改变。

浏览 0提问于2013-10-08得票数 0

回答已采纳

1回答