文章/答案/技术大牛

发布

mysql精度问题

基础概念

MySQL中的精度问题主要涉及到数值类型的数据存储和计算。MySQL提供了多种数值类型，如INT、FLOAT、DOUBLE、DECIMAL等。精度问题通常出现在浮点数（FLOAT和DOUBLE）和定点数（DECIMAL）类型的数据中。

类型

FLOAT：单精度浮点数，占用4字节。
DOUBLE：双精度浮点数，占用8字节。
DECIMAL：定点数，精度和范围可以通过参数指定。

应用场景

FLOAT和DOUBLE：适用于科学计算、统计分析等不需要高精度计算的场景。
DECIMAL：适用于金融、货币计算、税务计算等需要高精度计算的场景。

常见问题及原因

1. 精度丢失

原因：浮点数在存储和计算过程中可能会出现精度丢失的问题，因为浮点数的表示方式决定了其无法精确表示某些小数。

示例：

SELECT 0.1 + 0.2;

结果可能不是0.3，而是接近0.3的一个值。

2. 范围溢出

原因：浮点数和定点数都有其存储范围，超出范围的数值会导致溢出错误。

示例：

SELECT 9999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999999

页面内容是否对你有帮助？

有帮助

没帮助

SqlAlchemy mysql毫秒或微秒精度

python、mysql、datetime、sqlalchemy、milliseconds

这是因为我在使用MySQL5.5。我已经更新到5.6.19，不再获得数据截断错误。2015-04-17 16:31:13更新:我也尝试使用COLUMN(DATETIME(6))，但得到了相同的行为。__init__(*args, **kwargs)

浏览 15提问于2015-04-17得票数 12

回答已采纳

1回答

mysql浮动数据返回不同的值

php、mysql

我试图用许多小数创建一个浮点值。我的桌子 id INT(10) NULL DEFAULT NULL,)INSERT INTO number_type_check (floatNumber) VALUES (987654321.98765);

浏览 1提问于2014-09-22得票数 0

回答已采纳

2回答

MySQL日期时间精度(joda-time，Hibernate，org.jadira.usertype，hbm2ddl)

java、mysql、hibernate、jodatime、hbm2ddl

我的数据库是MySQL。将hibernate属性hbm2ddl.auto设置为create值后，在create表中生成以下列： ...MySQL中的日期时间只有秒的精度，没有小数部分。为了使小数部分达到微秒，MySQL 5.6.4和更高的 DATETIME(precision)列(例如DATETIME(3) )具有毫秒的精度。我的问题是--有没有办法为用hbm2ddl生成的时态字段指定精度？至少，这是jadira，

浏览 9提问于2014-04-01得票数 5

回答已采纳

1回答

Rmysql查询不返回正确的值？

mysql、sql、r、rmysql

我在r中有一个查询，使用rmysql包： fk_ID_calc = (SELECT ID_calc FROM performance_db.calculationTab WHERE op_mode = '",i

浏览 3提问于2017-11-16得票数 0

回答已采纳

4回答

用PHP将毫秒的MySQL时间转换为javascript时间戳

javascript、php、mysql、timestamp、milliseconds

我有来自mysql的时间戳，比如："2016-08-03 11:11:41.04000“。此时间戳是CONCAT('date'，‘'，'time') select的结果。我需要用PHP将时间戳转换为仅数字的时间戳，这样我就可以在保留毫秒精度的情况下使用javascript中的时间戳。关于这个主题的其他问题只涉及没有MySQL毫秒片段的日期，或者简单地建议strtotime(''datestring) * 1000，这会失去毫秒精度</e

浏览 0提问于2016-08-03得票数 1

1回答

MySQL浮子类型范围与精度混淆

mysql、floating-point

我正在学习MySQL，对float的范围和精度有问题。对于浮点数，SQL标准允许在括号中关键字FLOAT后面以位为单位的精度(但不是指数的范围)的可选规范。MySQL也支持这个可选的精度规范，但精度值仅用于确定存储大小。从0到23的精度将导致4字节的单精度浮点数列.从24到53的精度会产生8字节的双精度双列.我可以毫无问题地执行insert into test value

浏览 5提问于2017-06-03得票数 4

回答已采纳

3回答

为什么MySQL将浮点数6.099999904632568截断为6.1

mysql、activerecord、floating-point

我知道浮子是一种近似，它取决于你想要的精度。但是，我不明白为什么它会将6.099999904632568转换为6.1。为什么它需要循环，而不是以最大精度停止(即6.09999990)复制代码 mysql6.099999904632568, '2018

浏览 0提问于2018-09-16得票数 0

回答已采纳

1回答

MySQL将字符串转换为毫秒

mysql

在MySQL中，我希望将以下字符串转换为日期：我在str_to_date中使用了以下格式但这似乎只在毫秒长为

浏览 7提问于2017-12-22得票数 1

1回答

MySQL中双精度和浮点数据类型的最大精度是多少

mysql、floating-point、double、sqldatatypes

在MySQL中，当您定义双精度或浮点数时，您可以像定义double(10,0)那样定义精度。我还注意到，您可以在没有精度的情况下定义这些类型(我假设这意味着最大可能的值)。这些数据类型的最大值是多少?

浏览 2提问于2011-12-26得票数 3

回答已采纳

2回答

雪花替代MYSQL格式功能

snowflake-cloud-data-platform

我们的精度存储在数据库表中。我们希望将每种货币的数量按其本身的精度进行整整。在Mysql中，这可以通过使用格式来完成，但我无法在雪花中这样做。例如，在MYSQL FORMAT(2.34, table.precision)中，如果精度为3，则返回2.340；如果精度为2，返回2.34。谢谢

浏览 4提问于2020-05-11得票数 1

回答已采纳

2回答

Rails的Mysql浮动精度问题

mysql、ruby-on-rails、activerecord

其中一些值被定义为旧Mysql数据库中的浮动。问题是，我的ActiveRecord查询返回的是圆角值，而不是实际值。如果我在旧数据库上运行查询，就会得到：+---------+-------------我使用的是MySQLdisrige5.1.51和Rails 3.0.9问题不在于新的数据库精度。这个问题发生在我试图保存数据之前。换句话

浏览 1提问于2011-08-15得票数 3

1回答

为什么datetime不是预期的以及如何修复？

ruby-on-rails-4、rspec

我不明白为什么rails datetime不匹配。下面的测试失败了，因为我的created_at日期不相同，但我不知道为什么it "renders the course as json" do get :index, format: :jsonendCoursesController renders the #index view (FAILED - 1) Fa

浏览 2提问于2014-08-29得票数 0

1回答

ZeroFill DB2小数

database、db2

我在使用DB2时遇到了问题。我有一个精度为2的小数点字段。然而，必须将精度提升为4。我想将精度之间的差值补全为零。示例1.20到1.2000 我知道在mysql中有零位。有没有类似于DB2的东西？

浏览 1提问于2016-02-27得票数 0

3回答

mysql中的浮点精度问题

mysql、types、floating-point、double

下面给出的例子，谁能给我解释一下FLOAT在mySQL中是如何工作的？我知道float是近似值，但真的有这么大的差别吗？而且只有9位数，所以这不是溢出问题，不是吗？mysql> create table t(f FLOAT(15,2), db DOUBLE);mysql> select * from t; | f

浏览 3提问于2010-12-24得票数 4

回答已采纳

1回答

货币的浮点精度:在MySQL查询中使用"round“函数与PHP

php、mysql、floating-point、precision

在MySQL数据库中，以下字段fee和rate(百分比)为DECIMAL类型，小数精度为2。SELECT ROUND(fee * (1- rate/100))),2 ) as profit既然query只是返回值，而不是将它们保存在变量中，那么精度问题*是否仍然存在*是的，我指的是保存双精度时出现的精度问题，例如1.5可能会保存为1.49999999

浏览 3提问于2015-07-28得票数 5

2回答

phpMyadmin错误sql语法

phpmyadmin

10 ) NOT NULL ,PRIMARY KEY ( studentID )MySQL说： 1064 -您的SQL语法有错误；请检查与您的MySQL服务器版本对应的手册，以获得正确的语法，以便在第1行使用text ') NOT NULL、password VARCHAR(10) NOT

浏览 0提问于2013-03-23得票数 1

1回答

MySQL浮点型舍入

mysql、database、floating-point、rounding

MySQL版本- 5.7

浏览 20提问于2020-06-22得票数 1

回答已采纳

2回答

grails / hibernate是否以毫秒为单位在PostgreSQL中存储日期？

mysql、hibernate、datetime、postgresql、grails

但是，我还需要存储精度/毫秒，我认为使用MySQL是不可能的。如果我切换到PostgreSQL，它会以毫秒精度存储我的日期吗(或者这样配置很容易)？

浏览 3提问于2010-08-23得票数 0

1回答

mssql中mysql的Datetime2等效

mysql、sql

在mssql中，什么是mysql的Datetime2？

浏览 5提问于2017-11-15得票数 4

1回答

实数是MySQL

mysql、floating-point、compare

在MySQL中比较实数时应该采取预防措施吗？payments.bill在通常的编程语言(如C/C++)中，实数(浮点数)之间的这种比较必须使用delta值作为比较精度：但我不知道MySQL是否有这样的精度问题。

浏览 13提问于2017-01-13得票数 2

回答已采纳

点击加载更多

mysql精度问题

基础概念

相关优势

类型

应用场景

常见问题及原因

1. 精度丢失

2. 范围溢出

相关·内容

SqlAlchemy mysql毫秒或微秒精度

mysql浮动数据返回不同的值

MySQL日期时间精度(joda-time，Hibernate，org.jadira.usertype，hbm2ddl)

Rmysql查询不返回正确的值？

用PHP将毫秒的MySQL时间转换为javascript时间戳

MySQL浮子类型范围与精度混淆

为什么MySQL将浮点数6.099999904632568截断为6.1

MySQL将字符串转换为毫秒

MySQL中双精度和浮点数据类型的最大精度是多少

雪花替代MYSQL格式功能

Rails的Mysql浮动精度问题

为什么datetime不是预期的以及如何修复？

ZeroFill DB2小数

mysql中的浮点精度问题

货币的浮点精度:在MySQL查询中使用"round“函数与PHP

phpMyadmin错误sql语法

MySQL浮点型舍入

grails / hibernate是否以毫秒为单位在PostgreSQL中存储日期？

mssql中mysql的Datetime2等效

实数是MySQL

热门标签

活动推荐

运营活动

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐