在SQLite中存储浮点值会更改文件室DB中的小数精度

文章/答案/技术大牛

发布

2回答

android、sqlite、android-sqlite、android-room

我需要将价格存储在我的房间数据库中。我可以有2个小数或3个小数的小数精度，这取决于我的应用程序所在的国家。当使用android的房间库在sqlite数据库中存储浮点数甚至双精度值时，它会更改值。例如: 14.54

浏览 46提问于2018-02-27得票数 6

回答已采纳

2回答

C++中浮点变量中的指数值限制

c++

我想要一些精确形式的答案，但不是出于输入输出的目的。float a = cos ( 90*(PI/180)) gives 1.794897E-090.00000000 setprecision或其他方法无助于将值存储在变量中如何存储它？基本上，它甚至可能不是8位或9位数。我所要的就是在<

浏览 0提问于2015-07-23得票数 0

1回答

使用OPENQUERY将值插入Oracle表时的精度问题

oracle、precision、openquery

我需要通过OPENQUERY将精度为5小数位的值插入Oracle接口表，因为这些值最初存储在SQL数据库中。Oracle表列的数据类型为NUMBER (没有指定刻度/精度)。使用OPENQUERY插入值为1.4，结果是存储在Oracle表中的值为1.3999999999999999。根据甲骨文 “如果

浏览 3提问于2021-07-08得票数 0

回答已采纳

1回答

在mysql中从浮点型迁移到小数型的问题

mysql、hibernate、migration

我们在mysql中以浮点型存储货币，没有定义精度或小数位数。我们意识到货币不应该以浮点数的形式存储，而应该使用具有精度和小数位数的小数。现在我们已经定义了Decimal(16,6)来存储相同的值。现在，当我们从浮点数迁移到十进制时，我们看到了不需要的数字。例如:在</

浏览 1提问于2015-04-02得票数 2

12回答

C#哪种数据类型是精度3的最佳数据类型？

c#、.net、types、precision

我想用下面的0.000存储一个数字，它是最好使用的数据类型。另外，我猜INT是不可能的？

浏览 0提问于2009-09-04得票数 5

回答已采纳

1回答

日期时间字符串到毫秒数

datetime、sqlite

由于我将在本专栏中做很多比较，所以我认为最好将它们存储为自纪元以来的数千秒(我需要毫秒精度！！)。将传入的日期时间字符串转换为毫秒数的最佳方法是什么？我试着用strftime('%f', datetimeString) -只归还SS.SSS

浏览 1提问于2014-05-05得票数 1

回答已采纳

3回答

在Laravel中定义货币格式

laravel-5.1

我正在尝试在laravel 5.1中节省资金格式。下面是价格定义表：例如，在将土耳其语Liras保存为MySQL时，使用此格式1.00 如何解决这个问题？

浏览 3提问于2015-11-04得票数 15

回答已采纳

1回答

Grails浮点编辑和精度

grails、grails-orm

我在编辑Grails应用程序中的浮点数时遇到了麻烦。我将纬度信息存储在定义了scale的域类中： Float latitude latitude(scale:15)因此，我的脚手架视图显示15位精度。但是，我只能编辑小数点后的6位数(如果我改变了7位数的位置，什

浏览 1提问于2012-10-21得票数 0

回答已采纳

3回答

将整数添加到PHP中的浮点数，将浮点数舍入小数点后1位

php、floating-point、rounding

例如，我有这一行代码：为什么这个回归：

浏览 7提问于2010-10-19得票数 5

回答已采纳

2回答

如何在c#中安全地将双精度数转换为小数

我们使用decimal数据类型将财务数据存储在SQL Server数据库中，我们需要6-8位的小数精度。当我们通过数据访问层将这个值返回到C#服务器时，它将作为decimal数据类型返回。由于一些设计约束超出了我的控制范围，因此需要进行转换。转换为字符串不是问题。正如MS文档所说的那样，转换为双精度是“从小数转换为双精度会产生舍入错误，因为双精度

浏览 2提问于2011-02-19得票数 5

回答已采纳

2回答

MySQL存储具有高精度的纬度和经度

mysql、types、storage、latitude-longitude

我目前将lat/lng值存储在一个小数位精度为6的数据库中。但是，我需要在此数据库中存储的一些值的小数精度为12。我的数据库当前设置为lat和long lat是否可以设置存储类型，使其可以处理6个十进制或12个十进制的lat/lng<

浏览 2提问于2012-02-11得票数 3

回答已采纳

1回答

整数值，如果不在数学运算中将类型强制转换为double，则会产生令人费解的结果

visual-c++

我正在VS 2015 - x64上运行一个小的MFC项目。只是检查一个浮点运算的结果。float fScale = 0.0199999996; 只有fOffset在“for()”循环中从0更改为3000000。524288.000000 524288.0000002999999.000000 29

浏览 1提问于2020-10-23得票数 0

2回答

Coredata和NSDecimalNumber

objective-c、core-data、nsdecimalnumber

我对存储在核心数据中的十进制数有异议。当我将数字0.6789保存到数据库中时，它被保存为0.6788999999999999。我在某些地方读到，建议将十进制数列作为十进制，以保持精度，因为核心数据自动处理核心数据中十进制列的NSDecimalNumber。下面是我的实体类：@property (nonatomic, retain) NS

浏览 1提问于2015-06-02得票数 1

回答已采纳

3回答

浮点值的额外精度值

c、gcc

下面是KN King的现代编程方法中摘录的解决方案代码。);输入：预期结果:x = 12.3实际结果：x = 12.300000问题：为什么浮点数会有额外的十进制值是否设置了浮点数的默认精度，以及如何更改它(只有默认设置--我知道可以使用格式化字符串来控制printf中的</e

浏览 4提问于2013-11-24得票数 0

回答已采纳

4回答

将非常小的双精度数转换为SQL浮点数时出现问题

c#、sql、sql-server、types、floating-point

我正尝试在MS SQL2005中将C#双精度值存储为浮点数。但是，似乎有一系列小数字是有效的双精度数，但不是有效的浮点数。例如，当我尝试存储值1e-320时，我得到错误消息“提供的值不是浮点类型的有效实例”。这与SQL浮点数的文档一致，浮点</em

浏览 0提问于2009-04-23得票数 2

1回答

如何存储/显示具有15小数点精度的时间戳和双列？

cassandra、timestamp、time-series、cassandra-2.0、cassandra-3.0

我想把实验数据插入卡桑德拉，每个数据的精度都在小数点15位。+-------------------+ 我希望看到Sampling_Rate作为一个纪元时间(即1970-01-01 00:00:02.48979187011719+0000)，以及Value1来存储它的全部精度值cqlshrc文件，提高了浮点数和双精度。尽管进行了这些更改，但我得到的结果在时间戳和值

浏览 0提问于2017-10-10得票数 0

回答已采纳

4回答

在mysql中选择浮点数和小数

mysql

我正在建立一个电子商务应用程序，在那里我将存储由客户支付的金额，即高达2位的十进制数字。这笔金额将用于大量计算，如财务计算、报告等。对于这类计算，我应该选择decimal还是float？

浏览 1提问于2014-08-07得票数 1

2回答

机器和数据库中的最大小数位数

java、c++、sql、operating-system

1)对于一个浮点十进制数字，是否有一个可以存储在给定机器的磁盘上的最大小数位数？3)假设C++代码使用存储在磁盘上的确切数字，即十进制全位数。如果C++代码输出的结果数(例如乘以2)，小数位数超过db允许的数字，那么db如何处理它？抛出异常，还是将其集合到底层硬盘允许的最

浏览 0提问于2019-05-13得票数 0

回答已采纳

1回答

在android应用程序中，从另一个浮点数中减去Float.MIN_VALUE没有任何影响。

java、android、kotlin、floating-point、precision

我正在开发一个android应用程序，在这个应用程序的一部分中，我有两个浮点值，我不能让它们完全相同，因为这会在我的一个屏幕上造成错误。这个应用程序是用Kotlin编写的，但是我假设这个问题对于Java来说是相似的(如果不是完全相同的话)，因为Kotlin在幕后使用JVM。当我打开Android中的“评估”窗口时，我发现：让我重申，currentPayment是一个Float，因此不应该有任何自动转换或舍入(例如，当Flo

浏览 3提问于2022-03-02得票数 0

回答已采纳

3回答

舍入误差？

java、rounding、coin-change

它的实质是计算一定数额的钱所需的最低数额的变化。它似乎对整数(5.00，6.00，7.00)很好，但是每当我加小数位时就会搞砸。就像我说的5.25美元，应该是2块，1块钱和1毛钱。我认为这可能是四舍五入的错误，或者我的计算有问题。任何帮助都是非常感谢的。以下是代码的计算：DecimalFormat oneDigit = ne

浏览 2提问于2012-04-13得票数 1

回答已采纳

点击加载更多