Microsoft SQL Server :数字常量精度

文章/答案/技术大牛

发布

1回答

sql-server、precision、numeric

但是这个常量3.0是什么类型的呢？它似乎不是任何本机SQL Server浮点类型，它们都会产生不同的结果： select convert(numeric(11, 10), 1 / convert(real, 3)) 0.3333333333 到目前为止，我一直尝试编写3.0来获取浮点常量，就像在C这样的编程语言中所发生的那样，但

浏览 52提问于2020-12-17得票数 0

回答已采纳

1回答

SQL Server:为什么浮点型比小数型更准确

sql、sql-server、types、decimal、floating-accuracy

的代码如下：SET @B = 3SELECT 1 / @A * 3 , 1 / @B * 3 , 1 / @F * 3

浏览 14提问于2016-07-30得票数 0

回答已采纳

1回答

在where子句中使用十进制-算术溢出错误将nvarchar转换为数据类型数值

sql、sql-server

我得到了一个sql server错误，不知道如何修复它，我在带有nvarchar(30)类型的视图'Products‘中得到了一个列'NAME’，查询是在代码中动态生成的，所以不能完全更改它。我得到了“算术溢出错误，将nvarchar转换为数据类型数字”。Products WHERE NAME=12.0select * FROM Products WHERE NAME=112.0 我对这个错误感到很困惑，我知道我应该在数字周围加上引号

浏览 4提问于2014-12-02得票数 3

回答已采纳

1回答

算术溢出错误，将数字转换为数据类型数值( Server)。但是列足够大，足以包含数据。

sql-server

在将数据插入Server表时，会收到以下错误：我们插入的数据如下所示： INSERTED.ID VALUES(0, 'Blah Blah', 6202, 2,

浏览 0提问于2021-01-18得票数 -3

回答已采纳

3回答

SQL十进制= .NET中的什么？

.net、sql

要在.NET中表示小数，SQL中的最佳数据类型是什么？我们希望存储具有高达9位小数精度的小数，并希望在前端避免舍入误差等。

浏览 2提问于2008-10-23得票数 16

4回答

C#中纬度/经度值的双精度或十进制

c#、latitude-longitude、geopoints

我会使用十进制的精确度，但对十进制浮点数的运算比二进制浮点数(双精度)要慢。据我了解，大多数情况下，纬度或经度的精度不需要超过6位或7位。那么，doubles的不精确度还重要吗，或者可以忽略它？

浏览 4提问于2015-01-21得票数 110

5回答

在sql server中使用除法得到值"18.18181818181818“？

sql-server

如何从SQLSERVER获取值"18.18181818181818“我使用此代码，但它给我0为什么?？我的代码中有什么遗漏的东西吗？

浏览 1提问于2011-11-03得票数 3

回答已采纳

1回答

无法使用ODBC将SQL_TYPE_TIMESTAMP值绑定到MS SQL server (HY104:无效的精度值)

c++、sql、sql-server、odbc

我试图使用ODBC将一个SQL_TYPE_TIMESTAMP值绑定到MS数据库中的DATETIME和/或时间戳列，但它失败了，出现了以下错误：有人知道问题出在哪里吗？，对于时间戳类型，它应该是：秒精度(分<em

浏览 3提问于2016-12-01得票数 1

回答已采纳

2回答

SQL类型转换的怪癖

sql、sql-server、casting、sql-server-2014

我一直使用转换(而不是强制转换)，因为我假设前者可以识别类型并进行适当的转换，而后者只是尝试以不同的方式解释字节流。但是刚刚了解到CAST=CONVERT在大多数情况下都是如此！select cast(0x65 as varchar(5))e -----编辑:查询是从SSMS运行的。

浏览 0提问于2018-07-18得票数 2

2回答

实体框架核心是在c#中将浮点型(db数据类型)转换为双精度型时添加数字

sql-server、asp.net-core、entity-framework-core、double、converters

我有一个SQL表，它有两个列Latitude和Longitude，值分别为29.47731和-98.46272。在SQL server中，列数据类型是浮点型。数据类型，它会添加额外的数字，如-98.4627199999999。我怎样才能避免这种情况？它应该返回与数据库中相同的值。

浏览 16提问于2020-09-04得票数 1

1回答

固定精度和可变精度有什么区别？

sql-server

我查看了SQL server中所有数字数据类型的差异，我看到了一个回答：我知道精度是数字中的数字数。具体来说，我不知道固定精度和可变精度之间有什么区别。

浏览 1提问于2018-12-30得票数 0

回答已采纳

6回答

SQL Server自动舍入？

sql、sql-server、rounding

float(53)PRINT @whatTheHell 我不明白，因为提到这个： SqlServer Float应等同于c# double。

浏览 0提问于2009-06-12得票数 2

回答已采纳

4回答

Server:用数字文字进行计算

sql-server-2005、floating-point、precision

我用浮点计算做了一些测试，以尽量减少精度损失。我无意中发现了一个我想在这里展示的现象，并希望得到一个解释。进行显式转换时结果是我真的必须把它们投到float中才能获得更高的精度</

浏览 3提问于2009-07-02得票数 12

回答已采纳

1回答

与SQL数据类型关联的已定义常量列表？

sql、tsql、azure-sql-database

与IBM Informix的SQL数据类型关联的已定义常量及其整数值的引用this list。我的问题是，Microsoft SQL Server是否有这样的常量列表？特别是Azure中的T-SQL？

浏览 6提问于2019-03-05得票数 0

回答已采纳

1回答

将.NET类型映射到SQL* Server200数据类型*

sql-server-2008、types

如何在SQL Server2008数据类型中存储.NET double？当我试图在一个数字(16，16)列中存储一个双精度值时，我得到一个异常‘参数值'1.3465492655247000’超出范围‘。因为数字有16位小数，前面有一个1。数字(16.16)是我可以在SQL Server中为该类型设置的最大值。我在C#中创建了一个ADO.NET数据集，并将列设置为decimal。我把双精度数改成了小数点。此显示SQL

浏览 0提问于2011-10-06得票数 0

回答已采纳

3回答

在SQL* float列中插入一个值会产生奇怪的结果*

sql、sql-server、floating-point

我正在尝试将一个值(40.33)插入到SQL Server 2000中的一个字段中，该字段恰好是一个浮点型。我在应用程序中看到的每个地方(通过一些日志记录)都向存储过程发送了40.33。当我在调用发生时对数据库运行SQL Profiler时，我在跟踪中看到的值是4.033000183105469e+001 所有额外的垃圾从哪里来( 183105469)？

浏览 0提问于2008-10-29得票数 4

回答已采纳

1回答

Server双精度数据类型是IEEE 754标准的实现吗？

sql-server

不过，数据类型的Server文档非常简洁，没有提到标准一致性。考虑到它使用8个字节，它可能是IEEE 754双精度的实现.

浏览 3提问于2014-02-25得票数 0

2回答

遗留数据库中的upsize_ts列-这是什么意思？

sql、sql-server、database、database-design

浏览 0提问于2013-01-02得票数 10

回答已采纳

2回答

变量在传递查询'ODBC Connect Str‘中

ms-access

我试图在Microsoft中的SQL传递查询中的属性'ODBC Connect Str‘中使用全局常量变量(在独立模块中)。要明确地说，我使用的是，我理解如何在VBA中实现它。;• ODBC;Driver=SQL Server;Server=" & drtHostname & "; • "ODBC;Driver=SQL Server</

浏览 4提问于2014-01-13得票数 0

5回答

.NET小数到SQL* Server小数的良好映射是什么？*

.net、sql-server、decimal

我必须将一些C#代码与SQL Server接口，并且我希望在数据库中存储值时具有与我的C#代码一样高的精度。我使用.NET的decimal类型之一作为值。在SQL Server中，我将对此值使用什么数据类型/精度？我知道SQL Server decimal类型最有可能满足我的需求。我的问题是，我应该使用多大的小数位数和精度来匹配.NET的decimal类型？

浏览 0提问于2010-07-01得票数 39

回答已采纳

点击加载更多