腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(8785)
视频
沙龙
1
回答
对SQL Server浮点数的误解及SQLCMD的回归
sql-server
、
precision
、
sqlcmd
根据的说法,在SQL Server中,
双
精度
型
是一个具有n = 53 (8字节存储,15位精度)的浮点
型
。然而,当我运行SQLCMD从我的
数据库
中获取一行时,结果返回的不是15位精度的
双
精度/浮点数,而是17位的精度。例如:0.58974358999999998 小数的长度是17位,为什么不是
文档
中指定的15位?
浏览 0
提问于2020-04-06
得票数 0
1
回答
把替身一分为二,C#
c#
我尝试使用
双
精度值来表示
数据库
中的
双
值类型,该
数据库
有时必须接受两个值,有时只能接受一个值(int)。因此,该字段在
数据库
中是一个浮点
型
,而在我的C#代码中,它是一个
双
精度
型
(因为通过EF映射它会因为某种原因使其成为
双
精度
型
……) 所以基本上我想做的是..假设2.5是值。
浏览 4
提问于2010-05-26
得票数 1
回答已采纳
5
回答
对于.Net中的科学计算,
推荐
的数据类型是什么?
c#
、
.net
、
types
在.Net中进行科学计算时最
推荐
使用的数据类型是什么?它是浮点
型
的,
双
精度的还是其他的?
浏览 3
提问于2010-08-02
得票数 9
回答已采纳
1
回答
OCI与long double
c++
、
oracle
我正在从Oracle
数据库
11g
数据库
加载。在这里,我需要加载带有小数位的大值。在这种情况下,我需要使用long double而不是double。我不确定OCI是否支持long double。根据
文档
,SQLT_FLT仅用于浮点
型
和
双
精度
型
。谁能告诉我OCI是否支持long double,如果支持,如何检索它们
浏览 3
提问于2012-08-28
得票数 1
回答已采纳
3
回答
将公式转换为Java
java
、
math
我想用这个公式:并将其转换为java代码。我不认为下面的代码是正确的,因为我认为我得到了错误的结果。这是我正在处理的原始图像:B=图像链接 这是我的输出实际的样子(我的应用程序):Invert inv = new Invert();inv.setParent(this); BufferedImage img = inv.filter()
浏览 1
提问于2012-11-28
得票数 2
回答已采纳
2
回答
将字符串的单元格数组转换为
双
精度数组
matlab
1406200730226''1406200731023''1406200732801'我希望no将每个字符串转换为
双
精度
型
,然后再转换为
双
精度数组。例如,我使用了
推荐
的方法,但结果只是一个带有NaNs的向量。我还能做什么?
浏览 2
提问于2014-07-25
得票数 0
1
回答
不能将float8转换为Single吗?Npgsql中的System.InvalidCastException
c#
、
entity-framework
、
npgsql
我正在使用Entity Framework6和Npgsql。刚刚从Npgql.EntityFramework更新到EntityFramework6.Npgsql包的3.1.1版本。Date = 2016-08-17 15:10:58 | Severity = Exception | Source = Reflect.Logging.SimpleLog.SimpleLogLogger.LogError | ThreadId = 7 | Type = System.InvalidCastException | So
浏览 6
提问于2016-08-17
得票数 1
4
回答
如何在java中将float转换为bigDecimal?
java
、
floating-point
、
bigdecimal
如何在java中将float转换为bigDecimal?
浏览 2
提问于2010-09-30
得票数 49
2
回答
如何在MySQL中存储平均评分?
mysql
、
floating-point
、
decimal
、
rating
、
rating-system
浮点
型
,还是小数
型
?或者,如果我在PHP中将实际值四舍五入到小数点后两位,并像INT (8.323243 -> 8.32 -> 832)那样保存它,可能会更快?
浏览 0
提问于2012-05-24
得票数 3
1
回答
TDengine
数据库
UDF演示问题
tdengine
我使用的是TDengine
数据库
的UDF函数。这是输出:
浏览 6
提问于2022-10-12
得票数 0
2
回答
CUDA码的C++设计
c++
、
visual-studio-2010
、
cuda
我还必须重写代码,以
双
精度方式声明数据变量。我不希望有两组相同的代码,因为在未来的任何更改中,我都必须更改两组完全相同的代码。我还希望保持代码的整洁,同时避免过多的#ifdef在代码中的浮点
型
和
双
精度之间切换。 有没有人能
推荐
一些好的设计(在维护和“易读性”方面)?
浏览 0
提问于2013-01-21
得票数 2
回答已采纳
5
回答
在java中,浮点数和
双
精度数有多少有效位?
java
、
floating-point
一个浮点
型
有32个二进制数,而一个
双
精度
型
有64个二进制数吗?
文档
太难理解了。 是否所有位都转换为有效数字?还是小数点的位置占用了一些位?
浏览 0
提问于2012-11-25
得票数 86
2
回答
ASN.1real type包含到Java BigDecimal的映射?
java
、
asn.1
我想知道ASN.1的REAL类型是否仅映射为浮点
型
和
双
精度
型
的Java类型?谢谢。
浏览 0
提问于2018-04-04
得票数 0
1
回答
一系列数字所需的最小位数
binary
、
precision
、
point
、
floating
我正在试着找出一个关于测量压力的问题的答案。这些度量应该以二进制浮点格式存储,我的任务是在一些约束条件下确定这样做所需的最小位数;最小压力为10 Pa所以如果我理解正确的话,我可能会碰巧并且想要精确地存储它。这意味着我需要24位,因为这包括负号的1位吗?既然我们不测量负压,那么更准确的答案是23位吗? 对于最小的压强,我可以恰好测量9.9999 Pa,并且想要正确地存储,所以4个小数。因为我可以做同样类型
浏览 2
提问于2018-02-13
得票数 0
3
回答
Intel TBB中的原子
双
精度/浮点数
c++
、
atomic
、
tbb
根据
文档
,原子支持整数类型、枚举类型或指针类型的T。英特尔TBB是否正式支持浮点数/
双
精度数?我看过一些和Raf Schietekat 的补丁,它们可能包含在最新的4.0版本中,也可能没有包含在其中。从我读过的补丁来看,我注意到的唯一主要区别是将reinterpret_cast从整型增加到浮点
型
/
双
精度
型
。如果有人能澄清这一点,我将不胜感激。谢谢!
浏览 1
提问于2012-05-19
得票数 8
3
回答
为学院
推荐
笔记本电脑?
laptop
给出了具体的膝上
型
计算机要求,它们是:具有升级能力的4G内存(
推荐
8G)NVidia (
推荐
)、AMD (
推荐
)或Intel集成图形处理器内置或附加100 Mbit有线以太网(
推荐
集成1,000 Mbit有线以太网) 硬
浏览 0
提问于2017-03-23
得票数 6
4
回答
针对Microsoft SQL的
双
临时解决方案
sql
、
sql-server-2008
您是否
推荐
任何可以帮助开发Microsoft SQL 2008
双
临时
数据库
的模式/策略或产品?
浏览 0
提问于2011-04-07
得票数 1
2
回答
双
表的内部功能?
oracle
、
dual-table
如果创建
双
表,本地
数据库
会受到干扰吗?create table DUAL x varchar2(1) );
浏览 0
提问于2015-10-09
得票数 2
1
回答
Oracle:将字符串转换为
双
精度
sql
、
vb.net
、
oracle
这是我对
数据库
拉取的查询:TEMPLATE_GROUP_PROPERTIES.PROPERTYTYPE,TEMPLATE_GROUP_PROPERTIESTEMPLATE_GROUP_PROPERTIES.PROPERTYGROUPID = PROPERTYDATA.PROPERTYGROUPID) PROPERTY.PROPERTYVAL = :propValue 无论是谁创建的
数据库
我需要将字符串转换为
双
精度
型
,或者
浏览 0
提问于2013-12-16
得票数 4
回答已采纳
0
回答
Android Google Firebase
数据库
对象值
android
、
firebase
、
casting
、
firebase-realtime-database
、
type-conversion
我在Firebase中看到了许多奇怪的东西;这里有一个,我不确定是我在
文档
中遗漏了什么,还是其他人遇到了这个问题。我正在尝试将一个数字保存为
双
精度
型
,并根据小数点后是否只有非零值将其存储为
双
精度
型
;否则,Firebase似乎会将type转换为Long。当尝试在web界面中键入类似的值时,请注意此行为。在执行此语句时,取决于Firebase是否已保存为
双
精度
型
或长整型,从而确定我是否收到异常。 有什么简单的解决方法吗?我讨厌不得不想出一个复杂的解决方案来解决谷歌在保存价值
浏览 4
提问于2016-12-19
得票数 1
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
即时通信 IM
活动推荐
运营活动
广告
关闭
领券