假设我们有一个System.Decimal号码。(换句话说，这些参数的定义类似于SQL小数加上一些附加参数，以解释分数部分中尾随零的System.Decimal概念。)4EffectivePrecision: 5EffectiveScale: 2精密度:7比例尺：
给定任意的System.Decimal，我如何有效地计算所有四个参数，而无需转换为字符串并检查字符串？或者，将这些精度解释为零就可以了。
浏览 8提问于2009-04-18得票数 26
回答已采纳
我第一次使用LINQ，希望在SQL中有一个money类型，但我的域对象属性是double类型时，让映射起作用。如何在XML文件或代码中表达这一点，以便映射不会抛出常见的“无效类型转换”异常？
浏览 1提问于2008-08-19得票数 1
回答已采纳
在我们的实际应用程序中，当尝试将值99转换为System.Decimal时，我们会得到一个System.Decimal。引发此异常是因为SqlDecimal的精度高于System.Decimal的精度。所以我可以写但很明显，这是一种缓慢而低效的方法，我们需要进行数十亿这样的计算请不要讨论为什么我们使用SqlDecimal类，而不仅仅是S
浏览 4提问于2016-05-26得票数 3
3回答
我不得不将一些C代码(在Linux机器上运行的)转换成.Net，并且发现了一些长双精度的操作。它们不是特殊的运算，只是一些以许多小数结尾的乘法和除法，似乎是因为它的大小而使用了类型。我正在考虑将这些值相乘，然后在末尾再除以看看是否有帮助，因为代码在末尾无论如何都会返回短值，另外，我不知道原始的二进制文件是否真的使用了long double所能提供的所有大小，或者它是否只是使用了一个普通的64位双精度数如果你认为这不是一个好主意，你知道有什么类或结构可以用来包装和模拟长双精度吗？用C/C++编写一
浏览 3提问于2011-08-09得票数 1
回答已采纳
1回答
现在，我想记录比特币、电子邮件和erc20令牌交易。---CurrencyIDDebitAmount decimal(18, 4)加密货币的十进制精度建议如下将DebitAmount和CreditAmount直接更改为decimal(30, 18)。任何可能的影响，我需要注意的原始货币数额换算时，我提高了精度(例如。汇率变动Debi
浏览 0提问于2019-09-16得票数 1
执行以下选择查询：在这种情况下，我得到的类型代码是OCCI_SQLT_NUM，但是精度和比例尺都是这是什么意思(0精度和比例尺)？这是个虫子吗？
如果不知道精度/比例尺，程序的类型安全性、语义和正确性就会岌岌可危，因为无法决定是将其视为整数还是浮点。那么，类型是如何计算的呢？
浏览 1提问于2016-12-22得票数 2
1回答
我试图在SQL中添加一个计算出的十进制列，该列以货币格式计算订单总数(小数点2位)。预期的精度为8，刻度为2。我的公式是我遇到的问题是，最终的精度是27和scale 4，我无法在列属性中编辑这一点或者，是否有另一种方法可以添加计算的十进制，使我能够保持指定的精度和比例？
浏览 3提问于2022-08-20得票数 -2
-----------------------------你可以看到结果是0.0000005000，它的规模似乎被缩小为DECIMAL(X,10)
继续提高@num1 1的精度我想问的是，在计算出两个十进制数值之后，精确的精度和比例是多少。如果我们乘以两个小数位数，似乎会有严重的精度损失。以下脚本将给出完全错误的结果，由于精度的损失，这将圆周分数超过了结果的规模。
浏览 1提问于2020-07-27得票数 2
回答已采纳
2回答
我试着把两个值相乘。一个是小数，一个是数字。Number Decimal Total800 1.25 1000在Sql查询中，我尝试了以下操作：但是，它总是返回数字。上面是怎么做的？
浏览 0提问于2016-12-06得票数 1
回答已采纳
1回答
vb/c#十进制内部格式
、、、
比如，知道有多少位和负数是如何存储的，这意味着当你看到负数出现在你期望正数的地方时，你可以立即想到，“啊，有溢出”，而不是被深深的黑暗奥秘所迷惑。
浏览 0提问于2013-03-12得票数 5
回答已采纳
2回答
我认为答案是肯定的，但我不确定，因为小数不是浮点数，而是一个固定精度的数字。
我主要在寻找.NET，但是一个通用的答案也是有用的。
浏览 0提问于2012-02-07得票数 5
回答已采纳
--如果值不适合默认的精度和比例，它们将被静默截断。显式地指定server列类型，该列类型可以使用“HasColumnType”来容纳“OnModelCreating”中的所有值，使用“HasConversion”指定精度和缩放，或者使用“HasConversion(强调地雷)
我知道如何设置精度和比例尺，但我想知道EF的默认值？？decimal、float或double的默认精度和比例究竟是多少？
浏览 11提问于2021-12-09得票数 3
回答已采纳
2回答
如何计算Pascal VOC主板检测任务的平均精度( mAP )？上面写着-在第11页：
平均精度(AP)对于VOC2007挑战，采用插值平均精度(Salton和Mcgill 1986)对分类和检测进行了评价。对于给定的任务和类，精度/召回曲线是根据方法的排序输出计算出来的。回忆被定义为在给定等级之上的所有正面例子的比例。精度是这个级别以上的所有例子的比例，这些例子都来自
浏览 0提问于2017-11-26得票数 40
回答已采纳
1回答
我很难理解为什么在数据库类型中以这种方式调用精度和比例尺。精度在我看来规模将是一个数字可以上升或下降的程度。例如，0- 1000是比0- 10更大的尺度，甚至0- 1,0是比0- 1更大的尺度。数据库的精度与比例尺
然而，在数据库词典中，它有着不同的含义，精度是指一
浏览 0提问于2018-05-24得票数 3
回答已采纳
2回答
DECLARE @B as numeric(36,14) = 1
select cast(@B as decimal)/cast(@A as decimal)numeric(36,14)是否足够好到具有很好的精度(就像第二个查询一样)？如果我只使用numeric，而不是numeric(36,14)，那么我又有了很好的精度：
select cast(@B as numeric)
浏览 1提问于2014-11-04得票数 2
回答已采纳
1回答
假设我有两个数字num1(p1,s1)和num2(p2, s2) (其中p和s分别表示精度和比例尺)。谢谢。
浏览 0提问于2012-09-19得票数 4
1回答
根据本文发布的页面BCubed查准率和召回率，F1测度计算是评价聚类性能的最佳方法。请参阅
据我所知，我们计算了每一项的精确性和召回量，然后取其总和的平均值？
根据上述聚类均匀性例子--左侧的图像，计算出BCubed的精度如下，但不匹配。项目的BCubed精度是其集群中具有项的类别(包括其本身)的项的比例。总体BCubed<e
浏览 1提问于2016-04-06得票数 2
我正在使用DataTable类的计算方法来计算和表达。当值是一个整数时，计算有效，当表达式是十进制值时，计算失败。我得到了一个"System.FormatException“例外。下面是示例代码：var passingResult = dt.Compute("CONVERT('100', 'System.Decimal') >3", null);
浏览 7提问于2015-07-31得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
