2回答
从双精度(15,2)转换为十进制(15,2)
mysql、type-conversion
在mysql中进行双精度和小数转换时会不会有数据丢失？
浏览 4提问于2011-08-06得票数 3
回答已采纳
1回答
用表列关闭Spark计算中的舍入
apache-spark-sql、azure-databricks
我需要使用Spark在上使用两个列来计算: column1 = column2，但是它总是返回一个舍入为6个小数的结果，即使我用十进制(38，18)来设置或转换这些列。
浏览 5提问于2022-06-01得票数 1
3回答
我尝试过将双精度值转换为字符串，并使用Replace()方法将'，‘替换为'.’。我知道我漏掉了什么。如果能有一些建议，我将不胜感激。
浏览 2提问于2010-03-06得票数 5
回答已采纳
1回答
使用MySQL时是否需要PaperTrail小数秒支持？
mysql、ruby-on-rails、paper-trail-gem
由提供
这真的需要库正常工作吗？我假设如果不允许小数秒，数据就会丢失，时间戳将有最接近的整秒。
浏览 5提问于2016-08-17得票数 2
回答已采纳
7回答
为什么小数会有不同的行为？
sql、sql-server、sql-server-2005、tsql
我正在做这个小练习。set @No=12345678910111213.14151;
结果是：12345678910111213.141000 为什么前两次选择的结果是不同的，而在数学上应该是相同的？
浏览 1提问于2010-04-12得票数 0
回答已采纳
1回答
当将Number.MAX_SAFE_INTEGER乘以Math.random()时，我可能会丢失任何十进制数字(精度)吗？
javascript、math、random、numbers
当与在JavaScript中相乘时，我可能会丢失任何十进制数字(精度)吗？我想我不会，但我很高兴能得到一个可信的解释
浏览 0提问于2021-06-15得票数 1
回答已采纳
1回答
如何在不丢失/截断数据的情况下将postgres“双重精度”转换为“数值”
postgresql、precision、amazon-aurora、postgresql-10
我们的postgres表中有一个现有的列( type - double )，我们希望将该列的数据类型转换为数值，我们尝试了以下方法，但它们在最后的十进制位置上都有截断/数据丢失。直接将numericconverting转换为具有精度的数字，将scaleconverting转换为文本，然后转换为numericconverting，仅将转换为文本。我提到的数据丢失情况如下所示:如果我们有一个值23.291400909423828，那么在更改列数据类型之后，该值将转换为23.2914009094238，从而导致最后两个小数</e
浏览 0提问于2021-08-27得票数 0
4回答
C#浮点数到十进制的转换
c#、floating-point、precision
任何像这样转换浮点数的聪明方法：转换为小数(或双精度)而不损失精度？
浏览 6提问于2010-04-08得票数 18
回答已采纳
1回答
Server十进制值未正确插入
sql、sql-server
我需要保存具有最高14位精度的十进制值( decimal (20,14))。但是，如果插入的值的精度较低，则丢失的数字是随机完成的，而不仅仅是添加零。我尝试使用数据类型浮点数代替十进制，但保存的值不能达到14精度小数。有什么帮助吗？
浏览 4提问于2022-02-03得票数 -2
2回答
角显示圆号，但保持完全精度，否则
angular、primeng
input [(ngModel)]="myObject.response.value" readonly/>
返回的值总是完全精确的，例如“1.12318995165161.”但为了显示，它需要四舍五入到小数点使用PrimeNG的p-InputNumber，我可以将值舍入小数点2位，但是在这个过程中，精度会丢失。ngModel)]="myObject.response.value" [maxFractionDigits]="2" readyonly
浏览 3提问于2022-09-04得票数 0
回答已采纳
1回答
在SQL Server中使用精确小数将字节转换为GB
sql、sql-server、tsql
前2列包含以字节为单位的数据。我正在尝试将它从字节转换为GB。由于某些原因，它不能正确地反映在可用空间列中CONVERT(decimal(10,2),vmi.VMTotalMaxSize/1024/1024/1024) as [VMTotalMaxSize (GB)],CONVERT(decimal(10,2),(vmi.VMTotalMax
浏览 0提问于2019-04-01得票数 0
1回答
Sql Server 2005数据类型
sql、sql-server、types
实数、浮点数、小数和货币之间的区别是什么？最重要的是，我什么时候使用它们。就像我所理解的-- real和float是近似的。类型，这意味着它们不存储确切的值。你为什么想要这个？
谢谢
浏览 5提问于2009-10-22得票数 2
1回答
为什么浮点数不能给出精确的0值？
visual-c++
我有个问题。下面是我的密码。我想知道为什么"err3“的输出不能给出0的值？是因为数据类型是浮动的吗？err1值为-7.03125e-06，err2值为7.03125e-06，err3值为-4.547e-13。有人能帮我解释和解决这个问题吗？我有谷歌，但仍然没有得到结果。void calnormal()long numcal;float error;
float aa0 = 0, ab0 = 0, ac0 = 0, ad0 = 0;
浏览 2提问于2013-11-27得票数 1
回答已采纳
1回答
在使用标准库十进制将运算符应用于甚长十进制数时抑制科学表示法
python、decimal
992389829398023985092982398023923023.32598203985902"可以对字符串进行计算，并保留小数decimal.Decimal(value2)在应用运算符之后，将结果转换为科学表示法，并丢失
浏览 2提问于2016-03-16得票数 2
回答已采纳
4回答
如何解释数据库中数字的精度和小数位数？
sql、database、decimal、scale、precision
根据在SQL Server Management studio中查看的列上的属性，我可以看到它的意思是:decimal(数值精度，数值小数位数)。附注:我从一位同事那里找到了正确的答案，但在网上很难找到答案。
浏览 0提问于2010-03-04得票数 273
回答已采纳
1回答
在UInt64上做数学运算就是打开它
javascript、firefox-addon、jsctypes
我有一个var blah = ctypes.UInt64('65')，65真的是任何东西。我需要做数学，但当我这么做的时候：
浏览 5提问于2014-06-23得票数 0
回答已采纳
1回答
在postgresql中除以大数
postgresql、decimal、precision
我使用的是18小数位数，我决定将这个数字保存为数据库中的“数字(36)”。decimal / power(10, 18)::decimal )::decimal(36,18)预期结果5.032345678912345678结果5.0323456789123456
知道如何在不丢失信
浏览 2提问于2017-07-06得票数 3
回答已采纳
1回答
在Server 2008中将浮点数转换为十进制
sql、sql-server、casting
我想保持小数点12位的精度。) Field1"Arithmetic overflow error converting float to data type numeric"
浮点列在表中定义为长度:8精度如何正确地将其转换为小数w/输出丢失十进制精度？
浏览 2提问于2010-11-15得票数 17
回答已采纳
1回答
C++提高文本文件中字符串向量的精度
c++、file-io、vector、text-files、precision
它们只到小数点2点，我需要至少到3点。string> output_iterator(output_file, "\n");我知道向量的精度高于小数点
浏览 1提问于2015-09-11得票数 0
回答已采纳
云服务器
ICP备案
对象存储
云点播
即时通信 IM
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号