假设我需要将字符变量"0.0000000001“转换为小数。有人知道如何保持小数的精确度吗？它不一定要在这里到第一百亿位是如此疯狂的情况，但至少有7或8个数字的精度将有助于我的问题。
浏览 93提问于2021-09-03得票数 0
在Google bigquery中，我只是好奇:有没有一种简单的方法可以将浮点值表示为字符串，而不会失去它的精度。------------+---------------------有没有更好的方法让float作为字符串而</
浏览 6提问于2017-06-13得票数 1
回答已采纳
我们使用decimal数据类型将财务数据存储在SQL Server数据库中，我们需要6-8位的小数精度。当我们通过数据访问层将这个值返回到C#服务器时，它将作为decimal数据类型返回。转换为字符串不是问题。正如MS文档所说的那样，转换为双精度是“从小数转换为双精度会产生舍入错误，因为双精度浮点数的有效位数少于小数”。作为双<
浏览 2提问于2011-02-19得票数 5
回答已采纳
1回答
Python的任意精度小数很不错，但我似乎找不到一种方法来以一种格式良好的方式打印它们。但是，如果我尝试格式化它以显示两位小数，它将舍入到2^70，因为浮点数不是很精确。>>> print "{0:.2f}".format(pow(2,70) -2)有没有一种方法可以用我想要的格式打印而不<
浏览 0提问于2012-01-08得票数 0
回答已采纳
假设我将双精度x转换为int，这可以通过截断自动完成。这仍然会被认为是隐式转换吗？隐式转换无法将实际值从一种类型转换为另一种类型，而不会损失该值的任何准确性。在这种情况下，我会不会将小数部分丢失为x的值？我在中找不到任何关于这方面的具体信息，所以我想在这里问一下：int y = x;
浏览 0提问于2020-11-21得票数 2
如何在不损失R精度的情况下将字符类矩阵转换为数值类矩阵？这里的expression0是我想要转移的矩阵。mpfr是Rmpfr包中的函数，用于将字符转换为数
浏览 3提问于2018-12-02得票数 0
5回答
输入字符串示例：如果我需要小数点后3位的精度，则需要输出：有没有一种方法可以做到这一点，而不是将字符串转换为
浏览 0提问于2012-04-04得票数 4
回答已采纳
有没有一种方法可以在不改变值的情况下将双精度型转换成字符串？或者，有没有一种方法可以将数字的小数部分截断到一定的小数精度并存储在long中？转换似乎向上或向下舍入，这在我的情况下不起作用。double t = 8.299877766666; 要么是包含完全相同值的字符
浏览 28提问于2021-05-11得票数 0
回答已采纳
我正在寻找在不损失精度的情况下将浮点数转换为双精度的最佳实践。到目前为止，我只发现一种正确的方法是将浮点数转换为字符串，将字符串转换为双精度。搜索Float API时，我偶然发现了这个方法doubleValue()。我原以为这是一个静态构造函数，它会在不降低精度的情况下从我的
浏览 4提问于2011-11-18得票数 1
回答已采纳
下面我有一个方法，我从网上搜索，计算C#中的Excel的排序函数。我做了一点修改以适应我的程序，但没有改变主要逻辑。 double result = percentRank( array, x); X是一个整型它的类型与percentRank方法指定采用的类型不同，但它仍然可以正常运行。我可以<
浏览 0提问于2012-09-28得票数 4
回答已采纳
在.NET中，我在一个双精度变量中有一个值，需要将其转换为具有指定小数位数的小数，并根据需要进行四舍五入。我正在寻找的答案应该有一个类似于以下内容的原型： decimal DoubleToDecimal(double value, int numberOfDecimalPlaces) 我所能想到的最好的方法是将双精度值转换为具有正确小数位数的字符串，然后将其解析回
浏览 89提问于2020-07-13得票数 0
回答已采纳
我在将像"129.70“这样的字符串转换为整数(在本例中为12970 )时遇到了一点小问题。en-US")) * 1000);}
我做了* 12969和/10的小把戏来解决这样的问题，它在99%的情况下都工作得很好，但129.70似乎是一个临界值，并被转换为有没有一种方法可以在没有任何</e
浏览 0提问于2011-04-15得票数 0
回答已采纳
我有一些输出双精度值数组的C++代码。我想在python中使用这些双精度值。传递这些值的最明显、最简单的方法当然是将它们转储到一个文件中，然后在python中重新读取该文件。但是，这将导致精度损失，因为不是所有的小数位都可以传输。另一方面，如果我添加更多的小数位，文件就会变得更大。我试图传输的数组有几百万个条目。我试着在谷歌上搜索各种编译器的这个问题，但没有得到<
浏览 0提问于2020-05-28得票数 2
我正在尝试将字符串1009转换为$10.09。我已经看了NumberHelpers的文档大约15分钟了，我发现没有任何方法可以在字符串或整数的最后两个位置之前添加小数点分隔符.，这让我有点惊讶。")然后我试着用：
number_to_currency("1009", :unit => "$", :precision =>
浏览 3提问于2015-03-24得票数 0
回答已采纳
1回答
有什么好的方法来测试一个decimal值是否可以在不抛出异常的情况下转换为double，并且更好地不需要转换到一个字符串并从一个字符串进行解析？)value;}应该使用此方法将decimal值序列化为可以发送到JavaScri
浏览 2提问于2019-11-09得票数 0
回答已采纳
4回答
将数字字符串转换为浮点型数据
、、、、
除了小数之外，执行类似于intval()的操作的PHP命令是什么？
例如：我有字符串"33.66“，我想在将它发送到MSSQL之前将其转换为十进制值。
浏览 2提问于2010-07-27得票数 6
回答已采纳
我正在使用Excel显示日志文件中的时间戳。文件原始输出中的时间戳以毫秒精度显示，这是我需要维护的。时间戳也是UTC格式的，我需要将其转换为本地时区。当我使用dateAdd函数转换为我的TZ偏移量时，它将毫秒值设置为'000‘。GetLocalTimeFromGMT = DateAdd("h", offset, dateToConvert)
有没有一种方法可以在不<em
浏览 5提问于2013-08-28得票数 0
2回答
.Net (C#)提供了两种舍入双精度值的方法，这两种方法都调用了Math.Round()，但是指定了不同的MidPointRounding选项，可以是ToEven，也可以是AwayFromZero。事实证明，对于某些值，AwayFromZero方法可能并不总是像预期的那样执行，这就是在将2.135位小数舍入到小数点后2位时的情况，其中结果是2.13，而预期结果是2.14。但是，当在ToString
浏览 0提问于2014-04-15得票数 2
我必须将浮点数的numpy数组转换为字符串(以存储在SQL DB中)，然后再将相同的字符串转换回numpy float数组。这就是我处理字符串的方法()VIstring= VIstring[:-1] #Get rid of他们是不是更好的去掉最后一个逗号的方法？或者，我可以让join方法
浏览 0提问于2013-05-10得票数 12
回答已采纳
我知道由于基数2的计算而产生的双倍问题：total *= 0.1println(total) // 0.10000000000000002我知道BigDecimal应该用于货币相关的计算，但在我的例子中，精度损失很小是可以接受的，我所需要做的所有货币计算都是将货币C1转换为货币C2，然后返回到C1。唯一的问题是，当我以5小数点<
浏览 9提问于2015-09-04得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
