1回答
然而，我在除以双精度时遇到了问题；即使2个双精度值非常小(少于两个小数位；即使只有一个小数位，它也会失去精度)。
浏览 18提问于2020-06-17得票数 0
7回答
我正在做这个小练习。set @No=12345678910111213.14151;
结果是：12345678910111213.141000 为什么前两次选择的结果是不同的，而在数学上应该是相同的？
浏览 1提问于2010-04-12得票数 0
回答已采纳
feature_sum;mean.at(index) = feature_sum.at(index) /mapped_samples.size();但在这种方式下，feature_sum.at(index)会自动转换为double (临时副本)，我可能会失去精度我该如何解决这个问
浏览 19提问于2017-05-25得票数 3
return val
当运行所有这些时，您可以看到，当计算为82.0 / 160.0 * 100 = 51.250000时，65Over结果已四舍五入为51.2.我必须确定这样的实例将在我发布的数据中输出为51.3。
浏览 22提问于2020-02-21得票数 0
5回答
温度转换
、
然而，当我以摄氏度为单位打印温度时，我得到了错误的答案！请帮帮我！(公式是c= (5/9) * (f -32)。当我输入华氏1度时，我得到c= -0.0。
浏览 0提问于2012-12-19得票数 0
3回答
我正在进行计算，但没有得到我想要的答案。我在计算时丢失了一些比例。as numeric (28,8)) as result_2result_1：-269.33213200 (更正为6dp)如何让查询返回
浏览 0提问于2011-04-14得票数 2
回答已采纳
2回答
使双精度最大化的排序操作
、、、
我正在开发一些工具来计算在最坏情况下可以接近1e-25的数字，并将它们用Java进行比较。很明显我用的是双精度。我在中读到，我不应该期望比1e-15更高的1e-17精度，而处理的是在以“更好”的顺序排序操作时获得更好的精度。我宁愿不使用类或等效类，因为代码已经足够慢了;) (当然，除非它们不会对速度造成太大影响)。
如有任何信息，将不胜感激！但重要的是，当它们非常
浏览 5提问于2013-06-15得票数 3
回答已采纳
我有许多接受输入的字段，一个发生的过程，然后是显示输出的字段。我的问题是，由于某种原因，math.round似乎总是向下舍入，而不是舍入到最接近的整数。private void method(){ int Y= Integer.parseInt(YjTF.getText());
OutputjTF.setText(Integer.toString(outp
浏览 0提问于2013-05-29得票数 5
回答已采纳
4回答
当除法产生一个无限重复的数字时，这个数字显然会被截断以适应小数的大小。因此，1/3就变成了0.3333333333333333333。0.9999999999999999999999999999 to the console在将值0.9999999999999999999与1进行相等比较时在没有精度损失的情况下，它们将是相等的，但当然在这种情况下，比较将
浏览 0提问于2013-04-19得票数 10
回答已采纳
4回答
如何除以数字和整数？
、、、、
我试图除以2个整数，但无论如何结果都是零。我应该使用float还是别的什么？我就是不能让它工作。我尝试过浮动，但我得到了奇怪的结果。
浏览 0提问于2011-04-10得票数 3
回答已采纳
我有一些代码可以将从QueryPerformanceCounter返回的时间值转换为以毫秒为单位的双精度值，因为这样更便于计数。结果不包含任何小数，但精度甚至低于1毫秒。
当我在调试器中输入表达式时，结果与我预期的一样准确。我知道double不能保持64位整数的精度，但此时，PerformanceCounter只需要46位( double应该能够无损失地存储52位)此外，调试器使用不同的格式进行除法似乎很奇怪。更新:在进行转换和<em
浏览 9提问于2009-05-23得票数 1
回答已采纳
2回答
_10_E20_ApproximateE.main(Chapter_10_E20_ApproximateE.java:16)的java.math.BigDecimal.divide(未知来源)
我应该如何使用
浏览 2提问于2016-04-20得票数 2
回答已采纳
1回答
当除以BigDecimal时，结果可能是不终止的.因此，必须提供MathContext或RoundingMode/scale作为除法操作的一部分。但是，根据算法中的操作顺序，精度的丢失可能导致差异。在使用BigDecimals时，如何避免由于精度损失(如下面所示的示例)而造成的差异？很想知道别人是如何处理这类问题的。在测试时遇到这个示例之前，我从来没有考虑过BigDecimal操作的顺序是一个问题。现在，我
浏览 1提问于2018-02-08得票数 0
回答已采纳
在运行分析器时，我可以看到Server将值看作: 25.631229999999999
当您处理经度/纬度时，这显然是一个非常不同的值。
浏览 15提问于2022-12-03得票数 0
5回答
我想得到两个整数，一个除以另一个得到一个小数或百分数。如何获得这两个整数的百分比或小数？)我不确定它是否正确。int correct = 25;float percent = correct/questionNum *100;float percent = (correct * 100.0f) / questionNum;
(顺便说一句，我正在做一个项目，使用它作为测验检查程
浏览 1提问于2011-10-22得票数 54
回答已采纳
我有两个大小接近1000的整数向量，我要做的是检查这两个向量的平方整数之和是否相同。所以我写了以下代码：std::vector<int> array2; // in the two vectors are the same but the sequence of elements may be different.
// For example: array1=
浏览 0提问于2013-09-06得票数 4
回答已采纳
如果我在octave中键入以下内容：b = 8.0e-005;我得到了答案：但是如果我在octave中输入这个：b = 3.0e-005;我得到的答案是我是不是遗漏了什么？这不是测试平等的正确方式吗？
浏览 0提问于2012-01-28得票数 2
回答已采纳
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
腾讯云开发者
