3回答
Swift中的整数除法似乎是向零取整，而不是向较低的数字取整。例如，这意味着-1 / 2将是0而不是-1。
有没有办法告诉Swift四舍五入到更低的数字？
浏览 3提问于2014-09-16得票数 7
1回答
我在谷歌上找到的所有东西都表明，下面的任一项都会将双精度数向下舍入到小数点后两位。double的值是3.3743984E7，结果是相同的。怎么了？
浏览 1提问于2012-12-19得票数 1
这是因为'a‘的值是1e18。但理想情况下，'a‘应该是(1e18+1)。请帮帮忙。
浏览 20提问于2019-08-10得票数 1
回答已采纳
在我们的数据库中，时间以秒为单位存储。我需要拉出时间，并转换为小时，最多2位小数。我有下面的sum (CAST(vt.TIMEINSECONDS AS decimal(10,2))/3600)作为AMOUNT_TAKEN
在大多数情况下，它是有效的，但有时它会显示39.9999998小时而不是40小时，并且在我运行的报告中，由于时间上的原因，它会导致问题。
浏览 0提问于2017-04-27得票数 0
1回答
我使用它来回显两个日期之间的间隔天数，但第二行回显了一个浮点数。
echo (mktime(0,0,0,10,27,2013)-mktime(0,0,0,8,18,2013))/(3600*24).'
浏览 1提问于2013-09-27得票数 0
2回答
将fpu切换为单精度
、、、、
我在fpu之前几年读到过，当切换到单精度模式时，除法和sqr的速度是正常模式的两倍。它仍然是这样的吗?这样的切换可以加快一些循环的速度，使内部产生大量的浮点代码？与第二个问题相关，例如，当进行系统(winapi)调用时，我可以在代码中自由地玩弄FPU精度吗，与fpu取整模式和系统端一样，api是否也会破坏我对它的设置？
浏览 2提问于2012-10-03得票数 3
我正在查看可以在此中看到的SNMPBEECodec我感兴趣的一个片段 int temp我想知道为什么要使用Math.floor()而不是像temp/256那样简单的整数除法。看起来简单的整数除法也会得到同样的结果。还是有技术上的差异？
浏览 0提问于2013-01-22得票数 18
回答已采纳
我的问题是，我得到的答案似乎是向下取整而不是向上取整。这可能看起来并不重要，但在大量销售的过程中，美分开始增加！Decimal retCut = rrp * retailerCut;老实说，我对数字一窍不通，整个数学函数都是我在大学里尽量避免的。谁能告诉我怎样才能使这些数字向上取整而不是向下取整？
浏览 12提问于2010-11-12得票数 11
回答已采纳
3回答
如何在jq-1.5-1-a5b5cbe中对数字进行取整、取整、取整和截断？例如，对于{"mass": 188.72}，我想要带地板的{"mass": 188}，带天花板和圆形的{"mass": 189}。四舍五入示例：5.50 --> 5 or 6截断示例：5.50 --> 5
-5.52
浏览 28提问于2019-11-27得票数 3
回答已采纳
2回答
Python2有两个除法运算符：/和//。有没有不是这样的时候？如果不是，为什么Python2会包含两个做同样事情的操作符？
浏览 0提问于2016-05-07得票数 9
回答已采纳
1回答
我正面临着一种奇怪的情况，在同一台机器上的同一个程序执行相同浮点值的Round()并不总是产生相同的结果。起初，我认为它一定是因为有点翻转或其他原因而出现故障，但它总是回来。现在，它也开始在一台完全不同的机器上发生。糟糕的结果很少出现，大约是一周一次。当他们这样做的时候，他们似乎一直在发生，直到程序重新启动。然而，这可能只是一个巧合。到目前为止，我还不能随意复制它。我考虑添加的一个检查是，Round是否一直指向相同的内存地址。还有其他
浏览 38提问于2021-01-03得票数 2
回答已采纳
2回答
bd.doubleValue();作为输入，此函数接收以下值：int decimalPlace = 2
但是，当函数返回时，返回的值是
浏览 0提问于2012-09-29得票数 1
回答已采纳
1回答
0) {
var degree = longitude / 100 | 0; //除100后取整0) {
var degree = longitude / 100 | 0; //除100后取整>= 0) {
latitude = l
浏览 5提问于2014-02-27得票数 0
回答已采纳
1回答
与使用epsilon进行浮点数比较相比，您是否可以通过将两个浮点数四舍五入到所需的精度来可靠地比较它们的等价性？
浏览 2提问于2015-08-21得票数 0
我可以使用什么有效的方法将其向下舍入为1000L？请注意，我实际上并不知道someLong == 1004L，所以我不能简单地执行someLong -= 4L;。我需要一个通用的方法。我还希望能够向下舍入到每个5而不是每个10，例如一个四舍五入到1005L的函数(因为如果我们按5取整，那么它将向上取整而不是向下取整)。
浏览 2提问于2014-04-11得票数 4
我试图将数字向下舍入，而不考虑小数点后的值。这样做的目的是从整个数字中减去四舍五入的数字，以将小数分离为新值。Double.parseDouble(splitter2);
double finfracti = splitdeci * 8;
我想做的是把结果变成整数和我尝试过的一切都运行得很好，直到我得到一个向上取整而不是向下取整的结果(这会给s
浏览 1提问于2012-05-05得票数 2
回答已采纳
我正在研究如何做一个高效的FPGA项目(朝着ASIC设计的方向)，其中包括简单的32位二进制数的除法运算。
我发现最快的方法是使用LUT (查找表)，而不是生成复杂的除法逻辑。这很好，但是，当我想到ASIC时，我想象一个物理微芯片，里面有数字逻辑，我不能想象把一整张表放在里面来产生除法。我可以理解它在FPGA中是有意义的，因为它有很多资源，包括片上存储器等，但不是在一个明确的ASI
浏览 9提问于2016-11-10得票数 0
我正在为我们的公司写一个简单的发票解决方案，必须将quantity * rate相乘，并将结果四舍五入为两位小数。Quantity: 36.5我的乘法如下所示：它会返回当它实际上应该是
1216.55我认为这是因为JavaScript是向下取整而不是向上取整。
浏览 4提问于2016-06-24得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
