腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(8257)
视频
沙龙
3
回答
将负整数商舍入到负无穷大
、
Swift中的整数
除法
似乎是向零
取
整
,而不是向较低的数字
取
整
。例如,这意味着-1 / 2将是0而不是-1。 有没有办法告诉Swift四舍五入到更低的数字?
浏览 3
提问于2014-09-16
得票数 7
1
回答
double的精确度降低
、
我在谷歌上找到的所有东西都表明,下面的任一项都会将双精度数向下舍入到小数点后两位。{ double myD = Double.valueOf(twoDForm.format(d));} 但对我来说都不管用。double的值是3
浏览 1
提问于2012-12-19
得票数 1
1
回答
(1e18+1) (1e18) /(1e18)的
除法
得到Python3.6中的(1e18)
、
下面是代码&对于输入n=(1e18+1)*(1e18)和k=(1e18),代码应该输出"YES“。但它会打印"NO“。这是因为'a‘的值是1e18。但理想情况下,'a‘应该是(1e18+1)。请帮帮忙。 n,k=input().split() k=int(k) a=n/k print("a is {}".format
浏览 20
提问于2019-08-10
得票数 1
回答已采纳
2
回答
如何在sql server中将秒转换和舍入为小时
、
在我们的数据库中,时间以秒为单位存储。我需要拉出时间,并转换为小时,最多2位小数。在大多数情况下,它是有效的,但有时它会显示39.9999998小时而不是40小时,并且在我运行的报告中,由于时间上的原因,它会导致问题。我怎么才能让它显示40
浏览 0
提问于2017-04-27
得票数 0
1
回答
在PHP中,两个日期之间的间隔不是整数
、
、
、
我使用它来回显两个日期之间的间隔天数,但第二行回显了一个浮点数。echo (mktime(0,0,0,10,28,2013)-mktime(0,0,0,8,18,2013))/(3600*24).'<br>';70有人能告诉我为什么吗?谢谢!
浏览 1
提问于2013-09-27
得票数 0
2
回答
将fpu切换为单精度
、
、
、
、
我在fpu之前几年读到过,当切换到单精度模式时,
除法
和sqr的速度是正常模式的两倍。它仍然是这样的吗?这样的切换可以加快一些循环的速度,使内部产生大量的浮点代码?与第二个问题相关,例如,当进行系统(winapi)调用时,我可以在代码中自由地玩弄FPU精度吗,与fpu
取
整
模式和系统端一样,api是否也会破坏我对它的设置?
浏览 2
提问于2012-10-03
得票数 3
6
回答
Java整数
除法
不给负数下限
、
、
我试着使用java的整数
除法
,它理所当然地占了上风。然而,它向零而不是地板
取
整
。
浏览 4
提问于2016-05-19
得票数 4
2
回答
为什么在误码率编解码器中使用Math.floor()而不是整数
除法
、
、
我想知道为什么要使用Math.floor()而不是像temp/256那样简单的整数
除法
。看起来简单的整数
除法
也会得到同样的结果。还是有技术上的差异?
浏览 0
提问于2013-01-22
得票数 18
回答已采纳
4
回答
怎样才能向上
取
整
而不是向下
取
整
?
我的问题是,我得到的答案似乎是向下
取
整
而不是向上
取
整
。这可能看起来并不重要,但在大量销售的过程中,美分开始增加!谁能告诉我怎样才能使这些数字向上
取
整
而不是向下
取
整
?
浏览 12
提问于2010-11-12
得票数 11
回答已采纳
1
回答
零除java整型vs双精度
、
(intResult);Infinity为什么双零
除法
返回无穷大,而
整
零
除法
抛出异常?
浏览 1
提问于2016-07-04
得票数 0
3
回答
如何舍入、求底、求底、截断
、
、
、
如何在jq-1.5-1-a5b5cbe中对数字进行
取
整
、
取
整
、
取
整
和截断?
浏览 28
提问于2019-11-27
得票数 3
回答已采纳
1
回答
在python中调用.describe函数时,如何规范化列?我想要2位小数的输出
、
、
在python中调用.describe函数时,如何规范化列?我想要两位小数的输出。
浏览 7
提问于2018-08-15
得票数 1
2
回答
Python 2中"//“和"/”的区别
、
、
Python2有两个
除法
运算符:/和//。
浏览 0
提问于2016-05-07
得票数 9
回答已采纳
1
回答
Delphi的Round()似乎是不确定的
、
、
、
、
我正面临着一种奇怪的情况,在同一台机器上的同一个程序执行相同浮点值的Round()并不总是产生相同的结果。起初,我认为它一定是因为有点翻转或其他原因而出现故障,但它总是回来。现在,它也开始在一台完全不同的机器上发生。糟糕的结果很少出现,大约是一周一次。当他们这样做的时候,他们似乎一直在发生,直到程序重新启动。然而,这可能只是一个巧合。到目前为止,我还不能随意复制它。顺便说一句,这一切都发生在主线程上。 我考虑添加的一个检查是,Round是否一直指向相同的内存地址。还有其他想法吗? 2020-12-28 08:30:19.411 DBGrid1.Fields[17].AsString: 0,2
浏览 38
提问于2021-01-03
得票数 2
回答已采纳
2
回答
Java BigDecimal舍入误差
、
、
、
我有以下函数,用于在Java中对双精度值进行舍入: bd = bd.setScale(decimalPlace, BigDecimal.ROUND_HALF_UP);}double d = 7.3149999999999995;
浏览 0
提问于2012-09-29
得票数 1
回答已采纳
1
回答
谷歌地图地理定位误差
0) { var degree = longitude / 100 | 0; //除100后
取
整
0) { var degree = longitude / 100 | 0; //除100后
取
整
>= 0) { latitude = l
浏览 5
提问于2014-02-27
得票数 0
回答已采纳
1
回答
在PHP中,你能安全地比较两个浮点数吗?
、
、
与使用epsilon进行浮点数比较相比,您是否可以通过将两个浮点数四舍五入到所需的精度来可靠地比较它们的等价性?round($float, 3) === round($otherFloat, 3)
浏览 2
提问于2015-08-21
得票数 0
6
回答
长为1004L到1000L (或1006L到1010L)的圆形
、
、
、
、
我还希望能够向下舍入到每个5而不是每个10,例如一个四舍五入到1005L的函数(因为如果我们按5
取
整
,那么它将向上
取
整
而不是向下
取
整
)。
浏览 2
提问于2014-04-11
得票数 4
2
回答
向下舍入双精度(即使前面的计算结果为< .5)
、
我尝试过的一切都运行得很好,直到我得到一个向上
取
整
而不是向下
取
整
的结果(这会给splitdeci一个负值)。 我曾尝试将split 2设为整型,但它只是向上
取
整
浏览 1
提问于2012-05-05
得票数 2
回答已采纳
2
回答
lua -如何将小数向下舍入到一半
、
decimal) return math.floor(val+0.5)end 这个函数工作得很好,除了当一个数字落在.5上,比如5.5、1000.5或7.5时,我需要它向下
取
整
而不是向上
取
整
浏览 1
提问于2013-04-16
得票数 3
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
腾讯会议
活动推荐
运营活动
广告
关闭
领券