腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
奇怪
的
计算结果Objective-c
使用excel时,如果我计算6/100来得到百分比值,它会返回0.060000,但当我
在
objective-c中进行同样
的
计算时,我会得到0.059999998658895493 有人知道为什么会有区别吗
浏览 3
提问于2012-02-14
得票数 1
回答已采纳
4
回答
将浮点(双精度)转换为字符串
、
我遇到了一些我以前从未见过
的
事情,我非常想知道发生了什么。我尝试将一个双精度数
四舍五入
到两位小数,然后将该
值
转换为字符串。
在
完成演员阵容后,我
的
事情变得疯狂起来。number*100 + .5)/100;}...an
浏览 0
提问于2011-07-01
得票数 1
回答已采纳
1
回答
如何将NSDecimalNumber转换为NSNumber
、
我
在
方法
中
创建了一个NSDecimalNumber,该方法必须返回一个NSNumber对象,稍后可以用[.isKindOfClass:NSNumber类] - (BOOL)application:(UIApplication
浏览 0
提问于2016-02-11
得票数 2
回答已采纳
3
回答
从双精度整型到无符号整型
的
转换
、
、
我面临着一个从双精度
值
到整型
值
的
转换问题。endl; cout << val_ui << endl;从double到int
的
转换可能会删除小数部分我得到
的
输出是: 16000 15999 那么为什么这里
的
o/p会有所不同呢?这只发生在软呢帽上。它在windows和Ubuntu上运行良好。
浏览 1
提问于2012-09-06
得票数 9
回答已采纳
4
回答
为Python 2
十进制
而
犯
的
罪?
、
、
、
在
Python2.6
中
,我发现sqrt(pi)
的
十进制
等价值是有类似于罪恶,因为或其他(反)三角函数
的
东西吗?Update:使用默认
的
三角函数
的
问题是,如果每次我想要计算
的
时候从浮点数和返回转换它们,那么它就不需要使用(
在
每一次计算
中
输入Decima
浏览 2
提问于2012-06-08
得票数 3
回答已采纳
1
回答
Eclipse悬停在
c++
中
的
变量VS cout上
、
1000000000.0cout << "rst:" << rst << endl; 但是,当我试图使用eclipse将鼠标悬停在"rst“变量上以检查该
值
时,eclipse将
显示
该
值
为29.99999999999...6。但是
在
控制台中使用cout打印
的
值
是30。为什么会发生这种情况?在这种情况下,程序将采用哪个变量来进一步处理?
浏览 0
提问于2015-06-18
得票数 2
1
回答
四舍五入
到偶数131.575
的
结果是奇数
而
不是偶数
、
、
、
、
131.57 <- wt*131.595 => 131.6 131.575 => 131.58 为什么算法会产生一个末尾有奇数
的
数字背景:我正在向PHP round($n, 2, PHP_ROUND_HALF_EVEN)函数传递相同
的
数字。目标是让这两个脚本产生相同
的
结果。我希望在这个特定
的
例子
中
解释一下幕后发生了什么,
而
不是一个固定
的
“因为浮点数学是坏
的<
浏览 2
提问于2018-08-29
得票数 2
回答已采纳
2
回答
oracle
值
99999999舍入
我创建了下表:然后插入以下
值
:commit;10000000000000000.00009999999999999999.9999
浏览 4
提问于2015-01-19
得票数 1
回答已采纳
1
回答
SQL Real vs Float
、
sum(cast(2666 as real)) * cast(.3 as real)第二个查询返回:799.800031781197 为什么第二个查询没有返回与第一个相同
的
东西
浏览 1
提问于2012-05-23
得票数 8
回答已采纳
1
回答
为什么双精度字段
的
Sum有两个以上
的
小数位
在
执行随机
数
的
java代码
中
,我指定了两个小数位,数据
在
elasticsearch中看起来没问题。}, }我看到了这样
的
结果, "avg": 734.682198942815,
浏览 17
提问于2018-07-24
得票数 2
回答已采纳
8
回答
所有双倍
的
Java和
不
返回预期结果
、
、
、
、
Double(0.3218) + 我有一个检查用户输入
的
应用程序用户输入5个
十进制
数
和一个总数。应用程序检查在komma后面以4小数位为上限
的
所有5个数字
的
和是否等于总数。 它给了我一个不等于0.4621
的
0.4622。有什么我能解决
的
建议吗?
浏览 0
提问于2013-01-08
得票数 4
回答已采纳
1
回答
floatval('a.bc')
的
值
是否恰好等于abc/100?
、
例如,我知道0.1由于浮点舍入误差
而
不准确,然而,我有另一个问题:恰好等于?上面的2个$num最后会变成相同
的
值
吗?
浏览 3
提问于2018-07-31
得票数 0
6
回答
Java替身不擅长数学
、
、
、
、
这是我
的
第一个java程序,我习惯了
c++
。那/.112.3,然后是123,
c++
给出了这个结果,
而
java给出了我怎么才能像
c++
中
浏览 1
提问于2011-03-22
得票数 0
4
回答
货币能很好地映射到浮动吗?
、
、
数据类型money映射到c# float吗?
浏览 2
提问于2009-12-19
得票数 2
回答已采纳
2
回答
DECIMAL_DIG和LDBL_DIG
在
<float.h>中有什么区别?
、
宏常量DECIMAL_DIG是 这两种定义有什么区别?是否存在这样
的
情况,即使用一个
而
另一个可能导致不正确
的
结果?
在
我
的
机器上,DECIMAL_D
浏览 7
提问于2016-09-26
得票数 6
1
回答
在
C++
中
显示
四舍五入
的
值
,
而
不
是以
十进制
数
表示
的
精确
值
、
我
在
一台相当不错
的
Windows10电脑上使用MSVisualWindows6.0(因为我
的
工作需要)。我
在
显示
通过"cin >>“手动输入
的
小数点后
的
值
时遇到了问题,我尝试了通过DSKVP
的
问题回答
的
修复方法(
在
c++
中
显示
小数点后
的
两位数 ),但它仍然不会
显示
十进制
浏览 28
提问于2021-03-01
得票数 0
回答已采纳
3
回答
如何在c#
中
对浮点
值
进行舍入?
、
、
我有一个问题
的
四舍五入
浮点
值
。我有一个设置为0.8
的
浮点
值
,但在c#代码
中
不知何故它是0.80000000000000004。 所以我想
四舍五入
,这样它就变成了0.8。
浏览 0
提问于2014-01-07
得票数 8
回答已采纳
3
回答
浮点数使用相等值可比较
的
情况。
、
我
的
观点总是
不
直接使用==比较两个浮点数。因此,我
的
问题是:使用==进行浮点比较是有效
的
情况是什么?
浏览 2
提问于2014-06-11
得票数 2
回答已采纳
2
回答
如何在
c++
中
重新建立双精度
、
、
、
、
当
表示
double
数
时,它
的
精度会在一定程度上受到影响。例如,数字37.3可以
表示
为37.29999999999991。CString str;通过这种方式,我可以重建损坏
的
d。如果我设置那么它
的
double
表示
浏览 0
提问于2014-01-13
得票数 0
3
回答
浮点运算歧义
、
、
、
static void Main() float x = (float) 1.6; float a = (float) 1.4; Console.WriteLine(y); Consol
浏览 1
提问于2012-09-15
得票数 3
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Java开发中商业计算请务必使用BigDecimal来进行计算!
python中四舍五入,颠覆你的想象
C语言编程预备计算机专业知识
php学习之php的八种数据类型的使用
原来编程语言是这么算的……
热门
标签
更多标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券