问: IEEE-754 32位浮点数据能精确表示到小数点后一位的最高值是多少？...and这一切都是有意义的，但我不确定如何将那里给出的方法转换为我的问题。我的应用程序是:我正在编写一个累加器函数，它将权重合计到小数点后一位，并将它们存储在32位浮点数中。在某些情况下，如果不重置，这个累加器将开始失去精度。
浏览 2提问于2018-06-18得票数 0
3回答
可能重复：
我有一个数字，比如1.036315，我想把它舍入小数点的第一位，所以结果是1.0，它不应该是1，因为我还想说，近似是精确到小数点的第一位。
浏览 6提问于2011-04-04得票数 3
回答已采纳
我正在编写一个实用程序来计算小数点后一百万位的π。在32位或64位消费者桌面系统上，存储和处理精确到百万分之一位的如此大的数字的最有效方法是什么？
澄清:语言应该是C。
浏览 2提问于2009-10-05得票数 7
回答已采纳
2回答
窗口上的卷曲精度
、、、
在windows pycurl中，可以精确到小数点后3位的时间，有没有办法提高到更精确的精度？> print c.getinfo(pycurl.CONNECT_TIME)例如，Linux给了它大约7位小数点。
浏览 2提问于2012-11-16得票数 0
回答已采纳
我正在处理整数(货币)，它似乎总是在小数点后显示四个整数。我试着把它减少到小数点后一位或两位。我一直在尝试使用"my variable.ToString("C2")" (C表示货币，2表示小数点后的整数数)
浏览 0提问于2012-02-20得票数 1
回答已采纳
3回答
我需要帮助将一个浮点值四舍五入到小数点后一位。
我认识setprecision(x)和cout << precision(x)。如果我想对整个浮点数进行四舍五入，这两种方法都有效，但我只对将小数四舍五入到小数点后十位感兴趣。
浏览 0提问于2012-08-24得票数 5
回答已采纳
//g++ 5.4.0
{ std::cout << (int)0.9999999999999999 << std::endl; // 16 digits after decimal}H
浏览 0提问于2018-10-23得票数 1
15回答
如果我有一个双精度数(234.004223)，等等，我想把它四舍五入到C#中的x个有效数字。
到目前为止，我只能找到四舍五入到小数点后x位的方法，但如果数字中有任何0，这只会消除精度。例如，0.086到小数点后一位变为0.1，但我希望它保持在0.08。
浏览 4提问于2008-12-17得票数 77
回答已采纳
2回答
我对Java非常陌生，我必须编写一个程序，从-40华氏度到120华氏度，然后把它转换成摄氏，然后用两列显示，增量为5，精确到小数点1位。我已经完成了大部分的代码，我有正确的输出华氏温度，但我不知道如何使摄氏精确打印到小数点一位。任何事都会有帮助！
浏览 0提问于2018-10-29得票数 0
回答已采纳
1回答
double v2 = 0.36...
v2可能更精确(小数点后更精确的数字)，这是因为较少的数字用于编码小数点的左边部分吗？
浏览 5提问于2012-10-27得票数 0
回答已采纳
4回答
我有一个2.6647的双值，我试图把数学上的校正到小数点的2位。
我预计返回值为2.67。7 (小数点最后一位)应该是第4轮(小数点第二位-最后一位)，第5轮应该是第6轮(小数点第三位-最后一位)到7位。
浏览 7提问于2014-07-07得票数 0
回答已采纳
我需要一个单元格范围，比如一列数字，以便仅根据复制到单元格中的数字/数据自动调整精度(小数点后的数字数)。因此，一个人可能会得到以下一列结果(通常不超过小数点后4位)。您不能仅仅将列设置为显示4位小数，因为这是一个错误。(即2.0不等同于2.0000。后者意味着您精确到小数点后4位，而不是实验室提供的仅精确到小数点后</e
浏览 2提问于2021-01-08得票数 0
我一直在尝试使用NSNumberFormatter来实现这一点，但是当我将最大有效位数设置为3时，小数点后总是有3位数字。setAlwaysShowsDecimalSeparator:NO];我一直认为“有效数字”指的是小数点前后的所有数字
浏览 4提问于2012-03-24得票数 6
回答已采纳
我正试图将值舍入小数点后的两位。但问题是0在第二位没有出现，它只显示小数点后一位。我已经将数据从oracle中提取为180.700，但是当从db获取数据时，绑定后在datatable中只显示了180.7。sda.Fill(dt); } }
当将其舍入到小数点后的两位时Math.Roun
浏览 4提问于2022-01-21得票数 -1
回答已采纳
我需要修改GET URL "“中的请求参数，同时将其发送到spring boot控制器，以便纬度和经度值只能精确到小数点后一位。
浏览 17提问于2020-08-27得票数 0
我正在尝试实现一个新的四舍五入到BigDecimal类，我可能会得到一个错误，可能是我做错了什么。
浏览 0提问于2012-07-07得票数 4
回答已采纳
我尝试过pd.options.display.float_format = '{:，.1f}'.format，但它显示所有列的小数点后1位。如何将列'cum_pct‘显示到小数点后一位，而不更改其他两列的小数位？ ?
浏览 10提问于2020-10-28得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
