如何四舍五入到一些基本浮点单位的偶数倍(比如0.0005f)使得output的形式为2*n*unit，其中n是自然数，并且output尽可能接近example_input
另外，对于不均匀的倍数，如何做到这一点？编辑:这是我到目前为止想出来的，但它是错误<e
浏览 0提问于2018-01-19得票数 1
回答已采纳
这个主要问题的例子：好的，那么：所以2583.0转到2584.0，酷这不会造成任何问题！当我将一个大型数组转换
浏览 1提问于2016-11-17得票数 0
回答已采纳
1回答
维基文章目前对半精度浮点整数范围(16位)有非常清晰的描述：
可以精确地表示0到2048之间的整数.....2049和4096之间的整数舍入为2的倍数(偶数).....4097和8192之间的整数舍入为4的倍数.....介于8193和16384之间的整数舍入为8的倍数.....16385和32768之间的整数舍入为16的
浏览 0提问于2013-10-04得票数 2
我想要对浮点数进行偏置取整，要么总是向下，要么总是向上。在代码中有一个特定的点，我需要它，程序的其余部分应该像往常一样舍入到最接近的值。
例如，我想四舍五入到1/10的最接近的倍数。最接近7/10的浮点数大约是0.69999998807，但是最接近8/10的浮点数大约是0.80000001192。当我对数字进行<em
浏览 4提问于2009-03-26得票数 7
回答已采纳
我有个奇怪的舍入问题。下面是设置(MySQL5.5Percona；MySQL5.7CE中的相同)：`RT_Double` DOUBLE NULL DEFAULTFLOAT NULL DEFAULT NULL,)现在输入"1.785“这三个字段中的每个字段2),RT_Decimal, RO
浏览 4提问于2016-06-29得票数 1
回答已采纳
1回答
我有2016-01-01到2017-07-30的数据。我想每三个月做一次group_by数据总结。很难显示整个数据，因为它不适合这里。我要完成的工作的伪代码如下所示：df$year <- year(as.Date(df$date))你能给我一个简单
浏览 1提问于2017-08-07得票数 1
回答已采纳
3回答
我正在用python开发一个应用程序，其中有些部分是用c#编写的(为了加快速度)，我很困惑为什么在使用“圆形”函数和字符串浮点格式函数时，c#浮点四舍五入的行为与python相反，下面是一个示例：6.2>>> Math.Round(6.25,1)>>> (6.25).ToString("F1")有谁知道为什么在Python c#之间这种行为看起来是“相反的”有没有办法将“双”浮点值舍入N位小数，以保证在C#和C#之
浏览 1提问于2019-01-03得票数 0
回答已采纳
1回答
我正在写一个浮点加法器的舍入方案，我不知道一些值会发生什么，我试着读了手册，但还是弄不明白。要编写代码，我可以想到if .. else或case语句，但是有没有更好的用Verilog编写代码的方法？
浏览 0提问于2013-05-08得票数 0
回答已采纳
如果用户选择输入31.45，我们注意到浮点表示为31.44999999999，它被正确地格式化为31.4，但是正确的数学舍入规则认为原始数值应该舍入为31.5。我在Python中尝试了同样的方法：'31.4'Obj中的NSNumberFormatter也有同样的问题.我原以为字符串格式化程序将足够聪明地处理浮点值的限制，但似乎大多
浏览 0提问于2016-06-07得票数 3
回答已采纳
3回答
我正在尝试使用printf打印一些浮点数。例如： int main() printf("%.1f",76.75); } 输出: 76.8 我对结果有一些疑问。 首先，为什么它没有打印76.7？其次，它是如何舍入数字的？
浏览 3提问于2014-06-09得票数 19
1回答
大整数到单点浮点数
、、、
我正在尝试将一个大整数转换为32位单精度浮点数，但我无法克服这个问题。如果大整数的二进制表示大于23位尾数，该怎么办？例如，取整数1,671,277,287我的理解是，您将小数位向左移动，直到它左侧只有1位，如下所示：
01.100011100111011010101011100111我的问题是这个尾数是30位，一个单精度浮点数只能容纳23位的尾数。我试着寻找这个特定的问题，但我没有找到任
浏览 1提问于2015-09-03得票数 1
1回答
我有一个相当大的文本文件，有两列(ID，以分钟为单位的时移)，我想将该文件的第二列四舍五入到最接近的+/- 60的倍数(即小时)。该文件的一些示例输出： po-3712 270 zu-1999 -111我希望输出为： po-3712 4 zu-1999 -2
浏览 0提问于2018-10-13得票数 0
2回答
浮点数是多少位？
、、、、
MySQL FLOAT的实际位数是多少？
我知道(认为？)它截断了超出FLOAT4字节限制的内容，但这到底是什么呢？
浏览 2提问于2013-02-01得票数 2
回答已采纳
我知道这与小数点的数目有关，但我不知道为什么。
如何确保像14.50这样的数字总是被15舍入？
浏览 3提问于2014-11-17得票数 0
回答已采纳
13回答
精确的一半情况现在被四舍五入到最接近的结果，而不是远离零。(例如，第(2.5)轮现在返回2而不是3)。以及的文档
对于支持循环()的内置类型，值被舍入到与幂减n最接近的倍数；如果两个倍数相等，则对偶数选择进行舍入。英语不是我的母语，但在我读到这篇文章之前，我以为我知道四舍五入意味着什么:-/我确信在引入v3时，一定有过一些关于这个问题
浏览 32提问于2012-05-31得票数 229
回答已采纳
3回答
我在python中遇到了一个非常奇怪的问题。>> print '%.0f' % a但在Solaris中：>>> print '%.0f' % a但这在windows和solaris中是相同的：我猜它依赖于python的编译方式吗？
浏览 2提问于2010-02-01得票数 10
回答已采纳
我正在写一个读取BMP图像文件的代码，我不明白是什么 RowSize和PixelArraySize 均值或它们的运算，这两个公式是否用于将行填充到4字节的倍数？有人能帮我理解这一点吗？
浏览 61提问于2021-02-27得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
云直播
对象存储
实时音视频活动推荐
腾讯云开发者
