为什么Excel VBA中的四舍五入函数根据小数位数得出不同的结果？

Excel VBA中的四舍五入函数根据小数位数得出不同的结果是因为在计算机中，浮点数的表示是有限的，存在精度限制。这种精度限制导致在进行四舍五入时可能会出现一些不同的结果。

具体来说，Excel VBA中的四舍五入函数ROUND()会根据小数位数进行舍入操作。当小数位数较少时，例如保留2位小数，函数会根据第3位小数的数值来判断舍入规则。如果第3位小数大于等于5，则舍入到更大的数；如果小于5，则舍入到更小的数。这是常见的四舍五入规则。

然而，当小数位数较多时，例如保留15位小数，由于浮点数的精度限制，计算机可能无法准确表示第16位小数的数值。这时，舍入规则可能会发生变化。Excel VBA中的四舍五入函数可能会根据第16位小数的数值来判断舍入规则，而这个数值可能是不准确的，导致舍入结果与预期不符。

为了避免这种情况，可以在进行四舍五入操作之前，先将需要舍入的数值进行适当的处理，例如使用ROUND()函数将其舍入到较少的小数位数，然后再进行进一步的舍入操作。

总之，Excel VBA中的四舍五入函数根据小数位数得出不同的结果是由于浮点数的精度限制所导致的。在进行舍入操作时，需要注意数值的精度以及舍入规则的变化，以确保得到正确的结果。

腾讯云相关产品和产品介绍链接地址：

云计算产品：https://cloud.tencent.com/product
人工智能产品：https://cloud.tencent.com/product/ai
物联网产品：https://cloud.tencent.com/product/iotexplorer
移动开发产品：https://cloud.tencent.com/product/mobiledv
存储产品：https://cloud.tencent.com/product/cos
区块链产品：https://cloud.tencent.com/product/baas
元宇宙产品：https://cloud.tencent.com/product/vr

相关·内容

Excel中四舍五入到有效数字

标签：Excel技巧，VBA 如何告诉Excel在不使用指数表示法的情况下四舍五入到指定数的有效数字？...sigfigs：要四舍五入到的有效位数。这个公式的诀窍来自于对科学记数法的理解。带有三个有效数字的数字12783将是1.28E4或1.28*10^4或基数*10^指数。...记住，ROUND函数在Excel中的工作方式是，将12783舍入到100位意味着使用-2或12800=ROUND(12783，-2)。...12783的指数的公式为： 4 =INT(LOG10(ABS(12783))) 即：3 - （1+4） = -2 公式中的ROUND函数也可以使用ROUNDDOWN函数或ROUNDUP函数代替。...尽管该值是正确的，但Excel会自动格式化一个带有5个符号的数字如23.300，显示为23.3（除非显示格式设置为“0.000”）。下面是一个对有效数字进行四舍五入的VBA自定义函数。

1811 0

15个常用EXCEL函数

INT函数是无条件的将小数部分删除，无需进行四舍五入。需要注意的是，INT函数总是向下舍去小数部分。...函数有两个参数：需要计算的数字和需要四舍五入的小数位数。例如，5.6284可以四舍五入成5.628，5.63，5.6，或只是6。 round的英文意思就是四舍五入。...，小数位数) IF IF函数使用起来非常方便。...IF函数的语法结构是： =IF(逻辑判断，为TRUE时的结果，为FALSE时的结果) NOW和TODAY NOW函数根据计算机现在的系统时间返回相应的日期和时间。TODAY函数则只返回日期。...这两个函数的第一个参数是需要查找的值，如果在表格中查找到这个值，则返回一个不同的值。具体来说，HLOOKUP返回的值与需要查找的值在同一列上，而VLOOKUP返回的值与需要查找的值在同一行上。

1.6K8 0

round函数如何使用四舍五入函数的介绍及用法

excel是微软的office软件中十分常用的一款，在过去的几十年里，excel开发出了各种各样的函数来辅助表格填写和运算，这些函数在实际工作中给人们带来了极大便利。...image.png 四舍五入函数的介绍 四舍五入是round的常见用法，在很多时候，人们对于一组数据的需求仅限于几位小数，这时就需要对数字进行四舍五入，round函数可以快速大批量地解决一列数字的四舍五入运算...四舍五入函数的用法作为函数，round函数与其他函数一样具有语法，即round(数据，位数)，括号里前者是需要四舍五入的数字，后者是四舍五入的位数。...例如对数字1236.613进行四舍五入保留两位小数，则函数为round(1236.613，2)，按回车键，excel将输出结果1236.61。...这一函数在统计保留一位小数工资时能大大减轻工作量。以上便是round函数，即四舍五入函数的介绍及用法，通过这些可以大大提高工作效率，降低工作者在使用excel时的工作量，为工作者减轻负担。

1.7K1 0

盘点Excel中的那些有趣的“bug”

经过测试在Excel中并不存在2100年2月29日，那为什么只有1900年这一天错了？...通常对于误差较小的结果，Excel可以自行修正，但是向1.2-1.1的结果Excel却没有处理。因此，在进行数值比较的时候使用ROUND是一个好习惯，可以根据业务场景涉及到的小数范围设置参数。...四舍五没入在上述例子中使用的ROUND函数规则是四舍五入，但是同样因为精度问题造成了一些计算问题。例如=ROUND((8.92-8.71)/6,2) ,结果是0.03。...期待值是0.4，由于误差计算结果并未达到0.35，并没有五入。 ? 由于计算误差想要得到一个四舍五入的2为小数，需要进行2次ROUND，首先修正误差，然后再四舍五入保留2位小数。...对于所有操作计算都做两次ROUND过于繁琐，这里可以使用Excel提供的另一个设置，使用“显示精度”，这样Excel在存储计算时，会按照单元格设置的显示小数位数来保留精度。 ?

8312 0

关于四舍五入:Round系列函数

很多时候我们需要对数字进行四舍五入计算我们就以π为例吧 (我不会告诉你Excel里面有个函数专门的函数PI的) ROUND(数字,四舍五入的位数) 我们可以四舍五入到2位小数或者-1位小数...很好记吧 ROUNDUP(数字,四舍五入的位数) 向上取整,就是不管大小全部取最接近的大于它的数字 3.143对小数位第2位向上取整就是3.15 需要向上取整的时候还是有很多的比如以前运营商给我们计算话费时间的时候..."通话时长不足1分钟的,按照1分钟统计" 对π的不同向上取整分别取2位小数向上取整个位向上取整十位向上取整 ROUNDDOWN(数字,四舍五入的位数) 向下取整,向上取整的反义词可以理解为去掉后面那位数就好...3.143对第2位小数向下取整就是3.14,去掉3就好啦向下取整的场景还是非常多的例如老板给你算工资的时候 "3456.78,零头就抹掉吧,算3456" 对π的不同向下取整就是不同的抹零抹到最后所有的就都是...0了万物皆空以上提问时间: 对于公式 =ROUNDUP(PI()*100,-2) 它会返回什么结果呢?

1K2 0

python中round函数的精度保留方法---四舍六入五成双

参考链接： Python中的精度处理当我们利用python进行数据计算时，通常会对浮点数保留相应的位数，这时候就会用到round函数，相信各位朋友在进行使用时会遇到各种问题，关于round函数保留精度...中使用round函数时，你会发现:round(1.15,1)-->1.1，看到这个结果时千万别慌，这个是正常的。...原来在输入0.1的时候，python内部对应输入的是一个有着多个小数位,的数字！你要是问我具体位数是多少个呢，我会告诉你是55个，那么这个小数究竟是怎么来的呢？ ...如果说非要进行四舍五入，就要用到decimal模块，进行下面处理以后就可以得到写在最后： python中对于小数的处理可以说是非常的谨慎了，所以我们在进行小数点保留问题时，除非特殊需求，否则直接使用...round函数就可以了，使用该函数进行计算时，结果会更加的科学精确。

1.7K0 0

将所选区域中的所有数字四舍五入为固定位数的VBA代码

excelperfect 标签：VBA 在分析测量数据时，通常以固定数量的数字显示结果，称为有效数字。数字的数量取决于测量本身的准确性。...虽然Excel有几种方法可以对结果进行四舍五入，但没有一种方法可以将四舍五舍五入处理到指定的位数。...下面的程序将选择区域中的所有数字四舍五入到指定的位数： Sub RoundToDigits() Dim dDigits As Double Dim iCount As Integer Dim iRoundDigits...Set rRangeToRound = Selection If rRangeToRound Is Nothing Then Exit Sub vAnswer = InputBox("多少位数字..., "四舍五入函数") If TypeName(vAnswer) = "Boolean" Then Exit Sub If vAnswer = "" Then Exit Sub iRoundDigits

851 0

学会这8个（组）excel函数，轻松解决工作中80%的难题

文 | 兰色幻想-赵志东函数是excel中最重要的分析工具，面对400多个excel函数新手应该从哪里入手呢？下面是实际工作中最常用的8个（组）函数，学会后工作中的excel难题基本上都能解决了。...用法： =Sumif(判断区域，条件，求和区域) =Counif(判断区域，条件）第三名：IF函数用途：根据条件进行判断用法： =IF(判断条件，条件成立返回的值，条件不成立返回的值）第四名：Sumifs...第五名：Round函数、INT函数用途：数值四舍五入和取整函数用法： 四舍五入 =Round(数值，保留的小数位数）取整 =INT(数值) 第六名：Left、Right和Mid函数用途：字符串的截取...用法： =Left(字符串，从左边截取的位数) =Right(字符串，从右边截取的位数) =Mid(字符串，从第几位开始截，截多少个字符）第七名：Datedif函数用途：日期的间隔计算。...D") 间隔的天数第八名：IFERROR函数用途：把公式返回的错误值转换为提定的值。如果没有返回错误值则正常返回结果用法： =IFERROR(公式表达式，错误值转换后的值） end

1.1K7 0

【C#】Excel舍入函数Round、RoundUp、RoundDown的C#版

本人在C#中进行小数舍入的时候常常会怀念Excel中的Round、RoundUp、RoundDown这几个函数，原因就是后者“接地气”，比较符合俺小老百姓的舍入要求，啥“银行家舍入法”就让银行家用去吧。...今儿有空，就把它实现了一下，先温习一下这几个Excel函数的功能： Round(value, digits) 将value按四舍五入法进行舍入，保留digits位小数；当digits为负时，在小数点左侧进行舍入...和Floor方法（下称C/F）只能取整，所以先根据要保留的位数，乘除得到可供C/F方法发挥的新值，然后就可以利用C/F得到舍入后的值，再乘/除回去，得到最终结果。...关于浮点运算的不可靠性，可参看：http://www.cnblogs.com/ethancai/articles/1237012.html - 四舍五入函数命名为RoundEx是因为decimal类已经存在一个叫...咱追求的不是极简的代码，而是性能。当然，没测试过~鸡蛋飞来中...

1.6K2 0

为什么我从来不用“将精度设为所显示精度”这个设置？

以前，看到很多文章写到，可以通过简单的“将精度设为所显示精度”设置选项，实现类似金额等的所谓“正确”计算，避免出现因多位小数求和后再四舍五入出现总和的偏差问题…… 在网上搜一下...，也有一大堆结果，有作为技巧来讲的，有经验风险的，有在视频里专门讲的…… 但是，这个选项，我从来不用，如果有朋友跟我说这个，我也劝他，最好别用——我宁愿为要特殊对待的数据（如金额）先加个函数...为什么？因为设置了这个，可能是个神坑！可能需要Excel经验很丰富的人才会想到是因为这方面的影响。...比如，最近，有朋友问我这个问题： 为什么在数据透视表里的简单求和跟数据明细里的完全对不上啊！数据明细中求和结果为0.5481......然后将度量的格式调整为4位小数，结果如下：看到了吗？结果就是给你多几个0，而不是按显示的位数进行计算！

1.5K3 0

金融系统如果产生多余两位小数位的金额怎么办？

导读：为什么我们只看得到两位小数的余额呢，多出的小数位不也是钱吗，被省略吗？怎么省略的呢？...突然发现个问题，我们生活中的金融系统最多只有两位小数位，比如12.37，精确到分，但是当两位小数和非整数计算时也会得出三位小数啊，比如银行的日率，肯定会有计算得出三位小数或者更多小数位的，但是为什么我们只看得到两位小数的余额呢...我的猜想实际上只要我们金融系统只是用两位小数，当产生超过两位小数时，后面的小数位都不要了，直接不要，而不是满五进一，如果进一，就造成多给用户钱了，哪怕是多给0.001元，这在整个系统中的损失也是巨大的...场景分析其实这块的资金问题还是得考虑业务需求的。按我以前的做法，是保存4位小数。根据不同的场景，进行取舍！...最后一期，按减法算：1000-333.33-333.33=333.34；其他说明根据不同业务，保留位数和取舍都不一样。如基金的净值。小数点的长度影响的资金量还是很大的。这块是越精准越好。

1.6K3 0

如何在Power Query中提取数据？——数值篇

我们了解到在Power Query中提取数据会因为数据格式不同而提取的方法不同。 ? 前我们讲了数据提取的文本篇，这次我们来看下数值格式的数据如何进行提取。 ? 数值的提取主要是进位的问题。...在Power Query中对于进位有着比Excel更多的选择。 1....Number.RoundDown(123.123,-3)=0 Number.RoundDown(-123.123,1)=-123.2 Number.RoundDown(-123.123,-3)=-1000 注意：第2参数代表小数的位数...，如果是负数则是小数点的前方，如果是正数则是小数点的后方，0则为去掉小数点。...向0进位（这个在Excel中目前没有对应函数） Number.RoundTowardZero(number as nullable number, optional digits as nullable

2.9K1 0

Excel常用函数

num_digits表示需要取多少位的参数。 num_digits>0时，表示取小数点后对应位数的四舍五入数值。 num_digits=0时，表示则将数字四舍五入到最接近的整数。...num_digits< 0时，表示对小数点左侧前几位进行四舍五入。 1、对指定单元格进行四舍五入 =ROUND(E7,0) 9、排名次函数RANK() 返回一列数字的数字排位。...1、对指定单元格进行取整，忽略小数位 =INT(E3) 11、求字符串长度函数LEN() 返回文本字符串中的字符个数【注意】数字，字符，汉字都属于一个字符，包括小数点 1、对指定单元格获取长度 =LEN...Excel 将根据计算机正在使用的日期系统来解释 *year* 参数。...提示: 为避免出现意外结果，请对 *year* 参数使用四位数字。例如，“07”可能意味着“1907”或“2007”。因此，使用四位数的年份可避免混淆。

3.6K4 0

浏览器亚像素渲染与小数位的取舍

为了解决这个问题，我们需要先了解浏览器是如何处理这些小数位的。对于小数位的处理，不同的浏览器有不同的处理方法，主要有三种：处理成整数、保留4位小数或保留15位小数。现代浏览器基本支持保留小数位的处理。...我们将第一组的渲染结果填入“宽度的百分比保留的小数位”、第三组的渲染结果填入“渲染后的宽度值保留的小数位”，最终可以得出以下测试结果。...其中保留15位小数位的浏览器，在最后一位数字的取舍上有一定的偏差，并不是四舍五入的处理。不过最后一位数值对计算后的宽度值的影响很小，所以可以忽略。...二、百分比位数的取舍浏览器的渲染情况已经了解了，那小数位的位数上，我们又应该如何取舍呢。...那么可以得出以下结果： 0.1/5120*100 = 0.001953125 从这可以看出，只要保留3位小数，无论第4位以及后面的数值是哪个数，误差范围都不会超过0.1像素。 ?

1.4K2 0

VBA实用小程序73：厘米、英寸和像素、磅的转换

excelperfect Excel、PowerPoint和Word使用了一种称为磅的测量方法。但是，标准应用程序菜单中的测量单位是厘米或英寸。可以在Excel选项更改默认的测量单位。...图1 英寸、厘米、磅的转换从英寸或厘米转换为磅相当简单，因为1英寸等于72磅，1厘米等于28.35磅（四舍五入到小数点后2位）。Microsoft提供了两个有用的VBA函数来进行转换。...valueInches = valuePoints /Application.CentimetersToPoints(1) Debug.Print valueInches End Sub 磅、像素的转换...虽然像素似乎是一个可以理解的度量单位，用于控制对象的位置，但它并不像预期的那样有用。...像素的数量取决于各种因素，例如每个监视器使用的屏幕分辨率。可以使用下面的VBA代码将磅转换为像素。

2K2 0

python中round函数如何使用

1、round的结果跟python版本有关我们来看看python2和python3中有什么不同： $ python Python 2.7.8 (default, Jun 18 2015, 18:54:...简单的说就是，round(2.675, 2) 的结果，不论我们从python2还是3来看，结果都应该是2.68的，结果它偏偏是2.67，为什么？这跟浮点数的精度有关。...近似计算我们还有其他的选择：使用math模块中的一些函数，比如math.ceiling（天花板除法）。 python自带整除，python2中是/，3中是//，还有div函数。...内容扩展： round(number,num_digits) Number 需要进行四舍五入的数字。 Num_digits 指定的位数，按此位数进行四舍五入。...注解如果 num_digits 大于 0，则四舍五入到指定的小数位。如果 num_digits 等于 0，则四舍五入到最接近的整数。

9.3K2 0

计算机等级考试二级MsOffice之Excel函数学习

注：Excel中函数不区分大小写绝对值函数： ABS（数值）主要用来求一个数值的绝对值向下取整函数： INT（数值）如INT（3.7）输出值为3 INT（-3.7）输出值为-4 四舍五入函数：...round（数值，位数）如round（35.1438,1）则取一位小数，输出值为35.1;如round（35.1438,2）输出值为35.14;如round（35.1438,-1）输出值为40 取整函数...： trunc(数值，[取整精度]) 与round不同之处是不用考虑四舍五入，不填写取证精度直接取整。...若取整精度为-1，则省略个位数。...如一组数据中，有两个相同数据，则EQ排序输出为3，AVG排序输出为3.5

4283 0

Java开发中商业计算请务必使用BigDecimal来进行计算！

这里小胖哥要提醒你，商业计算请务必使用`BigDecimal`,浮点做商业运算是不精确的。因为计算机无法使用二进制小数来精确描述我们程序中的十进制小数。...bdFromDouble = new BigDecimal(0.1d); assertNotEquals("0.1", bdFromDouble.toString()); } 我们发现在这种情况下，结果与预期的结果不同...这是因为：这个转换结果是`double`的二进制浮点值的精确十进制表示，其值得结果不是我们可以预测的.我们应该使用`String`构造函数而不是`double`构造函数。...“#”——表示任意位数的整数。如没有，则不显示。在小数点位使用，只表示一位小数，超出部分四舍五入。如：“#”：无小数，小数部分四舍五入。“.#”：整数部分不变，一位小数，四舍五入。....##”：整数部分不变，二位小数，四舍五入。 “.”——表示小数点。注意一个pattern中只能出现一次，超过一次将格式化异常。 “，”——与模式“0”一起使用，表示逗号。

1.4K2 0

替代Excel Vba系列（一）：用Python的pandas快速汇总

本文要点：使用 xlwings ，如同 vba 一样操作 excel 使用 pandas 快速做透视表注意：虽然本文是"替代Excel Vba"系列，但希望各位读者明白，工具都是各有所长，适合才是好...这里可以使用其他方式定位数据的大小。 options(pd.DataFrame) 是一个很关键的操作，我们希望把数据放入 pandas 的 DataFrame ，以便快速处理数据。...[班级]列变成小数。其实是小数也不会影响结果。数据透视接下来就非常简单，直接使用 pandas 做出透视表。使用 pd.pivot_table ，即可快速生成透视表。...完整代码以下是完整的代码：与 Vba 的对比本文的案例是从某个知名 excel 论坛中挑选的，我从中挑选了最简短的 vba 解决方案。...如下：可以看到使用 vba 进行统计，代码很长，并且都不是给人看的。如果原数据的字段顺序有变化，这代码立刻无效。并且代码仍然可以跑出结果，只是错误结果而已。

3234 0

还不会用SQL对数值结果进行格式化?

先说第一种方案：在SQL中的处理我使用的oracle数据库，所以有3个函数可以选择，分别是：（1）ROUND(A/B,2) ROUND()函数是会将计算结果进行四舍五入的，如果所需要的值需要进行四舍五入...，就可以选择这个函数，可以有一个参数，也可以有两个参数；如果有两个param，第一个是你的计算表达式，第二个是需要保留的小数位数。...例子如下：（2）TRUNC(A/B,2) TRUNC()函数是不会将计算结果进行四舍五入的，如果所需要的值不需要进行四舍五入，就可以选择这个函数，可以有一个参数，也可以有两个参数；如果有两个param...9代表的数字，也是一个占位符，表示该位置上以后会是一个数字，为什么小数点前面会是一个0，而不是9，是因为如果计算结果小于1，那么只会显示小数点和小数点之后的部分，前面的0会忽略掉在SQL计算中，比如...9指定的结果就是你的小数点本来后面几位它就显示几位，如果用0来指代，它在位数不够的情况下会用0去进行占位填充。

7792 0

点击加载更多

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云