腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
2
回答
使用
Excel
VBA
对
两个
数字
进行
减法
运算
时
,
为什么
会
出现
小数
错误
?
excel
、
vba
、
decimal
当从一个
数字
中减去另一个
数字
时
,我得到了一个
错误
的结果。我可以用2位
小数
对
结果
进行
四舍五入,但这更像是一种变通方法。
浏览 106
提问于2021-04-05
得票数 0
回答已采纳
2
回答
Microsoft Access自动增加
小数
ms-access
我正在
使用
Access
进行
对账,通过链接
两个
Excel
工作表。这个
数字
是
两个
小数
。但是,当我尝试
对
两个
小数
都是
两个
小数
的
数字
进行
减法
时
,结果如下:如果有人知道这是如何发生的,以及我需要采取什么步骤来解决它,我将不胜感激。 谢谢田
浏览 2
提问于2017-06-20
得票数 0
3
回答
VBA
写入文件是舍入数值-如何防止?
excel
、
vba
在下面的代码中,我在确保文件编写器不将我的
数字
四舍五入到一定的
小数
位数
时
遇到了问题。我需要
使用
一个变量,因为有时值是字符串,而有时值是一个
数字
。 我怎么才能强制它写出变量的确切内容呢?
浏览 0
提问于2013-04-16
得票数 0
1
回答
为什么
Excel
不按照8字节IEEE754
进行
舍入
excel
、
floating-point
、
ieee-754
但是,即使是,在
Excel
2013中以下条件的计算结果也为TRUE:有什么特别的原因吗?上面链接的文章没有提到任何可能导致此行为的
Excel
自定义实现。你能告诉
Excel
严格按照IEEE754
进行
舍入吗?请注意,尽管大多数
Excel
问题应该在superuser.com上提出,但这个问题涉及浮点算法,这是编程语言中的一个常见问题。从这个问题的主题来看,
Excel
是一种类似于C#或Java的编程语言。
浏览 2
提问于2016-04-06
得票数 6
1
回答
在
excel
中为零,但在
vba
中不为零
excel
、
vba
、
math
在
vba
中,我操作了
两个
范围来填充
两个
不同的二维数组,它们是variant类型,tempArr(,1)公式的数值结果(四舍五入到2dp),tempArr(,2)字符串数据类型...the逻辑仅在一个实例中失败,即在
excel
工作表中计算明确为0,但在
VBA
值为2.546E-09 第一个问题是,
为什么
excel
浏览 0
提问于2016-02-18
得票数 0
1
回答
对于只有整数部分的C#双数,算术总是产生只有积分部分的代数一致的结果吗?
c#
、
double
在这个网站上有很多很好的答案,解释了在C#双倍加
小数
部分上做简单的算术
运算
会
导致严重的双相等问题,当
对
双对象
进行
加法、
减法
和乘法(没有除法)
时
,显然代数上等价的
两个
计算的结果被视为不相等,但是,如果有
两个
双数的算术表达式,所有的双数都只有整数部分而没有
小数
部分,是否还有可能
出现
严重的双等问题呢?也就是说,只有整数部分的C#双数上的算术(除除法)产生的结果是否也只有整数部分,这样
两个
浏览 4
提问于2021-05-11
得票数 1
回答已采纳
2
回答
为什么
这
两个
公式给了我相同的不正确的值?
excel
、
math
、
error-handling
、
arithmetic-expressions
、
calculation
我有一个
excel
文档,其中单元格AE61、AE62和AE63的值分别为9.97551241928828000 x 10^(-1)、3.82933360922740 x 10^(-4)和2.065824710241100我想知道,当我在AE77中键入公式(( we 62/we 61)/(0.00038/0.99757)-1)*1000,并将公式(we 63/we 61)/(0.00205/0.99757)-1*键入AE78
时
,我
为什么
在
两个
单元格中得到7.7383
浏览 1
提问于2017-07-20
得票数 0
回答已采纳
2
回答
减法
过程中的Javascript意外行为
javascript
、
html
javascript代码,如下所示 var b="100"; 实际上,当我们从一个字符串中减去一个
数字
时
,它应该显示一个
错误
,但是它显示为90作为输出,但是当我们执行b+a
时
,它显示10010作为输出,这是什么行为。
浏览 0
提问于2012-03-19
得票数 2
回答已采纳
2
回答
Excel
公式与WorksheetFunction公式的不同求解方法?
vba
、
excel
我一直在我的代码中
使用
application.worksheetfunction.countifs,但它似乎突然停止工作了。我以相同的格式将代码输入
excel
,它的工作原理是应该的,但是
VBA
代码没有。E$2582, E3, $L$2:$L$2582, L3, $B$2:$B$2582, B3, $T$2:$T$2582, "<=" & T3, $U$2:$U$2582, "<=" & U3)For Each C
浏览 2
提问于2015-01-29
得票数 0
回答已采纳
1
回答
Excel
vba
函数赋值误差2029
excel
、
vba
、
evaluate
对于我的生活,我不知道
为什么
评估是抛
错误
2029 (#名称)。该项目利用人口普查程序,为任何给定的众议院成员(目前为435人)在众议院分配席位。关于扩大众议院的规模,有许多建议。我试图在E列(分配给给定状态的座位数)中为C列(
两个
字母的状态缩写)中的值找到最大值。我
对
这段代码中多余的内容表示歉意。信不信由你,我已经删掉了不少台词。 谢谢你的建议。
浏览 0
提问于2021-10-10
得票数 1
回答已采纳
2
回答
Excel
VBA
:获取单元格的值,与单元格的格式无关
excel
、
vba
在
Excel
中,Range("A1").Value应该返回工作表上范围A1的基础值。但是,如果单元格被格式化为会计,我将得到一个不同的值。创建一个新文档,在单元格中输入以下值: 创建一个新模块并添加以下功能
浏览 10
提问于2012-04-04
得票数 10
回答已采纳
1
回答
如何将cpp_dec_float_50转换为cpp_int?关于一般的浮点数呢?
c++
、
boost
、
floating-point
相反,我得到了一个非常小的大约10^(-10)的
数字
。首先,我考虑
使用
有理表达式而不是分数(即处理分子和分母),然后将最终的有理表达式转换为分数。我
使用
cpp_int来存储分子和分母,因为分子和分母可能
会
变得很大。它工作得很好。但问题是,我正在制作的程序占用了很多时间。我认为这是因为必须处理巨大的整数。 其次,我被建议尝试定点
运算
。我的想法是这样的->假设我想要
减法
的结果正确到50的精度。所以我把
小数
点左边的50位数乘以适当
浏览 2
提问于2013-04-16
得票数 3
回答已采纳
1
回答
添加
两个
字符串
时
启用PHP警告
php
在PHP中,我们经常不小心
使用
“+”
运算
符而不是“.”
运算
符连接
两个
字符串
时
,尤其是在同时
使用
PHP和JavaScript的站点上,因为用法不同。在我们的网站上从来不会
使用
对
两个
字符串
进行
算术
运算
(必要
时
,我们
会
先将字符串转换为
数字
)。 有没有办法让PHP在尝试
对
两个
字符串
进行
算术
运算
浏览 1
提问于2015-07-17
得票数 1
3
回答
比较
两个
数字
的时间复杂度
algorithm
、
time-complexity
我试图建立一个涉及
数字
比较的算法的时间复杂度。现在我想比较一下如果A<=B (如果A小于或等于B)。
浏览 6
提问于2017-12-08
得票数 2
回答已采纳
2
回答
excel
值中的额外十进制位置
excel
、
excel-2016
我试图通过
Excel
上传将一些数据加载到我们的应用程序中,似乎有些
数字
字符串不是像
excel
中那样转换的,而是调整为带有额外十进制位置的“关闭”值。例如:
excel
中的0.65在数据库中变成0.6499999999999999,0.83在数据库中变成0.8299999999999999。我们已经检查了电子表格中单元格上的显示格式,看看它是否四舍五入到
两个
位置,或者更多的位置,或者实际单元格数据中的公式,但是没有发现任何东西。 任何帮助都是非常感谢的。我们正在
使用
Excel</e
浏览 1
提问于2018-01-24
得票数 1
回答已采纳
2
回答
为什么
MS Access返回一些科学表示法的结果?
ms-access
、
filter
、
scientific-notation
我有
两个
字段,
两个
字段的大小都设置为在表属性中加倍。当我从另一个字段中减去一个字段
时
,当我在单元格中单击
时
,一些结果被显示为科学表示法,而另一些结果只是显示规则的标准格式到十进制位。这
两个
字段中的数据都被更新为Round( fields 01,2)和data ( fields 2,2),因此字段中的
数字
不应该超过
小数
点2位。因此,当然,当我尝试
对
所有有0.01的结果
进行
筛选
时
,查询返回为空,因为它认为结果是-9.99
浏览 6
提问于2022-03-15
得票数 0
回答已采纳
3
回答
当javascript中的递归函数可计数
时
,最大调用堆栈大小超过RangeError
javascript
、
recursion
、
max
、
callstack
我已经创建了一个脚本,用选定的
小数
位数来除数。除非我设置了大量的
小数
位,否则一切都很好。通过Node.js运行的文件在十进制数组长度达到~2400
时
放弃,Chrome在~1900
时
放弃。我认为当循环或递归函数被无休止地调用时,
会
抛出这个
错误
,但在我的例子中,迭代的次数是可计数的。这可能是一个很大的
数字
,但我的模块的目的是
对
大
数字
进行
数学
运算
。
为什么
会发生这种情况,我可以避免发生这种
浏览 79
提问于2018-06-05
得票数 1
回答已采纳
1
回答
如何
使用
VBA
在
Excel
中移动单元格后更改其代码
date
、
excel
、
vba
我有一个我在帮助下写的
Excel
VBA
脚本,当涉及到编码
时
,我不是一个新手,但到目前为止,
对
我来说,
Excel
VBA
一直是一个被MS作为一种易于学习的语言出售的糖丸包裹的砷噩梦。J&K中列中的单元格
使用
day()来告诉脚本的其余部分,当它查看F列中的单元格
时
,它是早了多少天还是晚了多少天。 列J显示早,列K显示晚。现在,当我将row引入Archive
时
,我希望它位于单元格的位置,而不是在任一脚本中
使用
da
浏览 0
提问于2012-04-04
得票数 1
回答已采纳
2
回答
Python中的通用比较
运算
符?
python
、
operators
使用
Crystal,我可以
使用
<==>
运算
符比较
两个
数字
。示例: p! 1 <=> 1 运行此命令将打印以下内容: 1 <=> 1 # => 0 零表示
两个
数字
相等。如果该值更高,它将返回一个正数。我想知道Python中是否存在这样的
运算
符。尝试
使用
<==>
运算
符
时
出现
语法
错误
: >>> 1
浏览 29
提问于2021-07-27
得票数 0
1
回答
Excel
中是否有
VBA
的编码标准?
excel
、
vba
、
error-code
特别是,我想知道何时输出一个或另一个标准
错误
代码(即#N/A、#REF!、#NAME?、#DIV/0!、#NULL!、#VALUE!和#NUM!)以响应
错误
的输入。
浏览 0
提问于2011-10-12
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
【一问一答】Excel中因浮点运算导致的运算精度误差
Excel vba常用运算符功能介绍大全
在EXCEL中随机函数的利用
金额差0.01,财务总监看了都摇头!
财务人的噩梦,差0.01平不了账,整个部门都沉默了!
热门
标签
更多标签
活动推荐
运营活动
广告
关闭
领券