首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >在vba中处理大数字

在vba中处理大数字
EN

Stack Overflow用户
提问于 2016-08-25 08:25:21
回答 2查看 4.8K关注 0票数 0

如何在VBA中处理10E22的超大数据量?

dim a, b, c as double a=1234567890123456789012 c = a / bit b = a - (c + 1) * bit

我得到b=0

======================================

按照建议,我将dim a更改为double,将b更改为double,将c更改为double,但它仍然是关闭的:

dim a为双倍,b为双倍,c为双倍

a=1234567890123456789012

C=a/位

B=a- (c + 1) *位

我得到了b=57344

EN

Stack Overflow用户

发布于 2016-08-25 11:48:55

VBA中唯一可以处理如此大的数字的数据类型是Decimal,它作为Variant的一个子类型,不能直接声明,但必须转换为,因此您的解决方案将是:

代码语言:javascript
复制
Dim a As Variant
Dim b As Variant
Dim c As Variant

a = CDec("1234567890123456789012")
c = a / bit
b = a - (c + 1) * bit

请注意,大数字还必须写为字符串,否则它将自动转换为Double,并且在将值转换为Decimal之前会丢失精度。

票数 2
EN
查看全部 2 条回答
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/39134913

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档