如何在VBA中处理10E22的超大数据量?
dim a, b, c as double a=1234567890123456789012 c = a / bit b = a - (c + 1) * bit
我得到b=0
======================================
按照建议,我将dim a更改为double,将b更改为double,将c更改为double,但它仍然是关闭的:
dim a为双倍,b为双倍,c为双倍
a=1234567890123456789012
C=a/位
B=a- (c + 1) *位
我得到了b=57344
发布于 2016-08-25 11:48:55
VBA中唯一可以处理如此大的数字的数据类型是Decimal,它作为Variant的一个子类型,不能直接声明,但必须转换为,因此您的解决方案将是:
Dim a As Variant
Dim b As Variant
Dim c As Variant
a = CDec("1234567890123456789012")
c = a / bit
b = a - (c + 1) * bit请注意,大数字还必须写为字符串,否则它将自动转换为Double,并且在将值转换为Decimal之前会丢失精度。
https://stackoverflow.com/questions/39134913
复制相似问题