问VB6 Mod函数给出不正确的负值值
EN

Stack Overflow用户

提问于 2015-07-02 04:26:15

回答 1查看 1.2K关注 0票数 0

我在vb6中的一个脚本中有一个步骤正在失败。代码如下

output = ((azmnum + steps ) mod 16777216)

函数中的变量的值是

-850344 = (5184326 + -6034670) mod 16777216)

所有变量都是长数。我输入这些值的所有其他程序(python和excel)都返回15926872。我不明白为什么模组被忽略了。

回答已采纳

发布于 2015-07-02 04:40:49

mod在所有语言中都不是一样的，特别是对于负数。VB6 (以及其他编译器(如C、C++、C#、Java)的全部负载)接受Fortran解释，这是除法后的剩余部分。从数学上讲，如果数字是负数，这是错误的解释。你所拥有的是

5184326 + -6034670 = -850344
-850344 mod 16777216 = -850344

Python和excel对模块的正确解释，结果总是肯定的。这需要额外的步骤。

-850344 + 16777216 = 15926872

票数 2

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/31175590

复制

相似问题

问VB6 Mod函数给出不正确的负值值EN