首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >如何使用vb.net获得6位小数精度

如何使用vb.net获得6位小数精度
EN

Stack Overflow用户
提问于 2014-03-30 16:06:30
回答 2查看 324关注 0票数 1

如何使用vb.net获得6位小数精度,如本例所示(7090982.885183 (6位小数精度)),即我只想将前一个示例中的.885183读取为6位小数。

上面的javascript如下所示:

代码语言:javascript
运行
复制
    //declare variables and assign calculated values
var HashA = OrdNo * Amt;
var HashB = MerchID * Amt;
var HashC = MerchID * OrdNo;
var TotalHash = String((HashA + HashB + HashC) / (parseInt(MerchID) + parseInt(RCode)));

//assign only 6 decimal places value
if (TotalHash.indexOf(".") != -1)
    TotalHash = TotalHash.substr(0,TotalHash.indexOf(".")+7);
else
    TotalHash = TotalHash + ".000000";

document.form1.HashCount.value = TotalHash;

}

我需要将这个编号为7090982.8851830000011的格式读为7090982.885183

EN

回答 2

Stack Overflow用户

发布于 2014-03-30 16:11:55

使用% operater怎么样?

您有一个变量a和一个变量decimalresult,您应该这样编写它

代码语言:javascript
运行
复制
decimalresult=a % 1000000

在本例中,它应该是

代码语言:javascript
运行
复制
decimalresult= 7090982.885183 % 1000000
decimalresult = 885183
票数 1
EN

Stack Overflow用户

发布于 2014-03-30 16:15:20

如果您有一个Decimal,并且您想要获取小数点后的值,您可以这样做

代码语言:javascript
运行
复制
result = input - Math.Floor(input)
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/22741700

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档