前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >C#decimal数据类型——有效长度问题

C#decimal数据类型——有效长度问题

作者头像
红目香薰
发布2022-11-29 17:04:09
6930
发布2022-11-29 17:04:09
举报
文章被收录于专栏:CSDNToQQCode

C#decimal整数部分有效长度

通过累计数字做数据容纳量测试:

从1累加到一百万亿测试:

//累计数据 //1++++++100=5050 //1+++++++100000000000000(一百万亿) //(n+1)*n/2

代码语言:javascript
复制
 //C#处理数据长度,最长29位
decimal n = decimal.Parse("100000000000000");//一百万亿
decimal one=decimal.Parse("1");
decimal two=decimal.Parse("2");
decimal v = (n + one) * n / two;
Console.WriteLine(v);
Console.WriteLine(v.ToString().Length);

从1累加到一千万亿测试:

代码语言:javascript
复制
decimal n = decimal.Parse("1000000000000000");//一千万亿
decimal one=decimal.Parse("1");
decimal two=decimal.Parse("2");
decimal v = (n + one) * n / two;
Console.WriteLine(v);
Console.WriteLine(v.ToString().Length);

异常如下:

基础长度测试:

代码语言:javascript
复制
//C#处理数据长度,最长29位
string len = "100000000000000000000000000000";
Console.WriteLine(decimal.Parse(len));
Console.WriteLine("最大长度:"+ len.Length);

长度30的时候就会报错异常。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021-12-03,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • C#decimal整数部分有效长度
    • 从1累加到一百万亿测试:
      • 从1累加到一千万亿测试:
      领券
      问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档