前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >EasyExcel读入数字类型数据时出现小数位增长现象

EasyExcel读入数字类型数据时出现小数位增长现象

作者头像
翎野君
发布2023-05-12 20:43:26
9580
发布2023-05-12 20:43:26
举报
文章被收录于专栏:翎野君翎野君

背景

最近使用easyexcel时碰到一个这样的问题,读取excel时出现了小数点精度问题。例如,0.137这个值,使用easyexcel解析后得到的BigDecimal对象就变成了0.13700000000000001,5.1,变成5.0999999999999996。

原excel中一条数据,见下图

商品名称

金额(元)

Apple iPhone 14 Plus (A2888) 512GB 午夜色

9699.1

通过接口导入,打印出数据格式

代码语言:javascript
复制
解析到一条数据:{"goodsName":"Apple iPhone 14 Plus (A2888) 512GB 午夜色","price":9699.0999999999999996}

我尝试去查看了excel解压后的文件,发现这条数据在xml里存储的值就是9699.0999999999999996

当我在把实体类里把BigDecimal的字段修改成String类型后,读出来的数据就是期望的9699.1。

原因 

查看easyexcel源码,其实easyexcel解析excel单元格的时候,会根据单元格格式选择不同的converter。在本例中,由于是数字类型单元格解析成BigDecimal类型字段,调用的就是BigDecimalNumberConverter 。这个Converter是这样的:

代码语言:javascript
复制
public class BigDecimalNumberConverter implements Converter<BigDecimal> {
    public BigDecimalNumberConverter() {
    }
 
    public Class supportJavaTypeKey() {
        return BigDecimal.class;
    }
 
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
 
    public BigDecimal convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return cellData.getNumberValue();
    }
 
    public CellData convertToExcelData(BigDecimal value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(value);
    }
}

supportJavaTypeKey方法指定该Converter转换的目标类型是BigDecimal,而easyexcel在讲excel单元格内容转换为BigDecimal时调用的就是convertToJavaData方法。

可以看到该方法内容很简单,就是取了CellData的NumberValue,这是个BigDecimal的对象,debug时会发现,执行到这里时取出来的就已经是9699.0999999999999996这个值了。

这没有问题,因为excel文件里存储的本来就是这个值,但是为什么转换成String类型就是9699.1呢?

数字类型单元格转换成String类型调用的是另外一个converter:StringNumberConverter,可以看到这个类的convertToJavaData就更复杂一些:

代码语言:javascript
复制
public class StringNumberConverter implements Converter<String> {
    public StringNumberConverter() {
    }
 
    public Class supportJavaTypeKey() {
        return String.class;
    }
 
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
 
    public String convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        if (contentProperty != null && contentProperty.getDateTimeFormatProperty() != null) {
            return DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), contentProperty.getDateTimeFormatProperty().getUse1904windowing(), (TimeZone)null), contentProperty.getDateTimeFormatProperty().getFormat());
        } else if (contentProperty != null && contentProperty.getNumberFormatProperty() != null) {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else if (cellData.getDataFormat() != null) {
            return DateUtil.isADateFormat(cellData.getDataFormat(), cellData.getDataFormatString()) ? DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), globalConfiguration.getUse1904windowing(), (TimeZone)null)) : NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        }
    }
 
    public CellData convertToExcelData(String value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(new BigDecimal(value));
    }
}

本例中的单元格格式为常规,所以调用的是NumberUtils的format方法,最后是通过ExcelGeneralNumberFormat类的format方法进行的处理。

在这个方法中,我们发现它将excel里解析出的值限制为10位小数,并且做了四舍五入的处理:

代码语言:javascript
复制
// Non-integers of non-scientific magnitude are formatted as "up to 11
// numeric characters, with the decimal point counting as a numeric
// character". We know there is a decimal point, so limit to 10 digits.
// https://support.microsoft.com/en-us/kb/65903
final double rounded = new BigDecimal(value).round(TO_10_SF).doubleValue();
return decimalFormat.format(rounded, toAppendTo, pos);

于是9699.0999999999999996经过处理后就变成了9699.1。 

结尾

但是很多时候我们不想修改实体类中的字段类型,那么我们还可以通过修改excel的格式,但是注意excel这里有个坑。

在excel中明明将这一列设置成了文本格式,但是还会出现有些行导入成功,有些行仍然会出现上述情况。但是当我讲每个CELL单元格,依次设置为文本类型后又都可以了。

但是在要导入的excel里面只要点一下这个单元格,会发现左上角会出现一个小箭头,再导入就又正常了。

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2022-12-31,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 背景
  • 原因 
  • 结尾
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档