首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Export大数据量导出和打包

导出完成是生成的多个Excel文件打包压缩成zip,而后更新导出记录中的压缩文件路径。 大数据量文件一般采用异步生成文件,导出时首先授权生成一个流水号,而后将数据携带流水号请求导出接口。...,只关注导出操作 。...主要代码 逻辑说明: 导出前将请求参数更新到导出记录中。 类加载器加载需要导出数据的实体类 设置一个数据量指针,记录到每个文件的数据量 达到阈值时指定文件写出到磁盘并清缓。...重置数据量指针,新增一条文件记录(循环) 数据量指针未到阈值时但数据已经查询完成---->>写入剩余数据 查询该流水号的所有文件记录 压缩文件并返回压缩文件地址 更新到导出记录中 主流程 public...导出完成后根据操作人发送邮件通知导出结果。

56730

千万级别的数据量如何设计导出

其次 Excel 建议的数据量一般是不超过 5 万,全部导入到一个文件中,客户的电脑是根本打不开的,Excel 早就会被拖死了。这样的数据给你们业务毫无意义。...你这还是一个用户导出的情况,如果 10 个用户同时导出,你试试看? 所以,你需要和业务商量你们到底要这些数据干什么。但是放一个文件中肯定是没有任何意义的。...正常来说针对这种数据量的通常处理方案是 Spring Batch 做批量。根据数据库的时间或者 ID 来进行批量处理后生成文件。然后将生成的文件放到某一个存储位置,通常可以是云存储。...前端用户只提交请求,在导出界面可以这样设计,当用户导出数据量超过 2 万后,前台页面提示说:您的导出请求已经被后台批量程序处理,请检查邮件获得下载地址。 处理策略可以使用 API 调用或者消息。...正常的系统设计是针对这种数据量肯定不会做基于网页的数据导出的。 https://www.ossez.com/t/topic/13346

1.3K00
您找到你想要的搜索结果了吗?
是的
没有找到

Mysql 存储大数据量问题

Mysql 单表适合的最大数据量是多少?...我们说 Mysql 单表适合存储的最大数据量,自然不是说能够存储的最大数据量,如果是说能够存储的最大量,那么,如果你使用自增 ID,最大就可以存储 2^32 或 2^64 条记录了,这是按自增 ID 的数据类型...(至于为什么 Mysql 选择 b+树而不是其他数据结构来组织索引,不是本文讨论的话题,之后的文章会讲到。)那么 B+树索引是如何影响 Mysql 单表数据量的呢?...这样数据量将更小。 拆分 分而治之——没有什么问题不能通过拆分一次来解决,不行就拆多次。 Mysql 单表存储的数据量有限。一个解决大数据量存储的办法就是分库分表。...这样的好处是简单,但是侵入性,且不够灵活。 ? 进程内代理 进程外代理 进程外代理即将代理独立成服务,代理真实业务服务和数据库之间的请求。这样是比较复杂的,需要高可用的代理服务架构。

2.4K20

如何高效的导出 百万级别的数据量 到 Excel?

如何高效的导出 百万级别的数据量 到 Excel? 传统方式: 使用基于流的方式进行数据写入,避免将所有数据一次性加载到内存中。...在数据量较大的情况下,创建对象和变量会占用较多的内存,从而降低程序的效率。可以使用对象池和线程池等技术来优化程序的效率。 使用多线程进行数据写入。...下面是一个简单的代码示例,假设需要将数据导出到名为 “test.xlsx” 的 Excel 文件中: // 创建工作簿对象 SXSSFWorkbook workbook = new SXSSFWorkbook...对于百万级别的数据量,可以使用 SXSSFWorkbook 类进行基于流的写入,避免内存溢出的问题。...对于大规模数据量,EasyExcel 采用了基于流的方式进行数据读写,可以避免内存溢出的问题,同时提供了多线程和异步写入等特性,可以进一步提高程序的效率。

27910

扫码

添加站长 进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

    运营活动

    活动名称
    广告关闭
    领券