前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >OOM 很可怕吗 -- minio-client 上传文件触发 OOM 排错

OOM 很可怕吗 -- minio-client 上传文件触发 OOM 排错

作者头像
逝兮诚
发布2021-12-06 15:48:01
1.6K0
发布2021-12-06 15:48:01
举报
文章被收录于专栏:代码人生代码人生

不要把 OOM 问题当作一个可怕的难题,也许对着报错堆栈日志看代码就能解决。

问题描述

线上服务出现 OOM 的日志,日志显示是 minio-client 的错误。使用 minio-client 版本是 3.0.10。看代码得知是文件上传接口报错,在测试环境删除上传文件大小限制,上传 6G 文件,复现该问题。 解决方案,client 升级到 7.0.2,手动设置分片大小。

发生原因

minio-client 对于没有指定大小的文件上传,会认为流大小为 5T,进行分片上传,每片大小为 5G。上传逻辑是将分片的流全部转成字节数组,再上传。这会导致最大占用 5G 内存。当多个用户在同一时刻上传多个大文件,很容易就耗净所有内存,产生 OOM。

解决思路

minio-client 7.0.2 可指定分片大小,我将分片大小设置 50M,这样上传单个大文件就不会出现 OOM,同时也增加了并发上传的能力,缺点是上传速度会慢一些。

源码解析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2021-03-29 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 问题描述
  • 发生原因
  • 解决思路
  • 源码解析
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档