RGW Bucket Shard设计与优化-中

如何缓解 index shard 过大造成的影响

下面这些都是属于应急操作,属于快速止血止痛,部分操作属高危,一定要谨慎使用。

1

调整OSD的几个op超时参数

下面的几个参数只是用例,具体根据各位线上情况进行调整,但是不宜过大。

  osd_op_thread_timeout = 90 #default is 15
  osd_op_thread_suicide_timeout = 300 #default is 150

  filestore_op_thread_timeout = 180 #default is 60
  filestore_op_thread_suicide_timeout = 300 #default is 180

  osd_scrub_thread_suicide_timeout = 300 #如果出现scrub导致的op超时可以适当增加这个

2

压缩OSD的OMAP目录

在可以停OSD的情况下,可以对OSD进行compact操作,推荐在ceph 0.94.6以上版本,低于这个版本有bug。 https://github.com/ceph/ceph/pull/7645/files

1. 开启noout操作
ceph osd set noout

2. 停OSD服务
systemctl stop ceph-osd@<osd-id> 或者
/etc/init.d/ceph stop osd.<osd-id>

3. 检查osd进程
ps -ef| grep "id <osd_id>"

4. 在ceph.conf中对应的[osd.id]加上下面配置
leveldb_compact_on_mount = true

5. 启动osd服务
systemctl start ceph-osd@<osd-id> 或
/etc/init.d/ceph start osd.<osd-id>

6. 确认进程运行中
ps -ef| grep "id <osd-id>"

7. 使用ceph -s命令观察结果,最好同时使用tailf命令去观察对应的OSD日志.
等所有pg处于active+clean之后再继续下面的操作

8. 确认compact完成以后的omap大小:
du -sh /var/lib/ceph/osd/ceph-$id/current/omap

9. 删除osd中临时添加的leveldb_compact_on_mount配置

10. 取消noout操作(视情况而定,建议线上还是保留noout):
ceph osd unset noout

3

对bucket做reshard操作

对bucket做reshard操作,可以实现调整bucket的shard数量,实现index数据的重新分布。 仅支持ceph 0.94.10以上版本,需要停bucket读写,有数据丢失风险,慎重使用,出了问题本人概不负责。

注意下面的操作一定要确保对应的bucket相关的操作都已经全部停止,之后使用下面命令备份bucket的index

radosgw-admin bi list --bucket=<bucket_name> > <bucket_name>.list.backup

通过下面的命令恢复数据
radosgw-admin bi put --bucket=<bucket_name> < <bucket_name>.list.backup

查看bucket的index id

root@demo:/home/user# radosgw-admin bucket stats --bucket=bucket-maillist
{
    "bucket": "bucket-maillist",
    "pool": "default.rgw.buckets.data",
    "index_pool": "default.rgw.buckets.index",
    "id": "0a6967a5-2c76-427a-99c6-8a788ca25034.54133.1", #注意这个id
    "marker": "0a6967a5-2c76-427a-99c6-8a788ca25034.54133.1",
    "owner": "user",
    "ver": "0#1,1#1",
    "master_ver": "0#0,1#0",
    "mtime": "2017-08-23 13:42:59.007081",
    "max_marker": "0#,1#",
    "usage": {},
    "bucket_quota": {
        "enabled": false,
        "max_size_kb": -1,
        "max_objects": -1
    }
}


Reshard对应bucket的index操作如下:

使用命令将"bucket-maillist"的shard调整为4,注意命令会输出osd和new两个bucket的instance id
root@demo:/home/user# radosgw-admin bucket reshard --bucket="bucket-maillist" --num-shards=4
*** NOTICE: operation will not remove old bucket index objects ***
***         these will need to be removed manually             ***
old bucket instance id: 0a6967a5-2c76-427a-99c6-8a788ca25034.54133.1
new bucket instance id: 0a6967a5-2c76-427a-99c6-8a788ca25034.54147.1
total entries: 3


之后使用下面的命令删除旧的instance id

root@demo:/home/user# radosgw-admin bi purge --bucket="bucket-maillist" --bucket-id=0a6967a5-2c76-427a-99c6-8a788ca25034.54133.1

查看最终结果
root@demo:/home/user#  radosgw-admin bucket stats --bucket=bucket-maillist
{
    "bucket": "bucket-maillist",
    "pool": "default.rgw.buckets.data",
    "index_pool": "default.rgw.buckets.index",
    "id": "0a6967a5-2c76-427a-99c6-8a788ca25034.54147.1", #id已经变更
    "marker": "0a6967a5-2c76-427a-99c6-8a788ca25034.54133.1",
    "owner": "user",
    "ver": "0#2,1#1,2#1,3#2",
    "master_ver": "0#0,1#0,2#0,3#0",
    "mtime": "2017-08-23 14:02:19.961205",
    "max_marker": "0#,1#,2#,3#",
    "usage": {
        "rgw.main": {
            "size_kb": 50,
            "size_kb_actual": 60,
            "num_objects": 3
        }
    },
    "bucket_quota": {
        "enabled": false,
        "max_size_kb": -1,
        "max_objects": -1
    }
}

4

关闭pool的scrub和deep-scrub

Jewel以上版本可用

使用下面的命令开启pool的noscrub和deep-scrub
# ceph osd pool set <pool-name> noscrub 1
# ceph osd pool set <pool-name> nodeep-scrub 1

使用下面命令确认配置
# ceph osd dump | grep <pool-name>
pool 11 'pool-name' replicated size 3 min_size 2 crush_ruleset 0 object_hash rjenkins pg_num 8 pgp_num 8 last_change 800 flags hashpspool,noscrub,nodeep-scrub stripe_width 0

取消pool的noscrub和deep-scrub设置
# ceph osd pool set <pool-name> noscrub 0
# ceph osd pool set <pool-name> nodeep-scrub 0

5

抢修因omap过大导致的OSD无法启动问题

原文发布于微信公众号 - Ceph对象存储方案(cephbook)

原文发表时间:2017-08-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Brian

VirtualBox和Vmware安装增强功能

---- 概述 由于本人计算机配置的问题,不得不安装虚拟机系统。无论是VMware还是VirtualBox都需要在操作系统安装一些虚拟机的增强功能.虚拟机是傻瓜...

3027
来自专栏崔庆才的专栏

腾讯云Ubuntu下WordPress从Apache迁移到Nginx过程

需求之前一直都用Apache服务器,由于网站访问量比较大,另外加上旧服务器快到期了,准备迁移到新的服务器上,所以决定采用Nginx服务器。迁移过程比较心酸,之前...

4860
来自专栏软件测试经验与教训

测试人员工作里常用的工具都在这里了

分享一下以前工作时用到的工具,链接比较多,没有一一检查是否能正常下载,若链接有问题,可以在下方留言。

6215
来自专栏散尽浮华

线上mongodb 数据库用户到期时间修改的操作记录

登陆版权数据库,显示"此用户已到期",数据库使用的是mongodb,顾 需要将此用户的到期时间延长。 ? ? 解决过程: 1)到网站对应tomcat配置里找出等...

1757
来自专栏大数据挖掘DT机器学习

手把手教你成功搭建Hadoop-2.2集群

作者:白宁超 成都信息工程大学硕士 原文:http://www.cnblogs.com/baiboy/p/4639474.html hadoop集群配置系列...

4106
来自专栏点点滴滴

frp实现外网访问群晖synology

    下载Linux(centos7)版本的frp_0.21.0,所有版本frp点这里

1.2K2
来自专栏Bug生活2048

.net core项目实战之开发环境搭建

首先建议采用 Windows 10 专业版/企业版/教育版,且必须是64位操作系统,原因是docker装起来比较方便,Win7装起来比较麻烦,且不确定是否有其他...

2582
来自专栏码农分享

Jsbeautifier JS代码美化库

1、为了防止别人窥探Js,我们通过会对代码进行压缩,这种压缩在一定程序上可以阻止一部分人对代码的查看。通过使用此工具,可以还原压缩前的内容,这是我使用过后发现的...

3064
来自专栏我的博客

VMware三种网络连接模式详解

1.bridged(桥接模式) 在这种模式下,使用(连接)VMnet0虚拟交换机。虚拟机就像是局域网中的一台独立的主机,它可以访问网内任何一台机器。在桥接模式下...

2662
来自专栏前端小作坊

GA源代码里的小技巧之Beacon请求

GA监控脚本一般都放在开发者的网页上。域名往往和Google不一样,这样发送请求到Google服务器的时候会涉及到跨域。普通的Ajax请求是做不到的,通常称这种...

1041

扫码关注云+社区