Ceph提供对象存储、块存储和文件系统三种存储方式,如果不想花时间安装ceph,可以通过ceph-docker来部署Ceph集群,使用容器部署Ceph集群的一大好处就是不用为升级而烦恼,本篇文章将手把手带你快速在单节点上部署...部署ceph集群 安装ceph集群的基础组件 mon,osd,mgr,rgw ,mds 1....启动MON 在节点ceph上执行 bash /usr/local/ceph/admin/start_mon.sh 启动后通过docker ps -a|grep mon查看启动结果,启动成功之后生成配置数据...接着在节点上执行如下命令: bash /usr/local/ceph/admin/start_osd.sh 全部osd都启动之后,稍等片刻后,执行ceph -s查看状态,应该可以看到多了3个osd...6.安装ceph的Dashboard管理后台 在ceph节点执行即可。
安装docker 首先通过使用官方安装脚本安装 curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun 启动Docker sudo...如果没有独立磁盘,我们可以在Linux下面创建一个虚拟磁盘进行挂载,步骤如下:2.1....执行脚本 启动mon 首先在主节点ceph1上执行start_mon.sh脚本,启动后通过 docker ps-a|grep mon查看启动结果,启动成功之后生成配置数据,在ceph主配置文件中,追加如下内容...启动后通过 ceph-s查看集群状态,如果能够看到ceph2和ceph3,则表示集群创建成功,此时的状态应该是HEALTH_OK状态。...系统Docker Ceph 集群的安装配置(中篇)[基于Docker部署ceph分布式文件系统MImic13.2
本来不想升级存储的,但是扩容新加入的节点安装的是v6,会强制安装Nautilus,如果你也有pve v5集群要扩容节点,如果你不想升级ceph,记得新的节点安装v5而不是v6。...)才可以升级,如果没有就等一天再来。.../ceph.conf ceph.conf.bak 从Nautilus开始,所有守护进程的keyring使用'keyring'项,最简单的办法是移动全局'keyring'项到'client'段(如果没有client.../debian/ceph-luminous buster main # sed -i 's/luminous/nautilus/' /etc/apt/sources.list.d/ceph.list #...nautilus 恢复osd检测 ceph osd unset noout 问题 升级完成后执行ceph -s可能有些报错信息 1. insufficient standby MDS daemons
之前用的是 ceph-deploy 部署 ceph 集群,在官网的最新介绍中有如下描述: ceph-deploy is no longer actively maintained....ceph-deploy 已经不在维护,并且在 ceph Nautilus 之后都没有很好的测试,不支持 RHEL8、CentOS8等系统。...对比了 ceph-ansible 和 cephadm 这两个工具,最终选择的 ceph-ansible 作为部署工具。...执行以下命令开始安装 # ansible-playbook site.yml 完成安装后查看集群状态: # ceph -s cluster: id: 6e344dd2-341a-4bb6...或者遇到其他问题,可以清理集群后再次尝试安装 # ansible-playbook infrastructure-playbooks/purge-cluster.yml
目前这三种传统存储解决方案,在各自的应用场景中都存在价格、性能、扩展性,以及部署运维等方面的一些问题,所以,在存储方面目前并没有一个万金油的解决方案,实际的生产环境中我们往往需要根据数据规模、性能需求、...01存储集群组件介绍 本次部署的Ceph版本Nautilus 14.2.9(鹦鹉螺)稳定版,各组件功能说明如下: 部署一个最小规模的Ceph集群,必须包含1个MON、1个MGR和2个OSD,否则整个集群是不健康的...03安装步骤 首先,需要在集群中的所有节点上,安装Ceph软件包及其依赖。详细安装步骤包括:单节点部署、扩容OSD节点、扩容MON节点、配置MGR服务、配置MDS服务。...邮件联系1694398971@qq.com,获取《Ceph存储集群部署方案》白皮书完整内容。 04常用的监控解决方案 在配置完成的Ceph存储集群上安装监控解决方案Ceph-Dash。...选择一个 MON 节点部署,或者在所有 MON 节点部署均可: 启动成功后,监控界面如下图所示: (2)MGR Dashboard 默认新版本Ceph集群已集成一个Dashboard,并作为一个模块在
pip和ansible、git yum install python-pip ansible git -y 部署ceph集群 克隆存储库 这里我选择安装的是ceph nautilus版本 git clone...https://github.com/ceph/ceph-ansible.git cd ceph-ansible git checkout stable-4.0 安装ansible依赖包 pip install.../ceph ceph_stable_key: http://mirrors.aliyun.com/ceph/keys/release.asc ceph_stable_release: nautilus...开始进行安装 剩下的交给时间吧,十分钟左右就装好了 ansible-playbook -i /etc/ansible/hosts site.yml 查看安装状态,发现有一个警告,这是因为在之前的all.yml...配置没有开启允许自动调整pool中的pg数pg_autoscale_mode: False,手动设置下即可 ceph osd pool set pg_autoscale_mode
安装前准备 安装要求 最少三台Centos7系统虚拟机用于部署Ceph集群。...可以手动创建一个 MDS, 也可以使用 ceph-deploy 或者 ceph-ansible 来部署 MDS。...登录到ceph-deploy工作目录执行 # ceph-deploy mds create $hostname 部署Ceph文件系统 部署一个 CephFS, 步骤如下: 在一个 Mon 节点上创建...如果是 (nautilus版) 需要安装 ceph-mgr-dashboard 配置Ceph Dashboard 1、在每个mgr节点安装 # yum install ceph-mgr-dashboard...k8s帮助创建pv,创建pvc就直接api调用存储类来寻找pv。 如果是存储静态供给的话,会需要我们手动去创建pv,如果没有足够的资源,找不到合适的pv,那么pod就会处于pending等待的状态。
外部集群的概念是指,通过部署 Rook,来管理部署在其他集群或者物理机的 Ceph 集群,也就是 Rook 里 External Cluster 的概念。...// pkg/operator/ceph/cluster/cluster_external.go // 先是判断 CephCluster 自定义资源的 Spec 字段有没有 CephVersion 和...PopulateExternalClusterInfo 方法就是把 mon 的配置输出。层层深入可以发现,这方法真正执行的是一个公共方法,也就是不管是内部还是外部集群,都会用到的一个方法。...Rook Operator 去连接 Nautilus 版本之前的 Ceph Cluster 了?...mon initial members = arthub-node2 mon host = 100.xxx.yy.43 然而等我改好代码之后发现,这里已经表示只支持 Nautilus
拉取镜像的过程其实是在这个部署流程里的,可是由于网络原因,所以我们需要手动从国内源拉取。...拉取完成后就开始进行集群的正式部署了 $ cephadm bootstrap --mon-ip ** #是你的master节点IP地址 例如: # ..../cephadm bootstrap --mon-ip 192.168.3.61.2. 等待结束后,会给你一个用户名和密码,访问一下这个地址,发现已经部署好了。...如果在本地存在ceph docker镜像的情况下,一段时间后仍未启动MDS,使用以上命令手动启动MDS,可以通过在集群各服务器上执行docker ps |grep mds查看MDS容器是否运行。...安装完成后就可以用你的密钥对和用户在节点进行挂载了 $ mount -t ceph 192.168.3.6:6789:/ /mnt/fstest -o name=node2,secret=AQDwqoZeSVKiCBAASIdy3DAYnCXKwoTTnuZASA
在每个存储节点上,将找到Ceph存储对象的文件系统和Ceph OSD(对象存储守护程序)进程。在Ceph集群上,还存在Ceph MON(监控)守护程序,它们确保Ceph集群保持高可用性。...Rook Agent 代理部署在 K8S 每个节点上以 Pod 容器运行,每个代理 Pod 都配置一个 Flexvolume 驱动,该驱动主要用来跟 K8S 的卷控制框架集成起来,每个节点上的相关的操作...list #查看bucket [root@k8smaster01 ceph]# yum --assumeyes install s3cmd #安装S3客户端 [root@k8smaster01...七 集群管理 7.1 修改配置 默认创建Ceph集群的配置参数在创建Cluster的时候生成Ceph集群的配置参数,若需要在部署完成后修改相应参数,可通过如下操作试下: [root@k8smaster01...rook-ceph-mon-c-74dd86589d-s84cz 注意:ceph-mon, ceph-osd的delete最后是one-by-one的,等待ceph集群状态为HEALTH_OK后再delete
3、创建部署 CEPH 的用户 ceph-deploy 工具必须以普通用户登录 Ceph 节点,且此用户拥有无密码使用 sudo 的权限,因为它需要在安装软件及配置文件的过程中,不必输入密码。...6、管理节点上安装ceph-deploy su - admin sudo yum install ceph-deploy -y ?...public network = 10.20.10.0/23 osd pool default size = 3 8、ceph-deploy在各节点安装 Ceph ceph-deploy install...9、初始化monitor监控节点 ceph-deploy mon create-initial ? ?...ceph health ceph -s ?
这样可以方便地监视Ceph群集的状态,并在发生故障时发送通知。 安装前准备 最少三台Centos7系统虚拟机用于部署Ceph集群。...可以手动创建一个 MDS, 也可以使用 ceph-deploy 或者 ceph-ansible 来部署 MDS。...登录到ceph-deploy工作目录执行 # ceph-deploy mds create $hostname 四、部署Ceph文件系统 部署一个 CephFS, 步骤如下: 在一个 Mon 节点上创建...mimic版 (nautilus版) dashboard 安装。...如果是 (nautilus版) 需要安装 ceph-mgr-dashboard 配置Ceph Dashboard 1、在每个mgr节点安装 # yum install ceph-mgr-dashboard
CentOS 7.9通过ceph-ansible安装ceph集群部署思路1、系统初始化:①同步时间、②关闭防火墙(测试环境,生产环境不建议)、③配置账号、④内网解析、⑤免密配置、⑥安装依赖、⑦下载或者git...、rgws.yml3、部署ceph:使用ansible部署ceph、查看部署结果是否有错误、检测ceph集群状态github地址 ceph官方文档地址https://github.com/ceph/ceph-ansible...This branch requires Ansible version 2.6.stable-4.0 Supports Ceph version nautilus....----------------------------------------- 2.74sceph-mgr : create ceph mgr keyring(s) on a mon node -...mon socket is in-use --------------------------------------- 1.86sceph-facts : check if the ceph mon
清理环境 MON部署不上的第二大问题就是在旧的节点部署MON,或者在这个节点部署MON失败了,然后重新new再mon create-initial,请查看要部署MON的节点上的/var/lib/ceph...所以对于新人来说,或者说以我的经验,接触Ceph少于一个月的,又或者说,集群规模不上PB的,都没有必要手动部署,Ceph-deploy完全足够了。 ② Ceph-deploy怎么装?...详细的指令暂时不介绍,下面会有,在安装好后,需要在这个节点新建一个目录,用作部署目录,这里是强烈建议建一个单独的目录的,比如我习惯在集群的第一个节点下建一个/root/cluster目录,为了以后好找。...我相信在认真确认过之后是肯定可以通过的(反正前三点如果有问题一般是不会建好MON的,为什么不认真确认下呢),我遇到过绝大多数都是因为防火墙没关,或者手动删除了一些目录,或者没有修改权限导致的问题。...所以不能构成群体,一直等待(5s->10s->10s->15s->20s)其他MON的数据包,既然被阻断了这样的等待是没有意义的,等了30s还没有正常,就可以直接ctrl+z去检查了。
首先创建Ceph目录 2.上传启动脚本 总结 概述 Ceph实战(二)和Ceph实战(三)两篇文章中,我分别介绍了如何安装docker以及如何通过docker部署ceph集群,但是相关的部署脚本还不够精简...环境 创建三台虚拟机,本教程涉及到的各组件的版本如下表所示: 组件 版本号 CentOS 7.6 docker docker-ce-19.03.9 ceph nautilus 说明:CentOS可以是其他的版本...首先创建Ceph目录 在主节点ceph1上执行下面命令,在宿主机上创建Ceph目录与容器建立映射,便于直接操纵管理Ceph配置文件,以root身份在节点上创建/usr/local/ceph/{admin...start.sh 主启动脚本,启动后续脚本 在before-install.sh执行完之后执行,只需要在主节点执行 3. start_mon.sh 启动mon组件,不需要单独执行 4. start_osd.sh...同时需要确保服务器下有独立磁盘/dev/sdb(通过 fdisk -l 查看),如果是没有该磁盘或者磁盘名称不对,请相应的修改脚本中的/dev/sdb。
添加节点到集群要将新节点添加到Ceph集群中,需要执行以下步骤:在新节点上,添加Ceph的软件仓库,以便可以安装最新版本的Ceph软件包。...update其中,是你要安装的Ceph版本,例如“nautilus”、“octopus”、“pacific”等。...在新节点上安装Ceph软件包。$ sudo apt install ceph在管理节点上,将新节点添加到Ceph集群中。...$ sudo ceph orch ls如果一切顺利,你应该能够在输出中看到新节点的主机名。3. 配置新节点添加新节点后,需要在其上配置Ceph服务。...在管理节点上,检查集群状态。$ sudo ceph -s确认所有节点的状态都是“up”。如果所有节点都处于“up”状态,说明要删除的节点已成功从Ceph集群中删除。
本文详细介绍了如何在 Kubernetes 集群中部署 ceph-csi(v3.1.0),并使用 RBD 作为持久化存储。 需要的环境参考下图: ?...版本: $ ceph version ceph version 14.2.11 (f7fdb2f52131f54b891a2ec99d8205561242cdaf) nautilus (stable)...14 (nautilus) 0: [v2:172.16.1.21:3300/0,v1:172.16.1.21:6789/0] mon.sealos01 1: [v2:172.16.1.22:3300/...部署 RBD CSI driver 最后部署 RBD CSI Driver: $ kubectl -n ceph-csi create -f csi-rbdplugin.yaml Pod 中包含两个容器...: csi-rbd-secret csi.storage.k8s.io/controller-expand-secret-namespace: ceph-csi csi.storage.k8s.io
可用于生产部署 cephadm,较新的集群自动化部署工具,支持通过图形界面或者命令行界面添加节点,目前不建议用于生产环境 manual,手动部署,一步步部署Ceph集群,支持较多定制化和了解部署细节,安装难度较大...我们采用成熟、简单的ceph-deploy实现Ceph集群的部署,首先了解一下ceph-deploy的架构: admin-node,需要一个安装管理节点,该安装节点集中管控ceph集群的安装 mon,...通过上面的输出可以看到,new初始化集群过程中会生成ssh key密钥,ceph.conf配置文件,ceph.mon.keyring认证管理密钥,配置cluster network和pubic network...包含一个monitor节点,通过ceph -s可以查看当前ceph集群的状态,由于此时并没有任何的OSD节点,因此无法往集群中写数据等操作,如下是ceph -s查看的输出结果 [root@node-1...2.4 Ceph安装小结 本文通过ceph-deploy完成一个1mon节点+1mgr节点+3个osd节点的集群,ceph-deploy安装简化了集群的部署,我在安装过程中遇到了不少报错(主要是rpm版本问题
一个RGW环境的更新,ceph 12.2.12升级到14.2.4流程,跳过中间的13版本。 注意:升级很危险,操作需谨慎。升级没有后悔药,本人不承担任何因升级及相关操作导致的任何数据丢失风险。.../ceph/rpm-nautilus/el7/x86_64/ 之后更新yum源信息,使用install即可完成二进制包的升级。...) nautilus (stable) [root@demohost-227 supdev]# ceph health detail HEALTH_WARN Legacy BlueStore stats...rd, 7 op/s rd, 0 op/s wr recovery: 156 B/s, 2 objects/s [root@demohost-227 tools]# ceph mon enable-msgr2...rd, 0 B/s wr, 13 op/s rd, 10 op/s wr 总结 升级操作不复杂,但是里面会遇上各种奇葩问题,升级尽量控制在小版本的维度,如果是这种跨大版本,老司机都容易翻车,所以一点要谨慎
领取专属 10元无门槛券
手把手带您无忧上云