K8S 部署nfs服务器

奶盖

修改于 2021-12-09 17:59:58

4.3K0

修改于 2021-12-09 17:59:58

NFS存储

NFS即网络文件系统Network File System，它是一种分布式文件系统协议，最初是由Sun MicroSystems公司开发的类Unix操作系统之上的一款经典网络存储方案，其功能是在允许客户端主机可以像访问本地存储一样通过网络访问服务端文件。

Kubernetes的NFS存储用于将某事先存在的NFS服务器导出export的存储空间挂载到Pod中来供Pod容器使用。与emptyDir不同的是，NFS存储在Pod对象终止后仅是被卸载而非删除。另外，NFS是文件系统及共享服务，它支持同时存在多路挂载请求。定义NFS存储时，常用到以下字段。

•server：NFS服务器的IP地址或者主机名，必选字段。

•path：NFS服务器导出(共享)的文件系统路径，必选字段。

•readOnly：是否以只读挂载，默认为false。

1.部署一个NFS服务 在集群之外的节点192.168.31.241

#ubuntu部署
sudo apt install nfs-kernel-server

#centos部署
yum -y install rpcbind nfs-utils

#创建要共享的目录
mkdir /data/redis -p
#设置文件夹权限否则可能导致PVC创建失败
chmod -R 777 /data/redis

#编辑NFS配置并加入以下内容
vim /etc/exports
/data/redis 192.168.31.0/24(rw,sync,no_all_squash,no_subtree_check)

#载入配置
exportfs -rv

•/data/redis：NFS服务要共享的目录

•192.168.31.0/24：允许访问NFS服务器的网段，也可以写 * ，表示所有地址都可以访问NFS服务

•rw：访问到此目录的服务器都具备读写权限

•sync：数据同步写入内存和硬盘

•no_all_squash：所有用户对根目录具备完全管理访问权限

•no_subtree_check：不检查父目录的权限

启动NFS服务

#ubuntu启动
systemctl start nfs-kernel-server

#centos启动
systemctl start rpcbind nfs

服务检查

#查看NFS配置是否生效
cat /var/lib/nfs/etab
/data/redis    192.168.31.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,no_subtree_check,secure_locks,acl,no_pnfs,anonuid=65534,anongid=65534,sec=sys,rw,secure,root_squash,no_all_squash)

#通过showmount命令查看NFS共享情况
showmount -e 192.168.31.241
Export list for 192.168.31.241:
/data/redis 192.168.31.0/24

2.创建Pod资源配置清单 Pod中使用Redis镜像来运行容器，将Redis数据持久化至NFS服务器上，下面是简单实用Redis的一个示例：

cat redis-nfs.yaml
apiVersion: v1
kind: Pod
metadata:
  name: vol-nfs-pod
  labels:
    app: redis
spec:
  containers:
  - name: redis
    image: redis:5.0           #镜像版本
    ports:
    - containerPort: 6379      #容器端口
      name: redisport
    volumeMounts:
    - mountPath: /data         #卷挂载到容器中的目录
      name: redisdata          #卷名称
  volumes:
  - name: redisdata             #卷名称
    nfs:                        #使用NFS网络存储卷
      server: 192.168.31.241    #NFS服务器地址
      path: /data/redis         #NFS服务器共享的目录
      readOnly: false           #是否为只读

上面的示例定义在资源配置文件vol-nfs.yaml中，其中的Pod资源拥有一个关联至NFS服务器192.168.31.241的存储卷，Redis容器将其挂载到容器中的/data目录上，它是运行于容器中的redis-server数据的持久保持位置。

提示：这里应确保事先要存在一个名为192.168.31.241的NFS服务器，其输出了/data/redis目录，并授权给Kubernetes集群中的节点访问。主机和目录都可以按需进行调整。

3.创建Pod对象并查看配置信息

kubectl apply -f redis-nfs.yaml

如下vol-nfs-pod被调度到了k8s-node03上

kubectl get pods -o wide -l app=redis
NAME          READY   STATUS    RESTARTS   AGE    IP            NODE         NOMINATED NODE   READINESS GATES
vol-nfs-pod   1/1     Running   0          106s   172.20.3.31   k8s-node03   <none>           <none>

kubectl describe pods/vol-nfs-pod
Name:         vol-nfs-pod
Namespace:    default
Priority:     0
Node:         k8s-node03/192.168.31.233
Start Time:   Tue, 23 Jun 2020 13:47:29 +0800
Labels:       app=redis
Annotations:  Status:  Running
IP:           172.20.3.31
IPs:
  IP:  172.20.3.31
Containers:
  redis:
    Container ID:   docker://dfa1a8202b39460db9e1d9849d6a4d416ab50a33e48fae556d1248a8efb3193b
    Image:          redis:5.0
    Image ID:       docker-pullable://redis@sha256:faea2a6e7fbd7e144cdb15e12ff16c24a5b8d9469e25796ec6d3b7a82a817e1b
    Port:           6379/TCP
    Host Port:      0/TCP
    State:          Running
      Started:      Tue, 23 Jun 2020 13:47:30 +0800
    Ready:          True
    Restart Count:  0
    Environment:    <none>
    Mounts:
      /data from redisdata (rw)             #挂载到容器中的路径
      /var/run/secrets/kubernetes.io/serviceaccount from default-token-xxqkj (ro)
Conditions:
  Type              Status
  Initialized       True
  Ready             True
  ContainersReady   True
  PodScheduled      True
Volumes:
  redisdata:
    Type:      NFS (an NFS mount that lasts the lifetime of a pod)      #NFS类型挂载
    Server:    192.168.31.241               #Server是192.168.31.241
    Path:      /data/redis                  #Server的路径
    ReadOnly:  false                        #不是只读
  default-token-xxqkj:
    Type:        Secret (a volume populated by a Secret)
    SecretName:  default-token-xxqkj
    Optional:    false
QoS Class:       BestEffort
Node-Selectors:  <none>
Tolerations:     node.kubernetes.io/not-ready:NoExecute for 300s
                 node.kubernetes.io/unreachable:NoExecute for 300s
Events:
  Type    Reason     Age    From                 Message
  ----    ------     ----   ----                 -------
  Normal  Scheduled  2m29s  default-scheduler    Successfully assigned default/vol-nfs-pod to k8s-node03
  Normal  Pulled     2m28s  kubelet, k8s-node03  Container image "redis:5.0" already present on machine
  Normal  Created    2m28s  kubelet, k8s-node03  Created container redis
  Normal  Started    2m28s  kubelet, k8s-node03  Started container redis

4.查看容器挂载情况

kubectl exec -it vol-nfs-pod -- df -hT | grep data
Filesystem                 Type     Size  Used Avail Use% Mounted on
192.168.31.241:/data/redis nfs4      59G  9.4G   47G  17% /data

#查看/data目录下的数据
kubectl exec -it vol-nfs-pod -- ls /data
dump.rdb

5.资源创建完成后，可通过其命令客户端redis-cli创建测试数据，并手动触发其同步于存储系统中

kubectl exec -it vol-nfs-pod -- redis-cli
127.0.0.1:6379> set mykey 'hello world'
OK
127.0.0.1:6379> get mykey
"hello world"
127.0.0.1:6379> BGSAVE
Background saving started
127.0.0.1:6379> exit

6.测试数据持久化 为了测试数据持久化效果，下面删除Pod资源vol-nfs-pod，然后再对该Pod重建查看数据是否能够正常访问

#删除Pod
kubectl delete pods vol-nfs-pod

#重建Pod
kubectl apply -f redis-nfs.yaml

#连接到Redis容器并查看数据持久化效果
kubectl exec -it vol-nfs-pod -- redis-cli
127.0.0.1:6379> keys *
1) "mykey"
127.0.0.1:6379> get mykey
"hello world"

如上所示可以看到，此前创建的mykey及其数据在Pod资源重建后依然存在。

文章转载于马哥教育官网!

本文系转载，前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

容器