NFS存储

NFS即网络文件系统Network File System,它是一种分布式文件系统协议,最初是由Sun MicroSystems公司开发的类Unix操作系统之上的一款经典网络存储方案,其功能是在允许客户端主机可以像访问本地存储一样通过网络访问服务端文件。

Kubernetes的NFS存储用于将某事先存在的NFS服务器导出export的存储空间挂载到Pod中来供Pod容器使用。与emptyDir不同的是,NFS存储在Pod对象终止后仅是被卸载而非删除。另外,NFS是文件系统及共享服务,它支持同时存在多路挂载请求。定义NFS存储时,常用到以下字段。

•server:NFS服务器的IP地址或者主机名,必选字段。•path:NFS服务器导出(共享)的文件系统路径,必选字段。•readOnly:是否以只读挂载,默认为false。

1.部署一个NFS服务 在集群之外的节点192.168.31.241

#ubuntu部署sudo apt install nfs-kernel-server#centos部署yum -y install rpcbind nfs-utils
#创建要共享的目录mkdir /data/redis -p#编辑NFS配置并加入以下内容vim /etc/exports/data/redis 192.168.31.0/24(rw,sync,no_all_squash,no_subtree_check)#载入配置exportfs -rv

•/data/redis:NFS服务要共享的目录•192.168.31.0/24:允许访问NFS服务器的网段,也可以写 * ,表示所有地址都可以访问NFS服务•rw:访问到此目录的服务器都具备读写权限•sync:数据同步写入内存和硬盘•no_all_squash:所有用户对根目录具备完全管理访问权限•no_subtree_check:不检查父目录的权限

启动NFS服务

#ubuntu启动systemctl start nfs-kernel-server#centos启动systemctl start rpcbind nfs

服务检查

#查看NFS配置是否生效cat /var/lib/nfs/etab/data/redis    192.168.31.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,no_subtree_check,secure_locks,acl,no_pnfs,anonuid=65534,anongid=65534,sec=sys,rw,secure,root_squash,no_all_squash)#通过showmount命令查看NFS共享情况showmount -e 192.168.31.241Export list for 192.168.31.241:/data/redis 192.168.31.0/24

2.创建Pod资源配置清单 Pod中使用Redis镜像来运行容器,将Redis数据持久化至NFS服务器上,下面是简单实用Redis的一个示例:

cat redis-nfs.yamlapiVersion: v1kind: Podmetadata:  name: vol-nfs-pod  labels:    app: redisspec:  containers:  - name: redis    image: redis:5.0           #镜像版本    ports:    - containerPort: 6379      #容器端口      name: redisport    volumeMounts:    - mountPath: /data         #卷挂载到容器中的目录      name: redisdata          #卷名称  volumes:  - name: redisdata             #卷名称    nfs:                        #使用NFS网络存储卷      server: 192.168.31.241    #NFS服务器地址      path: /data/redis         #NFS服务器共享的目录      readOnly: false           #是否为只读

上面的示例定义在资源配置文件vol-nfs.yaml中,其中的Pod资源拥有一个关联至NFS服务器192.168.31.241的存储卷,Redis容器将其挂载到容器中的/data目录上,它是运行于容器中的redis-server数据的持久保持位置。

提示:这里应确保事先要存在一个名为192.168.31.241的NFS服务器,其输出了/data/redis目录,并授权给Kubernetes集群中的节点访问。主机和目录都可以按需进行调整。

3.创建Pod对象并查看配置信息

kubectl apply -f redis-nfs.yaml

如下vol-nfs-pod被调度到了k8s-node03上

kubectl get pods -o wide -l app=redisNAME          READY   STATUS    RESTARTS   AGE    IP            NODE         NOMINATED NODE   READINESS GATESvol-nfs-pod   1/1     Running   0          106s   172.20.3.31   k8s-node03
kubectl describe pods/vol-nfs-podName:         vol-nfs-podNamespace:    defaultPriority:     0Node:         k8s-node03/192.168.31.233Start Time:   Tue, 23 Jun 2020 13:47:29 +0800Labels:       app=redisAnnotations:  Status:  RunningIP:           172.20.3.31IPs:  IP:  172.20.3.31Containers:  redis:    Container ID:   docker://dfa1a8202b39460db9e1d9849d6a4d416ab50a33e48fae556d1248a8efb3193b    Image:          redis:5.0    Image ID:       docker-pullable://redis@sha256:faea2a6e7fbd7e144cdb15e12ff16c24a5b8d9469e25796ec6d3b7a82a817e1b    Port:           6379/TCP    Host Port:      0/TCP    State:          Running      Started:      Tue, 23 Jun 2020 13:47:30 +0800    Ready:          True    Restart Count:  0    Environment:        Mounts:      /data from redisdata (rw)             #挂载到容器中的路径      /var/run/secrets/kubernetes.io/serviceaccount from default-token-xxqkj (ro)Conditions:  Type              Status  Initialized       True  Ready             True  ContainersReady   True  PodScheduled      TrueVolumes:  redisdata:    Type:      NFS (an NFS mount that lasts the lifetime of a pod)      #NFS类型挂载    Server:    192.168.31.241               #Server是192.168.31.241    Path:      /data/redis                  #Server的路径    ReadOnly:  false                        #不是只读  default-token-xxqkj:    Type:        Secret (a volume populated by a Secret)    SecretName:  default-token-xxqkj    Optional:    falseQoS Class:       BestEffortNode-Selectors:  Tolerations:     node.kubernetes.io/not-ready:NoExecute for 300s                 node.kubernetes.io/unreachable:NoExecute for 300sEvents:  Type    Reason     Age    From                 Message  ----    ------     ----   ----                 -------  Normal  Scheduled  2m29s  default-scheduler    Successfully assigned default/vol-nfs-pod to k8s-node03  Normal  Pulled     2m28s  kubelet, k8s-node03  Container image "redis:5.0" already present on machine  Normal  Created    2m28s  kubelet, k8s-node03  Created container redis  Normal  Started    2m28s  kubelet, k8s-node03  Started container redis

4.查看容器挂载情况

kubectl exec -it vol-nfs-pod -- df -hT | grep dataFilesystem                 Type     Size  Used Avail Use% Mounted on192.168.31.241:/data/redis nfs4      59G  9.4G   47G  17% /data#查看/data目录下的数据kubectl exec -it vol-nfs-pod -- ls /datadump.rdb

5.资源创建完成后,可通过其命令客户端redis-cli创建测试数据,并手动触发其同步于存储系统中

kubectl exec -it vol-nfs-pod -- redis-cli127.0.0.1:6379> set mykey 'hello world'OK127.0.0.1:6379> get mykey"hello world"127.0.0.1:6379> BGSAVEBackground saving started127.0.0.1:6379> exit

6.测试数据持久化 为了测试数据持久化效果,下面删除Pod资源vol-nfs-pod,然后再对该Pod重建查看数据是否能够正常访问

#删除Podkubectl delete pods vol-nfs-pod#重建Podkubectl apply -f redis-nfs.yaml#连接到Redis容器并查看数据持久化效果kubectl exec -it vol-nfs-pod -- redis-cli127.0.0.1:6379> keys *1) "mykey"127.0.0.1:6379> get mykey"hello world"

如上所示可以看到,此前创建的mykey及其数据在Pod资源重建后依然存在。


☆ END ☆