关于k8s的pvc存储卷
目录
1.PVC 和 PV
1.1 PV
1.2 PVC
1.3 StorageClass
1.4 PV和PVC的生命周期
2.实战演练
2.1 创建静态pv
2.2 创建动态pv
3.总结
1.PVC 和 PV
1.1 PV
PV 全称叫做 Persistent Volume，持久化存储卷。它是用来描述或者说用来定义一个存储卷的，这个通常都是由运维工程师来定义。
1.2 PVC
PVC 的全称是 Persistent Volume Claim，是持久化存储的请求。它是用来描述希望使用什么样的或者说是满足什么条件的 PV 存储。
PVC 的使用逻辑：在 Pod 中定义一个存储卷（该存储卷类型为 PVC），定义的时候直接指定大小，PVC 必须与对应的 PV 建立关系，PVC 会根据配置的定义去 PV 申请，而 PV 是由存储空间创建出来的。PV 和 PVC 是 Kubernetes 抽象出来的一种存储资源。
1.3 StorageClass
上面介绍的PV和PVC模式是需要运维人员先创建好PV，然后开发人员定义好PVC进行一对一的Bond，但是如果PVC请求成千上万，那么就需要创建成千上万的PV，对于运维人员来说维护成本很高，Kubernetes提供一种自动创建PV的机制，叫StorageClass，它的作用就是创建PV的模板。
创建 StorageClass 需要定义 PV 的属性，比如存储类型、大小等；另外创建这种 PV 需要用到的存储插件，比如 Ceph 等。 有了这两部分信息，Kubernetes 就能够根据用户提交的 PVC，找到对应的 StorageClass，然后 Kubernetes 就会调用 StorageClass 声明的存储插件，自动创建需要的 PV 并进行绑定。
PV是集群中的资源。 PVC是对这些资源的请求，也是对资源的索引检查。
1.4 PV和PVC的生命周期
PV和PVC之间的相互作用遵循这个生命周期：
Provisioning（配置）---> Binding（绑定）---> Using（使用）---> Releasing（释放） ---> Recycling（回收）
●Provisioning，即 PV 的创建，可以直接创建 PV（静态方式），也可以使用 StorageClass 动态创建
●Binding，将 PV 分配给 PVC
●Using，Pod 通过 PVC 使用该 Volume，并可以通过准入控制StorageProtection（1.9及以前版本为PVCProtection） 阻止删除正在使用的 PVC
●Releasing，Pod 释放 Volume 并删除 PVC
●Recycling，回收 PV，可以保留 PV 以便下次使用，也可以直接从云存储中删除
根据这 5 个阶段，PV 的状态有以下 4 种：
●Available（可用）：表示可用状态，还未被任何 PVC 绑定
●Bound（已绑定）：表示 PV 已经绑定到 PVC
●Released（已释放）：表示 PVC 被删掉，但是资源尚未被集群回收
●Failed（失败）：表示如果 PV 或 PVC 遇到无法解决的问题，例如配额不足、配置错误或者绑定过程中的异常情况，可能会进入 Failed 状态
一个PV从创建到销毁的具体流程如下：
1、一个PV创建完后状态会变成Available，等待被PVC绑定。
2、一旦被PVC邦定，PV的状态会变成Bound，就可以被定义了相应PVC的Pod使用。
3、Pod使用完后会释放PV，PV的状态变成Released。
4、变成Released的PV会根据定义的回收策略做相应的回收工作。有三种回收策略，Retain、Delete和Recycle。Retain就是保留现场，K8S集群什么也不做，等待用户手动去处理PV里的数据，处理完后，再手动删除PV。Delete策略，K8S会自动删除该PV及里面的数据。Recycle方式，K8S会将PV里的数据删除，然后把PV的状态变成Available，又可以被新的PVC绑定使用。
2.实战演练
2.1 创建静态pv
根据下图创建pv、pvc及配置nfs
配置nfs
192.168.9.116服务器配置nfs，
mkdir -p /data/volumes/v{1..5}
vim /etc/exports
/data/volumes/v1 192.168.9.0/24(rw,sync,no_root_squash)
/data/volumes/v2 192.168.9.0/24(rw,sync,no_root_squash)
/data/volumes/v3 192.168.9.0/24(rw,sync,no_root_squash)
/data/volumes/v4 192.168.9.0/24(rw,sync,no_root_squash)
/data/volumes/v5 192.168.9.0/24(rw,sync,no_root_squash)exportfs -arv
创建pv
vim demo1-pv.yaml
apiVersion: v1
kind: PersistentVolume
metadata: #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespacename: pv001
spec:capacity: 定义存储能力，一般用于设置存储空间storage: 1Gi 指定大小accessModes: 定义访问模式- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle 回收策略#storageClassName: slow 自定义存储类名称，此配置用于绑定具有相同类别的PVC和PVnfs: 定义存储类型path: /data/volumes/v1 定义挂载卷路径server: 192.168.9.116 定义服务器名称
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv002
spec:capacity:storage: 2GiaccessModes:- ReadWriteOnce#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v2server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv003
spec:capacity:storage: 2GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v3server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv004
spec:capacity:storage: 4GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v4server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv005
spec:capacity:storage: 5GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v5server: 192.168.9.116
---kubectl apply -f demo1-pv.yaml
创建pvc
vim demo2-pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: mypvc001
spec:accessModes:- ReadWriteManyresources:requests:storage: 2Gi#storageClassName: slow
kubectl apply -f demo2-pvc.yaml
kubectl apply -f demo2-pvc.yaml #再以同样的文件创建pvc
kubectl get pv,pvc
#可以发现即使条件再匹配，也不会与原先处于released状态的pv匹配
vim demo1-pv.yaml
apiVersion: v1
kind: PersistentVolume
metadata: #由于 PV 是集群级别的资源，即 PV 可以跨 namespace 使用，所以 PV 的 metadata 中不用配置 namespacename: pv001
spec:capacity: 定义存储能力，一般用于设置存储空间storage: 1Gi 指定大小accessModes: 定义访问模式- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle 回收策略#storageClassName: slow 自定义存储类名称，此配置用于绑定具有相同类别的PVC和PVnfs: 定义存储类型path: /data/volumes/v1 定义挂载卷路径server: 192.168.9.116 定义服务器名称
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv002
spec:capacity:storage: 2GiaccessModes:- ReadWriteOnce#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v2server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv003
spec:capacity:storage: 2GiaccessModes:- ReadWriteOnce- ReadWriteMany persistentVolumeReclaimPolicy: Recycle #当设置指定访问策略为 Recycle#storageClassName: slownfs:path: /data/volumes/v3server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv004
spec:capacity:storage: 4GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v4server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv005
spec:capacity:storage: 5GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v5server: 192.168.9.116
---kubectl apply -f demo1-pv.yaml
kubectl apply -f demo2-pvc.yaml
kubectl get pv,pvc
结合pod，将pv、pvc一起运行
apiVersion: v1
kind: PersistentVolume
metadata:name: pv001
spec:capacity:storage: 1GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v1server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv002
spec:capacity:storage: 2GiaccessModes:- ReadWriteOnce#persistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v2server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv003
spec:capacity:storage: 2GiaccessModes:- ReadWriteOnce- ReadWriteManypersistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v3server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv004
spec:capacity:storage: 4GiaccessModes:- ReadWriteOnce- ReadWriteManypersistentVolumeReclaimPolicy: Recycle#storageClassName: slownfs:path: /data/volumes/v4server: 192.168.9.116
---
apiVersion: v1
kind: PersistentVolume
metadata:name: pv005
spec:capacity:storage: 5GiaccessModes:- ReadWriteOnce- ReadWriteMany#persistentVolumeReclaimPolicy: Recycle#storageClassName: tannfs:path: /data/volumes/v5server: 192.168.9.116
---kubectl apply -f demo1-pv.yamlvim demo2-pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: mypvc001
spec:accessModes:- ReadWriteManyresources:requests:storage: 2Gi#storageClassName: tankubectl apply -f demo2-pvc.yaml
vim demo3-pod.yaml
apiVersion: v1
kind: Pod
metadata:creationTimestamp: nulllabels:run: demo3name: demo3-pod
spec:volumes: - name: tan-volpersistentVolumeClaim:claimName: mypvc001 #创建的pvc名称containers:- image: soscscs/myapp:v1name: demoports:- containerPort: 80resources: {}volumeMounts:- name: tan-volmountPath: /mnt/dnsPolicy: ClusterFirstrestartPolicy: Always
status: {}kubectl apply -f demo3-pod.yaml
kubectl delete pod demo3-pod
2.2 创建动态pv
上传nfs-client-provisioner.tar 、nfs-client.zip压缩包到master节点上传nfs-client-provisioner.tar到两个node节点
创建 Service Account，用来管理 NFS Provisioner 在 k8s 集群中运行的权限，设置 nfs-client 对 PV，PVC，StorageClass 等的规则
master节点
kubectl apply -f nfs-client-rbac.yaml
kubectl get serviceaccounts
vim /etc/kubernetes/manifests/kube-apiserver.yaml- --feature-gates=RemoveSelfLink=false #添加这一行
由于 1.20 版本禁用了 selfLink，所以 k8s 1.20+ 版本通过 nfs provisioner 动态生成 PV 会报错，需要添加
cd /etc/kubernetes/manifests
mv kube-apiserver.yaml /tmp/ #进行重启操作
mv /tmp/kube-apiserver.yaml ./
nfs服务器
vim /etc/exports
/opt/nfs 192.168.9.0/24(rw,sync,no_root_squash)
exportfs -avr
两个node节点检查#创建 NFS Provisionermaster节点
cd /root/day9/pv
vim nfs-client-provisioner.yamlkubectl apply -f nfs-client-provisioner.yaml
创建 StorageClass，负责建立 PVC 并调用 NFS provisioner 进行预定的工作，并让 PV 与 PVC 建立关联
vim nfs-client-storageclass.yaml
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:name: nfs-client-storageclass
provisioner: nfs-tan #要与 nfs-client-provisioner.yaml中设置的一致
parameters:archiveOnDelete: "true" #做数据备份kubectl apply -f nfs-client-storageclass.yaml
创建 PVC 和 Pod 测试
vim demo2-pvc.yaml
apiVersion: v1
kind: PersistentVolumeClaim
metadata:name: mypvc003
spec:accessModes:- ReadWriteManyresources:requests:storage: 2GistorageClassName: nfs-client-storageclass
测试不备份：
vim nfs-client-storageclass.yamlkubectl delete -f nfs-client-storageclass.yaml && kubectl apply -f nfs-client-storageclass.yaml
kubectl get pv,pvc
vim pod.yaml
apiVersion: v1
kind: Pod
metadata:labels:run: demo3name: dem3-pod
spec:volumes:- name: scj-volpersistentVolumeClaim:claimName: mypvc003containers:- image: soscscs/myapp:v1name: myappports:- containerPort: 80resources: {}volumeMounts:- name: scj-volmountPath: /mntdnsPolicy: ClusterFirstrestartPolicy: Always
status: {}kubectl apply -f pod.yaml
kubectl exec -it dem3-pod -- sh
cd /mnt
echo '123456' > tan.txt
kubectl delete pod dem3-pod
kubectl delete pvc mypvc003 #删除查看是否备份
3.总结
存储资源有什么？
pv、pvc
创建PV的方式：
静态PV创建：手动根据PV资源对象的配置文件创建PV资源
动态PV创建：根据PVC的配置通过引用StorageClass(简称SC)资源触发存储卷插件动态的创建PV资源