当前位置：首页 > news >正文

LNMP 环境下使用 Zstd 压缩优化网站备份脚本

news 来源：原创 2024/9/29 11:37:19

网站的备份一直都是网站运营、服务器运维中很重要的一环，明月无论是在自己的服务器还是客户的代运维服务器上都是非常重视网站备份的，尤其热衷于优化网站备份这块儿，毕竟明月自己的服务器配置一直都是最低的 1H1G 呀，就这配置常年都是 4-5 个网站放着呢！明月的博客毕竟有十来年了，单单网站文件就占用了至少 5G 了，这还不包括数据库的占用。

随着网站文件的日积月累，LNMP 环境下网站备份脚本的运行效率是越来越吃力了，以前都是每天一次备份的，现在因为备份期间服务器负载飙升相当恐怖都改成一周一次备份了：

LNMP 环境下使用 Zstd 压缩优化网站备份脚本

有图有真相，备份期间明月服务器的负载（load avvrage）情况实时截图

这个负载值已经严重影响备份期间网站的正常访问了，甚至会出现 503、502 等错误，反正每次备份期间，明月是不敢去访问网站的，并且这个过程持续的时间一般都在 2-3 个小时左右，很明显这不科学呀。

经过对 LNMP 环境下网站备份脚本 backup.sh 代码的分析，发现造成备份期间服务器负载持续飙升的罪魁祸首是备份时的压缩算法 gzip，上面的截图里就可以看到备份期间 gzip 的进程占据了很多，明月简单统计了一下能有 20-30 多个 gzip 进程，压缩是需要大量的 CPU 运算和内存的，明月服务器的 1H1G 很明显是承受不了这么“蹂躏”的，是时候给网站备份脚本更换压缩算法了。这时候看到了一则旧闻：

LNMP 环境下使用 Zstd 压缩优化网站备份脚本

这个 Zstd 压缩算法真的是太牛逼了，Linux 内核组件都在用了，那要是拿来用在网站备份上也不知道是个啥效果，于是果断施展搜索大法一番了解后得出结论完全没有问题的，于是就诞生了【Zstd(Zstandard)助力网站备份利器】的运维学习笔记，又因为实操发现有了【更新 tar 命令到最新版本】笔记，先在自己服务器上调试一番后终于成功实现了用 Zstd 压缩算法网站备份，马上给一个客户的服务器也用上了，效果非常的好，备份结果对比一下也是非常的满意：

LNMP 环境下使用 Zstd 压缩优化网站备份脚本

上图左边是 gzip 压缩算法备份的网站文件和数据库导出的 sql 大小，右边是采用 Zstd 压缩算法后备份产生的文件大小

虽然对比网站文件在大小上没有很明显的差异，这主要是因为服务器硬件配置和压缩参数的问题，可以进行调优来改善的，明月最喜欢的是采用 Zstd 压缩算法后备份期间的服务器负载表现都快亮瞎眼了：

LNMP 环境下使用 Zstd 压缩优化网站备份脚本

这是明月自己 1H1G 服务器备份期间的负载实时截图

LNMP 环境下使用 Zstd 压缩优化网站备份脚本

这是客户服务器（1H2G，老薛海外云主机）备份期间的负载实时截图

这负载直接下降了近十倍呀，太神奇了吧！哈哈！并且明月持续观察了很长一段时间，都是这个状态，波动也都是维持在个位数而已，备份期间完全不影响网站的访问、登录等等，并且整体的备份耗时至少缩减了一倍还多，整个备份期间无论是前端还是后端都是毫无感受，看来明月这 1H1G 配置的服务器还能再挺几年是没有问题的了！完美！！！

又在多个不同客户、不同地域、不同硬件配置、不同服务器生产环境上测试后，实测证明 Zstd 压缩算法的强大真不是盖的的，Linux 内核都采用了可见一斑！好了，废话不多说了，下面给大家分享一下明月的这个 Zstd 压缩算法的网站备份脚本代码：

要在服务器上用 Zstd 压缩算法有两个必备条件：

1、升级 tar（打包命令）到最新版，至少 1.30 以上。可参考【更新 tar 命令到最新版本】一文；
2、安装 Zstd，当然最新版最好。可参考【Zstd(Zstandard)助力网站备份利器】一文；

上述两个条件是必备的，否则下面的脚本是没法执行的哦！

这里我们以军哥 LNMP 一键安装包里的网站备份脚本 backup.sh 为例，里面原本的压缩备份打包文件的代码如下：

TodayWWWBackup=www-*-$(date +"%Y%m%d").tar.gz
TodayDBBackup=db-*-$(date +"%Y%m%d").sql
OldWWWBackup=www-*-$(date -d -3day +"%Y%m%d").tar.gz
OldDBBackup=db-*-$(date -d -3day +"%Y%m%d").sqlBackup_Dir()
{Backup_Path=$1Dir_Name=`echo ${Backup_Path##*/}`Pre_Dir=`echo ${Backup_Path}|sed 's/'${Dir_Name}'//g'`tar zcf ${Backup_Home}www-${Dir_Name}-$(date +"%Y%m%d").tar.gz -C ${Pre_Dir} ${Dir_Name}
}
Backup_Sql()
{${MySQL_Dump} -u$MYSQL_UserName -p$MYSQL_PassWord $1 > ${Backup_Home}db-$1-$(date +"%Y%m%d").sql
}

只需要对照修改成下面代码即可：

TodayWWWBackup=www-*-$(date +"%Y%m%d").tar.zst
TodayDBBackup=db-*-$(date +"%Y%m%d").sql.zst
OldWWWBackup=www-*-$(date -d -1day +"%Y%m%d").tar.zst
OldDBBackup=db-*-$(date -d -1day +"%Y%m%d").sql.zstBackup_Dir()
{Backup_Path=$1Dir_Name=`echo ${Backup_Path##*/}`Pre_Dir=`echo ${Backup_Path}|sed 's/'${Dir_Name}'//g'`tar '-I zstd -19 -T0' -cf ${Backup_Home}www-${Dir_Name}-$(date +"%Y%m%d").tar.zst -C ${Pre_Dir} ${Dir_Name}
}
Backup_Sql()
{${MySQL_Dump} -u$MYSQL_UserName -p$MYSQL_PassWord $1 | zstd -19 -T0 > ${Backup_Home}db-$1-$(date +"%Y%m%d").sql.zst
}

完成后，保存退出即可，想测试了也可以直接备份一下实测对比一下结果，其中上述代码里 zstd 命令后面的参数可以根据自己的服务器硬件配置进行调整的会有意想不到的效果的哦！

参数：-19

指的是压缩等级为 19，这是目前默认最高的，效果取决于你的内存了，内存越多效果越好。

参数: -T0

指的是压缩的时候使用所有 CPU，会影响压缩比的哦，比如你是 4H 的 CPU 就是 -T4,其他配置一次类推即可。

LNMP 环境下使用 Zstd 压缩优化网站备份脚本