【RHCE】自动化备份全网服务器数据平台
项目背景知识
总体需求
-
某企业里有一台Web服务器,里面的数据很重要,但是如果硬盘坏了数据就会丢失,现在领导要求把数据做备份,这样Web服务器数据丢失在可以进行恢复
-
要求如下:
-
每天00点整在Web服务器上按日期打包备份系统配置文件、网站程序目录及访问日志文件
-
通过rsync命令推送到备份服务器上保存
-
备份服务器定时清除旧记录
-
搭建邮件告警平台
-
备份需求
-
所有服务器的备份目录必须都为/backup。
-
要备份的系统配置文件包括但不限于:
-
定时任务服务的配置文件(/var/spool/cron/root) (适合Web和NFS服务器)。
-
开机自启动的配置文件(/etc/rc.local) (适合Web和NFS服务器)。
-
日常脚本的目录 (/server/scripts)。
-
-
Web服务器要求
-
Web站点目录假定为/var/html/www,如果没有,可以先模拟创建。
-
Web服务器访问日志路径假定为/app/logs,如果没有,可以先模拟创建。
-
Web服务器本地保留打包后的7天备份数据即可(本地留存不能多于7天,因为数据太多硬盘会满)。
-
-
备份服务器要求
-
保留最近7天所有备份数据,保留6个月内每周一的所有数据副本。
-
要按照备份数据服务器内网IP为目录名称,备份的文件按照时间、名称为文件名称。
-
需要确保备份的数据尽量完整准确,在备份服务器上对备份的数据是否完整进行检查。
-
备份服务器每天早晨8:00把备份成功或失败结果信息发送到系统管理员邮箱里。
-
服务器说明 | 备份目录 | 目录说明 | 备注 |
all server | /backup | 备份目录 | 统一服务器本地备份目录,便于管理 |
all server | /var/spool/cron/root | 定时任务服务配置文件 | 系统配置文件 |
all server | /etc/rc.local | 开机自启动配置文件 | 系统配置文件 |
all server | /server/scripts | 日常脚本目录 | 统一服务器本地脚本目录,便于管理 |
Web server | /var/www/html | web服务器站点目录 | mkdir -p /var/www/html |
Web server | /app/logs | web服务器访问日志路径 | mkdir -p /app/logs |
Rsync概述
作用:
-
rsync:remote sync(远程同步),是一个在 Linux 和其他 Unix-like 系统上一个非常强大的命令行工具,用于计算机之间进行数据同步,可以当做文件复制工具,替代cp和mv命令,主页:https://rsync.samba.org/
特点
-
同步速度快:由于使用sync算法,其只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快。
-
可以镜像保存整个目录树和文件系统
-
可以很容易做到保持原来文件的权限、时间、软硬链接等
-
无须特殊权限即可安装
-
优化的流程,文件传输效率高
-
可以使用rsh、ssh等方式来传输文件,当然也可以通过直接的socket连接
-
支持匿名传输。
软硬件环境清单
--已知3台服务器主机名分别为web01、backup、nfs01,主机信息见下表。
主机名 | IP地址 | 硬件 | 软件 |
web01 | 192.168.29.158 | cpu:1颗2核 内 存:2GB HDD:20GB | VmWare17 Centos7.9 nginx1.20 rsync3.1.2 |
nfs01 | 192.168.29.156 | cpu:1颗2核 内 存:2GB HDD:20GB | VmWare17 Centos7.9 nfs rpcbind rsync3.1.2 |
backup | 192.168.29.159 | cpu:1颗2核 内 存:2GB HDD:20GB | VmWare17 Centos7.9 mailx12.5 rsync3.1.2 |
--安装镜像:https://mirrors.aliyun.com/centos/7.9.2009/isos/x86_64/CentOS-7-x86_64-DVD-2207-02.iso
注意:项目环境搭建--按照规划,最小化部署系统,关闭防火墙,禁用SELinux,确保能够联网。
实施步骤
环境搭建
web01服务器环境搭建
--安装Centos7.9系统,替换yum源,连接xshell
--关闭防火墙和selinux,设置主机名
--设置静态ip
--激活网卡并安装所有需要使用的软件
--部署网站示例
[root@web01 ~]# wget -O /etc/yum.repos.d/epel.repo https://mirrors.aliyun.com/repo/epel-7.repo
[root@web01 ~]# yum makecache
[root@web01 ~]# yum install nginx -y
[root@web01 ~]# mkdir -p /www
[root@web01 ~]# cd /www
--修改nginx的配置文件
[root@web01 www]# vim /etc/nginx/nginx.conf
--测试:打开windows端浏览器输入服务端IP地址
nfs服务器环境搭建
--安装Centos7.9系统,替换yum源,连接xshell(步骤同上)
--关闭防火墙和selinux,设置主机名
--设置静态ip
--激活网卡并安装所有需要使用的软件
--部署共享存储,nfs01为服务端,web01为客户端
nfs01服务端操作:
[root@nfs01 ~]# yum install rpcbind -y
[root@nfs01 ~]# yum install nfs-utils -y
[root@nfs01 ~]# mkdir /nfsfile
[root@nfs01 ~]# echo "welcome to www.openlab.com" > /nfsfile/readme
[root@nfs01 ~]# chmod -Rf 777 /nfsfile
[root@nfs01 ~]# vim /etc/exports # 编辑nfs配置文件,添加如下内容
[root@nfs01 ~]# systemctl start rpcbind
[root@nfs01 ~]# systemctl enable rpcbind
[root@nfs01 ~]# systemctl start nfs-server
[root@nfs01 ~]# systemctl enable nfs-server
Created symlink from /etc/systemd/system/multi-user.target.wants/nfs-server.service to /usr/lib/systemd/system/nfs-server.service.
web01客户端操作:
backup服务器环境搭建
--安装Centos7.9系统,替换yum源,连接xshell(同上)
--关闭防火墙和selinux,设置主机名
--设置静态ip
--激活网卡并安装所有需要使用的软件
[root@backup ~]# yum install vim tree tar net-tools rsync mailx -y
--修改rsync配置文件
[root@backup ~]# vim /etc/rsyncd.conf
--配置文件设置
# 创建rsync账户及共享目录并修改目录属主为rsync
[root@backup ~]# useradd -M -s /sbin/nologin rsync
[root@backup ~]# mkdir /backup
[root@backup ~]# chown -R rsync /backup# 开机并启动服务
[root@backup ~]# systemctl enable --now rsyncd
[root@backup ~]# ps -ef | grep rsync
root 4025 1 0 22:12 ? 00:00:00 /usr/bin/rsync --daemon --no-detach
root 4027 2569 0 22:12 pts/1 00:00:00 grep --color=auto rsync# 创建rsync虚拟账户名和密码,并赋予密码文件600权限
[root@backup ~]# echo "rsync:rsync123" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
配置备份脚本
配置web01客户端本地备份脚本
--web01客户端主机需要打包备份的内容:
--编写备份web01服务器的脚本
[root@web01 ~]# vim /server/scripts/backup.sh#!/bin/bash
# Date:2025-2-19
# Author:Andy
# Mail:andy@126.com
# Function: Regularly backup data from web servers
# Version: V1.0Date=$(date +%F_Week0%w) # 定义时间方式
Host_IP=$(ifconfig ens32 | awk '/inet / {print $2}') # 获取IP,注意网卡名
Backup_Dir="/backup/" # 本地备份路径
Backup_Server_IP=192.168.29.159 # 备份服务器的IP# 创建指定目录和IP的目录
[ ! -d $Backup_Dir/$Host_IP ] && mkdir -p $Backup_Dir/$Host_IP# 输出提示信息
echo ${Date} ${Host_IP} start backup ......# 按要求打包备份所有本地重要文件
cd / &&\
tar cf ${Backup_Dir}${Host_IP}/sys_file_bak_${Date}_tar.gz var/spool/cron &&\
tar rf ${Backup_Dir}${Host_IP}/sys_file_bak_${Date}_tar.gz etc/rc.d/rc.local &&\
tar rf ${Backup_Dir}${Host_IP}/sys_file_bak_${Date}_tar.gz server/scripts/ &&\
tar zcf $Backup_Dir$Host_IP/www_${Date}_tar.gz www/ &&\
tar zcf $Backup_Dir$Host_IP/nginx_logs_${Date}_tar.gz var/log/nginx/ &&\# 给所有备份的压缩文件建立指纹,放入指纹库flag,后面会验证完整性
find ${Backup_Dir:-/tmp} -type f -name "*${Date}_tar.gz" |xargs md5sum >$Backup_Dir/$Host_IP/${Date}.flag# 把备份推送到备份服务器
rsync -az $Backup_Dir rsync@${Backup_Server_IP}::backup --password-file=/etc/rsync.password# 删除7天以前的所有本地备份数据
find ${Backup_Dir:-/tmp} -type f -name "*.tar.gz" -a -name "*flag*" -mtime +7|xargs rm -fecho "Local backup successful, the backup files have been pushed to the backup server"
[root@web01 ~]# vim /etc/rsync.password # 客户端建立认证的文件密码如下:
rsync123 # 注意:只写密码[root@web01 ~]# chmod 600 /etc/rsync.password # 密码认证文件必须为600
--测试:
注意:若遇到下列错误可以参考:rsync关于auth failed on module xxx的解决方法__src_新浪博客
@ERROR: auth failed on module backup
rsync error: error starting client-server protocol (code 5) at main.c(1656) [sender=3.1.2]
配置nfs01客户端本地备份脚本
nfs01客户端主机需要打包备份的内容:
#!/bin/bash
# Date:2025-2-19
# Author:Andy
# Mail:andy@126.com
# Function: Regularly backup data from nfs servers
# Version: V1.0Date=$(date +%F_Week0%w) # 定义时间方式
Host_IP=$(ifconfig ens32 | awk '/inet / {print $2}') # 获取IP,注意网卡名
Backup_Dir="/backup/" # 本地备份路径
Backup_Server_IP=192.168.29.159 # 备份服务器的IP
mount -l > /var/log/mount.log # 挂载日志# 创建指定目录和IP的目录
[ ! -d $Backup_Dir/$Host_IP ] && mkdir -p $Backup_Dir/$Host_IP# 输出提示信息
echo ${Date} ${Host_IP} start backup ......# 按要求打包备份所有本地重要文件
cd / &&\
tar cf ${Backup_Dir}${Host_IP}/sys_file_bak_${Date}_tar.gz var/spool/cron &&\
tar rf ${Backup_Dir}${Host_IP}/sys_file_bak_${Date}_tar.gz etc/rc.d/rc.local &&\
tar rf ${Backup_Dir}${Host_IP}/sys_file_bak_${Date}_tar.gz server/scripts/ &&\
tar zcf $Backup_Dir$Host_IP/nfs_${Date}_tar.gz nfsfile/ &&\
tar zcf $Backup_Dir$Host_IP/mount_logs_${Date}_tar.gz var/log/mount.log/ &&\# 给所有备份的压缩文件建立指纹,放入指纹库flag,后面会验证完整性
find ${Backup_Dir:-/tmp} -type f -name "*${Date}_tar.gz" |xargs md5sum >$Backup_Dir/$Host_IP/${Date}.flag# 把备份推送到备份服务器
rsync -az $Backup_Dir rsync@${Backup_Server_IP}::backup --password-file=/etc/rsync.password# 删除7天以前的所有本地备份数据
find ${Backup_Dir:-/tmp} -type f -name "*.tar.gz" -a -name "*flag*" -mtime +7|xargs rm -fecho "Local backup successful, the backup files have been pushed to the backup server"
[root@nfs01 ~]# vim /etc/rsync.password # 客户端建立认证的文件密码如下:
rsync123 # 注意:只写密码[root@nfs01 ~]# chmod 600 /etc/rsync.password # 密码认证文件必须为600
[root@nfs01 ~]# ls -ld /etc/rsync.password
-rw-r--r-- 1 root root 9 Feb 19 16:40 /etc/rsync.password
--测试
[root@nfs01 ~]# bash /server/scripts/backup.sh # 在backup服务器中可以看到推送的数据
[root@backup ~]# ls /backup/
192.168.29.158 192.168.29.156
配置定时任务
--web01服务器编辑定时任务,实现每天00:00定时备份本地数据,并推送到Rsync服务器上
# 查看crond服务状态,默认已安装
[root@web01 ~]# systemctl status crond
● crond.service - Command SchedulerLoaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)Active: active (running) since Thu 2025-02-20 09:00:05 CST; 11min agoMain PID: 1119 (crond)CGroup: /system.slice/crond.service└─1119 /usr/sbin/crond -n
…………………………………………………………# 注意若未安装可执行:
[root@web01 ~]# yum install crontabs
--编辑定时任务
[root@web01 ~]# crontab -e
#添加:
# crond-id-001:data backup
00 00 * * * /bin/sh /server/scripts/backup.sh >/dev/null 2>&1 # 若出现定时任务如下信息不用处理:
no crontab for root - using an empty one
crontab: installing new crontab
--nfs01服务器过程同上
--backup服务器编写脚本,实现删除180天前的所有备份数据,但保存每周一的
[root@backup ~]# mkdir -p /server/scripts
[root@backup ~]# cd /server/scripts/
[root@backup scripts]# vim /server/scripts/del_bak_data.sh#!/bin/bash
# Date:2025-2-20
# Author:Andy
# Mail:andy@126.com
# Function: Delete all backup data from 180 days ago, but save every Monday
# Version: V1.0Backup_Dir="/backup/"
# 删除7天前的压缩包和flag文件,但是每周一的不删
find ${Backup_Dir:-/tmp} -type f -name "*tar.gz*" ! -name "*Week01*" -o -name "*flag*" -mtime +7|xargs rm -f# 删除180天前的所有压缩包和flag文件
find ${Backup_Dir:-/tmp} -type f -name "*tar.gz*" -name "*flag*" -mtime +180|xargs rm -f# 注意:Backup_Dir:-/tmp表示检查环境变量 Backup_Dir 是否已设置。如果设置了,就使用其值;如果没有设置,就使用默认值 /tmp
--backup服务器配置定时任务,实现服务端180天前数据自动删除
[root@backup ~]# crontab -e
#添加:
# crond-id-003:data backup
00 00 * * * /bin/sh /server/scripts/del_bak_data.sh >/dev/null 2>&1
数据传输完整性验证与监控告警
验证数据完整性
--backup服务端针对客户端备份时的md5指纹数据,利用MD5命令进行验证,完成数据传输过程完整性验证。
[root@backup scripts]# vim send_mail.sh #!/bin/bash
# Date:2025-2-20
# Author:Andy
# Mail:andy@126.com
# Function: Verify the integrity of backup files
# Version: V1.0Date=$(date +%F_Week0%w)
Backup_Dir="/backup/"
Check_Log="/tmp/bak.log_$(date +%F)" # 定时检查备份结果的文件
Admin_Mail=邮箱 # 管理员邮箱find $Backup_Dir -type f -name "${Date}.flag"|xargs md5sum -c >> $Check_Logif [ -n "cat $Check_Log" ]
thenmail -s "$Date backup data info" $Admin_Mail < $Check_Log
elseecho "$Date backup data error,pls check it." > $Check_Log # 如果结果文件不存在,日志信息变化,报错mail -s "$Date backup data info" $Admin_Mail < $Check_Log
fi
cp $Check_Log{,.ori} && > $Check_Log
配置邮件告警
--安装邮件服务
[root@backup ~]# yum install mailx -y
--配置qq邮箱ssl证书
[root@backup ~]# mkdir -p /root/.certs
[root@backup ~]# cd /root/.certs[root@backup .certs]# echo -n | openssl s_client -connect smtp.qq.com:465 | sed -ne '/-BEGIN CERTIFICATE-/,/-END CERTIFICATE-/p' > ~/.certs/qq.crt[root@backup .certs]# certutil -A -n "GeoTrust SSL CA" -t "C,," -d ~/.certs -i ~/.certs/qq.crt[root@backup .certs]# certutil -A -n "GeoTrust Global CA" -t "C,," -d ~/.certs -i ~/.certs/qq.crt[root@backup .certs]# certutil -A -n "GeoTrust SSL CA - G3" -t "Pu,Pu,Pu" -d ./ -i qq.crt
--配置邮件服务
[root@backup .certs]# vim /etc/mail.rc
# 最后一行后添加以下内容:set from=邮箱
set smtp=smtps://smtp.qq.com:465 # ssl端口默认465
set smtp-auth-user=邮箱
set smtp-auth-password=授权码 # 授权码
set smtp-auth=login
set nss-config-dir=/root/.certs/ # 设置证书路径
set ssl-verify=ignore # 启用加密ssl传输in
--测试邮件服务
[root@backup ~]# echo "testmail" | mail -s "testmail" 邮箱[root@backup ~]# bash /server/scripts/send_mail.sh