LVS +Keepalived高可用群集
目录
一:Keepalived双机热备基础知识
1.Keepalived 概述及安装
1.1.Keepalived的热备方式
1.2.Keepalived 的安装与服务控制
(1)安装Keepalived
(2)控制Keepalived服务
2.使用Keepalived实现双机热备
2.1.主服务器的配置
2.2.备用服务器配置
2.3.检测双机热备功能
(1)连通性测试
(2)web访问测试
(3)查看日志记录
二:使用Keepalived实现双机热备
1.基础环境配置
2.配置主调度器
(1)全局配置,热备配置
(2)web服务器池配置
(3)重新启动Keepalived
3.配置从调度器
4.配置web节点服务器
5.测试LVS+Keepalived高可用群集
一:Keepalived双机热备基础知识
Keepalived 起初是专门针对 LVS 设计的一款强大的辅助工具,主要用来提供故障切换(Failover)和健康检査(Health Checking)功能--判断 LVS 负载调度器、节点服务器的可用性,当master 主机出现故障及时切换到 backup节点保证业务正常,当 master 故障主机恢复后将其重新加入群集并且业务重新切换回 master 节点。
1.Keepalived 概述及安装
Keepalived 的官方网站位于 http://www.keepalived.org/,本章将以 YUM方式讲解 Keepalived 的安装、配置和使用过程。在非 LVS 群集环境中使用时,Keepalived 也可以作为热备软件使用。
1.1.Keepalived的热备方式
Keepalived 采用 VRRP(Virtual Router Redundancy Protocol,虚拟路由冗余协议)热备份协议,以软件的方式实现 Linux 服务器的多机热备功能。VRRP是针对路由器的一种备份解决方案--由多台路由器组成一个热备组,通过共用的虚拟IP地址对外提供服务;每个热备组内同一时刻只有一台主路由器提供服务,其他路由器处于冗余状态。若当前在线的路由器失效,则其他路由器会自动接替(优先级决定接替顺序)虚拟IP地址,以继续提供服务。
热备组内的每台路由器都可能成为主路由器,虚拟路由器的IP地址(VIP)可以在热备组内的路由器之间进行转移,所以也称为漂移IP地址。使用Keepalived 时,漂移地址的实现不需要手动建立虚接口配置文件(如 ens33 :0),而是由 Keepalived 根据配置文件自动管理。
操作系统 | 配置 | IP | 服务 |
OpenEuler24 | 2C4G | 192.168.10.101 | keepalived/nginx |
OpenEuler24 | 2C4G | 192.168.10.102 | keepalived/nginx |
1.2.Keepalived 的安装与服务控制
(1)安装Keepalived
yum install -y keepalived ipvsadm nginx
(2)控制Keepalived服务
systemctl enable keepalived
2.使用Keepalived实现双机热备
2.1.主服务器的配置
systemctl stop firewalld //关闭防火墙
setenforce 0
cd /etc/keepalived/
cp keepalived.conf.sample keepalived.conf
vi keepalived.conf
global_defs {router_id HA_TEST_R1 //本路由器(服务器)的名称
}
vrrp_instance VI_1 { //定义 VRRP 热备实例state MASTER //热备状态,MASTER 表示主服务器interface ens33 //承载 VIP 地址的物理接口virtual_router_id 1 //虚拟路由器的 ID 号,每个热备组保持一致priority 100 //优先级,数值越大优先级越高advert_int 1 //通告间隔秒数(心跳频率)authentication { //认证信息,每个热备组保持一致auth_type PASS //认证类型auth_pass 123456 //密码字串}virtual_ipaddress { //指定漂移地址(VIP),可以有多个192.168.10.100}
}
systemctl start keepalived
ip addr show dev ens33
2.2.备用服务器配置
- 在同一个 Keepalived 热备组内,所有服务器的 Keepalived 配置文件基本相同,包括虚拟路由器的 ID 号、认证信息、漂移地址、心跳频率等。不同之处主要在于路由器名称、热备状态、优先级。
- 路由器名称(router_id):建议为每个参与热备的服务器指定不同的名称。
- 热备状态(state):至少应有一台主服务器,将状态设为 MASTER;可以有多台备用的服务器,将状态设为 BACKUP。
- 优先级(priority):数值越大则取得 VIP 控制权的优先级越高,因此主服务器的优先级应设为最高;其他备用服务器的优先级可依次递减,但不要相同,以免在争夺 VIP 控制权时发生冲突。
配置备用服务器(可以有多台)时,可以参考主服务器的 keepalived.conf 配置文件内容,只需修改路由器名称、热备状态、优先级
systemctl stop firewalld //关闭防火墙
setenforce 0
cd /etc/keepalived/
cp keepalived.conf.sample keepalived.conf
vi keepalived.conf
global_defs {router_id HA_TEST_R2 //本路由器(服务器)的名称
}
vrrp_instance VI_1 { //定义 VRRP 热备实例state BACKUP //热备状态,BACKUP 表示备用服务器interface ens33 //承载 VIP 地址的物理接口virtual_router_id 1 //虚拟路由器的 ID 号,每个热备组保持一致priority 90 //优先级,低于主服务器advert_int 1 //通告间隔秒数(心跳频率)authentication { //认证信息,每个热备组保持一致auth_type PASS //认证类型auth_pass 123456 //密码字串}virtual_ipaddress { //指定漂移地址(VIP),可以有多个192.168.10.100}
}
systemctl start keepalived
ip addr show dev ens33
2.3.检测双机热备功能
Keepalived 的日志消息保存在 /var/log/messages 文件中,在测试主、备故障自动切换功能时,可以跟踪此日志文件来观察热备状态的变化。以针对连通性和 Web 服务的测试为例,主要操作如下。
(1)连通性测试
在客户机中执行 “ping -t 192.168.10.100” 命令,能够正常、持续 ping 通,根据以下操作继续观察测试结果。
① 停止启用主服务器的 Keepalived 服务,发现 ping 测试只中断了 1 或 2 个包即恢复正常,说明已有其他服务器接替 VIP 地址,并及时响应客户机请求。
② 重新启用主服务器的 Keepalived 服务,发现 ping 测试再次中断 1 或 2 个包即恢复正常,说明主服务器已恢复正常,并夺回 VIP 地址的控制权。
(2)web访问测试
# Keepalived01
systemctl start nginx
echo "web01" >/usr/share/nginx/html/index.html# Keepalived02
systemctl start nginx
echo "web02" >/usr/share/nginx/html/index.html
在 keepalived 运行的主机上启动 nginx 服务并写入不通的测试页面内容
① 停止启用主服务器的 Keepalived 服务,再次访问上述 Web 服务,将看到由备用服务器 192.168.10.102 提供的网页文档,说明 VIP 地址已切换至备用服务器。
② 重新启用主服务器的 Keepalived 服务,再次访问上述 Web 服务,将看到重新由主服务器 192.168.10.101 提供的网页文档,说明主服务器已重新夺取 VIP 地址。
(3)查看日志记录
在执行主、备服务器故障切换的过程中,分别观察各自的 /var/log/messages 日志文件,可以看到 MASTER、SLAVE 状态的迁移记录。
① 主服务器中,Keepalived 服务状态先变为 “stop”,移除 VIP 地址,恢复后重新变为 MASTER。
less /var/log/messages
二:使用Keepalived实现双机热备
操作系统 | 配置 | 主机名 | IP | 服务 |
---|---|---|---|---|
OpenEuler24 | 2C4G | lb01 | 192.168.10.101 | Keepalived/ipvsadm |
OpenEuler24 | 2C4G | lb01 | 192.168.10.102 | Keepalived/ipvsadm |
OpenEuler24 | 2C4G | web01 | 192.168.10.103 | Nginx |
OpenEuler24 | 2C4G | web02 | 192.168.10.104 | Nginx |
OpenEuler24 | 2C4G | nfs-server | 192.168.10.105 | nfs-utils/rpcbind |
1.基础环境配置
# 关闭防火墙
systemctl stop firewalld
systemctl disable firewalld# 关闭内核安全机制
setenforce 0
sed -i "s/^SELINUX=.*$/SELINUX=disabled/g" /etc/selinux/config# 修改主机名
hostnamectl set-hostname lb01
hostnamectl set-hostname lb02
hostnamectl set-hostname web01
hostnamectl set-hostname web02# 加载 ip_vs 模块
modprobe ip_vs# 查看 ip_vs 版本信息
cat /proc/net/ip_vs# 安装服务并备份模板配置文件
yum install ipvsadm keepalived -y
cp /etc/keepalived/keepalived.conf{,.bak}
2.配置主调度器
(1)全局配置,热备配置
vi keepalived.conf
global_defs {router_id HA_TEST_R1 //本路由器(服务器)的名称
}
vrrp_instance VI_1 { //定义 VRRP 热备实例state MASTER //热备状态,MASTER 表示主服务器interface ens33 //承载 VIP 地址的物理接口virtual_router_id 1 //虚拟路由器的 ID 号,每个热备组保持一致priority 100 //优先级,数值越大优先级越高advert_int 1 //通告间隔秒数(心跳频率)authentication { //认证信息,每个热备组保持一致auth_type PASS //认证类型auth_pass 123456 //密码字串}virtual_ipaddress { //指定漂移地址(VIP),可以有多个192.168.10.100}
}
(2)web服务器池配置
vi /etc/keepalived/keepalived.conf
...... #省略部分信息
virtual_server 192.168.10.100 80 { #虚拟服务器地址(VIP)、端口delay_loop 15 #健康检查的间隔时间(秒)lb_algo rr #轮询(rr)调度算法lb_kind DR #直接路由(DR)群集工作模式! persistence 60 #连接保持时间(秒),若启用请去掉!号protocol TCP #应用服务采用的是 TCP 协议real_server 192.168.10.103 80 { #第一个 Web 节点的地址、端口weight 1 #节点的权重TCP_CHECK { #健康检查方式connect_port 80 #检查的目标端口connect_timeout 3 #连接超时(秒)nb_get_retry 3 #重试次数delay_before_retry 4 //重试间隔(秒)}}
real_server 192.168.10.104 80 { #第二个 Web 节点的地址、端口weight 1 #节点的权重TCP_CHECK { #健康检查方式connect_port 80 #检查的目标端口connect_timeout 3 #连接超时(秒)nb_get_retry 3 #重试次数delay_before_retry 4 //重试间隔(秒)
}
(3)重新启动Keepalived
systemctl restart keepalived
3.配置从调度器
vi /etc/keepalived/keepalived.conf
...... #省略部分信息
virtual_server 192.168.10.100 80 { #虚拟服务器地址(VIP)、端口delay_loop 15 #健康检查的间隔时间(秒)lb_algo rr #轮询(rr)调度算法lb_kind DR #直接路由(DR)群集工作模式! persistence 60 #连接保持时间(秒),若启用请去掉!号protocol TCP #应用服务采用的是 TCP 协议real_server 192.168.10.103 80 { #第一个 Web 节点的地址、端口weight 1 #节点的权重TCP_CHECK { #健康检查方式connect_port 80 #检查的目标端口connect_timeout 3 #连接超时(秒)nb_get_retry 3 #重试次数delay_before_retry 4 //重试间隔(秒)}}
real_server 192.168.10.104 80 { #第二个 Web 节点的地址、端口weight 1 #节点的权重TCP_CHECK { #健康检查方式connect_port 80 #检查的目标端口connect_timeout 3 #连接超时(秒)nb_get_retry 3 #重试次数delay_before_retry 4 //重试间隔(秒)
}
systemctl restart keepalived
4.配置web节点服务器
ip addr add 192.168.10.100/32 dev lo label lo:0
nmcli c reload
nmcli c up lo
ip router add local 192.168.10.100/30 dev lo #不需要敲
router add -host 192.168.10.172 dev lo
永久生效:
vim /etc/rc.local
ip addr add 192.168.10.100/32 dev lo label lo:0
:wq
chmod +x /etc/rc.localvim /etc/sysctl.conf
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
net.ipv4.conf.default.arp_ignore = 1
net.ipv4.conf.default.arp_announce = 2
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
sysctl -p