Keepalived高可用冗余服务实施案例-ITB运维部落—http://www.itbcn.cn—ITB运维技术交流之家平台
记录工作点滴
分享运维知识

Keepalived高可用冗余服务实施案例

一、高可用冗余服务介绍

作用说明:

避免单点故障
1). 负载均衡服务
2). 数据库服务 高可用(MHA)
3). 存储服务器 NFS如何实现高可用 keepalived实现高可用(脚本)+sersync Heartbeat+drbd(同步数据)
4). 备份服务器 数据同步

实现方式:

利用keepalived服务软件
keepalived软件介绍:

  1. 利用keepalived软件实现管理lvs服务
  2. 利用keepalived软件实现后端节点健康检查功能
  3. 利用keepalived软件可以实现冗余功能 ***
    利用keepalived如何实现了高可用(原理)
    利用了vrrp协议:

    image.png

二、 高可用服务部署过程:

架构环境准备:
lb01 10.0.0.5 nginx keepalived
lb02 10.0.0.6 nginx keepalived
web01 10.0.0.7 nginx
web02 10.0.0.8 nginx
web03 10.0.0.9 nginx
第一个历程: web服务器环境
web-www.conf

    server {
       listen            80;
       server_name       www.oldboy.com www.jd.com;
       root              /html/www;
       index             index.html;
    }

web01:
# cat /html/www/oldboy.html
web01 www.oldboy.com
web02:
# cat /html/www/oldboy.html
web02 www.oldboy.com
web03
# cat /html/www/oldboy.html
web03 www.oldboy.com
测试后端节点:
curl -H host:www.oldboy.com 10.0.0.7/oldboy.html
curl -H host:www.oldboy.com 10.0.0.8/oldboy.html
curl -H host:www.oldboy.com 10.0.0.9/oldboy.html
第二个历程: 安装负载均衡服务并进行配置
编写nginx配置文件

    upstream oldboy {
      server 10.0.0.7:80;
      server 10.0.0.8:80;
      server 10.0.0.9:80;
    }   
    server {
      listen        80;
      server_name   localhost;
      location / {
         proxy_pass  http://oldboy;
         proxy_set_header Host $host;
         proxy_set_header X-Forwarded-For $remote_addr;   
      }
    }

第三个历程: 安装keepalived服务 lb01 lb02
yum install -y keepalived

第四个历程: 编写keepalived配置文件
lb01
cat /etc/keepalived/keepalived.conf
! Configuration File for keepalived — 注释说明
global_defs { — 全局配置
notification_email { — 设置通知邮箱地址信息
[email protected]
[email protected]
[email protected]
}
notification_email_from [email protected]
smtp_server 192.168.200.1
smtp_connect_timeout 30
router_id lb01 — 标识每个主机身份名称
}
vrrp_instance oldboy { — 设置一个家族
state MASTER — 设置一个主机为主服务器(期望) (MASTER BACKUP)
interface eth0 — 设置指定网卡上生成VIP地址
virtual_router_id 63 — 设置主备一致 家族数值标识
priority 110 — 优先级越高,越有可能成为主
advert_int 1 — 组播包发送间隔
authentication { — 设置组播通讯认证进制
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
10.0.0.3 — 设置VIP地址数值信息
}
}
lb02
cat /etc/keepalived/keepalived.conf
! Configuration File for keepalived — 注释说明
global_defs { — 全局配置
notification_email { — 设置通知邮箱地址信息
[email protected]
[email protected]
[email protected]
}
notification_email_from [email protected]
smtp_server 192.168.200.1
smtp_connect_timeout 30
router_id lb02 — 标识每个主机身份名称 *
}
vrrp_instance oldboy { — 设置一个家族
state BACKUP — 设置一个主机为主服务器(期望) (MASTER BACKUP) *
interface eth0 — 设置指定网卡上生成VIP地址
virtual_router_id 63 — 设置主备一致 家族数值标识
priority 100 — 优先级越高,越有可能成为主 *
advert_int 1 — 组播包发送间隔
authentication { — 设置组播通讯认证进制
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
10.0.0.3 — 设置VIP地址数值信息
}
}

systemctl start keepalived.service

三、keepalived高可用服务常见问题

1.高可用脑裂问题(高可用集群中,多台主机都有vip地址了)

出现原因: 主服务器还活着, 备服务器收不到组播包

  1. 防火墙服务开启了,阻止组播包通讯
  2. 主备服务器之间心跳线出现问题
  3. 仲裁服务器出现问题

如何监控发现出现了脑裂问题:

lb02编写监控脚本—监控备服务器有没有出现vip地址
备服务器出现vip原因

  1. 正常主备切换了
  2. 出现了脑裂问题

       #!/bin/bash
       ip a|grep 10.0.0.3 &>/dev/null
       if [ $? -eq 0 ]
       then
          echo "master and backup change"|mail -s "check keepalived server" 330882721@qq.com
       fi

2.keepalived存在价值

nginx负载均衡服务停止 + keepalive服务也应该停止运行
第一个历程: 编写监控nginx服务状态脚本
方法一: 监控nginx服务进程状态
ps -ef|grep nginx
方法二: 监控nginx服务端口状态
netstat -lntup|grep 80

       #!/bin/bash
       port_info=$(netstat -lntup|grep -w 80|wc -l)
       
       if [ $port_info -eq 0 ]
       then
          systemctl stop keepalived
       fi

第二个历程: 将脚本信息调用到keepalived配置文件中
! Configuration File for keepalived
global_defs {
notification_email {
[email protected]
[email protected]
[email protected]
}
notification_email_from [email protected]
smtp_server 192.168.200.1
smtp_connect_timeout 30
router_id lb01
}
vrrp_script check_web { — 定义需要监控脚本文件信息
script “/server/scripts/check_web.sh” — 绝对路径定义脚本文件/脚本文件必须有执行权限
interval 2 — 脚本执行间隔周期
weight 2 — ???
}
vrrp_instance oldboy {
state MASTER
interface eth0
virtual_router_id 63
priority 110
advert_int 1
authentication {
auth_type PASS
auth_pass 1111
}
virtual_ipaddress {
10.0.0.3
}
track_script { — 定期运行监控脚本
check_web
}
}

curl www.oldboy.com –> 不等于200
取出状态码信息
curl -I www.oldboy.com -s |awk ‘NR==1{print $2}’
curl -I www.oldboy.com -o /dev/null -s -w “%{http_code}\n”

四、企业中服务网络安全访问配置

目的:

尽可能不暴露企业服务器IP地址信息给用户
第一个历程: 修改lb负载均衡配置文件

    upstream oldboy {
      server 10.0.0.7:80;
      server 10.0.0.8:80;
      server 10.0.0.9:80;
    }   
    server {
      listen        10.0.0.3:80;
      server_name   localhost;
      location / {
         proxy_pass  http://oldboy;
         proxy_set_header Host $host;
         proxy_set_header X-Forwarded-For $remote_addr;   
      }
    }

注意项:

  1. nginx程序涉及到IP地址修改,必须重启nginx
  2. 监听的地址必须是本地网卡上有的地址
    如何监听网卡上没有的地址:
    解决方法:

    echo 'net.ipv4.ip_nonlocal_bind = 1' >>/etc/sysctl.conf
    sysctl -p

作者:荆俊玮
链接:https://www.jianshu.com/p/457564366f35

未经允许不得转载:ITB运维部落—http://www.itbcn.cn—ITB运维技术交流之家平台 » Keepalived高可用冗余服务实施案例

如果文章对你有帮助,欢迎点击上方按钮打赏作者

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址