一 HAProxy简介


HAProxy是一种高效、可靠、免费的高可用及负载均衡解决方案,非常适合于高负载站点的七层数据请求。客户端通过HAProxy代理服务器获得站点页面,而代理服务器收到客户请求后根据负载均衡的规则将请求数据转发给后端真实服务器。

同一客户端访问服务器,HAProxy保持回话的三种方案:

1 HAProxy将客户端ip进行Hash计算并保存,由此确保相同IP访问时被转发到同一真实服务器上。

2 HAProxy依靠真实服务器发送给客户端的cookie信息进行回话保持。

3 HAProxy保存真实服务器的session及服务器标识,实现会话保持功能。


------------------------------------------------------------------------

haproxy配置可参考:

https://blog.csdn.net/sj349781478/article/details/78862315

https://blog.51cto.com/yjy724/1840795

配置解析示例1:

参数举例说明:【/etc/haproxy/haproxy.cfg】

###########全局配置#########
global
  log 127.0.0.1 local0 #[日志输出配置,所有日志都记录在本机,通过local0输出]
  log 127.0.0.1 local1 notice #定义haproxy 日志级别[error warringinfo debug]
  daemon #以后台形式运行harpoxy
  nbproc 1 #设置进程数量
  maxconn 4096 #默认最大连接数,需考虑ulimit-n限制
  #user haproxy #运行haproxy的用户
  #group haproxy #运行haproxy的用户所在的组
  #pidfile /var/run/haproxy.pid #haproxy 进程PID文件
  #ulimit-n 819200 #ulimit 的数量限制
  #chroot /usr/share/haproxy #chroot运行路径
  #debug #haproxy 调试级别,建议只在开启单进程的时候调试
  #quiet

########默认配置############
defaults
  log global
  mode http #默认的模式mode { tcp|http|health },tcp是4层,http是7层,health只会返回OK
  option httplog #日志类别,采用httplog
  option dontlognull #不记录健康检查日志信息
  retries 2 #两次连接失败就认为是服务器不可用,也可以通过后面设置
  #option forwardfor #如果后端服务器需要获得客户端真实ip需要配置的参数,可以从Http Header中获得客户端ip
  option httpclose #每次请求完毕后主动关闭http通道,haproxy不支持keep-alive,只能模拟这种模式的实现
  #option redispatch #当serverId对应的服务器挂掉后,强制定向到其他健康的服务器,以后将不支持
  option abortonclose #当服务器负载很高的时候,自动结束掉当前队列处理比较久的链接
  maxconn 4096 #默认的最大连接数
  timeout connect 5000ms #连接超时
  timeout client 30000ms #客户端超时
  timeout server 30000ms #服务器超时
  #timeout check 2000 #心跳检测超时
  #timeout http-keep-alive10s #默认持久连接超时时间
  #timeout http-request 10s #默认http请求超时时间
  #timeout queue 1m #默认队列超时时间
  balance roundrobin #设置默认负载均衡方式,轮询方式
  #balance source #设置默认负载均衡方式,类似于nginx的ip_hash
  #balnace leastconn #设置默认负载均衡方式,最小连接数

########统计页面配置########
listen stats
  bind 0.0.0.0:1080 #设置Frontend和Backend的组合体,监控组的名称,按需要自定义名称
  mode http #http的7层模式
  option httplog #采用http日志格式
  #log 127.0.0.1 local0 err #错误日志记录
  maxconn 10 #默认的最大连接数
  stats refresh 30s #统计页面自动刷新时间
  stats uri /stats #统计页面url
  stats realm XingCloud\ Haproxy #统计页面密码框上提示文本
  stats auth admin:admin #设置监控页面的用户和密码:admin,可以设置多个用户名
  stats auth Frank:Frank #设置监控页面的用户和密码:Frank
  stats hide-version #隐藏统计页面上HAProxy的版本信息
  stats admin if TRUE #设置手工启动/禁用,后端服务器(haproxy-1.4.9以后版本)

########设置haproxy 错误页面#####
#errorfile 403 /home/haproxy/haproxy/errorfiles/403.http
#errorfile 500 /home/haproxy/haproxy/errorfiles/500.http
#errorfile 502 /home/haproxy/haproxy/errorfiles/502.http
#errorfile 503 /home/haproxy/haproxy/errorfiles/503.http
#errorfile 504 /home/haproxy/haproxy/errorfiles/504.http

########frontend前端配置##############
frontend main
  bind *:80 #这里建议使用bind *:80的方式,要不然做集群高可用的时候有问题,vip切换到其他机器就不能访问了。
  acl web hdr(host) -i www.abc.com  #acl后面是规则名称,-i为忽略大小写,后面跟的是要访问的域名,如果访问www.abc.com这个域名,就触发web规则,。
  acl img hdr(host) -i img.abc.com  #如果访问img.abc.com这个域名,就触发img规则。
  use_backend webserver if web   #如果上面定义的web规则被触发,即访问www.abc.com,就将请求分发到webserver这个作用域。
  use_backend imgserver if img   #如果上面定义的img规则被触发,即访问img.abc.com,就将请求分发到imgserver这个作用域。
  default_backend dynamic #不满足则响应backend的默认页面

########backend后端配置##############
backend webserver #webserver作用域
  mode http
  balance roundrobin #balance roundrobin 负载轮询,balance source 保存session值,支持static-rr,leastconn,first,uri等参数
  #option httpchk /index.html HTTP/1.0 #健康检查, 检测文件,如果分发到后台index.html访问不到就不再分发给它
  server web1 10.16.0.9:8085 cookie 1 weight 5 check inter 2000 rise 2 fall 3
  server web2 10.16.0.10:8085 cookie 2 weight 3 check inter 2000 rise 2 fall 3
  #cookie 1表示serverid为1,check inter 1500 是检测心跳频率 
  #rise 2是2次正确认为服务器可用,fall 3是3次失败认为服务器不可用,weight代表权重

backend imgserver
  mode http
  option httpchk /index.php
  balance roundrobin 
  server img01 192.168.137.101:80 check inter 2000 fall 3
  server img02 192.168.137.102:80 check inter 2000 fall 3

backend dynamic 
  balance roundrobin 
  server test1 192.168.1.23:80 check maxconn 2000 
  server test2 192.168.1.24:80 check maxconn 2000


listen tcptest 
  bind 0.0.0.0:5222 
  mode tcp 
  option tcplog #采用tcp日志格式 
  balance source 
  #log 127.0.0.1 local0 debug 
  server s1 192.168.100.204:7222 weight 1 
  server s2 192.168.100.208:7222 weight 1


配置示例2:

[root@localhost ~]# cat /etc/haproxy/haproxy.cfg|grep -v "#"

global
    log         127.0.0.1 local2

    chroot      /var/lib/haproxy
    pidfile     /var/run/haproxy.pid
    maxconn     4000
    user        haproxy
    group       haproxy
    daemon

    stats socket /var/lib/haproxy/stats

defaults
    mode                    http
    log                     global
    option                  httplog
    option                  dontlognull
    option http-server-close
    option forwardfor       except 127.0.0.0/8
    option                  redispatch
    retries                 3
    timeout http-request    10s
    timeout queue           1m
    timeout connect         10s
    timeout client          1m
    timeout server          1m
    timeout http-keep-alive 10s
    timeout check           10s
    maxconn                 3000


listen stats
    bind 0.0.0.0:9090
    mode  http
    stats  enable
    maxconn 10
    stats refresh 30s
    stats  uri  /admin
    stats  realm haproxy
    stats  auth  admin:123456
    stats  admin  if TRUE

frontend  main *:5000
    acl url_static       path_beg       -i /static /images /javascript /stylesheets
    acl url_static       path_end       -i .jpg .gif .png .css .js

    use_backend static          if url_static
    default_backend             web

backend static
    balance     roundrobin
    server      static 127.0.0.1:4331 check

backend web
    mode   http
    balance     roundrobin
    server  web1 192.168.0.202:80  check inter 2000 rise 2 fall 3 weight 1
    server  web2 192.168.0.203:80  check inter 2000 rise 2 fall 3 weight 1
    server  web3 192.168.0.204:80  check inter 2000 rise 2 fall 3 weight 1

配置示例2的监控

HAProxy负载均衡原理及企业级实例部署haproxy集群_负载


----------------------------------------------------------------------------


haproxy拓扑结构图

HAProxy负载均衡原理及企业级实例部署haproxy集群_均衡_02



二 配置文件解析


Haproxy安装后默认没有配置文件,需要手动创建/etc/haproxy.cfg。启动haproxy时用-f指定配置文件路径。haproxy的配置文件包含全局设置段与代理段,global是全局段,defaults、listen、frontend、backend为代理段。frontend用来匹配客户端请求的域名或者URL;backend定义后端服务器集群


haproxy配置文件参数详细解析

      配置项
        描述









global

chroot<jail dir>将工作目录切换到<jail dir>并执行chroot
daemon后台工作模式
uid进程账户id,建议设置为haproxy专用账户
gid进程组id,建议设置为haproxy专用组
log<address><facility>配置全局syslog,可以设置两台日志服务器
nbproc<number>指定后台进程数量
pidfile<file>指定pid文件
ulimit-n<number>

设置每个进程最大文件描述符数量

maxconn<number>每个进程支持的最大并发数
tune.bufsize<number>设置buffer大小,默认16384B



















代理

设置

mode
可选tcp、http、health
timeout check<timeout>设置检查超时时间
contimeout<timeout>设置连接超时时间
balance roundrobin设置轮询负载
bind<address>:port定义一个或者多个监听地址和端口
stats auth admin:admin设置监控界面的用户名和密码
stats refresh<number>统计页面刷新间隔时间
option httplog使用http日志
cookie<name>启用cookie的保持连接功能
option forwardfor
允许插入这种数据包头,可以让后端服务器获取客户端ip
option abortonclose
负载高时,自动关闭处理时间长的请求
option allbackups后端服务器宕机,是否激活全部备机,默认启动第一个备机
option dontlognull
不记录空连接日志,主要用于不记录健康检查日志
option redispatch后端某个机器宕机,强制把请求转发给健康机器
monitor-uri<URi>检查uri文件是否存在,依次判断主机的健康状态
monitor-fail if site_dead
服务器宕机时,返回503代码
option httpchk<uri>使用http协议检查服务器健康状态
retries<value>服务器连接失败后的重试次数
timeout client客户端最大超时时间,单位毫秒
timeout server服务器最大超时时间,单位毫秒
timeout connect最大连接超时时间,单位毫秒
default_backend默认后端服务器组
use_backend当条件满足时,指定后端服务器组
acl<name><criterion>定义访问控制列表


三 Haproxy实例部署


本例使用listen定义一个监控端口;

使用frontend定义一个前端80端口;

通过backend定义名为inside_servers 和 external_servers的服务器组;

使用default_backend定义默认服务器组external_servers;

external_servers包括web1.test.com和web2.test.com 两台服务器

inside_servers包含web3.test.com 一台服务器


服务器名称网络配置
haproxy.test.cometh0:10.10.10.10
eth1:192.168.1.2
web1.test.cometh0:192.168.1.3
web2.test.cometh0:192.168.1.4
web3.test.cometh0:192.168.1.5


1 首先配置web服务器

在web1 web2 web3上安装httpd并配置网卡

vim /etc/sysconfig/network-scripts/ifcfg-eth0

DEVICE=eth0

BOOTPROTO=static

IPADDR=192.168.1.3

NETMASK=255.255.255.0

GATEWAY=192.168.1.2

ONBOOT=yes

TYPE=Ethernet


service network restart

yum install -y httpd

iptables -F

iptables -X

service iptables save

setenforce 0

sed -i s/enforcing/disabled/g /etc/sysconfig/selinux

echo "web1  192.168.1.3" > /var/www/html/index.html

service httpd restart

chkconfig httpd on

web2 web3机器上执行与web1相同步骤,注意修改部分参数


2 接着haproxy服务器配置

设置两块网卡

vim /etc/sysconfig/network-scripts/ifcfg-eth0

DEVICE=eth0

BOOTPROTO=static

IPADDR=10.10.10.10

NETMASK=255.0.0.0

ONBOOT=yes

TYPE=Ethernet


vim /etc/sysconfig/network-scripts/ifcfg-eth1

DEVICE=eth1

BOOTPROTO=static

IPADDR=192.168.1.2

NETMASK=255.255.255.0

GATEWAY=192.168.1.1

ONBOOT=yes

TYPE=Ethernet


service network restart

service iptables stop

内核调优,修改系统文件

vim /etc/security/limits.conf

*    soft    nofile        65535 

*    hard    nofile        65535

配置日志文件,添加三行

vim /etc/rsyslog.conf

$ModLoad    imudp

$UDPServerRun    514

local3.*                        /var/log/haproxy.log



yum -y install gcc

wget http://www.haproxy.org/download/1.6/src/haproxy-1.6.11.tar.gz

tar zxf haproxy-1.6.11.tar.gz -C /usr/src/

cd /usr/src/haproxy-1.6.11/

make TARGET=linux2628

make install

mkdir /var/haproxy


3 创建配置文件

vim /etc/haproxy.cfg

global

maxconn    4096

log    127.0.0.1    local3    info

chroot    /var/haproxy

uid    99

gid    99

daemon

nbproc    1

pidfile    /var/run/haproxy.pid

ulimit-n    65535

stats    socket    /var/tmp/stats

defaults

log    global

mode    http

maxconn    20480

option    httplog

option    httpclose

option    dontlognull

option    forwardfor

option    redispatch

option    abortonclose

stats    refresh    30

retries    3

balance    roundrobin

cookie    SRV

timeout    check    2000ms

timeout    connect    5000ms

timeout    server    50000ms

timeout    client    50000ms

listen    admin_status                                        #定义haproxy的监控界面

bind    0.0.0.0:6553

mode    http

log    127.0.0.1    local3 info

stats    enable

stats    refresh    5s                                            #监控页面自动刷新时间5s

stats    realm    Haproxy\    Statistics                #登录监控页面提示符

stats    uri    /admin?stats                                  #监控页面URL路径

stats    auth    admin:123456                             #监控页面的账户密码

stats    hide-version                                           #隐藏haproxy版本

frontend    web_service                                     #定义前端服务器

bind    0.0.0.0:80

mode    http

log    global

option    httplog

option    httpclose

option    forwardfor

#acl    inside_src src 192.168.1.0/24                    #定义acl

#use_backend    inside_servers if inside_src        #判断acl的源地址,把请求转发到inside_servers组

default_backend    external_servers                        #默认服务器组


backend    external_servers

mode    http

balance    roundrobin                                            #轮询真实服务器

option    httpchk    GET    /index.html                #检查index文件,判断服务器是否健康

##定义后端真实服务器,向cookie中插入web1信息,check进行健康检查,检查时间间隔为2000ms,##连续两次健康则认为是正常开启的,连续三次检查失败则认为宕机,服务器权重1

server web1 192.168.1.3:80 cookie web1 check inter 2000 rise 2 fall 3 weight 1

server web2 192.168.1.4:80 cookie web2 check inter 2000 rise 2 fall 3 weight 1


#backend    inside_servers

#mode    http

#balance    roundrobin                                            #轮询真实服务器

#option    httpchk    GET    /index.html                #检查index文件,判断服务器是否健康

#server web3 192.168.1.5:80 cookie web3 check inter 2000 rise 2 fall 3 weight 1


4 启动haproxy服务

service rsyslog restart                #重启系统日志服务

haproxy -f /etc/haproxy.cfg        #启动haproxy服务

echo "/usr/local/sbin/haproxy -f /etc/haproxy.cfg" >> /etc/rc.local


5 测试验证

浏览器访问监控页面

在一个ip为10.10.10.100的机器上访问http://10.10.10.10:6553/admin?stats

多次刷新访问将得到web1和web2 不同页面信息

如果配置文件中开启使用inside_servers,则在192.168.1.0/24网段机器上访问http://192.168.1.2,服务器返回的会一直是web3的页面信息。