一、简介:
LB,即负载均衡(Load Balance),在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。常见的负载均衡有软件Nginx,LVS,硬件 F5等。分为两种:
集中式LB:
即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5, 也可以是软件,如nginx), 由该设施负责把访问请求通过某种策略转发至服务的提供方;
进程内LB:
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址。
相应的在中间件,例如:dubbo和SpringCloud中均给我们提供了负载均衡,SpringCloud的负载均衡算法可以自定义。
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。
简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。
二、基本使用:
因为Ribbon是客户端负载均衡的工具,所以使用在部门消费者microservicecloud-consumer-dept-9001端。
1、引入依赖
<!-- Ribbon相关 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
</dependency>
2、yml配置
server:
port: 9001
eureka:
client:
register-with-eureka: false
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
3、修改ConfigBean配置类。在getRestTemplate方法上添加@LoadBalanced注解。开启Ribbon负载均衡功能。
@Configuration
public class ConfigBean {
@Bean
@LoadBalanced //开启Ribbon负载均衡
public RestTemplate getRestTemplate() {
return new RestTemplate();
}
}
4、在主启动类上添加@EnableEurekaClient注解
@SpringBootApplication
@EnableEurekaClient //开启Eureka服务端,服务启动后会自动注册进eureka服务中
public class DeptConsumer9001_App {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer9001_App.class, args);
}
}
5、修改DeptController_Consumer客户端访问类
//MICROSERVICECLOUD-DEPT是注册在eureka注册中心中的微服务名称
private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
6、先启动3个eureka集群后,启动部门提供者,再启动部门消费者。
http://localhost:9001/consumer/dept/list
三、负载均衡
Ribbon在工作时分成两步:
第一步先选择 EurekaServer ,它优先选择在同一个区域内负载较少的server。
第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址。
其中Ribbon提供了多种策略:比如轮询、随机和根据响应时间加权。
1、参考部门提供者工程microservicecloud-provider-dept-8001新建部门提供者工程microservicecloud-provider-dept-8002和部门提供者工程microservicecloud-provider-dept-8003
2、新建数据库clouddb02。并创建表dept及数据。
CREATE TABLE dept
(
deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
dname VARCHAR(60),
db_source VARCHAR(60)
);
INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());
3、新建数据库clouddb03。并创建表dept及数据。
CREATE TABLE dept
(
deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
dname VARCHAR(60),
db_source VARCHAR(60)
);
INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());
4、修改部门提供者工程microservicecloud-provider-dept-8002的yml
url: jdbc:mysql://192.168.106.130:3305/clouddb02
5、修改部门提供者工程microservicecloud-provider-dept-8003的yml
url: jdbc:mysql://192.168.106.130:3305/clouddb03
6、先启动3个eureka集群后,启动3个部门提供者,再启动部门消费者。
http://localhost:9001/consumer/dept/list 3次访问返回的数据库名字不相同,说明访问了不同的部门提供者。实现了负载均衡。
四、修改负载均衡策略
1、修改ConfigBean配置类。用随机策略替代默认的轮询策略。
/**
* Ribbon的七种服务访问策略:
* 1、RoundRobinRule:默认策略,轮询:按顺序挨个访问
* 2、RandomRule:随机
* 3、AvailabilityFilteringRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,
* 然后对剩余的服务列表按照轮询策略进行访问。
* 4、WeightedResponseTimeRule:根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。
* 刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到WeightedResponseTimeRule。
* 5、RetryRule:先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内进行重试,获取可用的服务。
* 6、BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务。
* 7、ZoneAvoidanceRule:复合判断server所在区域的性能和server的可用性选择服务器。
*/
@Bean
public IRule myRule(){
//通过实现IRule接口,用随机策略替代默认的轮询策略。
return new RandomRule();
}
五、自定义负载均衡策略
1、创建自定义配置类MySelfRule
/**
* 注意:
* 这个自定义的配置类不能放在@ComponentScan注解所扫描的当前包及子包下,否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享,
* 也就是说我们达不到特殊化定制的目的了。
*/
@Configuration
public class MySelfRule {
@Bean
public IRule myRule() {
return new MyRandomRule();
}
}
2、自定义负载均衡策略MyRandomRule
//自定义每个服务被调用5次
public class MyRandomRule extends AbstractLoadBalancerRule {
private int total = 0; //当前服务被调用的总次数
private int currentIndex = 0; //当前服务的下标
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
return null;
}
Server server = null;
while (server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers();
List<Server> allList = lb.getAllServers();
int serverCount = allList.size();
if (serverCount == 0) {
return null;
}
if (total < 5) {
server = upList.get(currentIndex);
total++;
} else {
total = 0;
currentIndex++;
if (currentIndex >= upList.size()) {
currentIndex = 0;
}
}
if (server == null) {
Thread.yield();
continue;
}
if (server.isAlive()) {
return (server);
}
server = null;
Thread.yield();
}
return server;
}
@Override
public Server choose(Object key) {
return choose(getLoadBalancer(), key);
}
@Override
public void initWithNiwsConfig(IClientConfig clientConfig) {
// TODO Auto-generated method stub
}
}
3、在主启类上添加@RibbonClient注解
@SpringBootApplication
@EnableEurekaClient //开启Eureka服务端,服务启动后会自动注册进eureka服务中
@RibbonClient(name = "MICROSERVICECLOUD-DEPT",configuration = MySelfRule.class) //加载自定义Ribbon配置类MySelfRule,使自定义的配置生效。
public class DeptConsumer9001_App {
public static void main(String[] args) {
SpringApplication.run(DeptConsumer9001_App.class, args);
}
}
@RibbonClient(name = "MICROSERVICECLOUD-DEPT",configuration = MySelfRule.class)
表示针对微服务名为MICROSERVICECLOUD-DEPT的服务,按照自定义的配置类MySelfRule中指定的自定义的策略(MyRandomRule )来实现负载均衡。