负载均衡(LoadBalance),它的职责是将网络请求,或者其他形式的负载“均摊”到不同的机器上。避免集群中部分服务器压力过大,而另一些服务器比较空闲的情况。通过负载均衡,可以让每台服务器获取到适合自己处理能力的请求。
常见的负载均衡的实现方法有多种,如随机、轮询、hash一致性等。本文使用随机法实现负载均衡。
随机数法就是几个数中随机获取一个数字,然后获取这个数据对应的服务器。
/**
* 服务器类
*/
public class Server {
private String serverName;
public Server(String name) {
this.serverName = name;
}
public String getServerName() {
return serverName;
}
public void setServerName(String serverName) {
this.serverName = serverName;
}
@Override
public String toString() {
return "Server{serverName:"+this.getServerName()+"}";
}
}
public class LoadBalance_Random {
//用来存放所有的服务器
static List<Server> ServerList = new ArrayList<Server>();
//随机数生成器
private static final Random r = new Random();
//初始化 模拟集群中提供服务的服务器
static{
Server server1 = new Server("server1");
Server server2 = new Server("server2");
Server server3 = new Server("server3");
ServerList.add(server1);
ServerList.add(server2);
ServerList.add(server3);
}
public static void main(String[] args) {
//模拟10个请求来获取对应的服务器
for(int i=0;i<10;i++){
Server server_random = doSelect(ServerList);
System.out.println(server_random);
}
}
/**
* 选择服务器
* @param serverList
* @return
*/
private static Server doSelect(List<Server> serverList) {
Server server = null;
//服务器的个数
int serverNum = serverList.size();
//随机获取一个
int serverIndex = r.nextInt(serverNum);
server = serverList.get(serverIndex);
return server;
}
}
执行main方法测试,结果如下:
在每台服务器的配置性能等各方面都一样时,使用这种随机方法也是可取的,因为每台服务器获取的要处理的请求的数据量的概率是一样的。但是有时候,我们的服务器不一定都是相同的配置,每一台服务器的性能都有一定的差异性,导致服务器提供服务的能力的差异,比如上边我们有3台服务器,Server1每秒可处理5个请求,Server2每秒只能处理3个请求,Server3每秒只能处理2个请求,此时如果我们有10个请求过来了,我们分别给3个Server3个请求处理,由于Server3只能处理2个请求,这时就会导致服务3不可用。
对这种不同服务能力的服务实现负载均衡,我们可以使用加权随机法。对每个服务标记权重,提高处理能力强的服务器的权重,降低服务能力若的服务器的权重,即根据能力的大小分配对应比例的请求数。
修改上述代码,给服务加权重
/**
* 服务器类
*/
public class Server {
private String serverName;
private int weight;//权重
public Server(String name, int weight) {
this.serverName = name;
this.weight = weight;
}
@Override
public String toString() {
return "Server{serverName:"+this.getServerName()+",weight:"+this.getWeight()+"}";
}
// 省略getter 和 setter方法
}
初始化时指定服务器的权重
//初始化 模拟集群中提供服务的服务器
static{
Server server1 = new Server("server1", 5);
Server server2 = new Server("server2", 3);
Server server3 = new Server("server3", 2);
ServerList.add(server1);
ServerList.add(server2);
ServerList.add(server3);
}
根据权重值获取服务
private static Server doSelectWithWeight(List<Server> serverList) {
Server server = null;
int totalWeight = 0; //所有服务器的总权重
boolean isSame = true;//默认所有服务器的权重都相同
for(int i=0; i<serverList.size(); i++){
//获取当前服务器得权重
int serverWeight = serverList.get(i).getWeight();
//权重累加
totalWeight = totalWeight + serverWeight;
//i = 0时默认还是权重都一样
//从第二个开始检测每个服务器得权重是不是都一样,只需要与它得前一个服务得权重相比就可以了
if(isSame && i>0){
int preServerWeight = serverList.get(i-1).getWeight();
if(serverWeight != preServerWeight){//当前服务器权重和前一个服务器得权重不相同
isSame = false;
}
}
}
if(!isSame){//服务器得权重不是都一样
//在总权重下获取一个随机数
int index = r.nextInt(totalWeight);
//
for(int i=0;i<serverList.size();i++){
int serverWeight = serverList.get(i).getWeight();
//判断获取得随机数落在总权重得哪一个区间
//3台服务器得得权重分别为5 3 2 总和为10 [0到5)这个区间属于服务器1 [5到8)这个区间属于服务器2 【8到10)这个区间属于服务器3
//如 获取到得随机数是6 6-5=1 大于0 说明不在服务器1得区间,遍历 1-3= -2 小于0 说明它落在了服务器2所在得区间 就可以得对应服务器
index = index - serverWeight;
if(index < 0){
return serverList.get(i);
}
}
}else{
//所有服务器权重都一样时,按照完全随机法随机获取一个服务器
server = doSelect(serverList);
}
return server;
}
使用main方法测试
public static void main(String[] args) {
//模拟20个请求获取对应的服务
for(int i=0;i<20;i++){
Server server_random_weight = doSelectWithWeight(ServerList);
System.out.println(server_random_weight);
}
}
测试结果如下
从测试结果图中可以看到,权重大的获取到的请求数多,相反权重小的获取到的请求数越小。