负载均衡(LoadBalance),它的职责是将网络请求,或者其他形式的负载“均摊”到不同的机器上。避免集群中部分服务器压力过大,而另一些服务器比较空闲的情况。通过负载均衡,可以让每台服务器获取到适合自己处理能力的请求。

常见的负载均衡的实现方法有多种,如随机、轮询、hash一致性等。本文使用随机法实现负载均衡。

随机数法就是几个数中随机获取一个数字,然后获取这个数据对应的服务器。

/**
 * 服务器类
 */
public class Server {
	
	private String serverName;
	
	public Server(String name) {
		this.serverName = name;
	}
	
	public String getServerName() {
		return serverName;
	}
	public void setServerName(String serverName) {
		this.serverName = serverName;
	}

	@Override
	public String toString() {
		return "Server{serverName:"+this.getServerName()+"}";
	}
}
public class LoadBalance_Random {
	//用来存放所有的服务器
	static List<Server> ServerList = new ArrayList<Server>();
	//随机数生成器
	private static final Random r = new Random();
	
	//初始化   模拟集群中提供服务的服务器
	static{
		Server server1 = new Server("server1");
		Server server2 = new Server("server2");
		Server server3 = new Server("server3");
		ServerList.add(server1);
		ServerList.add(server2);
		ServerList.add(server3);
	}
	
	public static void main(String[] args) {
		//模拟10个请求来获取对应的服务器
		for(int i=0;i<10;i++){
			Server server_random = doSelect(ServerList);
			System.out.println(server_random);
		}
	}

	/**
	 * 选择服务器
	 * @param serverList
	 * @return
	 */
	private static Server doSelect(List<Server> serverList) {
		Server server = null;
		//服务器的个数
		int serverNum = serverList.size();
		//随机获取一个
		int serverIndex = r.nextInt(serverNum);
		server = serverList.get(serverIndex);
		return server;
	}
}

执行main方法测试,结果如下:

radware负载均衡负载配置 负载均衡方案random_radware负载均衡负载配置

在每台服务器的配置性能等各方面都一样时,使用这种随机方法也是可取的,因为每台服务器获取的要处理的请求的数据量的概率是一样的。但是有时候,我们的服务器不一定都是相同的配置,每一台服务器的性能都有一定的差异性,导致服务器提供服务的能力的差异,比如上边我们有3台服务器,Server1每秒可处理5个请求,Server2每秒只能处理3个请求,Server3每秒只能处理2个请求,此时如果我们有10个请求过来了,我们分别给3个Server3个请求处理,由于Server3只能处理2个请求,这时就会导致服务3不可用。

对这种不同服务能力的服务实现负载均衡,我们可以使用加权随机法。对每个服务标记权重,提高处理能力强的服务器的权重,降低服务能力若的服务器的权重,即根据能力的大小分配对应比例的请求数。

修改上述代码,给服务加权重

/**
 * 服务器类
 */
public class Server {
	
	private String serverName;
	private int weight;//权重
	
	public Server(String name, int weight) {
		this.serverName = name;
		this.weight = weight;
	}
	
	@Override
	public String toString() {
		return "Server{serverName:"+this.getServerName()+",weight:"+this.getWeight()+"}";
	}
	
	// 省略getter 和 setter方法
}

初始化时指定服务器的权重

//初始化   模拟集群中提供服务的服务器
	static{
		Server server1 = new Server("server1", 5);
		Server server2 = new Server("server2", 3);
		Server server3 = new Server("server3", 2);
		ServerList.add(server1);
		ServerList.add(server2);
		ServerList.add(server3);
	}

根据权重值获取服务

private static Server doSelectWithWeight(List<Server> serverList) {
		Server server = null;
		int totalWeight = 0; //所有服务器的总权重
		boolean isSame = true;//默认所有服务器的权重都相同
		
		for(int i=0; i<serverList.size(); i++){
			//获取当前服务器得权重
			int serverWeight = serverList.get(i).getWeight();
			//权重累加
			totalWeight = totalWeight + serverWeight;
			//i = 0时默认还是权重都一样
			//从第二个开始检测每个服务器得权重是不是都一样,只需要与它得前一个服务得权重相比就可以了
			if(isSame && i>0){
				int preServerWeight = serverList.get(i-1).getWeight();
				if(serverWeight != preServerWeight){//当前服务器权重和前一个服务器得权重不相同
					isSame = false;
				}
			}
		}
		
		if(!isSame){//服务器得权重不是都一样
			//在总权重下获取一个随机数 
			int index = r.nextInt(totalWeight);
			//
			for(int i=0;i<serverList.size();i++){
				int serverWeight = serverList.get(i).getWeight();
				//判断获取得随机数落在总权重得哪一个区间
				//3台服务器得得权重分别为5 3 2  总和为10  [0到5)这个区间属于服务器1  [5到8)这个区间属于服务器2 【8到10)这个区间属于服务器3
				//如 获取到得随机数是6  6-5=1   大于0  说明不在服务器1得区间,遍历  1-3= -2 小于0  说明它落在了服务器2所在得区间  就可以得对应服务器
				index = index - serverWeight;
				if(index < 0){
					return serverList.get(i);
				}
			}
		}else{
			//所有服务器权重都一样时,按照完全随机法随机获取一个服务器
			server = doSelect(serverList);
		}
		return server;
	}

使用main方法测试

public static void main(String[] args) {
		//模拟20个请求获取对应的服务
		for(int i=0;i<20;i++){
			Server server_random_weight = doSelectWithWeight(ServerList);
			System.out.println(server_random_weight);
		}
	}

测试结果如下

radware负载均衡负载配置 负载均衡方案random_Server_02

从测试结果图中可以看到,权重大的获取到的请求数多,相反权重小的获取到的请求数越小。