一、微服务架构中为什么要有熔断器?
在微服务架构中,每个服务单元都是独立部署的,服务之间通过远程调用来实现信息交互,那么当某个服务的响应太慢、发生故障或者网络波动,则会造成调用者延迟或调用失败,当大量请求到达,就会造成请求的堆积,导致调用者的线程挂起,从而引发调用者也无法响应,调用者也发生故障。为了解决此问题,微服务架构中引入了一种叫熔断器的服务保护机制。
二、微服务架构中的熔断器是什么?
微服务架构中的熔断器,就是当被调用方没有响应,调用方直接返回一个错误响应,而不是长时间的等待,这样避免调用时因为等待而线程一直得不到释放,避免故障在分布式系统间蔓延。服务熔断类比保险丝达到最大服务访问后,直接拒绝访问,拉闸限电,然后调用服务降级的方法并返回友好提示。
三、Spring Cloud Hystrix是什么?
Spring Cloud Hystrix是基于 Netflix 的开源框架 Hystrix 实现的,它实现了熔断器、线程隔离等一系列服务保护功能。具备服务降级、服务熔断、线程和信号隔离、请求缓存、请求合并以及服务监控等强大功能。该框架的目标在于通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。
四、Hystrix服务熔断的快速使用
(要使用Hystrix 仪表盘监控可以看第七,异常处理可以看第六)
(1)、在消费者springboot项目中添加下面依赖
<!--Spring Cloud 熔断器起步依赖 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.4.RELEASE</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
(2)、在消费者springboot项目的启动类中使用@EnableCircuitBreaker 注解开启断路器功能(也可以使用@SpringCloudApplication 代替下面主类上的三个注解)
@SpringBootApplication//开启支持springboot的注解
@EnableEurekaClient//开启eureka客户端的支持
@EnableCircuitBreaker//开启断路器功能
public class Application {
public static void main(String[] args) {
SpringApplication.run(Application.class, args);
}
}
(3)、在调用远程服务的方法上添加下面注解:
@HystrixCommand(fallbackMethod="error")
如下图:
@RestController
public class WebController {
@Autowired
RestTemplate restTemplate;
@RequestMapping("/web/hello")
@HystrixCommand(fallbackMethod = "error",/*指定善后方法名*/commandProperties = {
@HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="3000")
})//表示发生故障时调用error方法,error方法需要自定义
public String hello(){
return restTemplate.getForEntity("http://02-SPRINGCLOUD-SERVICE-PROVIDER/service/hello", String.class).getBody();;
}
public String error(){
return "error";//远程访问失败,可以在这里进行业务处理
}
}
五、 Hystrix的服务降级
服务降级,就是当某个服务熔断之后,服务端提供的服务将不再被调用,此时由客户端自己准备一个本地的fallback 回调,返回一个默认值来代表服务端的返回;如:服务器忙,请稍后再试。这种做法,虽然不能得到正确的返回结果,但至少保证了服务的可用,比直接抛出错误或服务不可用要好很多,当然这需要根据具体的业务场景来选择,如常见的使用场景有
- 程序运行导常
- 超时
- 服务熔断触发服务降级
- 线程池/信号量打满也会导致服务降级
补充:服务限流
秒杀高并发等操作,严禁一窝蜂的过来拥挤,大家排队,一秒钟N个,有序进行。
服务的降级 -> 进而熔断 -> 恢复调用链路
六、 Hystrix 的异常处理
1.方法一:通配服务降级FeignFallback
(1)在消费者工程业务层添加fallback = PaymentFallbackService.class
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.stereotype.Component;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT" ,//
fallback = PaymentFallbackService.class)//指定PaymentFallbackService类
public interface PaymentHystrixService
{
@GetMapping("/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id);
}
(2)新建一个类(AaymentFallbackService)实现消费者业务层接口
import org.springframework.stereotype.Component;
@Component
public class PaymentFallbackService implements PaymentHystrixService
{
@Override
public String paymentInfo_OK(Integer id)
{
return "-----PaymentFallbackService fall back-paymentInfo_OK ,o(╥﹏╥)o";
}
@Override
public String paymentInfo_TimeOut(Integer id)
{
return "-----PaymentFallbackService fall back-paymentInfo_TimeOut ,o(╥﹏╥)o";
}
}
2、方法二:使用全局服务降级,按照下面3个步骤逐一进行,有标1、2、3。除了个别重要核心业务有专属,其它普通的可以通过@DefaultProperties(defaultFallback = “”)统一跳转到统一处理结果页面
@RestController//1、使用全局配置
@DefaultProperties(defaultFallback = "payment_Global_FallbackMethod")
public class OrderHystirxController {
@Resource
private PaymentHystrixService paymentHystrixService;
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
@HystrixCommand//2、用全局的fallback方法
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
//int age = 10/0;
String result = paymentHystrixService.paymentInfo_TimeOut(id);
return result;
}
public String paymentTimeOutFallbackMethod(@PathVariable("id") Integer id)
{
return "我是消费者80,对方支付系统繁忙请10秒钟后再试或者自己运行出错请检查自己,o(╥﹏╥)o";
}
//3、下面是全局fallback方法
public String payment_Global_FallbackMethod()
{
return "Global异常处理信息,请稍后再试,/(ㄒoㄒ)/~~";
}
}
3、方法三:在调用服务提供者时,消费者也可能会抛异常,默认情况下方法抛了异常会自动进行服务降级,交给服务降级中的方法去处理;
第一步:加上@HystrixCommand(fallbackMethod = “error”)注解,表示发生故障时调用error方法
@RequestMapping("/web/hello")
@HystrixCommand(fallbackMethod = "error")//表示发生故障时调用error方法,error方法需要自定义
public String hello(){
int i = 0/0;
return restTemplate.getForEntity("http://02-SPRINGCLOUD-SERVICE-PROVIDER/service/hello", String.class).getBody();
}
第二步:当我们自己发生异常后,只需要在服务降级方法中添加一个Throwable 类型的参数就能够获取到抛出的异常的类型
//熔断的回调方法,也就是服务降级的方法
public String error(Throwable throwable){
//远程调用失败,可以在此进行处理
System.out.println("异常信息:"+throwable.getMessage());
return "error";
}
(2)这步可忽略,如果我们希望将异常直接抛给用户,那么我们可以在@HystrixCommand 注解中添加忽略异常,如下:
@HystrixCommand(fallbackMethod="error", ignoreExceptions = Exception.class)
4、方法四
第一步:自定义类继承自 HystrixCommand 来实现自定义的 Hystrix 请求在 getFallback 方法中调用 getExecutionException 方法来获取服务抛出的异常
package com.chang.springcloud.hystrix;
import com.netflix.hystrix.HystrixCommand;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.client.RestTemplate;
//自定义Hystrix请求
public class MyHystrixCommand extends HystrixCommand<String> {
@Autowired
RestTemplate restTemplate;
public MyHystrixCommand(Setter setter,RestTemplate restTemplate){
super(setter);
this.restTemplate=restTemplate;
}
@Override
protected String run() throws Exception {
//调用远程的服务
return restTemplate.getForEntity("http://02-SPRINGCLOUD-SERVICE-PROVIDER/service/hello", String.class).getBody();
}
//当远程服务超时、异常、不可用等情况时,会触发改熔断方法
@Override
public String getFallback() {
//获取返回的异常信息是什么
Throwable throwable = super.getExecutionException();
System.out.println(throwable);
//实现服务熔断/降级逻辑
return "getFallback";
}
}
第二步:可以用同步调用和异步调用,下面使用异步调用
@RequestMapping("/hystrix/hello")
@HystrixCommand//(fallbackMethod = "error")
public Future<String> hello02() throws ExecutionException, InterruptedException {
int i = 0/0;
MyHystrixCommand myHystrixCommand = new MyHystrixCommand(com.netflix.hystrix.HystrixCommand.Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("")),restTemplate);
//同步调用,拿到远程结果才会继续执行
// String execute = myHystrixCommand.execute();
//异步调用到返回值前都是
Future<String> queue = myHystrixCommand.queue();
//可以在此写一些业务逻辑
//会阻塞
String str = queue.get();
//可以在此写一些业务逻辑
return queue;
}
七. Hystrix 仪表盘监控
Hystrix 仪表盘主要用来监控 Hystrix 的实时运行状态,通过它我们可以看到 Hystrix 的各项指标信息,从而快速发现系统中存在的问题进而解决它。
搭建一个 Hystrix Dashboard 服务的步骤:
(1)、创建一个普通的 Spring Boot 工程
比如创建一个名为 springcloud-hystrix-dashboard 的 Spring Boot 工程,建立好基本的结构和配置,然后引入下面依赖
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.2.0.RELEASE</version>
<relativePath/> <!-- lookup parent from repository -->
</parent>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--hystrix-dashboard仪表盘起步依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
</dependencies>
<!--依赖管理必须加,要不然spring-cloud-starter-netflix-eureka-server版本无法做到-->
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-dependencies</artifactId>
<version>Hoxton.SR10</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<!--在本地仓库找不到就到官网去找-->
<repositories>
<repository>
<id>spring-milestones</id>
<name>Spring Milestones</name>
<url>https://repo.spring.io/libs-milestone</url>
<snapshots>
<enabled>false</enabled>
</snapshots>
</repository>
</repositories>
(2)在入口类上添加@EnableHystrixDashboard 注解开启仪表盘
功能,如下:
@SpringBootApplication
@EnableHystrixDashboard//开启仪表盘的功能
public class MainApplication {
public static void main(String[] args) {
SpringApplication.run(MainApplication.class,args);
}
}
(3)、在配置文件application.properties 修改端口号
#Hystrix仪表盘的功能
server.port=2001
至此,我们的 Hystrix 监控环境就搭建好了;注意访问是: 主机名+端口号+/hystrix
现在我们需要有一个服务,让这个服务提供一个路经为/actuator/hystrix.stream 接口,然后就可以使用 Hystrix 仪表盘来对该服务进行监控了;我们改造消费者服务,让其能提供/actuator/hystrix.stream 接口,步骤如下:
(1)、消费者项目需要有 hystrix 的依赖和一个 spring boot 的服务监控依赖:
<!--Spring Cloud 熔断器起步依赖,项目有可以忽略 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.4.RELEASE</version>
</dependency>
<!--spring boot 的服务监控依赖-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
(2)配置文件需要配置 spring boot 监控端点的访问权限:
#spring boot 监控端点的访问权限,*表示可以访问所有的访问端点
management.endpoints.web.exposure.include=*
这个是用来暴露 endpoints 的,由于 endpoints 中会包含很多敏感信息,除了 health 和 info 两个支持直接访问外,其他的默认不能直接访问,所以我们让它都能访问,或者指定:
management.endpoints.web.exposure.include=hystrix.stream
(3)注意:新版本Hystrix需要在主启动类PaymentHystrixMain8001中指定监控路径
@SpringBootApplication
@EnableEurekaClient
@EnableCircuitBreaker
public class PaymentHystrixMain8001
{
public static void main(String[] args) {
SpringApplication.run(PaymentHystrixMain8001.class, args);
}
/**
*此配置是为了服务监控而配置,与服务容错本身无关,springcloud升级后的坑
*ServletRegistrationBean因为springboot的默认路径不是"/hystrix.stream",
*只要在自己的项目里配置上下面的servlet就可以了
*否则,Unable to connect to Command Metric Stream 404
*/
@Bean
public ServletRegistrationBean getServlet() {
HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
registrationBean.setLoadOnStartup(1);
registrationBean.addUrlMappings("/hystrix.stream");
registrationBean.setName("HystrixMetricsStreamServlet");
return registrationBean;
}
}
(4)在浏览器直接输入 http://localhost:8081/actuator/hystrix.stream(端口号可能不同,其它都是一样的)
注意:先访问consumer 工程中的任意一个其他接口(有熔断器),再访问/hystrix.stream 接口即可。否则直接访问/hystrix.stream 接口时会输出出一连串的 ping: ping: …
(5)将上面地址http://localhost:8081/actuator/hystrix.stream复制到下面地址上进行监控 Hystrix 仪表盘监控数据的解读
八、Hystrix服务熔断的使用
(1)服务熔断的使用
//=====服务熔断
@HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback",commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled",value = "true"),// 是否开启断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"),// 请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"), // 时间窗口期
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60"),// 失败率达到多少后跳闸
})
public String paymentCircuitBreaker(@PathVariable("id") Integer id) {
...
}
public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id) {
return "熔断器来了";
}
(2)其它参数的使用
@HystrixCommand(fallbackMethod = "fallbackMethod",
groupKey = "strGroupCommand",
commandKey = "strCommand",
threadPoolKey = "strThreadPool",
commandProperties = {
// 设置隔离策略,THREAD 表示线程池 SEMAPHORE:信号池隔离
@HystrixProperty(name = "execution.isolation.strategy", value = "THREAD"),
// 当隔离策略选择信号池隔离的时候,用来设置信号池的大小(最大并发数)
@HystrixProperty(name = "execution.isolation.semaphore.maxConcurrentRequests", value = "10"),
// 配置命令执行的超时时间
@HystrixProperty(name = "execution.isolation.thread.timeoutinMilliseconds", value = "10"),
// 是否启用超时时间
@HystrixProperty(name = "execution.timeout.enabled", value = "true"),
// 执行超时的时候是否中断
@HystrixProperty(name = "execution.isolation.thread.interruptOnTimeout", value = "true"),
// 执行被取消的时候是否中断
@HystrixProperty(name = "execution.isolation.thread.interruptOnCancel", value = "true"),
// 允许回调方法执行的最大并发数
@HystrixProperty(name = "fallback.isolation.semaphore.maxConcurrentRequests", value = "10"),
// 服务降级是否启用,是否执行回调函数
@HystrixProperty(name = "fallback.enabled", value = "true"),
// 是否启用断路器
@HystrixProperty(name = "circuitBreaker.enabled", value = "true"),
// 该属性用来设置在滚动时间窗中,断路器熔断的最小请求数。例如,默认该值为 20 的时候,如果滚动时间窗(默认10秒)内仅收到了19个请求, 即使这19个请求都失败了,断路器也不会打开。
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "20"),
// 该属性用来设置在滚动时间窗中,表示在滚动时间窗中,在请求数量超过 circuitBreaker.requestVolumeThreshold 的情况下,如果错误请求数的百分比超过50, 就把断路器设置为 "打开" 状态,否则就设置为 "关闭" 状态。
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "50"),
// 该属性用来设置当断路器打开之后的休眠时间窗。 休眠时间窗结束之后,会将断路器置为 "半开" 状态,尝试熔断的请求命令,如果依然失败就将断路器继续设置为 "打开" 状态,如果成功就设置为 "关闭" 状态。
@HystrixProperty(name = "circuitBreaker.sleepWindowinMilliseconds", value = "5000"),
// 断路器强制打开
@HystrixProperty(name = "circuitBreaker.forceOpen", value = "false"),
// 断路器强制关闭
@HystrixProperty(name = "circuitBreaker.forceClosed", value = "false"),
// 滚动时间窗设置,该时间用于断路器判断健康度时需要收集信息的持续时间
@HystrixProperty(name = "metrics.rollingStats.timeinMilliseconds", value = "10000"),
// 该属性用来设置滚动时间窗统计指标信息时划分"桶"的数量,断路器在收集指标信息的时候会根据设置的时间窗长度拆分成多个 "桶" 来累计各度量值,每个"桶"记录了一段时间内的采集指标。
// 比如 10 秒内拆分成 10 个"桶"收集这样,所以 timeinMilliseconds 必须能被 numBuckets 整除。否则会抛异常
@HystrixProperty(name = "metrics.rollingStats.numBuckets", value = "10"),
// 该属性用来设置对命令执行的延迟是否使用百分位数来跟踪和计算。如果设置为 false, 那么所有的概要统计都将返回 -1。
@HystrixProperty(name = "metrics.rollingPercentile.enabled", value = "false"),
// 该属性用来设置百分位统计的滚动窗口的持续时间,单位为毫秒。
@HystrixProperty(name = "metrics.rollingPercentile.timeInMilliseconds", value = "60000"),
// 该属性用来设置百分位统计滚动窗口中使用 “ 桶 ”的数量。
@HystrixProperty(name = "metrics.rollingPercentile.numBuckets", value = "60000"),
// 该属性用来设置在执行过程中每个 “桶” 中保留的最大执行次数。如果在滚动时间窗内发生超过该设定值的执行次数,
// 就从最初的位置开始重写。例如,将该值设置为100, 滚动窗口为10秒,若在10秒内一个 “桶 ”中发生了500次执行,
// 那么该 “桶” 中只保留 最后的100次执行的统计。另外,增加该值的大小将会增加内存量的消耗,并增加排序百分位数所需的计算时间。
@HystrixProperty(name = "metrics.rollingPercentile.bucketSize", value = "100"),
// 该属性用来设置采集影响断路器状态的健康快照(请求的成功、 错误百分比)的间隔等待时间。
@HystrixProperty(name = "metrics.healthSnapshot.intervalinMilliseconds", value = "500"),
// 是否开启请求缓存
@HystrixProperty(name = "requestCache.enabled", value = "true"),
// HystrixCommand的执行和事件是否打印日志到 HystrixRequestLog 中
@HystrixProperty(name = "requestLog.enabled", value = "true"),
},
threadPoolProperties = {
// 该参数用来设置执行命令线程池的核心线程数,该值也就是命令执行的最大并发量
@HystrixProperty(name = "coreSize", value = "10"),
// 该参数用来设置线程池的最大队列大小。当设置为 -1 时,线程池将使用 SynchronousQueue 实现的队列,否则将使用 LinkedBlockingQueue 实现的队列。
@HystrixProperty(name = "maxQueueSize", value = "-1"),
// 该参数用来为队列设置拒绝阈值。 通过该参数, 即使队列没有达到最大值也能拒绝请求。
// 该参数主要是对 LinkedBlockingQueue 队列的补充,因为 LinkedBlockingQueue 队列不能动态修改它的对象大小,而通过该属性就可以调整拒绝请求的队列大小了。
@HystrixProperty(name = "queueSizeRejectionThreshold", value = "5"),
}
)
public String doSomething() {
...
}