springcloudalibaba怎么保证高可用性和分区容错性 springcloud集群容错策略

转载

mob6454cc667b1d 2024-06-07 05:21:41

文章标签 spring cloud spring 后端 Cloud 限流 文章分类 架构后端开发

文章目录

Spring Cloud的容错机制改进常见方案
示例

Spring Cloud的容错机制改进常见方案

Spring Cloud的容错机制改进常见方案主要包括以下几个方面：

替换或升级熔断器组件：

从Hystrix迁移到其他高性能的熔断器：由于Hystrix已停止维护，Spring Cloud推荐用户使用Spring Cloud Circuit Breaker抽象层来支持多种熔断器库，如Resilience4j、Sentinel等。
Resilience4j：它是一个轻量级的容错库，基于Vavr的Future和Monad实现，无须额外线程池，兼容函数式编程风格，适用于JDK 8+环境。
Sentinel：阿里开源的一款面向分布式服务架构的流量控制、熔断降级组件，同时也提供了系统负载保护、热点key限流等功能，且有成熟的控制台用于实时监控和动态配置。

细化熔断策略：

根据服务特点和业务需求，制定精细化的熔断策略，包括但不限于QPS、RT（响应时间）、并发线程数等维度的限流和熔断规则。

增强可观测性：

结合Sleuth、Zipkin或SkyWalking等链路追踪工具，收集熔断、降级事件信息，提高故障定位和分析能力。
利用Prometheus和Grafana进行可视化监控，展示熔断器的状态和性能指标。

动态配置与灰度发布：

结合Spring Cloud Config Server实现熔断策略的动态加载和更新，使得在生产环境中可以根据实际流量情况快速调整熔断策略。

多级防御体系：

构建多级防御体系，不仅仅依赖于单一的熔断器，还包括服务版本灰度发布、服务间调用超时控制、重试机制、降级预案等。

智能运维与自动化：

尝试引入AIOPS理念，通过机器学习预测和智能调度资源，实现自动化的熔断策略调整，以应对复杂多变的线上环境。

通过上述方案的实施，可以显著提升Spring Cloud微服务体系的健壮性和稳定性，更好地应对各种异常情况，确保服务高可用。

示例

假设我们使用Spring Cloud Alibaba Sentinel作为微服务容错机制的改进方案：

引入依赖：

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

启动类启用Sentinel：

@SpringBootApplication
@EnableDiscoveryClient
@EnableSentinel
public class Application {
    public static void main(String[] args) {
        SpringApplication.run(Application.class, args);
    }
}

配置资源和服务的熔断降级规则：

@Configuration
public class SentinelConfig {

    @PostConstruct
    public void initFlowRules() {
        // 创建资源名
        String resourceName = "myService";

        // 设置QPS为100，超过后进行熔断
        FlowRule flowRule = new FlowRule(resourceName)
                .setCount(100)
                .setGrade(RuleConstant.FLOW_GRADE_QPS)
                .setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_DEFAULT);

        // 设置RT为500ms，超过后进行降级
        DegradeRule degradeRule = new DegradeRule(resourceName)
                .setCount(1)
                .setTimeWindow(1)
                .setGrade(RuleConstant.DEGRADE_GRADE_RT)
                .setStatIntervalMs(1000);

        // 加载规则
        List<FlowRule> rules = Collections.singletonList(flowRule);
        List<DegradeRule> degradeRules = Collections.singletonList(degradeRule);

        FlowRuleManager.loadRules(rules);
        DegradeRuleManager.loadRules(degradeRules);
    }
}

对接Sentinel Dashboard：

部署Sentinel Dashboard，可以通过控制台动态管理资源和相应的限流降级规则。

应用服务调用时的熔断降级处理：

@SentinelResource(value = "myService", blockHandler = "handleBlock")
public String callMyService(...) {
    // 服务逻辑...
}

// 当调用被Sentinel拦截（例如达到限流或降级条件）时执行的方法
public String handleBlock(..., BlockException ex) {
    return "Sorry, service is busy now!";
}

在这个示例中，我们引入了Sentinel作为微服务的熔断降级组件，并设置了对"myService"资源的QPS限流和RT降级规则。同时，我们对接了Sentinel Dashboard以便于实时监控和动态调整规则，并在服务方法上使用@SentinelResource注解配合blockHandler处理熔断降级时的回调逻辑。这便构成了一个相对完善的基于Spring Cloud Alibaba Sentinel的微服务容错机制改进实例。

为了进一步完善基于Spring Cloud Alibaba Sentinel的容错机制，还可以采取以下措施：

热点参数限流：
对于某些带有热点参数的方法，我们可以设置热点参数限流规则，避免某个热点参数值导致的流量突增问题。

// 假设参数0是热点参数
ParamFlowRule paramRule = new ParamFlowRule("myService")
        .setParamIdx(0) // 参数索引
        .setCount(100) // 热点参数值每秒最大访问次数
        .setGrade(RuleConstant.PARAM_FLOW_GRADE_QPS);

ParamFlowRuleManager.loadRules(Collections.singletonList(paramRule));

系统自适应保护：
Sentinel提供了系统自适应保护能力，可根据系统当前的总体负载情况动态调整资源的入口流量，防止雪崩效应。

SystemRule systemRule = new SystemRule()
        .setHighestSystemLoad(70) // 当系统load1达到70时，开始限流
        .setHighestCpuUsage(80)   // 当CPU使用率达到80%时，开始限流
        .setAvgRt(500)           // 当RT达到500ms，且在接下来的1分钟内持续超过这个阈值，则开始限流
        .setMaxRt(1000);         // 当单个请求的RT达到1000ms时，开始限流

SystemRuleManager.loadRules(Collections.singletonList(systemRule));