java限速 inputstream

转载

技术领航博主 2024-09-14 16:04:17

文章标签 java限速 inputstream 算法 java spring boot 后端 文章分类 Java 后端开发

限流方法之令牌桶算法

引言

在互联网时代，我们的生活已经离不开各种在线服务。然而，随着用户数量的不断增长，服务端面临着越来越大的压力。为了保证服务的稳定性和可用性，我们需要对服务的访问进行限流。

令牌桶限流算法是一种非常实用的限流方法，它可以有效地控制服务的请求速率，防止服务因为瞬时流量过大而崩溃。

本文将详细介绍令牌桶限流算法的原理、Java实现、使用方式以及具体的应用场景。希望通过本文，您能够更好地理解
和应用令牌桶限流算法。

介绍

令牌桶限流算法的核心思想是：系统维护一个令牌桶，桶中的令牌以固定速率生成。当有请求到来时，需要从桶中取出一定数量的令牌，只有取出成功，请求才能被处理。如果桶中的令牌不足，请求则被拒绝或者等待。

令牌桶算法具有以下特点：

平滑流量：令牌桶算法可以平滑地控制请求速率，避免流量突刺对服务造成影响。
弹性处理能力：当桶中有足够的令牌时，可以应对短时间内的流量突增。
公平性：令牌桶算法可以保证每个请求都有机会被处理，避免某些请求长时间得不到响应。

使用方式

要使用令牌桶限流算法，首先需要创建一个TokenBucket实例，指定桶的容量和每秒生成的令牌数。然后，在需要限流的地方调用tryConsume方法，传入需要消耗的令牌数。如果返回true，表示请求可以被处理；如果返回false，表示请求被拒绝或者需要等待。以下是一个简单的Java实现：

import java.util.concurrent.atomic.AtomicLong;

public class TokenBucket {
    private final long capacity;
    private final long tokensPerSecond;
    private AtomicLong tokens;
    private AtomicLong lastRefillTime;

    public TokenBucket(long capacity, long tokensPerSecond) {
        this.capacity = capacity;
        this.tokensPerSecond = tokensPerSecond;
        this.tokens = new AtomicLong(capacity);
        this.lastRefillTime = new AtomicLong(System.currentTimeMillis());
    }

    public boolean tryConsume(long numTokens) {
        refill();
        return tokens.getAndUpdate(tokens -> Math.max(0, tokens - numTokens)) >= numTokens;
    }

    private void refill() {
        long now = System.currentTimeMillis();
        long timeSinceLastRefill = now - lastRefillTime.get();
        long tokensToAdd = timeSinceLastRefill * tokensPerSecond / 1000;
        if (tokensToAdd > 0) {
            lastRefillTime.set(now);
            tokens.updateAndGet(tokens -> Math.min(capacity, tokens + tokensToAdd));
        }
    }
}

限流示例：

public class RateLimiterDemo {
    public static void main(String[] args) {
        TokenBucket tokenBucket = new TokenBucket(100, 10);

        for (int i = 0; i < 20; i++) {
            new Thread(() -> {
                while (true) {
                    if (tokenBucket.tryConsume(1)) {
                        System.out.println("Request processed: " + Thread.currentThread().getName());
                    } else {
                        System.out.println("Request rejected: " + Thread.currentThread().getName());
                    }
                    try {
                        Thread.sleep(100);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                }
            }).start();
        }
    }
}