sentinel 熔断算法(限流方案基础RateLimiterSentinel)

Sentinel:阿里出品的限流熔断组件,根据优化的滑动时间窗口算法,可实现集群流控;

RateLimiter:Guava包中实现的令牌通算法限流方案,可实现单体条件下的流控处理。

算法介绍漏桶算法

如下图一样,漏桶非常均匀地控制流量,如果漏桶满了,后续的水全部会溢出,用它来作为应用层限流是不合适的。如果有大量的用户访问,会导致后面的用户全部拒绝服务,给人的感觉就像服务挂了一样。

它的主要目的是控制数据注入到网络的速率,平滑网络上的突发流量,数据可以以任意速度流入到漏桶中。漏桶算法提供了一种机制,通过它,突发流量可以被整形以便为网络提供一个稳定的流量。 漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶为空,则不需要流出水滴,如果漏桶(包缓存)溢出,那么水滴会被溢出丢弃。

缺点:处理不了瞬间增大的流量

sentinel 熔断算法(限流方案基础RateLimiterSentinel)(1)

令牌桶算法

系统会以一个恒定的速度往桶里放入令牌,而如果请求需要被处理,则需要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。 当桶满时,新添加的令牌被丢弃或拒绝。

优点:能处理瞬间增大的流量,比如现在正常情况下每秒产生5个令牌,在预制了5个令牌,如果一瞬间流量为一秒8个令牌,首先这一秒正常能生成5个令牌,在加上预制了5个令牌,所以可以处理这个瞬间流量

算法详解:https://zhuanlan.zhihu.com/p/164503398

sentinel 熔断算法(限流方案基础RateLimiterSentinel)(2)

滑动时间窗口算法固定时间窗口

即比如每一秒作为一个固定的时间窗口,在一秒内最多可以通过100个请求,那么在统计数据的时候,如果0-500ms没有请求,而500-1000ms有100个请求,那么这一百个请求都能通过,在1000-1500ms的时候,又有100个请求过来了,它依然能够通过,因为在1000ms的时候又开启了一个新的固定时间窗口。这样,500-1500ms这一秒内有了200个请求,但是它依然能够通过,所以这就会造成数据统计的不准确性,并不能保证在任意的一秒内都使得通过请求数小于100。

普通的滑动窗口

因为固定时间窗口带来的数据的不准确性,就会造成可能局部的时间压力过高,所以就需要采用滑动窗口算法来进行统计,滑动窗口时间算法意思就是,从请求过来的时刻开始,统计往前一秒中的数据,通过这个数据来判断是否进行限流等操作。这样的话准确性就会有很大的提升,但是由于每一次请求过来都需要重新统计前一秒的数据,就会造成巨大的性能损失。所以这也是他的不合理的地方。

Sentinel的滑动时间窗口

由于固定时间窗口带来的不准确性和普通滑动窗口带来的性能损失的缺点,所以Sentinel对这两种方案采取了折中的方案。

在Sentinel中会将原本的固定的时间窗口划分成很多更小的样本窗口,每一次请求的数据都会被保存在小的样本窗口中去,而每一次获取的时候都会去获取这些样本时间窗口中的数据,从而不需要进行重新统计,就减小了性能损耗,同时时间窗口被细粒度化了,不准确性也会降低很多。

限流实现Guava/RateLimiter

public class RateLimiterDemo { // 10-预热时间 TimeUtil.MILLISECONDS-时间单位 5-速率 private static RateLimiter limiter = RateLimiter.create(5, 10, TimeUtil.MILLISECONDS); public static void exec() { // limiter.acquire() 表示消费一个令牌。 // 当桶中有足够的令牌时,则直接返回0,否则阻塞,直到 // 有可用的令牌数才返回,返回的值为阻塞的时间 // limiter.acquire(1); // 如果没有令牌则阻塞 if(limiter.tryAcquire()) { // 有令牌则返回true // 处理核心逻辑 } else { // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等) } } }

Sentinel

功能

sentinel 熔断算法(限流方案基础RateLimiterSentinel)(3)

maven坐标

<dependency> <groupId>com.alibaba.csp</groupId> <artifactId>sentinel-core</artifactId> <version>1.8.3</version> </dependency>

定义规则

private static void initFlowRules(){ List<FlowRule> rules = new ArrayList<>(); FlowRule rule = new FlowRule(); rule.setResource("HelloWorld"); rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // Set limit QPS to 20. rule.setCount(20); rules.add(rule); FlowRuleManager.loadRules(rules); }

实现流控处理

public static void main(String[] args) { initFlowRules(); while (true) { Entry entry = null; try { entry = SphU.entry("HelloWorld"); /*您的业务逻辑 - 开始*/ System.out.println("hello world"); /*您的业务逻辑 - 结束*/ } catch (BlockException e1) { /*流控逻辑处理 - 开始*/ System.out.println("block!"); /*流控逻辑处理 - 结束*/ } finally { if (entry != null) { entry.exit(); } } } }

同时Sentinel实现了对降级的处理,调用示例

Entry entry = null; try { entry = SphU.entry(key, EntryType.IN, key); // Write your biz code here. // <<BIZ CODE>> } catch (Throwable t) { if (!BlockException.isBlockException(t)) { Tracer.trace(t); } } finally { if (entry != null) { entry.exit(); } }

你看,是不是奇怪的知识又增加了

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页