标签:exce 默认 令牌 1.2 工具类 loser get 完成 意思
限流是高可用服务需要具备的能力之一 ,粗暴简单的就像我们之前做的并发数控制。好一点的有tps限流,可用令牌桶等算法实现。《亿级流量网站架构核心技术》一书P67限流详解也有讲。dubbo提供了此机制,TpsLimitFilter。guava也提供了相应的工具类RateLimiter。
里面写入 tpslimiter=com.alibaba.dubbo.rpc.filter.TpsLimitFilter
表示将TpsLimitFilter这个filter的扩展给装配给dubbo
<dubbo:service interface="org.simonme.dubbo.demo.provider.service.HelloService" ref="m00001.app001.xx.helloService" filter="tpslimiter">
<dubbo:parameter key="tps" value="5" />
</dubbo:service>
意思对HelloService 这个接口在provider侧做tps为5的限流,默认间隔是60s,可以通过tps.interval
这个parameter进行配置,单位是毫秒。注意此处配置的tps为5,不是
每秒限制通过5个以内的请求,而是单位时间间隔内
通过5个以内的请求。关于单位时间间隔前面解释了。
客户端会抛出rpc调用异常:
com.alibaba.dubbo.rpc.RpcException: Failed to invoke service org.simonme.dubbo.demo.provider.service.HelloService.sayHello because exceed max service tps
主要是DefaultTPSLimiter
和StatItem
两个类配合完成。采用的是令牌桶
算法,实现在StatItem
类中。
大意是:
每隔一个单位时间后重置令牌桶中令牌的数量,然后每次请求来的时候减1,减到小于0时,拒绝请求。
long now = System.currentTimeMillis();
if (now > lastResetTime + interval) {
token.set(rate);
lastResetTime = now;
}
int value = token.get();
boolean flag = false;
while (value > 0 && !flag) {
flag = token.compareAndSet(value, value - 1);
value = token.get();
}
注意:此实现依赖系统时间,如果想用相对时间实现,可以参见这里 dubbo的TPS限流模块在运行时系统时间发生变化的情况下限流不能正常工作 #2345。
对于采用spring cloud的架构的项目,可以借助guava的RateLimiter
来实现ZuulFilter
的子类来达成tps限流的目的。
标签:exce 默认 令牌 1.2 工具类 loser get 完成 意思
原文地址:https://www.cnblogs.com/simoncook/p/9567604.html