作者：Zhisheng Tian
前提业务背景
就拿前些天的双十一的 “抢券活动” 来说，一般是设置整点开始抢的，你想想，淘宝的用户群体非常大，可以达到亿级别，而服务接口每秒能处理的量是有限的，那么这个时候问题就会出现，我们如何通过程序来控制用户抢券呢，于是就必须加上这个限流功能了。
生产环境
服务接口所能提供的服务上限（limit）假如是 500次/s用户请求接口的次数未知，QPS可能达到 800次/s，1000次/s，或者更高当服务接口的访问频率超过 500次/s，超过的量将拒绝服务，多出的信息将会丢失线上环境是多节点部署的，但是调用的是同一个服务接口于是，为了保证服务的可用性，就要对服务接口调用的速率进行限制（接口限流）。
什么是限流？
限流是对系统的出入流量进行控制，防止大流量出入，导致资源不足，系统不稳定。
限流系统是对资源访问的控制组件，控制主要的两个功能：限流策略和熔断策略，对于熔断策略，不同的系统有不同的熔断策略诉求，有的系统希望直接拒绝、有的系统希望排队等待、有的系统希望服务降级、有的系统会定制自己的熔断策略，这里只针对限流策略这个功能做详细的设计。
限流算法1、限制瞬时并发数
Guava RateLimiter 提供了令牌桶算法实现：平滑突发限流(SmoothBursty)和平滑预热限流(SmoothWarmingUp)实现。
2、限制某个接口的时间窗最大请求数
即一个时间窗口内的请求数，如想限制某个接口/服务每秒/每分钟/每天的请求数/调用量。如一些基础服务会被很多其他系统调用，比如商品详情页服务会调用基础商品服务调用，但是怕因为更新量比较大将基础服务打挂，这时我们要对每秒/每分钟的调用量进行限速；一种实现方式如下所示：
使用Guava的Cache来存储计数器，过期时间设置为2秒（保证1秒内的计数器是有的），然后我们获取当前时间戳然后取秒数来作为KEY进行计数统计和限流，这种方式也是简单粗暴，刚才说的场景够用了。
3、令牌桶
算法描述：
假如用户配置的平均发送速率为r，则每隔1/r秒一个令牌被加入到桶中假设桶中最多可以存放b个令牌。如果令牌到达时令牌桶已经满了，那么这个令牌会被丢弃当流量以速率v进入，从桶中以速率v取令牌，拿到令牌的流量通过，拿不到令牌流量不通过，执行熔断逻辑属性
长期来看，符合流量的速率是受到令牌添加速率的影响，被稳定为：r因为令牌桶有一定的存储量，可以抵挡一定的流量突发情况M是以字节/秒为单位的最大可能传输速率。 M>rT max = b/(M-r) 承受最大传输速率的时间B max = T max * M 承受最大传输速率的时间内传输的流量优点：流量比较平滑，并且可以抵挡一定的流量突发情况
4、GOOGLE GUAVA 提供的工具库中 RATELIMITER 类（内部也是采用令牌桶算法实现）
最快的方式是使用 RateLimit 类，但是这仅限制在单节点，如果是分布式系统，每个节点的 QPS 是一样的，请求量到服务接口那的话就是 QPS * 节点数 了。所以这种方案在分布式的情况下不适用！
5、基于 REDIS 实现，存储两个 KEY，一个用于计时，一个用于计数。请求每调用一次，计数器增加 1，若在计时器时间内计数器未超过阈值，则可以处理任务。
这种能够很好地解决了分布式环境下多实例所导致的并发问题。因为使用redis设置的计时器和计数器均是全局唯一的，不管多少个节点，它们使用的都是同样的计时器和计数器，因此可以做到非常精准的流控。
代码就不公布了，毕竟涉及公司隐私了。
最后
参考文章：
基于Redis的限流系统的设计
感兴趣的可以看看别人的代码是怎么写的：https://github.com/wukq/rate-limiter
- 蜜度索骥：以跨模态检索技术助力“企宣”向上生长
- 工信部：“点、链、网、面”体系化推进算力网络工作 持续提升算网综合供给能力
- 2025年超融合基础设施的4大趋势
- 2025年将影响数据中心的5个云计算趋势
- 80万辆大众汽车因AWS云配置错误导致数据泄露，包含“高精度”位置记录
- 名创优品超4000家门店接入“碰一下”支付，引爆年轻消费热潮
- 免税店也能用“碰一下”支付了！中免海南免税店：碰一下就优惠
- 报告：人工智能推动数据中心系统支出激增25%
- 密态计算技术助力农村普惠金融 蚂蚁密算、网商银行项目入选大数据“星河”案例
- 专利纠纷升级！Netflix就虚拟机专利侵权起诉博通及VMware
- 两大难题发布！华为启动2024奥林帕斯奖全球征集
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
