当前位置: 首页 > news >正文

常见的限流算法

限流算法是用于控制访问频率、保护系统免受过载攻击的重要手段。常见的限流算法有以下几种,每种算法都有不同的应用场景和优缺点。下面是几种常见的限流算法的详细介绍:

1. 计数器算法(Counter)

原理

计数器算法是最简单的限流算法。它在固定的时间窗口内记录请求的次数,一旦请求次数达到预设的上限,后续请求会被拒绝。

实现步骤
  • 设置一个时间窗口(例如 1 秒、1 分钟等)。
  • 使用一个计数器记录在当前时间窗口内的请求数量。
  • 如果计数器达到限制次数,则拒绝后续请求;否则增加计数器。
  • 当时间窗口结束时,重置计数器。
优点
  • 实现简单,适合处理短时间内的高并发请求。
缺点
  • 临界问题:在时间窗口的边界处可能出现"流量突发",例如在窗口末尾和下一个窗口的开始时连续发出大量请求。
使用场景

适用于简单的限流场景,比如 API 接口每秒最多允许多少次请求。

代码示例(伪代码)
 

java

复制代码

class CounterLimiter { private int maxRequests; private int currentCount; private long windowStart; private long windowDuration; public boolean allowRequest() { long now = System.currentTimeMillis(); if (now - windowStart > windowDuration) { windowStart = now; currentCount = 0; } if (currentCount < maxRequests) { currentCount++; return true; } else { return false; } } }

2. 滑动窗口算法(Sliding Window)

原理

滑动窗口算法是对计数器算法的一种优化,它将时间窗口进一步划分为多个小的时间片段,从而避免计数器算法的临界问题。每个小窗口内维护一个计数器,当请求到达时,滑动窗口根据当前时间计算跨越的时间片段,并更新计数器。

实现步骤
  • 将大时间窗口(如 1 分钟)分成多个小时间窗口(如 10 秒),并为每个小时间窗口维护请求计数。
  • 每次请求到达时,判断它属于哪个小窗口,并更新相应计数器。
  • 同时计算过去的所有小窗口总请求数,如果总数超过限流阈值,则拒绝请求。
优点
  • 缓解了计数器算法的临界问题,流量分布更加平滑。
缺点
  • 实现相对复杂,需要额外的存储空间维护多个小时间窗口。
使用场景

适合希望更加平滑限流的场景,尤其是对流量有一定均匀要求的服务。

代码示例(伪代码)
 

java

复制代码

class SlidingWindowLimiter { private int[] windows; private long windowSize; private int maxRequests; public boolean allowRequest() { long now = System.currentTimeMillis(); int currentWindowIndex = getWindowIndex(now); updateWindow(now); int totalRequests = getTotalRequests(); if (totalRequests < maxRequests) { windows[currentWindowIndex]++; return true; } else { return false; } } // 辅助方法省略 }

3. 漏桶算法(Leaky Bucket)

原理

漏桶算法可以看作是一个水桶模型,桶的容量代表系统能处理的最大请求数,请求是向桶中注水,水以固定速率流出。如果桶满了,则会丢弃新的请求。

实现步骤
  • 创建一个固定容量的桶。
  • 请求到达时将其放入桶中,桶以固定的速率处理请求。
  • 如果桶已满,拒绝新请求。
优点
  • 请求处理速率是固定的,能够很好地平滑突发流量。
缺点
  • 固定处理速率可能无法适应某些突发流量大的场景,可能导致部分请求被丢弃。
使用场景

适用于处理具有固定速率的请求处理场景,如网络流量控制等。

代码示例(伪代码)
 

java

复制代码

class LeakyBucketLimiter { private int bucketSize; private long lastLeakTime; private int currentWater; private int leakRate; public boolean allowRequest() { long now = System.currentTimeMillis(); leak(now); if (currentWater < bucketSize) { currentWater++; return true; } else { return false; } } private void leak(long now) { int leakedWater = (int) ((now - lastLeakTime) * leakRate); currentWater = Math.max(0, currentWater - leakedWater); lastLeakTime = now; } }

4. 令牌桶算法(Token Bucket)

原理

令牌桶算法类似于漏桶算法,但它允许一定程度的突发流量。系统以固定的速率生成令牌,令牌存放在桶中。每次请求需要从桶中获取令牌,如果桶中有足够的令牌,则允许请求通过,否则拒绝。

实现步骤
  • 设置一个容量为 bucketSize 的桶,用于存储令牌。
  • 系统以固定速率生成令牌,如果桶未满,令牌将被加入桶中。
  • 请求到达时,尝试从桶中获取令牌,如果有足够的令牌则允许请求,否则拒绝。
优点
  • 支持突发流量,同时保证了整体请求处理的速率。
缺点
  • 实现略微复杂,需要维护生成令牌的过程。
使用场景

适合处理偶发性高并发的场景,如 API 限流和保护下游服务。

代码示例(伪代码)
 

java

复制代码

class TokenBucketLimiter { private int bucketSize; private int tokens; private int refillRate; private long lastRefillTime; public boolean allowRequest() { refill(); if (tokens > 0) { tokens--; return true; } else { return false; } } private void refill() { long now = System.currentTimeMillis(); int newTokens = (int) ((now - lastRefillTime) * refillRate); tokens = Math.min(bucketSize, tokens + newTokens); lastRefillTime = now; } }

5. Redis 计数限流

原理

Redis 可以通过其 INCREXPIRE 命令实现简单高效的限流。每次请求到达时,使用 INCR 增加 Redis 中的计数器,如果计数器超过阈值,则拒绝请求。同时,使用 EXPIRE 为计数器设置过期时间。

实现步骤
  • 每个请求到来时对 Redis 中的计数器进行 INCR
  • 如果计数器在一个时间窗口内超过设定的阈值,则限流。
  • EXPIRE 命令设置计数器的过期时间,以实现限流的时间窗口控制。
优点
  • 分布式环境中非常适合,支持高并发请求的计数和过期时间管理。
缺点
  • Redis 需要额外的存储和网络开销。
使用场景

适用于分布式系统中的限流,尤其是在 API 网关和微服务架构中。

代码示例(伪代码)
 

java

复制代码

class RedisRateLimiter { private RedisClient redis; private String key; private int maxRequests; private int windowTime; public boolean allowRequest() { int count = redis.incr(key); if (count == 1) { redis.expire(key, windowTime); } return count <= maxRequests; } }

总结

算法优点缺点使用场景
计数器算法实现简单,适合小型项目临界点可能导致突发流量简单限流
滑动窗口算法平滑计数器算法的缺点,避免流量突发需要更多的存储空间和实现复杂度流量分布较平滑的场景
漏桶算法固定处理速率,流量控制稳定突发流量支持不佳,可能丢弃请求固定速率的服务
令牌桶算法支持突发流量,保证请求处理的平滑实现复杂,维护令牌生成支持突发流量的限流场景
Redis 限流分布式限流简单高效需要依赖 Redis,增加网络开销

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • hnust 湖科大 毕业实习常见问题30问(2021 年7月,V0.9)
  • django orm增删改查操作
  • 从零到一:构建你的第一个AI项目(实战教程)
  • 【算法】差分思想:强大的算法技巧
  • Parallels Desktop 20 for Mac中文版发布了?会哪些新功能
  • uniapp 做一个查看图片的组件,图片可缩放移动
  • 基于C++的成绩管理系统
  • 828华为云征文 | 使用Flexus云服务器X实例部署GLPI资产管理系统
  • 基于python+django+vue的外卖管理系统
  • 【python设计模式1】面向对象设计原则
  • 基于springboot+vue+uniapp的驾校报名小程序
  • 工厂模式,策略模式,代理模式,单例模式在项目中的应用
  • 大语言模型之ICL(上下文学习) - In-Context Learning Creates Task Vectors
  • 淘宝npm镜像源更新后,如何正常使用npm命令
  • linux下lvm(逻辑卷管理器)
  • [rust! #004] [译] Rust 的内置 Traits, 使用场景, 方式, 和原因
  • 【391天】每日项目总结系列128(2018.03.03)
  • android图片蒙层
  • C++类的相互关联
  • Golang-长连接-状态推送
  • Hibernate最全面试题
  • JavaScript 是如何工作的:WebRTC 和对等网络的机制!
  • Javascript基础之Array数组API
  • java取消线程实例
  • Laravel 实践之路: 数据库迁移与数据填充
  • laravel 用artisan创建自己的模板
  • PHP变量
  • React-flux杂记
  • select2 取值 遍历 设置默认值
  • SpiderData 2019年2月25日 DApp数据排行榜
  • ⭐ Unity 开发bug —— 打包后shader失效或者bug (我这里用Shader做两张图片的合并发现了问题)
  • Work@Alibaba 阿里巴巴的企业应用构建之路
  • 服务器从安装到部署全过程(二)
  • 技术:超级实用的电脑小技巧
  • 解决iview多表头动态更改列元素发生的错误
  • 十年未变!安全,谁之责?(下)
  • 小李飞刀:SQL题目刷起来!
  • 译自由幺半群
  • 原生Ajax
  • Spring Batch JSON 支持
  • ​​​​​​​​​​​​​​Γ函数
  • #etcd#安装时出错
  • (09)Hive——CTE 公共表达式
  • (10)Linux冯诺依曼结构操作系统的再次理解
  • (附源码)springboot建达集团公司平台 毕业设计 141538
  • (六)库存超卖案例实战——使用mysql分布式锁解决“超卖”问题
  • (欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明
  • (限时免费)震惊!流落人间的haproxy宝典被找到了!一切玄妙尽在此处!
  • (学习日记)2024.03.25:UCOSIII第二十二节:系统启动流程详解
  • (一)硬件制作--从零开始自制linux掌上电脑(F1C200S) <嵌入式项目>
  • (源码分析)springsecurity认证授权
  • (转)Groupon前传:从10个月的失败作品修改,1个月找到成功
  • (转)JAVA中的堆栈
  • ****三次握手和四次挥手
  • **PyTorch月学习计划 - 第一周;第6-7天: 自动梯度(Autograd)**