Semaphore 信号量限流，这东西真管用吗？用事实说话！

最新推荐文章于 2024-04-12 12:25:57 发布
最新推荐文章于 2024-04-12 12:25:57 发布
阅读量726 收藏 3
点赞数
CC 4.0 BY-SA版权
分类专栏： Java 文章标签： 队列 java 多线程 spring 并发编程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/javassb/article/details/115758260
本文探讨了Semaphore在限流中的应用，分析了其并发数限流的原理及常见使用方式。指出了Semaphore在高并发场景下可能存在的响应时间增长问题，提出通过使用non-blocking模式优化限流策略，以适应不同服务对低延迟和高吞吐的需求。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

最近参与公司的服务治理项目，主要目的是为了保证生产服务高可用性，以及高稳定性。

为了更好的参与的这个项目，这段时间一直在充电学习这方面的相关知识，包括限流，熔断，服务降级等等。

那在学习限流的时候，看到网上很多文章中直接使用了JDK 中 Semaphore 实现了限流器。

虽然到达的限流的目的，但是实际上其还是存在很大缺陷。

图片

那你如果没有经过完整测试，直接将这套限流方式照搬过来，发到了生产环境，那就等着背这口大锅吧。

好了，今天我们主要来聊聊 Semaphore ，文章主要内容如下图所示：

图片

semaphore

限流的方式有很多，从类型上分类，一般可以分为两种：

  • 并发数限流

  • QPS 限流

并发数限流就是限制同一时刻的最大并发请求数，而 QPS 限流指的是限制一段时间内请求数。

那我们今天的讲的 semaphore 限流其实属于第一类，通过限制并发数，到达限流的目的。

semaphore中文翻译为信号量，它其实是并发领域中一个重要编程模型，几乎所有支持并发编程的语言都支持信号量这个机制。

JDK 并发包下 Semaphore 类就是信号量的实现类，它的模型比较简单,如下图所示：

图片

Semaphore 内部有一个计数器，我们使用的时候，需要提前初始化。

初始化之后，我们就可以调用 acquire方法，获取信号量，这时计数器将会减 1。如果此时计数器值小于 0，则会将当前线程阻塞，并且加入到等待队列，否则当前线程继续执行。

执行结束之后，调用 release方法，释放信号量，计数器将会加 1。那如果此时计数器值的小于或等于0，则会唤醒的等待队列一个线程，然后将其移出队列。

并发流量通过 Semaphore进行限流，只有拿到信号量才能继续执行，保证后端资源访问数总是在安全范围。

图片

Semaphore 限流

Semaphore 限流常见使用方式

了解完 Semaphore 基本原理之后，我们就来实现一个限流器。

public class ConcurrencyLimit {

    private Semaphore semaphore;


    private ConcurrencyLimit() {
 &n
最低0.47元/天 解锁文章

200万优质内容无限畅学
[java并发编程]基于信号量semaphore实现限流器
weixin_45566993的博客
05-17 237
🚀 优质资源分享 🚀 学习路线指引（点击解锁） 知识定位 人群定位 🧡 Python实战微信订餐小程序 🧡 进阶级 本课程是python flask+微信小程序的完美结合，从项目搭建到腾讯云部署上线，打造一个全栈订餐系统。 💛Python量化交易实战💛 入门级 手把手带你打造一个易扩展、更安全、效率更高的量化交易系统 目录* 一、什么是信号量 二、信号量类Semaphore 三、实现限流器 欢迎关注我的博客，更多精品知识合集 一、什么是信号量 “信号量”在编程术语中使用单词se
详解Java信号量-Semaphore
BASK2311的博客
01-13 1075
基本概念：Semaphore是一种基于计数的同步工具，用于控制同时访问特定资源的线程数量。原理理解：Semaphore的实现依赖于AQS（AbstractQueuedSynchronizer），提供了一种机制来管理和控制线程的访问。实际应用：从资源池管理到限流控制，Semaphore在多种场景中都非常有用。高级特性：包括公平性和非公平性的选择，以及对线程中断的响应。问题解决：面对资源耗尽和性能问题，咱们学习了如何妥善处理Semaphore带来的挑战。与其他工具结合。
Semaphore -信号量、实现限流
bobozai86的博客
02-23 390
信号量模型 一个计数器、一个等待队列、三个方法。计数器和等待队列对外是透明的 三个方法： Init(); 初始化计数器 down(); 计数器的值-1；如果此时计数器的值小于0，则当前线程将被阻塞，否则当前线程继续执行； – 在Semphore中是acquire()方法 up(); 计数器的值+1；如果此时计数器的值大于或等于0，则唤醒等待队列中的一个线程，并将其从等待队列中移除； – 在Semphore中是release()方法 在 Java SDK 里面，信号量模型是由 java.util.concu
Semaphore实现限流
zgliulin
11-24 463
@Slf4j public class PortraitImport implements Callable<Response> { private TemporaryWorkerService temporaryWorkerService; private Semaphore semaphore; private MultipartFile file; private Integer type; public PortraitImport(Semaph
Semaphore，信号量，限流操作
轻描淡写
06-26 378
Semaphore 使用场景：【限流操作】，限制某个资源同时被访问的个数 semaphore 也就是我们常说的信号灯，semaphore 可以控制同时访问的线程个数，通过 acquire 获取一个许可，如果没有就等待，通过 release 释放一个许可。 … import lombok.extern.slf4j.Slf4j; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; import
μC/OS-II任务，信号量、邮箱、队列及其区别
08-03
2. 信号量（Semaphore）： 信号量是一种同步机制，它用于控制对共享资源的访问。信号量可以理解为一种计数器，当计数值大于零时，任务可以获取信号量并继续执行；若计数值为零，则任务会被挂起，直到其他任务释放...
C#锁机制进阶应用探讨：信号量（Semaphore）使用场景详解
在本章中，我们将重新审视C#中的锁机制基础，为深入理解信号量和其他高级同步原语打下坚实的基础。 ## 1.1 锁的分类和基本概念 首先，锁大致可以分为互斥锁（Mutex）、读写锁（ReaderWriterLock）和自旋锁...
多线程 ： Java 信号量 Semaphore 使用
蓝色街灯 的博客
03-16 358
package thread; import java.util.concurrent.ExecutorService; import java.util.concurrent.Executors; import java.util.concurrent.Semaphore; public class TestSemaphore { public static void main(St
Semaphore 限流
xiaozhu0301的博客
12-25 202
Semaphore，是用于控制一组线程访问资源。举个例子，老师上课，同学需要上厕所，老师准备了3个令牌，拿到令牌的同学就可以去上厕所，上完厕所的同学需要归还令牌。这样就最多同时只有3名同学上厕所。这就是Semaphore的应用场景。 Semaphore的构造函数可初始化令牌数量、是否公平锁。如果是公平锁，先申请令牌的可以先获取。 acquire() 和release()分别是获取和释放令牌，acquire(int) 和release(int) 分别是获取和释放多个令牌。 Semaphore...
并发工具类：用Semaphore实现限流
小识的博客
03-04 1275
使用 在现实生活中我们经常遇到限流的情况，如一个电影院只有2个门，因此每次只能同时检2个人的票。而Semaphore就是Java中用来控制同时访问特定资源的线程数量 public class SemaphoreUseDemo { public static void main(String[] args) { ExecutorService service = Executors.newCachedThreadPool(); Semaphore semaphore.
Java Semaphore 实现限流
努力才配拥有的博客
05-04 258
详细过程 查看我的公众号文章 https://mp.weixin.qq.com/s/O8JwEdJb0wona-wBbWNHIw 获取更多内容，请关注微信公众号。搜索“程序员云笔记”，或扫描下方二维码获取关注
Java并发知识 —— 可用于限流的Semaphore类
简简单单记录
07-17 290
一、Semaphore类简介 Semaphore 通常我们叫它信号量， 可以用来控制同时访问特定资源的线程数量，通过协调各个线程，以保证合理的使用资源。 通常用于那些资源有明确访问数量限制的场景，常用于限流。 比如：数据库连接池，同时进行连接的线程有数量限制，连接不能超过一定的数量，当连接达到了限制数量后，后面的线程只能排队等前面的线程释放了数据库连接才能获得数据库连接。 二、Semaphore类说明 1. Semaphore类结构 2. Semaphore类方法 acquire 作用：获取一个Per
java怎么控制并发_Java并发|Semaphore如何实现并发控制（限流）
weixin_42300329的博客
02-12 542
大家好，我是七哥，今天是2020.10.24，也是我们程序员的节日，在这里祝大家节日快乐。絮叨一下今天我们一起来学习下如何使用JDK提供的并发工具类来实现限流。 在之前的工作中，我们有一个限流的场景，那就是在调用关联方系统的时候需要限流，因为提供服务方是保险的核心系统，大家应该都懂这种系统支持的并发不会大，为了保护双方系统的可用性，作为调用方我们在调用的时候也会做一个限流控制。 这种场景在工作中很...
信号量限流，高并发场景不得不说的秘密
小姐姐味道
07-01 1350
限流可以认为是一种降级，一般是根据后台的负载提前预估的一个阈值（也可以动态调整）。超过了这个值，就要进行一些旁路处理。根据业务形态，会有直接拒绝、延迟处理、保持等待、部分...
信号量Semaphore
weixin_44271683的博客
02-16 297
允许多个线程同时访问：信号量（Semaphore） 信号量为多线程协作提供了更为强大的控制方法。广义上说，信号量是对锁的扩展。无论是内部锁synchronized还是重入锁ReentrantLock，一次都只允许一个线程访问一个资源，而信号量指定多个线程访问同一个资源。 信号主要提供以下的构造函数。 public Semaphore(int permits);//permits 指定信号量的准入数...
【Java面试高频-锁体系】- 信号量Semaphore是什么？用在什么地方？
Mind_programmonkey的博客
05-13 578
【Java面试高频-锁体系】- 信号量Semaphore是什么？用在什么地方？ 1 Semaphore是什么？ Semaphore通常称呼它为信号量，可以用来控制同时访问特定资源的线程数量，通过协调各个线程，以保证合理的使用资源。 可以把它简单的理解成我们停车场入口立着的那个显示屏，每有一辆车进入停车场显示屏就会显示剩余车位减1，每有一辆车从停车场出去，显示屏上显示的剩余车辆就会加1，当显示屏上的剩余车位为0时，停车场入口的栏杆就不会再打开，车辆就无法进入停车场了，直到有一辆车从停车场出去为止。 2 Se
基于JSP实现OA办公系统
VIP129370的博客
04-12 550
至此，文章终于到了尾声。技术能力：先写岗位所需能力，再写加分能力，不要写无关能力；项目经历：只写明星项目，描述遵循 STAR 法则；简历印象：简历遵循三大原则：清晰，简短，必要，要有的放矢，不要海投；以及最后为大家准备的福利时间：简历模板+Java面试题+热门技术系列教程视频《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！[外链图片转存中…(img-RfHj5m0m-1712895940483)]
令牌桶算法是基于semaphore实现的吗
最新发布
02-22
<think>嗯，用户问令牌桶算法是不是基于信号量（semaphore）实现的。我需要先回顾一下这两个概念，确保自己理解正确。令牌桶算法是一种用于流量控制和速率限制的常用算法，它通过定期向桶中添加令牌，请求需要获取令牌才能被处理，以此来控制速率。而信号量是一种同步机制，用于控制对共享资源的访问，通常用来限制同时访问某个资源的线程数。 首先，我需要确认令牌桶算法的基本实现原理。令牌桶的核心是有一个固定容量的桶，系统以固定的速率向桶中添加令牌。当请求到达时，如果桶中有足够的令牌，请求被处理，令牌被消耗；否则，请求被限流。这听起来像是一个生产者-消费者模型，生产者定期生成令牌，消费者（请求）消耗令牌。 接下来，考虑信号量的作用。信号量维护一个计数器，当线程请求资源时，如果计数器大于零，则允许访问并减少计数器；否则线程可能被阻塞或返回错误。这和令牌桶中令牌的获取确实有相似之处，都是基于可用资源的计数来控制访问。 那么，令牌桶是否基于信号量实现呢？可能的实现方式之一是使用信号量来管理令牌的数量。例如，信号量的计数器可以代表当前可用的令牌数量。每次添加令牌时，释放信号量（增加计数器），而获取令牌时则尝试获取信号量（减少计数器）。这种情况下，信号量的确可以作为令牌桶的一个底层机制。 不过，令牌桶不仅仅是简单的计数器，它还需要处理令牌的定期添加。这可能需要一个独立的线程或定时器来周期性地向信号量中添加许可（即令牌）。同时，需要考虑桶的容量限制，当令牌已满时，即使定时添加，也不能超过容量。这时候信号量本身的最大值可以设置为桶的容量，从而自然限制令牌的数量。 但这里可能存在一些差异。例如，传统的信号量在许可被释放时如果超过最大值，可能会被忽略或导致错误，而令牌桶在桶满时应该停止添加令牌，而不是增加信号量的许可。因此，在实现时可能需要额外的逻辑来确保令牌添加不会超过桶的容量。这可能意味着在信号量的基础上包装一些逻辑，比如在释放信号量之前检查当前许可数量是否已达到最大值。 另外，信号量通常用于多线程同步，而令牌桶可能还需要考虑时间因素，即令牌的定期生成。这可能需要结合定时任务或延迟队列来触发令牌的添加。例如，使用一个定时器每隔一定时间调用信号量的release()方法来增加许可，但需要确保每次添加不超过桶的剩余容量。 不过，令牌桶算法的另一种实现方式可能不使用信号量，而是直接维护一个计数器和上一次生成令牌的时间戳。每次请求到来时，计算自上次生成令牌以来应该新增的令牌数量，然后更新计数器和时间戳，再判断是否有足够的令牌可用。这种实现方式可能更高效，因为它不需要依赖操作系统的信号量机制，尤其是在高并发环境下。 用户的问题可能源于对两者机制的理解，认为它们都是基于资源计数来控制访问，所以想知道是否有直接的实现关系。我需要明确回答是否令牌桶算法通常基于信号量实现，或者它们只是概念上相似但实现方式不同。 根据我的知识，虽然信号量可以用于实现令牌桶的一部分功能，但完整的令牌桶算法通常需要结合其他机制，如定时器或时间戳计算，来管理令牌的生成和消耗。因此，令牌桶算法并不完全基于信号量实现，但信号量可以作为其中的一个组件来管理可用令牌的数量。 还需要考虑不同的编程语言或库中的具体实现。例如，在Java中，可能有使用Semaphore类来实现令牌桶的案例，但同样需要处理定时添加令牌的逻辑。而在其他实现中，可能完全用自定义的计数器和时间管理来避免信号量的开销。 总结来说，令牌桶算法和信号量在概念上有相似之处，都涉及资源计数和访问控制，但令牌桶的实现通常需要额外的逻辑来处理令牌的定期生成和容量限制，因此并不完全基于信号量。不过，信号量可以作为实现令牌桶的一个有用工具，尤其是在多线程环境中管理并发的令牌获取。</think>令牌桶算法与信号量（Semaphore）在概念上有相似之处，但**令牌桶并非完全基于信号量实现**。以下是具体分析： --- ### **1. 核心机制对比** - **令牌桶算法** - **功能**：控制请求速率（如每秒处理 N 个请求）。 - **原理**： 1. 一个固定容量的“桶”定期生成令牌（如每秒添加固定数量）。 2. 请求需获取令牌才能执行，无令牌时触发限流。 - **实现关键**：需同时管理**令牌生成速率**和**桶容量限制**，通常结合时间计算（如记录上次生成令牌的时间戳）和原子计数器。 - **信号量（Semaphore）** - **功能**：控制并发资源访问（如最多允许 M 个线程同时运行）。 - **原理**：维护一个计数器，通过 `acquire()` 和 `release()` 操作控制资源占用。 - **局限性**：仅管理可用资源数量，**不直接支持时间维度的速率控制**（如每秒新增资源）。 --- ### **2. 令牌桶能否用信号量实现？** - **可以部分依赖信号量**，但需补充额外逻辑： 1. **令牌生成**： 需要独立线程或定时任务定期调用信号量的 `release()`（添加令牌），但需确保不超过桶容量。 2. **容量限制**： 信号量的初始值设为桶容量，但需拦截超额 `release()`（如桶满时停止添加令牌）。 3. **速率控制**： 通过固定间隔触发 `release()` 实现令牌生成速率（例如每秒一次）。 - **示例伪代码（Java）**： ```java Semaphore tokens = new Semaphore(MAX_BUCKET_SIZE); // 桶容量 // 定时任务：每秒添加 RATE 个令牌 scheduler.scheduleAtFixedRate(() -> { int available = tokens.availablePermits(); if (available < MAX_BUCKET_SIZE) { tokens.release(RATE); // 需确保不超过最大值 } }, 1, 1, TimeUnit.SECONDS); // 请求处理前获取令牌 if (tokens.tryAcquire()) { handleRequest(); } else { rejectRequest(); } ``` --- ### **3. 实际实现中的差异** - **性能优化**： 直接基于时间戳和计数器的实现（无信号量）更高效，避免了线程调度和锁竞争。例如： ```python class TokenBucket: def __init__(self, rate, capacity): self.rate = rate # 令牌生成速率（个/秒） self.capacity = capacity # 桶容量 self.tokens = capacity # 当前令牌数 self.last_time = time.time() def consume(self): now = time.time() elapsed = now - self.last_time self.tokens = min(self.capacity, self.tokens + elapsed * self.rate) self.last_time = now if self.tokens >= 1: self.tokens -= 1 return True return False ``` - **适用场景**： - **信号量实现**：适合简单限流，且对精度要求不高的场景。 - **时间戳+计数器实现**：适合高并发、需精确控制速率的场景（如 API 网关）。 --- ### **4. 总结** - **令牌桶与信号量的关系**： 令牌桶可以**借用信号量管理令牌数量**，但完整的速率控制需结合时间维度的令牌生成逻辑。 - **核心差异**： 信号量缺乏对“速率”的原生支持（如每秒新增资源），而令牌桶通过定期补充令牌实现了这一点。 - **实践建议**： 在需要严格速率限制时，优先选择专门的令牌桶实现（如 Guava 的 `RateLimiter` 或 Redis 的 `INCR` + 过期时间方案）。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值