并发编程专题-5:生产者和消费者模式

67、Go语言并发编程:生产者-消费者模式深度解析 本文深入探讨了Go语言中的并发模式——生产者-消费者模式,通过实际案例展示了如何使用Go的通道和协程实现并发生产者和消费者。我们还介绍了如何处理缓冲区溢出和消费者错误,并探讨了生产者-消费者模式的进阶应用,包括优先级处理和工作窃取算法。这些内容帮助读者更好地理解并发编程原理,提升项目性能和效率。 阅读详情

所谓生产者-消费者问题,实际上主要是包含了两类线程,一种是生产者线程用于生产数据,另一种是消费者线程用于消费数据,为了解耦生产者和消费者的关系,通常会采用共享的数据区域,就像是一个仓库,生产者生产数据之后直接放置在共享数据区中,并不需要关心消费者的行为;而消费者只需要从共享数据区中去获取数据,就不再需要关心生产者的行为。

在实现生产者消费者问题时,可以采用三种方式:

  1. 使用 Object 的 wait()/notify() 的消息通知机制;
  2. 使用 Lock 的 Condition 的 await()/signal() 的消息通知机制;
  3. 使用 BlockingQueue 实现。

1、基于 Object 的 wait()/notifyAll() 实现方式

1.1 理论基础

关于 wait()、notify() 和 notifyAll() 的理论基础,可以参考笔者的文章,

《并发编程专题 2:使用多线程编程》 的 《线程控制 wait()、notify() 和 notifyAll()》 一节。

1.2 基于 Object 的 wait()/notifyAll() 生产者消费者模式

    // 生产者
    private static class Consumer implements Runnable {
        private List<Object> products;

        // 传入的对象是产品,也就是说,生产者和消费者通过产品建立联系
        public Consumer(List<Object> products) {
            this.products = products;
        }

        public void run() {
            while (true) { // 使用循环来不断消费
                synchronized (products) { // 对产品加锁 products
                    while (products.isEmpty()) { // 1. 没有产品了
                        try { // 调用 wait() 的时候使用 tru...catch 防止线程终端
                            products.wait(); // 已经没有产品可以消费了
                        } catch (InterruptedException e) {
                            e.printStackTrace();
                        }
                    }
                    products.remove(0); // 消费一个
                    products.notifyAll(); // 通知其他线程
                    System.out.println("Eat one. Left : " + products.size());
                }
            }
        }
    }

    // 消费者
    private static class Producer implements Runnable {
        private final int max; // 产品的上限
        private List<Object> products;

        // 参数是产品的上限和产品列表(理解成仓库和仓库的最大容量亦可)
        public Producer(int max, List<Object> products) {
            this.max = max;
            this.products = products;
        }

        public void run() {
            while (true) {
                synchronized (products) {
                    while (products.size() > max) { // 2. 大于上限就停止生产
                        try {
                            products.wait(); // 暂停生成
                        } catch (InterruptedException e) {
                            e.printStackTrace();
                        }
                    }
                    products.add(new Object()); // 生成一个
                    products.notifyAll(); // 唤醒
                    System.out.println("Made one. Total : " + products.size());
                }
            }
        }
    }

    // 模拟 & 验证
    public static void main(String...args) {
        final int MAX_PRODUCTS = 20;
        List<Object> products = new LinkedList<>();
        Executor executor = Executors.newCachedThreadPool(); // 使用线程池
        executor.execute(new Producer(MAX_PRODUCTS, products));
        executor.execute(new Consumer(products));
        executor.execute(new Consumer(products));
    }

上面的生产者和消费者模式示例代码的注释已经非常详尽了,这里有几个问题需要说明一下。

首先是上述注释中的 1 和 2,这里我们使用的是 while 循环而不是 if 语句。这是因为假如存在多个消费者并且都因为产品不足而发生阻塞,当消费者调用了 notifyAll() 将它们唤醒的时候,其中的一个被唤醒并且消费了产品,释放了锁,而此时生产者还没有生成出新的产品,另一个生产者获得了锁,并进行消费,那么此时会因为没有可以消费的产品而抛出异常。所以,在消费者和生产者中,我们都使用 while 循环而不是 if. 这样,按照上述情形,另一个生产者会继续判断是否有可以消费的产品,如果没有的话,将会继续 wait.

另外就是使用 notifyAll() 而不是 notify() 唤醒。假如我们存在多个消费者在等待,此时一个消费者使用 notify() 唤醒的依然是消费者,那么线程将进入假死状态。

2、Lock 的 Condition 的 await()/signal() 的实现方式

使用 Lock 的实现方式与使用 Object 的 wait() 和 notifyAll() 的实现方式原理是一致的。

    // 定义锁、仓库已满的条件和仓库为空的条件
    private static ReentrantLock lock = new ReentrantLock();
    private static final Condition full = lock.newCondition();
    private static final Condition empty = lock.newCondition();

    // 消费者
    private static class Consumer implements Runnable {
        private List<Object> products;

        public Consumer(List<Object> products) {
            this.products = products;
        }

        public void run() {
            while (true) {
                lock.lock(); // 加锁
                try {
                    while (products.isEmpty()) { // 没有可消费的产品
                        try {
                            empty.await(); // 没有可用的产品了,等待
                        } catch (InterruptedException e) {
                            e.printStackTrace();
                        }
                    }
                    products.remove(0); // 消费一个
                    full.signalAll(); // 唤醒所有生产者
                    empty.signalAll(); // 唤醒所有消费者
                    System.out.println("Eat one. Left : " + products.size());
                } finally {
                    lock.unlock(); // 释放锁
                }
            }
        }
    }

    // 生产者
    private static class Producer implements Runnable {
        private final int max;
        private List<Object> products;

        public Producer(int max, List<Object> products) {
            this.max = max;
            this.products = products;
        }

        public void run() {
            while (true) {
                lock.lock(); // 加锁
                try {
                    while (products.size() > max) { // 已经达到了最大的产量
                        try {
                            full.await(); // 已达最大产量,等待
                        } catch (InterruptedException e) {
                            e.printStackTrace();
                        }
                    }
                    products.add(new Object()); // 生产一个
                    full.signalAll(); 
                    empty.signalAll();
                    System.out.println("Made one. Total : " + products.size());
                } finally {
                    lock.unlock(); // 释放锁
                }
            }
        }
    }

    public static void main(String...args) {
        final int MAX_PRODUCTS = 20;
        List<Object> products = new LinkedList<>();
        Executor executor = Executors.newCachedThreadPool();
        executor.execute(new Producer(MAX_PRODUCTS, products));
        executor.execute(new Consumer(products));
        executor.execute(new Consumer(products));
    }

与第一种情形类似,在 wait()/notifyAll() 的实现中,加锁是对 products 进行的,也就是说,生产者和消费者通过产品(或者 “仓库”)联系到了一起。而上面的情形中,生产者和消费者通过 lock, full 和 empty 三个条件关联。

3、基于 BlockingQueue 实现

从上面的两种实现方式中,我们也可以看出,实现生产和消费协调的关键,就是当生产达到最大数量或者可以消费的达到了最小值的时候,使生产者和消费者线程进行阻塞。既然是阻塞,那我们为什么不能直接通过阻塞队列来实现呢?

    private static class Consumer implements Runnable {

        private BlockingQueue<Object> products;

        public Consumer(BlockingQueue<Object> products) {
            this.products = products;
        }

        @Override
        public void run() {
            while (true) {
                try {
                    products.take(); // 取不到数据的时候自动阻塞
                    System.out.println("Consumed one, Total " + products.size());
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        }
    }

    // 生产者
    private static class Producer implements Runnable {

        private BlockingQueue<Object> products;

        public Producer(BlockingQueue<Object> products) {
            this.products = products;
        }

        @Override
        public void run() {
            while (true) {
                try {
                    products.put(new Object()); // 当达到了最大数量的时候会阻塞
                    System.out.println("Produced one, Total " + products.size());
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        }
    }

    public static void main(String...args) {
        final int MAX_PRODUCTS = 20;
        BlockingQueue<Object> products = new LinkedBlockingDeque<>(MAX_PRODUCTS);
        Executor executor = Executors.newCachedThreadPool();
        executor.execute(new Producer(products));
        executor.execute(new Consumer(products));
        executor.execute(new Consumer(products));
    }

从上面我们可以看出,这种实现方式的思想非常接近与我们第一种实现方式,即都是通过产品来在生产者和消费者之间建立联系。使用阻塞队列的实现方式优势明显,没有线程控制,代码更加简洁。

揭秘Java并发编程模式:探索生产者-消费者、读写锁等经典模式 在现代软件开发中,Java并发编程模式是一项关键技术,它可以提高程序的并发性和性能。本文将揭秘Java并发编程模式,探索生产者-消费者、读写锁等经典模式,帮助读者深入理解并应用这些模式。本文将全面解析Java并发编程模式,重点探索生产者-消费者模式和读写锁模式等经典模式。通过源代码解析、应用场景案例、优缺点分析、类代码方法介绍和具体的Java代码测试用例,帮助读者灵活应用这些模式。在本节中,我们将介绍Java并发编程模式的重要性,并概述生产者-消费者模式和读写锁模式等经典模式的应用场景。 阅读详情

相关推荐

操作系统实验(生产者消费者问题)

实验四、生产者消费者问题(15分) • 一个大小为3的缓冲区,初始为空 • 2个生产者 – 随机等待一段时间,往缓冲区添加数据, – 若缓冲区已满,等待消费者取走数据后再添加 – 重复6次 • 3个消费者 – 随机等待一段时间,从缓冲区读取数据 – 若缓冲区为空,等待生产者添加数据后再读取 – 重复4次 说明: • 显示每次添加和读取数据的时间及缓冲区的状态 • 生产者和消费者用进程模拟,缓冲区用共享内存来实现

JS实现经典生产者消费者模型

因为node使用单线程的方式实现,所以,在此使用定时器timer取代线程thread来实现生产者消费者模型。 代码例如以下: var sigintCount = 0; var productArray = []; var productArrayLen = 0; var productLock = false; var PRODUCT_ARRAY_THRESHOLD = 10; ...

weixin_34348805的博客 325

STM32CubMX_MQ135检测空气质量

一、MQ135简介 MQ135是测量空气污染情况常用的一个传感器,具有代表性,价格低,寿命长,敏感度也OK,主要用于测量空气中二氧化碳,氮氧化物,氨气,酒精,苯类等。这几样气体可以说都属于家用空气污染测定中的重要成份,因此用这个传感器刚刚好。 MQ135气体传感器所使用的气敏材料是在清洁空气中电导率较低的二氧化锡(SnO2)。当传感器所处环境中存在污染气体时,传感器的电导率随空气中污染气体浓度的增加而增大。使用简单的电路即可将电导率的变化转换为与该气体浓度相对应的输出信号。 注: pm2.5的话要用另外类型

W_Oilpicture的博客 3万+

启动kafka

启动zookeeper 在doc命令中 E:\store\kafka_2.12-2.3.1>.\bin\windows\zookeeper-server-start.bat .\config\zookeeper.properties 启动kafka 在doc命令中 E:\store\kafka_2.12-2.3.1>.\bin\windows\kafka-server-start.b...

Itissohardtog的博客 656

读取rosbag中的IMU信息并转为tum格式的csv和txt

rostopic -b xx.bag -p /xx > xxx.txt #for euroc structvio import os, sys,re,csv name="street_07" # basedir="/media/yinjie/2498AF1F98AEEF0C/adataset/15results/imu_bagtxt/"+name+'.txt' # txtdir="/media/yinjie/2498AF1F98AEEF0C//adataset/15results/imu_o

qq_42928559的博客 1919

黑科技已上线|Lazada数据分析软件,一键式搞定你的店铺!

工欲利其事,必先利其器。在lazada跨境电商的整个流程中,适当的使用一些工具,不仅能大大的简化工作流程,而且可以提高实施效率。Mengla专为lazada电商卖家行业精细化分析lazada数据分析软件都有哪些强大功能! 一、两大优势: 1.海量数据: 数据覆盖面积大;数据分析维度逛;精确算法抓取海量数据;亿万数据秒级响应多种数据来源; 2.技术成熟: 深耕SaaS大数据挖掘;提供一站式数据分析服务;拥有领先的采集技术和运算模型架构; 二、Lazada数据分析软件的功能: 1.各国站点一键分析: 马来西亚

Menglakeji的博客 1144

Java多线程-工具篇-BlockingQueue(实现生产者和消费者模式)

前言:      在新增的Concurrent包中,BlockingQueue很好的解决了多线程中,如何高效安全“传输”数据的问题。通过这些高效并且线程安全的队列类,为我们快速搭建高质量的多线程程序带来极大的便利。本文详细介绍了BlockingQueue家庭中的所有成员,包括他们各自的功能以及常见使用场景。 认识BlockingQueue 阻塞队列,顾名思义,首先它是一个队列,而一个队列

li12412414的博客 5960

Arduino平台软硬件原理及使用——Arduino Uno板卡的使用

Arduino Uno板卡的基本使用

洪博hopes的博客 4171

Java的高并发编程系列(六)生产者消费者面试题解析

面试题:写一个固定容量同步容器,拥有Put和get方法,以及getCount方法能够支持两个生产者线程以及10个消费者线程的阻塞调用 使用wait和notify/notifyAll来实现: public class MyContainer1 &lt;T&gt;{ private final LinkedList&lt;T&gt; lists = new LinkedList&lt;&g...

N-SOKACH的博客 1401

uniapp - 使用 <video> 播放视频黑屏,浏览器控制台报错: DOMException: The element has on supported sources.(详细完美解决方案)

uniapp video 视频播放黑屏,uniapp 报错DOMException: The element has on supported sources.,uniapp如何解决DOMException: The element has on supported sources.,uniapp使用video标签无法播放视频出现黑屏问题处理,uniapp解决video视频黑屏显示0秒,并且浏览器报错DOMException: The element has on supported sources.,un

✅ 精选推荐文章 7054

【异常】OpenClaw调用火山引擎大模型提示词 Agent failed before reply: All models failed (6): volcengine/kimi-k2-5-26

摘要: 本文针对OpenClaw调用火山引擎大模型服务时触发的全量熔断报错(All models failed)提供全链路排查方案。报错核心为服务熔断(cooldown)和模型不可用(model_not_found),主要源于账号权限、API凭证失效或模型标识错误。解决方案按优先级分步实施:1)校验账号状态与AK/SK有效性;2)核对官方模型标识;3)重启服务解除熔断;4)修复配置文件;5)通过原生API测试定位网络或服务端问题。日志分析(openclaw logs)可快速识别HTTP状态码(如401/40

奶爸的编程之路,也就一周冷个三天 836

生产者消费者模式

假设有两个进程(或线程)A、B和一个固定大小的缓冲区,A进程生产数据放入缓冲区,B进程从缓冲区中取出数据进行计算,这就是一个简单的生产者-消费者模型。这里的A进程相当于生产者,B进程相当于消费者。生产者/消费者模式是一种常见的并发编程模式,其中生产者线程生成数据并将其放入缓冲区,而消费者线程从缓冲区中取出数据进行处理。这种模式通过缓冲区解耦了生产者和消费者的速度差异。

fb_941219的博客 1440

详解【计算机类&面试真题】军队文职考试——第7期:C盘格式化需要注意什么?| 两台笔记本连起来后ping不同,可能存在哪些问题?| 模拟信号到数字信号是如何转化的?| 计算机由哪些部件组成?

这是我分享的系列面试知识——军队文职(计算机类)面试真题详解(第7期)。本期分享:两台笔记本连起来后ping不同,你觉得可能存在哪些问题?模拟信号到数字信号是如何转化的?谈一谈计算机由哪些部件组成?如何加强计算机网络安全管理?若通过域名无法访问,而通过IP地址能访问。这是怎么回事?你将如何解决?谈一谈C盘格式化需要注意什么?开放类题目:如果应聘的岗位和你想的差距很远,你怎么办?

追光者♂:记录、分享、总结、提升,现象级专栏《Python从入门到人工智能》作者,无惧黑暗,坚信曙光 1917

Python并发编程:多进程-生产者消费者模型

生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题,生产者和消费者彼此之间不直接通讯,而通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。生产者指的是生产数据的任务,消费者指的是处理数据的任务,在并发编程中,如果生产者处理速度很快,而消费者处理速度很慢,那么生产者就必须等待消费者处理完,才能继续生产数据。2、引入生产者消费者模型为了解决的问题是。

liudefang的专栏 1862

编写python脚本调用ordinals以及BRC20的接口

1、钱包地址生成walletreceive,对应ord命令:ord wallet receive。6、测试手动出块generate,这个只在regtest链节点用得上。所有接口都是post请求,采用postman进行测试。4、测试bitcoin转币sendtoaddress。7、测试其他的wallet方法wallet。2、钱包币种铭刻inscription,对应bitcoin-cli命令。对应bitcoin-cli命令。对应bitcoin-cli命令。fee.json文本模板。还可以加很多根据需要加减。

云深海阔专栏 1047

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

❤️并发编程❤️生产者消费者模式实现的三种方式

生产者和消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消 费者彼此之间不直接通信,而是通过阻塞队列来进行通信,所以生产者生产完数据之后不用 等待消费者处理,直接扔给阻塞队列,消费者不找生产者要数据,而是直接从阻塞队列里取, 阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力。

发现问题,面对问题,分析问题,解决问题,总结问题 1664

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

【Linux —— 生产者消费者模型】

生产者消费者模型是一种并发编程模型,用于解决多线程或多进程间的数据共享和同步问题。生产者和消费者,它们通过共享的缓冲区进行通信。生产者负责生成数据并将其放入缓冲区,而消费者则从缓冲区中获取数据并进行处理。生产者消费者模式就是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯,而共享的缓冲区进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给缓冲区,消费者不找生产者要数据,而是直接从缓冲区取,平衡了生产者和消费者的处理能力。这个缓冲区就是用来给生产者和消费者解耦的。

jokr_的博客 1278

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Golang 并发 生产者消费者模式

Golang 并发 生产者消费者模式

26857259 1502

Golang 生产者消费者模式

并发编程中最常见的例子就是生产者消费者模式,该模式主要通过平衡生产线程和消费线程的工作能力 来提高程序的整体处理数据的速度。简单地说,就是生产者生产一些数据,然后放到成果队列中,同时 消费者从成果队列中来取这些数据。这样就让生产消费变成了异步的两个过程。当成果队列中没有数据 时,消费者就进入饥饿的等待中;而当成果队列中数据已满时,生产者则面临因产品挤压导致CPU被剥 夺的下岗问题。 Go语言实现生产者消费者并发很简单: package main import ( "fmt" "os" "os/sig

浮尘丶若梦 974

多线程生产者、消费者模式中,如何停止消费者

多线程生产者、消费者模式中,如何停止消费者 ?多生产者情况下对“毒丸”策略的应用 生产者、消费者模式是多线程中的经典问题。通过中间的缓冲队列,使得生产者和消费者的速度可以相互调节。 发散:一个主线程控制多个子线程,多个主线程控制多个子线程(countDownLunch使用理解) 对于比较常见的单生产者、多消费者的情况,主要有以下两种策略: 通过volatile boolean prod...

hnhygkx的博客 3315

图文讲解:聊聊生产者和消费者模式的工作原理

大白话讲解生产者和消费者实际应用和原理

码上代码的博客 1755

Day855.生产者-消费者模式 -Java 并发编程实战

Java 语言提供的线程池本身就是一种生产者 - 消费者模式的实现,但是线程池中的线程每次只能从任务队列中消费一个任务来执行,对于大部分并发场景这种策略都没有问题。但是有些场景还是需要自己来实现,例如需要批量执行以及分阶段提交的场景。生产者 - 消费者模式在分布式计算中的应用也非常广泛。在分布式场景下,你可以借助分布式消息队列(MQ)来实现生产者 - 消费者模式。MQ一种是点对点模型一种是发布订阅模型。

阿昌爱Java 912

使用 C# 队列,模拟实现生产者-消费者模式

本文将详细介绍如何使用 C# 队列实现生产者-消费者模式。通过具体的例子,我们将展示如何在多线程环境中安全地管理数据流,确保生产者和消费者之间的高效协作和互不干扰。无论你是 C# 新手还是经验丰富的开发者,这个实例都将为你提供实用的编程技巧和思路。

yangshuquan的专栏 871

并发编程-生产者and消费者模式

其实这种场景在现实中随处可见,比如一个人负责往盒子中放苹果,一个人负责从盒子中拿出苹果吃,这样就形成了一个生产一个消费的场景。 生产者和消费者模式通过分离执行方式进行解耦,简化了开发的难度。 我们来实现下上面这个例子: 生产者:往一个公共盒子中放入苹果 消费者:从这个盒子中取出苹果 盒子:盒子数量不能超过5个 盒子: public class PublicBox { private in...

一岑的博客 216

【Java并发编程】生产者消费者模式-上篇

在实际的软件开发过程中,经常会碰到如下场景:某个模块负责产生数据,这些数据由另一个模块来负责处理(此处的模块是广义的,可以是类、函数、线程、进程等)。产生数据的模块,就形象地称为生产者;而处理数据的模块,就称为消费者。 单单抽象出生产者和消费者,还够不上是生产者/消费者模式。该模式还需要有一个缓冲区(也称之为仓库)处于生产者和消费者之间,作为一个中介。生产者把数据放入缓冲区,而消费者从缓冲区取出...

fxkcsdn的博客 839

【python内功修炼003】:并发编程之生产者与消费者模式

生产者和消费者彼此之间不直接通讯,而是通过阻塞队列来进行通讯,所以生产者生产完数据之后不用等待消费者处理,直接扔给阻塞队列,消费者不直接找生产者要数据,而是从阻塞队列里取,阻塞队列就相当于一个缓冲区,平衡了生产者和消费者的处理能力,解耦了生产者和消费者。

金鞍少年的博客 550
上一篇: Java 基础回顾-6:HashMap 源码分析
下一篇: 并发编程专题 2:使用多线程编程
开发者如是说
博客等级 码龄10年 67粉丝 163原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值