一、了解生产者消费者模型
举个例子:学生要买东西,一般情况下都会直接联系厂商,因为买的商品不多,对于供货商来说交易成本太高,所以有了交易场所超市这个媒介的存在。目的就是为了集中需求,分发产品。
消费者与生产者之间通过了超市进行交易。当生产者不需要的时候,厂商可以继续生产,当厂商不再生产的时候消费者购买商品!
上述生产的过程和消费的过程互相影响的程度很低——解耦
临时的保存产品的场所——缓冲区
函数调用:main函数通过用户输入生产了数据,用变量保存了数据,要调用的函数消费了数据,当main函数调用func函数,main函数就会阻塞等待func函数返回,这种情况称为强耦合关系。
利用生产者消费者模式可以解决强耦合问题,将串行调用改为并行执行,提高执行效率,完成逻辑的解耦。
二、生产者与消费者模型的几种关系及特点
对消费者与生产者模型,可以用以下321原则说明
-
三种关系:生产者和生产者(互斥),消费者和消费者(互斥),生产者和消费者(互斥&&同步),互斥保证共享资源的安全性,同步是为了提高访问效率
-
二种角色:生产者线程,消费者线程
-
一个交易场所:一段特定结构的缓冲区
生产消费模型的特点
-
未来生产线程和消费线程进行解耦
-
支持生产和消费的一段时间的忙闲不均的问题(缓存区有数据有空间)
-
生产者专注生产,消费专注消费,提高效率
如果缓冲区满了,生产者只能进行等待,如果超市缓冲区为空,消费者只能进行等待。
三、BlockQueue(阻塞队列)
3.1 基础版阻塞队列
阻塞队列:阻塞队列(Blocking Queue)是一种常用于实现生产者和消费者模型的数据结构
阻塞队列为空时,从阻塞队列中获取元素的线程将被阻塞,直到阻塞队列被放入元素。
阻塞队列已满时,往阻塞队列放入元素的线程将被阻塞,直到有元素被取出。
单生产单消费测试
//BlockQueue.hpp
#pragma once
#include <iostream>
#include <pthread.h>
#include <queue>
using namespace std;
const int gmaxcap=5;
template<class T>
class BlockQueue
{
private:
std::queue<T> q_;
int maxcap_;//队列容量
pthread_mutex_t mutex_;
pthread_cond_t pcond_;//生产者对应的条件变量
pthread_cond_t ccond_;//消费者者对应的条件变量
public:
BlockQueue(const int& maxcap=gmaxcap)
:maxcap_(maxcap)
{
pthread_mutex_init(&mutex_,nullptr);
pthread_cond_init(&pcond_,nullptr);
pthread_cond_init(&ccond_,nullptr);
}
~BlockQueue()
{
pthread_mutex_destroy(&mutex_);
pthread_cond_destroy(&pcond_);
pthread_cond_destroy(&ccond_);
}
void push(const T &in)//输入性参数 &
{
pthread_mutex_lock(&mutex_);
//1.判断
//细节2:充当条件变量的语法必须是while,不能是if
while(is_full())
{
//细节1:该函数会以原子性的方式将锁释放,并将自己挂起
//被唤醒的时候会自动获取传入的锁
pthread_cond_wait(&pcond_,&mutex_);//缓冲区满,生产者阻塞等待
}
//2.这一步一定没有满
q_.push(in);
//3.堵塞队列一定有数据
//细节3:唤醒行为可以放在解锁前也可以放在解锁后
pthread_cond_signal(&ccond_);//唤醒消费者
pthread_mutex_unlock(&mutex_);
//pthread_cond_signal(&ccond_);//唤醒消费者
}
void pop(T* out)//输出型参数:*
{
pthread_mutex_lock(&mutex_);
//1.判断
while(is_empty())
{
pthread_cond_wait(&ccond_,&mutex_);//缓冲区空,消费者阻塞等待
}
//2.这一步一定没有满
*out = q_.front();
q_.pop();
//3.堵塞队列一定没有满
pthread_cond_signal(&pcond_);//唤醒生产者
pthread_mutex_unlock(&mutex_);
}
private:
bool is_empty()
{
return q_.empty();
}
bool is_full()
{
return q_.size()==maxcap_;
}
};
//Main.cc
#include "BlockQueue.hpp"
#include <ctime>
#include <sys/types.h>
#include <unistd.h>
void* productor(void* bq_)//生产
{
BlockQueue<int> * bq=static_cast<BlockQueue<int>*>(bq_);
while (true)
{
int data=rand()%10+1;
bq->push(data);
std::cout<<"生产数据: "<<data<<std::endl;
}
return nullptr;
}
void* consumer(void* bq_)//消费
{
BlockQueue<int> * bq=static_cast<BlockQueue<int>*>(bq_);
while (true)
{
int data;
bq->pop(&data);
std::cout<<"消费数据: "<<data<<std::endl;
sleep(1);
}
return nullptr;
}
int main()
{
srand((unsigned long)time(nullptr)^getpid());
BlockQueue<int> * bq=new BlockQueue<int>();
pthread_t c,p;
pthread_create(&c,nullptr,consumer,bq);
pthread_create(&p,nullptr,productor,bq);
pthread_join(c,nullptr);
pthread_join(p,nullptr);
delete bq;
return 0;
}
控制生产速度,即每间隔1s生产一次,生产一个消费一个,而且消费的都是最新的数据
控制消费速度,即每间隔1s消费一次,刚开始生产多个,稳定后生产一个消费一个,消费的是以前的数据
以上代码的三个细节
- 细节一:
pthread_cond_wait(&pcond_,&mutex_);
第二个参数是锁,该函数调用会以原子性的方式将锁释放,并将自己挂起;被唤醒的时候会自动获取传入的锁- 细节二:判断空和满的时候要用while,存在多个生产者因满挂起后,消费者使用一个后,同时唤醒所有生产者,导致数据多增加;
pthread_cond_signal伪唤醒:假设生产者有5个,消费者只有一个,消费一下数据,如果是pthread_cond_broadcast(),把5个线程同时唤醒,可是只需要生产一个数据,而同时把5个线程唤醒,是if判断的时候就会多次push溢出问题
前提条件:每个生产者进入函数,拿到锁资源后,判断为假,调用wait(),释放锁资源让其他线程进来,到最后五个生产者者同时处于wait状态,消费者将其全部唤醒,5个生产者挨个重新获取锁资源接着执行代码,就会导致上述问题- 细节三:唤醒行为可以放在解锁前也可以放在解锁后。解锁前唤醒:唤醒之后某个生产者得到锁的优先级高,消费者释放,生产者立马拿到;解锁后唤醒:随机被某个消费者拿走锁,不影响
3.2 基于任务版的阻塞队列
基于上述代码,新建一个Task.hpp,用来给线程派发任务执行任务
BlockQueue.hpp如上
/*****************/
#pragma once
#include <iostream>
#include <cstdio>
#include <functional>
class Task
{
public:
using func_t =std::function<int(int,int,char)>;
Task(){}
Task(int x,int y,char op,func_t callback)
:x_(x),y_(y),op_(op),callback_(callback)
{
}
std::string operator()()
{
int result=callback_(x_,y_,op_);
char buffer[1024];
snprintf(buffer,sizeof buffer,"%d %c %d=%d",x_,op_,y_,result);
return buffer;
}
std::string toTaskString()
{
char buffer[1024];
snprintf(buffer,sizeof buffer,"%d %c %d=?",x_,op_,y_);
return buffer;
}
private:
int x_;
int y_;
char op_;
func_t callback_;
};
/**************************/
#include "BlockQueue.hpp"
#include <ctime>
#include <sys/types.h>
#include <unistd.h>
#include "Task.hpp"
const std::string oper = "+-*/%";
int mymath(int x,int y,char op)
{
int result = 0;
switch (op)
{
case '+':
result = x + y;
break;
case '-':
result = x - y;
break;
case '*':
result = x * y;
break;
case '/':
{
if (y == 0)
{
std::cerr << "div zero error!" << std::endl;
result = -1;
}
else
result = x / y;
}
break;
case '%':
{
if (y == 0)
{
std::cerr << "mod zero error!" << std::endl;
result = -1;
}
else
result = x % y;
}
break;
default:
break;
}
return result;
}
void* productor(void* bq_)//生产
{
BlockQueue<Task> * bq=static_cast<BlockQueue<Task>*>(bq_);
while (true)
{
int x=rand()%100+1;
int y=rand()%10;
int operCode=rand() % oper.size();
Task t(x,y,oper[operCode],mymath);
bq->push(t);
std::cout<<"生产任务: "<<t.toTaskString()<<std::endl;
sleep(1);
}
return nullptr;
}
void* consumer(void* bq_)//消费
{
BlockQueue<Task> * bq=static_cast<BlockQueue<Task>*>(bq_);
while (true)
{
Task t;
bq->pop(&t);
std::cout<<"消费任务:"<<t()<<std::endl;
//sleep(1);
}
return nullptr;
}
int main()
{
srand((unsigned long)time(nullptr)^getpid());
BlockQueue<Task> * bq=new BlockQueue<Task>();
pthread_t c,p;
pthread_create(&c,nullptr,consumer,bq);
pthread_create(&p,nullptr,productor,bq);
pthread_join(c,nullptr);
pthread_join(p,nullptr);
delete bq;
return 0;
}
3.3 进阶版生产消费模型–生产、消费、保存
任务目标:
- 生产者(线程1)生产任务加入到计算任务队列中
- 消费者&生产者(线程2)消费计算队列中任务并将计算结果推送到存储任务队列中
- 消费者(线程3)消费存储任务队列,将结果保存到文件中
设计思路
生产者productor将计算任务CalTask,push到计算队列中
消费者&生产者consumer获取计算任务CalTask,并将计算任务结果结合Save方法构造一个SaveTask对象,然后将这个对象push到存储队列中
消费者saver拿到存储任务,通过回调函数将数据写进文件中
代码实现如下:
/*Main.cc*/
#include "BlockQueue.hpp"
#include <ctime>
#include <sys/types.h>
#include <unistd.h>
#include "Task.hpp"
//定义一个队列保存计算任务队列和保存任务队列
template<class C,class S>
class TwoBlockQueue
{
public:
BlockQueue<C> * c_bq;
BlockQueue<S> * s_bq;
};
void* productor(void* bqs)//生产
{
BlockQueue<CalTask> * bq=(static_cast<TwoBlockQueue<CalTask,SaveTask>*>(bqs))->c_bq;
while (true)
{
int x=rand()%100+1;
int y=rand()%10;
int operCode=rand() % oper.size();
CalTask t(x,y,oper[operCode],mymath);
bq->push(t);
std::cout<<"productor->生产任务: "<<t.toTaskString()<<std::endl;
sleep(1);
}
return nullptr;
}
void* consumer(void* bqs)//消费
{
//拿到计算队列
BlockQueue<CalTask> * bq=(static_cast<TwoBlockQueue<CalTask,SaveTask>*>(bqs))->c_bq;
//拿到保存队列
BlockQueue<SaveTask> * save_bq=(static_cast<TwoBlockQueue<CalTask,SaveTask>*>(bqs))->s_bq;
while (true)
{
//得到任务并处理
CalTask t;
bq->pop(&t);
string result=t();//
std::cout<<"consumer->消费任务:"<<result<<std::endl;
//存储任务
SaveTask save(result,Save);
save_bq->push(save);
std::cout<<"consumer->推送保存任务完成..."<<std::endl;
//sleep(1);
}
return nullptr;
}
void* saver(void* bqs)
{
BlockQueue<SaveTask> * save_bq=(static_cast<TwoBlockQueue<CalTask,SaveTask>*>(bqs))->s_bq;
while (true)
{
SaveTask t;
save_bq->pop(&t);
t();
cout<<"saver->保存任务完成"<<endl;
}
return nullptr;
}
int main()
{
srand((unsigned long)time(nullptr)^getpid());
TwoBlockQueue<CalTask,SaveTask> bqs;
bqs.c_bq=new BlockQueue<CalTask>();
bqs.s_bq=new BlockQueue<SaveTask>();
pthread_t c,p,s;
pthread_create(&c,nullptr,consumer,&bqs);
pthread_create(&p,nullptr,productor,&bqs);
pthread_create(&s,nullptr,saver,&bqs);
pthread_join(c,nullptr);
pthread_join(p,nullptr);
pthread_join(s,nullptr);
delete bqs.c_bq;
delete bqs.s_bq;
return 0;
}
Task.hpp
#pragma once
#include <iostream>
#include <cstdio>
#include <cstring>
#include <functional>
class CalTask//计算任务
{
public:
using func_t =std::function<int(int,int,char)>;
CalTask(){}
CalTask(int x,int y,char op,func_t callback)
:x_(x),y_(y),op_(op),callback_(callback)
{
}
std::string operator()()
{
int result=callback_(x_,y_,op_);
char buffer[1024];
snprintf(buffer,sizeof buffer,"%d %c %d=%d",x_,op_,y_,result);
return buffer;
}
std::string toTaskString()
{
char buffer[1024];
snprintf(buffer,sizeof buffer,"%d %c %d=?",x_,op_,y_);
return buffer;
}
private:
int x_;
int y_;
char op_;
func_t callback_;
};
const std::string oper = "+-*/%";
int mymath(int x,int y,char op)
{
int result = 0;
switch (op)
{
case '+':
result = x + y;
break;
case '-':
result = x - y;
break;
case '*':
result = x * y;
break;
case '/':
{
if (y == 0)
{
std::cerr << "div zero error!" << std::endl;
result = -1;
}
else
result = x / y;
}
break;
case '%':
{
if (y == 0)
{
std::cerr << "mod zero error!" << std::endl;
result = -1;
}
else
result = x % y;
}
break;
default:
break;
}
return result;
}
class SaveTask
{
typedef std::function<void(const std::string&)> func_t;
public:
SaveTask(){}
SaveTask(const std::string& message,func_t func)
:message_(message),func_(func)
{
}
void operator()()
{
func_(message_);
}
private:
std::string message_;
func_t func_;
};
void Save(const std::string& message)
{
const std::string target="./log.txt";
FILE* fp=fopen(target.c_str(),"a+");
if(!fp)
{
std::cerr<<"fopen error"<<endl;
return;
}
fputs(message.c_str(),fp);
fputs("\n",fp);
fclose(fp);
}
四、小结
阻塞队列也适用于多生产者多消费
在阻塞队列中,无论外部线程再多,真正进入到阻塞队列里生产或消费的线程永远只有一个。
在一个任务队列中,有多个生产者与多个消费者,由于有锁的存在,所以任意时刻只有一个执行流在阻塞队列里放或者取。
生产消费模型高效体现在哪里
高效并不是体现在从队列中消费数据高效!
而是我们可以让一个、多个线程并发的同时计算多个任务!在计算多个任务的同时,并不影响其他线程继续从队列里拿任务的过程。
也就是说,生产者消费者模型的高效:可以在生产之前与消费之后让线程并行执行文章来源:https://www.toymoban.com/news/detail-431270.html
生产任务需要花费时间,不是把任务放进队列就完事了;消费任务也是需要时间的,不是把任务从队列中拿出来就完事了,还要处理它,处理它期间不影响其它线程消费,反之亦然,这才是生产者与消费者模型的高效体现!!!文章来源地址https://www.toymoban.com/news/detail-431270.html
到了这里,关于Linux之【多线程】生产者与消费者模型&BlockQueue(阻塞队列)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!