服务器单I/O线程+工作者线程池实现要点

作者:港云互联 时间:2018-06-22

        服务器并发模型一般可分为单线程和多线程模型,这里的线程通常是指“I/O线程”,即负责I/O操作,协调分配任务的“管理线程”,但是实际的请求和任务通常交由所谓“工作者执行緒”处理。一般多线程模型下,每个线程既是I/O线程又是工作者线程。所以这里讨论的是,单I/O线程+多工作者线程的模型,这也是最常用的一种服务器并发模型。它还有个名字,叫“半同步/半非同步“模型,同时,这种模型也是生产者/消费者(尤其是多消费者)模型的一种表现。这种构架主要是基于I/O多工的思想(主要是epoll,select/poll已过时),通过单线程I/O多工,可以达到高效并发,同时避免了多线程I/O来回切换的各种开销,思路清晰,易于管理,而基于执行緒池的多工作者线程,又可以充分发挥和利用多线程的优势,利用线程池,进一步提高资源复用性和避免产生过多线程。

服务器




实现要点





1、单I/O线程epoll





        实现单I/O线程的epoll模型是本构架的第一个技术要点,主要思想如下:





        单线程创建epoll并等待,有I/O请求(socket)到达时,将其加入epoll并从线程池中取一个空闲工作者线程,将实际的任务交由工作者线程。





2、线程池实现要点





        server启动时,创建一定数量的工作者线程加入线程池,如(20个),供I/O线程来取用;





        每当I/O线程请求空闲工作者线程时,从池中取出一个空闲工作者线程,处理相应请求;





        当请求处理完毕,关闭相应I/O连接时,回收相应线程并放回线程池中供下次使用;





        若请求空闲工作者线程池时,没有空闲工作者线程,可作如下处理:





(1)若池中”管理”的线程总数不超过最大允许值,可创建一批新的工作者线程加入池中,并返回其中一个供I/O线程使用;





(2)若池中”管理”的线程总数已经达到最大值,不应再继续创建新线程,则等待一小段时间并重试。注意因为I/O线程是单线程且不应被阻塞等待在此处,因此对线程池的管理应由一个专门的管理线程完成,包括创建新工作者线程等工作。此时管理线程阻塞等待(如使用条件变数并等待唤醒),一小段时间之后,线程池中应有空闲工作者线程可使用。否则服务器负荷估计是出了问题。


新人注册,即送价值满880元现金劵

立即注册>>
客服 电话 反馈 活动 回顶部

服务热线

+852-5764-9835

1对1贴心服务,7X24小时热线