Java中的线程池是运用场景最多的并发框架,几乎所有需要异步或并发执行任务的程序都可以使用线程池。合理使用线程池的好处:
- 降低资源消耗: 通过重复利用已创建的线程降低线程创建和销毁所处造成的消耗。
- 提高响应速度: 当任务到达时,任务可以不需要等待线程的创建就能立即执行。
- 提高线程的可管理性: 使用线程池可以进行统一分配、调优和监控。
线程池的处理流程
- 线程池判断核心线程池里的线程是否都在执行任务。如果不是,则创建一个新的工作线程来执行任务。如果核心线程池里的线程都在执行任务,则进入下一个流程。
- 线程池判断工作队列是否已满。如果工作队列没有满,则将新提交的任务存储在这个工作队列里。如果工作队列满了,则进入下个流程。
- 线程池判断线程池中的线程是否都处于工作状态。如果没有,则创建一个新的工作线程来执行任务。如果已经满了,则交给拒绝策略来处理这个任务。
线程池的状态
RUNNING
- 状态说明:线程池处在RUNNING状态时,能够接收新任务,以及对已添加的任务进行处理。
- 状态切换:线程池的初始化状态是RUNNING。换句话说,线程池被一旦被创建,就处于RUNNING状态,并且线程池中的任务数为0。
SHUTDOWN
- 状态说明:线程池处在SHUTDOWN状态时,不接收新任务,但能处理已添加的任务。
- 状态切换:调用线程池的shutdown()接口时,线程池由RUNNING -> SHUTDOWN。
STOP
- 状态说明:线程池处在STOP状态时,不接收新任务,不处理已添加的任务,并且会中断正在处理的任务。
- 状态切换:调用线程池的shutdownNow()接口时,线程池由(RUNNING or SHUTDOWN ) -> STOP。
TIDYING
- 状态说明:当所有的任务已终止,任务数量为0,线程池会变为TIDYING状态。当线程池变为TIDYING状态时,会执行钩子函数terminated()。terminated()在ThreadPoolExecutor类中是空的,若用户想在线程池变为TIDYING时,进行相应的处理;可以通过重载terminated()函数来实现。
- 状态切换:当线程池在SHUTDOWN状态下,阻塞队列为空并且线程池中执行的任务也为空时,就会由 SHUTDOWN -> TIDYING。 当线程池在STOP状态下,线程池中执行的任务为空时,就会由STOP -> TIDYING。
TERMINATED
- 状态说明:线程池彻底终止,就变成TERMINATED状态。
- 状态切换:线程池处在TIDYING状态时,执行完terminated()之后,就会由 TIDYING -> TERMINATED。
线程池的使用
ThreadPoolExecutor是线程池的实现类,我们一般通过它来创建一个线程池,ThreadPoolExecutor执行示意图如下:
- 1.如果当前运行的线程少于corePoolSize,则创建新线程来执行任务。(这一步需要获取全局锁)
- 2.如果运行的线程等于或多于corePoolSize,则将任务加入BlockingQueue。
- 3.如果BlockingQueue队列已满,则创建新的线程来处理任务。(这一步需要获取全局锁)
- 4.如果创建的新线程将使当前运行的线程总数超出maximumPoolSize,任务将被拒绝,并调用RejectedExecutionHandler.rejectedExecution()方法。
ThreadPoolExecutor采取上述步骤的总体设计思路,是为了在执行executor()方法时,尽可能地避免获取全局锁。
初始化线程池
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue,
ThreadFactory threadFactory,
RejectedExecutionHandler handler) {...}
参数简介:
- corePool: 核心线程池大小,当提交一个任务到线程池时,线程池则会创建一个线程来执行任务,直到需要执行的任务数大于线程池的基本大小时就不在创建。如果调用了线程池的prestartCoreThread()方法,线程池会提前创建并启动所有基本线程。
- maximumPool: 线程池允许创建的最大的线程数。需要注意:对于无界队列来说,这个参数没有意义。
- keepAliveTime: 线程池的工作线程空闲后,保持存活的时间。(为了回收超过corePool大小的空闲线程)
- unit: 线程活动保持的时间单位
- blockingQueue: 用来保存等待执行的任务的阻塞队列。可以选择以下队列:
- ArrayBlockingQueue:一个数据结构的有界阻塞队列,按FIFO排序元素。
- LinkedBlockingQueue:一个基于链表结构的阻塞队列,按FIFO排序元素,吞吐量通常高于ArrayBlockingQueue。
- SynchronousQueue:一个不存储元素的阻塞队列,每个插入操作必须等到另一个线程调用移除操作,否则插入操作一直处于阻塞状态。吞吐量通常高于LinkedBlockingQueue。
- PriorityBlockingQueue:一个具有优先级的无界阻塞队列。
- threadFactory: 用于设置创建线程的工厂,可以通过线程工厂给每个创建出来的线程设置更有意义的名字。
- RejectedExecutionHandler: 当队列和线程池都满了后,线程池采取的拒绝策略。默认策略是AbortPolicy.
- AbortPolicy:直接抛出异常。
- CallerRunsPolicy:只用调用者所在线程来运行任务。
- DiscardOldestPolicy:丢弃队列里最近的一个任务,并执行当前任务。
- DiscardPolicy:不处理,丢弃掉。
提交任务
可以使用两个方法向线程池提交任务,分别为execute()和submit()方法。
execute()
方法用于提交不需要返回值的任务。submit()
方法用于提交需要返回值的任务。线程池会返回一个future类型的对象,通过future的get()
方法来获取返回值,get()
方法会阻塞当前线程直到任务完成。get(long timeout, TimeUnit unit)
方法则会阻塞当前线程一段时间后立即返回,这时候有可能任务没有执行完。
关闭线程池
通过调用线程池的shutdown或shutdownNow方法来关闭线程池。原理是遍历线程池中的工作线程,然后逐个调用线程的interrupt方法来中断线程,所以无法相应中断的任务可能永远无法终止。不同的地方是:shutdownNow首先将线程池的状态设为STOP,然后尝试停止所有正在执行或暂停任务的线程,并返回等待执行任务的列表,而shutdown只是将线程池的状态设置成SHUTDOWN状态,然后中断所有没有正在执行任务的线程。
只要调用了这两个关闭方法中的任意一个,isShutdown方法就会返回true。当所有的任务都已关闭后,表示线程池关闭成功,这时调用isTerminaed方法会返回 true。
最佳实践
线程池配置建议
- CPU密集型任务:应配置尽可能小的线程池,如Ncpu+1。
- IO密集型任务:应配置尽可能多的线程,如2*Ncpu。
- 混合型任务:如果可以拆分,将其拆分成一个CPU密集型任务和一个IO密集型任务,只要这两个任务执行的时间相差不是太大,分解后执行的吞吐量将高于串行执行的吞吐量。
- 有优先级的任务:可以使用优先级队列PriorityBlockingQueue来处理。它可以让优先级高的任务限制性。
- 依赖型任务:比如依赖数据库连接池的任务,因为线程提交SQL后需要等待数据库返回,等待的时间越长,则CPU空闲时间就越长,可那么线程数应该设置的越大,以更后的利用CPU。
另外,建议使用有界队列,有界队列可以增加系统的稳定性。
线程池监控属性
对线程池进行监控,方便在出现问题的时候,可以快速定位问题,线程池提供了以下属性:
- taskCount:线程池需要执行的任务数量
- completedTaskCount:已完成的任务数量
- largestPoolSize:线程池曾经创建过的最大线程数量
- getPoolSize:线程池的线程数量
- getActiveCount:获取活动的线程数
还可以通过继承ThreadPoolExecutor类来扩展线程池,通过重写beforeExecute、afterExecute和terminated方法,在任务的执行前后以及线程池关闭前执行一些代码来进行监控。
参考资料
Java并发编程的艺术 方腾飞 魏鹏 程晓明 著