线程池
为什么用线程池
线程池做的工作主要是控制运行的线程数量,处理过程中将任务放入队列,然后在线程创建后启动这些任务,如果线程数量超过了最大数量,超出数量的线程排队等候,等其他线程执行完毕,再从队列中取出任务来。
主要特点为:线程复用、控制最大并发数,管理线程。
- 降低资源消耗,通过重复利用已创建的线程降低线程创建和销毁造成的消耗。
- 提高响应速度,当任务到达时,任务可以不需要等到线程创建(已经创建好了)就能立即执行。
- 提高线程的可管理性。线程是稀缺资源,如果无限制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以进行统一的分配,调优和监控。
线程池如何使用
Java中的线程池是通过Executor框架实现的,该框架中用到了Executor,Executors(工具类),ExecutorService ,ThreadPoolExecutor(线程池的底层)这几类。
Java中线程池的实现一共有5种,以下两种作为了解
- Excutors.newScheduledThreadPool() :可以调度的
- Excutors.newWorkStealingPool(int ) Java8新出 使用目前机器上可用的处理器作为它的并行级别。
重点研究以下三种:
注意:线程池使用的是池化技术,在声明线程池的时候不要new一个线程池,而是用Excutors里的方法。
线程池使用完要关闭,配合try / finally使用。这三种全部底层全部 new ThreadPoolExecutor类。
newFixedThreadPool ( int )
前两个参数分别为corePoolSize、maximumPoolSize
public static ExecutorService newFixedThreadPool(int nThreads) {
return new ThreadPoolExecutor(nThreads, nThreads,
0L, TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<Runnable>());
}
主要特点如下:
- 创建一个 定长线程池,可控制线程最大并发数,超出的线程会在队列中等待。适合执行长期的任务,性能好很多。
- newFixedThreadPool 创建的线程池corePoolSize 和 maximumPoolSize值是相等的,它使用的LinkedBlockingQueue。
newSingleThreadExecutor ()
public static ExecutorService newSingleThreadExecutor() {
return new FinalizableDelegatedExecutorService
(new ThreadPoolExecutor(1, 1,
0L, TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<Runnable>()));
}
主要特点如下:
- 创建了一个单线程化的线程池,它只会用唯一的工作线程来执行任务,保证所有任务按照顺序执行。一个任务一个任务执行的场景。
- newSingleThreadExecutor 将corePoolSize和maximuPoolSize都设置为1,它使用的是LinkedBlockingQueue。
newCachedThreadPool ()
public static ExecutorService newCachedThreadPool() {
return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
60L, TimeUnit.SECONDS,
new SynchronousQueue<Runnable>());
}
主要特点如下:
- 创建一个可缓存的线程池,如果线程长度超过处理需要,可灵活回收空闲线程,若无可回收,则新建线程。适用执行很多短期异步的小程序或者负载较轻的服务。
- newCachedThreadPool 将corePoolSize 设置为0,将maximuPoolSize设置为Integer.MAX_VALUE,使用的SynchronousQueue,也就是说来了任务就创建线程运行, 当线程空闲超过60s,就消耗线程。
三种方式的应用
public class MyThreadPool {
public static void main(String[] args) {
//ExecutorService threadPool = Executors.newFixedThreadPool(5); //一个池子5个处理线程
//ExecutorService threadPool = Executors.newSingleThreadExecutor(); //一池一个线程
ExecutorService threadPool = Executors.newCachedThreadPool(); //一池N个线程
try {
// 模拟10个用户来办理业务,每个用户就是一个外部的请求线程
for (int i = 0; i <= 10; i++) {
final int t = i;
threadPool.execute(() ->{
System.out.println(Thread.currentThread().getName()+" 第"+t+"个人正在办理任务..");
});
}
}catch (Exception e){
e.printStackTrace();
} finally {
//关闭
threadPool.shutdown();
}
}
}
7大参数
-
corePoolSize:线程池中的常驻核心线程数
-
在创建了线程池后,当有请求任务来之后,就会安排池中的线程去执行请求任务,近似理解为今日值班 线程。
-
当线程池中的线程数目达到corePoolSize后,就会把到达的任务放到阻塞队列当中。
-
-
maximumPoolSize:线程池能够容纳同时执行的最大线程数,此值必须大于等于1
-
keepAliveTime:多余的空闲线程的存活时间。
- 当前线程池数量超过corePoolSize时,当空闲时间达到keepAliveTime值时,多余空闲线程会被销毁直到只剩下corePoolSize个线程为止。
-
unit:keepAliveTime的单位。
-
workQueue:任务队列,被提交但尚未被执行的任务。
-
threadFactory:表示生成线程池中工作线程的线程工厂,用于创建线程一般用默认的即可。
-
handler:拒绝策略,表示当队列满了并且工作线程大于等于线程池的最大线程数( maximumPoolSize)。
线程池的工作原理
核心线程满了,去阻塞队列中排队,阻塞队列满了,去非核心线程,如果达到最大线程数,且阻塞队列满了 启动拒绝策略。
刚刚开启的非核心线程,当空闲时间达到keepAliveTime值时,多余空闲线程会被销毁直到只剩下corePoolSize个线程为止。
-
在创建了线程池后,等待提交过来的任务请求。
-
当调用execute()方法添加一个请求任务时,线程池会做如下判断:
- 如果正在运行的线程数量小于corePoolSize,那么马上创建线程运行这个任务;
- 如果正在运行的线程数量大于或等于corePoolSize,那么将这个任务放入队列;
- 如果这时候队列满了且正在运行的线程数量还小于maximumPoolSize,那么还是要创建非核心线程立刻运行这个任务;
- 如果队列满了且正在运行的线程数量大于或等于maximumPoolSize,那么线程池会启动饱和拒绝策略来执行。
-
当一个线程无事可做超过一定的时间(keepAliveTime)时,线程池会判断:
-
如果当前运行的线程数大于corePoolSize,那么这个线程就被停掉。
-
所以线程池的所有任务完成后它最终会收缩到corePoolSize的大小。
-
-
当一个线程完成任务时,它会从队列中取下一个任务来执行。
线程池的四种拒绝策略
等待队列也已经排满了,再也塞不下新任务了同时,线程池中的max线程也达到了,无法继续为新任务服务。
这时候我们就需要拒绝策略机制合理的处理这个问题。
JDK拒绝策略:
- AbortPolicy(默认):直接抛出 RejectedExecutionException异常阻止系统正常运知。
- CallerRunsPolicy:"调用者运行"一种调节机制,该策略既不会抛弃任务,也不会抛出异常,而是将某些任务回退到调用者,从而降低新任务的流量。
- DiscardOldestPolicy:抛弃队列中等待最久的任务,然后把当前任务加入队列中尝试再次提交当前任务。
- DiscardPolicy:直接丢弃任务,不予任何处理也不抛出异常。如果允许任务丢失,这是最好的一种方案。
以上内置拒绝策略均实现了RejectedExecutionHandler接口。
线程池实际中使用哪一个
(超级大坑警告)你在工作中单一的/固定数的/可变的三种创建线程池的方法,你用那个多?
答案是一个都不用,我们生产上只能使用自定义的。
Executors 中JDK已经给你提供了,为什么不用?
t3.【强制】线程资源必须通过线程池提供,不允许在应用中自行显式创建线程。
说明:线程池的好处是减少在创建和销毁线程上所消耗的时间以及系统资源的开销,解决资源不足的问题。 如果不使用线程池,有可能造成系统创建大量同类线程而导致消耗完内存或者“过度切换”的问题。
4.【强制】线程池不允许使用 Executors 去创建,而是通过 ThreadPoolExecutor 的方式,这样的处理方式让写的同学更加明确线程池的运行规则,规避资源耗尽的风险。
说明:Executors 返回的线程池对象的弊端如下:
1) FixedThreadPool 和 SingleThreadPool: 允许的请求队列长度为 Integer.MAX_VALUE,可能会堆积大量的请求,从而导致 OOM。
2) CachedThreadPool: 允许的创建线程数量为 Integer.MAX_VALUE,可能会创建大量的线程,从而导致 OOM。
阿里巴巴《Java 开发手册》
自定义其实就是通过new ThreadPoolExecutor,并自行设置参数:
ExecutorService threadPool = new ThreadPoolExecutor(2, 3, 1L, TimeUnit.SECONDS, new LinkedBlockingDeque<>(8),Executors.defaultThreadFactory(),new ThreadPoolExecutor.AbortPolicy());
线程池配置合理线程数
合理配置线程池你是如何考虑的?
首先调用Runtime.getRuntime.方法查看系统线程数
CPU密集型
-
CPU密集的意思是该任务需要大量的运算,而没有阻塞,CPU一直全速运行。
-
CPU密集任务只有在真正的多核CPU上才可能得到加速(通过多线程),
而在单核CPU上,无论你开几个模拟的多线程该任务都不可能得到加速,因为CPU总的运算能力就那些。 -
CPU密集型任务配置尽可能少的线程数量:
-
一般公式:(CPU核数+1)个线程的线程池
lO密集型
由于IO密集型任务线程并不是一直在执行任务,则应配置尽可能多的线程,如CPU核数 * 2。
IO密集型,即该任务需要大量的IO,即大量的阻塞。
在单线程上运行IO密集型的任务会导致浪费大量的CPU运算能力浪费在等待。
所以在IO密集型任务中使用多线程可以大大的加速程序运行,即使在单核CPU上,这种加速主要就是利用了被浪费掉的阻塞时间。
IO密集型时,大部分线程都阻塞,故需要多配置线程数:
参考公式:CPU核数/ (1-阻塞系数)
阻塞系数在0.8~0.9之间
比如8核CPU:8/(1-0.9)=80个线程数
死锁编码及定位分析
死锁是指两个或两个以上的进程在执行过程中,因争夺资源而造成的一种互相等待的现象,若无外力干涉那它们都将无法推进下去,如果系统资源充足,进程的资源请求都能够碍到满足,死锁出现的可能性就很低,否则就会因争夺有限的资源而陷入死锁。
发生死锁的四个条件:
- 互斥条件,线程使用的资源至少有一个不能共享的。
- 至少有一个线程必须持有一个资源且正在等待获取一个当前被别的线程持有的资源。
- 资源不能被抢占。
- 循环等待。
package com.lun.concurrency;
import java.util.concurrent.TimeUnit;
class MyTask implements Runnable{
private Object resourceA, resourceB;
public MyTask(Object resourceA, Object resourceB) {
this.resourceA = resourceA;
this.resourceB = resourceB;
}
@Override
public void run() {
synchronized (resourceA) {
System.out.println(String.format("%s 自己持有%s,尝试持有%s",//
Thread.currentThread().getName(), resourceA, resourceB));
try {
TimeUnit.SECONDS.sleep(2);
} catch (InterruptedException e) {
e.printStackTrace();
}
synchronized (resourceB) {
System.out.println(String.format("%s 同时持有%s,%s",//
Thread.currentThread().getName(), resourceA, resourceB));
}
}
}
}
public class DeadLockDemo {
public static void main(String[] args) {
Object resourceA = new Object();
Object resourceB = new Object();
new Thread(new MyTask(resourceA, resourceB),"Thread A").start();
new Thread(new MyTask(resourceB, resourceA),"Thread B").start();
}
}
程序卡死,未出现同时持有的字样。
查看是否死锁工具:
- jps命令定位进程号 jps -l 相当于Linux的 ps - ef | grep java
- jstack找到死锁查看 jstack + 进程号可见其死锁。
Java stack information for the threads listed above:
===================================================
"Thread B":
at com.lun.concurrency.MyTask.run(DeadLockDemo.java:27)
- waiting to lock <0x000000076b431d80> (a java.lang.Object)
- locked <0x000000076b431d90> (a java.lang.Object)
at java.lang.Thread.run(Thread.java:748)
"Thread A":
at com.lun.concurrency.MyTask.run(DeadLockDemo.java:27)
- waiting to lock <0x000000076b431d90> (a java.lang.Object)
- locked <0x000000076b431d80> (a java.lang.Object)
at java.lang.Thread.run(Thread.java:748)
Found 1 deadlock.
啊