知识梳理部分

1.并发和并行

CPU单核
CPU多核、多CPU

1.1 并发

单核上，多个线程占用不同的CPU时间片，物理上还是串行执行的，但是由于每个线程占用的CPU时间片非常短（比如10ms），看起来就像是多个线程都在共同执行一样，这样的场景称作并发。

1.2 并行

在多核或者多CPU上，多个线程是在真正的同时执行，这样的场景称作并行（parallel）

2. 多线程的优势

多线程程序一定就好吗？不一定，要看具体的应用场景：

2.1 IO密集型

（涉及I/O操作）
无论是CPU单核、CPU多核、多CPU，都是比较适合多线程程序的
I/O密集型更适合设计成多线程程序

内核有2个队列：就绪队列和阻塞队列。

系统直接从就绪队列取任务执行指令。
I/O密集型的任务不受CPU资源，因为可能调度不到，没有放在就绪队列（等待的资源没有准备好，放在阻塞队列），操作系统是从就绪队列取任务，分配时间片的。

2.2 CPU密集型

（大量计算，深度学习，运算）（不会阻塞）
CPU单核（一个人一直计算）
多线程存在上下文切换，（CPU寄存器信息保存到线程的内核栈上，上下文切换，然后恢复到CPU寄存器上），是额外的花销，线程越多上下文切换所花费的额外时间也越多，倒不如一个线程一直进行计算.对于多核来说，I/O密集型和CPU密集型，都是适合多线程程序的

总结：
I/O密集型不论是单核还是多核，始终适合多线程
CPU密集型：单核不适合，多核适合

3. 线程池的优势

操作系统上创建线程和销毁线都是很"重"的操作，耗时耗性能都比较多，那么在服务执行的过程中，如果业务量比较大，实时的去创建线程、执行业务、业务完成后销毁线程，那么会导致系统的实时性能降低，业务的处理能力也会降低。

线程池的优势就是（每个池都有自己的优势），在服务进程启动之初，就事先创建好线程池里面的线程，当业务流量到来时需要分配线程，直接从线程池中获取一个空闲线程执行task任务即可，task执行完成后，也不用释放线程，而是把线程归还到线程池中继续给后续的task提供服务。

fixed模式线程池
线程池里面的线程个数是固定不变的，一般是ThreadPool创建时根据当前机器的CPU核心数量进行指定。

cached模式线程池
线程池里面的线程个数是可动态增长的，根据任务的数量动态的增加线程的数量，但是会设置一个线程数量的阈值，任务处理完成，如果动态增长的线程空闲了60s还没有处理其它任务，那么关闭线程，保持池中最初数量的线程即可。

项目总体架构图