高并发(1)---概念

1、什么是高并发（High Concurrency）?

指的是在系统运行的过程中,“短时间内遇到大量操作请求”的情况。

如12306年网站春运期间大量抢购车票；天猫双11当天大量用户同一时间访问该网站。

高并发会导致应用系统在某一时间段内执行大量的操作,如：对资源的请求,对数据库的操作等。

2、高并发的处理指标？

1）、响应时间(response time)：指的是系统对请求作出响应的时间。

如：系统处理一个Http请求需要2000ms,那么这2000ms就是系统的响应时间。

2）、吞吐量(throughput)：单位时间内处理的请求数量

3）、每秒查询率QPS(Query Per Second)：每秒响应请求数。同吞吐量没有明显区别

4）、并发用户数：同时承载正常使用系统功能的用户数。

3、如何提升系统的并发能力呢？

互联网分布式架构设计,是提高系统并发能力的方式。主要分两种：垂直扩展(Scala up)和水平扩展（Scala Out）。

1）、垂直扩展：提升单机处理能力

增强单机硬件性能：如增加CPU核数(如32核）、升级更好的网卡(如：万兆)、升级更好的硬盘(如：SSD)、扩充硬盘容量（如：2T）、扩展系统内存（如：128G）

提升单机架构性能：如使用cache来减少IO次数、使用异步来增加单服务吞吐量、使用无锁数据结构来减少响应时间。

2）、水平扩展：只要增加服务器数量,就能线性扩展系统性能。

注：在互联网发展迅猛的早期,如果预算不是问题,强烈建议使用"增强单机硬件性能”的方式提升系统的并发能力,因为此时公司的战略往往是发展业务,抢占时间。而增强单机硬件性能往往是最快的。

但是横向扩展（无论是增强单机硬件性能,还是提升单机架构性能）都有一个致命的不足：因为单机的性能总是有限的。

所有,互联网分布式架构高并发的最终解决方案还是：水平扩展。

4、常见的互联网分层架构图如下：

1）、客户端层：典型的调用方式就是浏览器browser或者手机应用APP

2）、反