一、并发概述

多任务处理在现代计算机操作系统中几乎是已是一项必备的功能了。在很多情况下，让计算机同时去做几件事，不仅是因为计算机的运算能力太强大了，还有一个很重要的原因就是计算机的运算速度与它的存储和通信子系统速度的差距太大了，大量的时间都浪费在磁盘I/O、网络通信或者数据库访问上。如果不希望处理器在大部分时间里都处在等待其他资源的状态，就必须使用一些手段去把处理器的运算能力尽可能的高效率使用起来，否则就会造成很大的浪费。

除了充分利用计算机额能力外，一个服务端同时对多个客户端提供服务则是另一个更具体的并发应用场景。衡量一个服务性能的高低好坏，每秒事务处理数(Transactions Per Second，TPS)是最重要的指标之一，代表一秒内服务端平均能响应的请求总数，而TPS值与程序的并发能力又有非常密切的关系。对于计算量相同的任务，程序线程并发协调得越有条不紊，效率自然就会越高；反之，线程之间频繁阻塞甚至死锁，将会大大降低程序的并发能力。

服务端是Java最擅长的领域之一，这个领域的应用占了Java应用中最大的一块份额，不过如何写好并发应用程序却又是服务端程序开发的难点之一，处理好并发方面的问题通常需要更多的编码经验来支持。Java语言和JVM提供了许多工具，并且各种中间件、框架都努力的替程序员处理尽可能多的线程并发细节，使得程序员编码时能更关注业务逻辑，而不是花费大部分时间去关注此服务会被多少人调用、如何协调硬件资源。

无论语言、中间件和框架如何先进，开发人员都不能期望它们能独立完成所有兵法处理的事情，了解并发的内幕也是成为一个高级程序员不可缺少的课程。

二、硬件的效率与一致性

在了解Java虚拟机并发相关的知识之前，先了解下物理计算机中的并发问题。

“让计算机并发执行若干个运算任务”与“更充分地利用计算机处理器的效能”之间的因果关系，并没有看起来那么简单。其中一个重要原因是绝大多数的运算任务都不可能只靠处理器“计算”能完成，处理器至少需要与内存交互，如读取运算数据、存储运行结果等，这个I/O操作是很难消除的（无法仅靠寄存器来完成所有运算任务）。由于计算机的存储设备与处理器的运算速度有几个数量级的差距，所以现代计算机系统都不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存（Cache）来作为内存与处理器之间的缓存：将运算需要使用到的数据复制到缓存中，让运算能快速进行，当运算结束后再从缓存同步回内存之中，这样处理器就无需等待缓慢的内存读写了。

基于高速缓存的存储交互很好地解决了处理器与内存的速度慢炖，但是也为计算机系统带来更高的复杂度，因为它引入了一个新的问题：缓存一致性（Cache Coherence）。在多处理器系统中，每个处理器都有自己的高速缓存，而它们又共享同一主内存（Main Memory），如下图所示。

当多个处理器的运算任务都涉及到同一块主内存区域时，将可能导致各自的缓存数据不一致，如果真的发生这种情况，那同步回到主内存时以谁的缓存数据为准呢？为了解决一致性的问题，需要各处理器访问缓存时都遵循一些协议，在读写时根据协议来进行操作，这类协议有MSI、MESI（Illinois Protocol）、MOSI、Synapse、Firefly及Dragon Protocol等。

在接下来的几篇文章中将会多次提到“内存模型”一词，可以理解为在特定的操作协议下，对特定的内存或高速缓存进行读写访问的过程抽象。不同架构的物理机器可以拥有不一样的内存模型，而Java虚拟机也有自己的内存模型，并且这里介绍的内存访问操作与硬件的缓存访问操作具有很高的可比性。

除了增加高速缓存之外，为了使得处理器内部的运算单元能尽量被充分利用，处理器可能会对输入代码进行乱序执行（Out-Of-Order Execution）优化，处理器会在计算之后将乱序执行的结果重组，保证该结果与顺序执行的结果是一致的，因此，如果存在一个计算任务依赖另外一个计算任务的中间结果，那么其顺序性并不能靠代码的先后顺序来保证。与处理器的乱序执行优化类似，java虚拟机的即时编译器中也有类似的指令重排序（Instruction Reorder）优化。