并发处理的广泛应用是使得Amdahl定律替代摩尔定律成为计算机性能发展原动力的根本原因。
说明 | |
---|---|
摩尔定律 | 用于描述处理器晶体管数量与运行效率之间的发展关系。 |
Amdahl定律 | 通过系统中并行化与串行化的比重来描述多处理器系统能获得的运算加速能力。 |
由于计算机的主内存与CPU的运算速度有几个数量级的差距,所以现代计算机系统都不得不加入一层读写速度尽可能接近CPU运算速度的高速缓存(L1 Cache、L2 Cache、L3 Cache)来作为主内存与CPU之间的缓冲。将运算需要使用到的数据复制到高速缓存中,让运算能快速进行,当运算结束后再从高速缓存同步回主内存之中,这样CPU就无须等待缓慢的内存读写了。
CPU <--> 高速缓存
CPU <--> 高速缓存 <--> 缓存一致性协议 <--> 主内存
CPU <--> 高速缓存
除了增加高速缓存之外,为了使得CPU内部的运算单元能尽量被充分利用,CPU可能会对输入代码进行乱序执行优化,CPU会在计算之后将乱序执行的结果重组,保证该结果与顺序执行的结果是一致的,但并不保证程序中各个语句计算的先后顺序与输入代码中的顺序一致,因此,如果存在一个计算任务依赖另外一个计算任务的中间结果,那么其顺序性并不能靠代码的先后顺序来保证。与CPU的乱序执行优化类似,JVM 的 JIT编译器中也有类似的指令重排序优化。
JMM(Java内存模型)屏蔽掉了各种硬件和操作系统的内存访问差异,以实现让Java程序在各种平台下都能达到一致的内存访问效果。
1.主内存与工作内存
JMM 规定了所有的变量都存储在主内存中,每条线程还有自己的工作内存(类比前面说到的高速缓存),线程的工作内存中保存了被该线程使用到的变量的主内存副本拷贝,线程对变量的所有操作(读取、赋值等)都必须在工作内存中进行,而不能直接读写主内存中的变量。不同的线程之间也无法直接访问对方工作内存中的变量,线程间变量值的传递均需要通过主内存来完成,线程、主内存、工作内存三者交互关系如下:
Java线程 <--> 工作内存
Java线程 <--> 工作内存 <--> Save和Load操作 <--> 主内存
Java线程 <--> 工作内存
主内存主要对应于Java堆中的对象实例数据部分,而工作内存对应于JVM栈中的部分区域。从更低层次来说,主内存就直接对应于物理硬件的内存,而为了获取更好的执行速度,JVM可能会让工作内存优先存储于寄存器和高速缓存中,因为程序运行时主要读写访问的是工作内存。
2.内存间交互操作
关于一个变量如何从主内存拷贝到工作内存、如何从工作内存同步回主内存这类实现细节,JMM 定义了以下8种操作来完成:
说明 | |
---|---|
lock(锁定) | 作用于主内存的变量,它把一个变量标识为一条线程独占的状态。 |
unlock(解锁) | 作用于主内存的变量,它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。 |
read(读取) | 作用于主内存的变量,它把一个变量的值从主内存传输到线程的工作内存中,以便随后的load动作使用。 |
load(载入) | 作用于工作内存的变量,它把read操作从主内存中得到的变量值放入工作内存的变量副本中。 |
use(使用) | 作用于工作内存的变量,它把工作内存中一个变量的值传递给执行引擎,每当JVM遇到一个需要使用到变量的值的字节码指令时将会执行这个操作。 |
assign(赋值) | 作用于工作内存的变量,它把一个从执行引擎接收到的值赋给工作内存的变量,每当JVM遇到一个给变量赋值的字节码指令时执行这个操作。 |
store(存储) | 作用于工作内存的变量,它把工作内存中一个变量的值传递给主内存中,以便随后的write操作使用。 |
write(写入) | 作用于主内存的变量,它把store操作从工作内存中得到的变量的值放入主内存的变量中。 |
这些操作都是原子的、不可再分的(对于double和long类型的变量来说,read、load、store、write操作在某些平台上允许有例外,在目前商用JVM中不会出现)。
3.对于volatile型变量的特殊规则
关键词volatile可以说是JVM提供的最轻量级的同步机制,当一个变量定义为volatile之后,它将具备两种特性:
1、保证此变量对所有线程的可见性,可见性是指当一条线程修改了这个变量的值,新值对于其他线程来说是可以立即得知的,而普通变量不能做到这一点(普通变量的值在线程间传递均需要通过主内存来完成)。
注意:volatile变量在各个线程中是一致的,但是基于volatile变量的运算在并发下不一定是安全的。volatile变量在各个线程的工作内存中不存在不一致问题(在各个线程的工作内存中,volatile变量也可能存在不一致的情况,但由于每次使用之前都要先刷新,执行引擎看不到不一致的情况,因此可以认为不存在一致性问题),但是Java里面的运算并非原子操作,导致volatile变量的运算在并发下一样是不安全的。
由于volatile变量只能保证可见性,在不符合以下两种规则的运算场景中,我们仍然要通过加锁(使用synchronized或java.util.concurrent中的原子类)来保证原子性:
运算结果并不依赖变量的当前值,或者能够确保只有单一的线程修改变量的值;
变量不需要与其他的状态变量共同参与不变约束。
2、使用volatile变量第二个语义是禁止指令重排序优化,普通的变量仅仅会保证在该方法的执行过程中所有依赖赋值结果的地方都能获取到正确的结果,而不能保证变量赋值操作的顺序与程序代码中的执行顺序一致。