硬件的效率与一致性
计算机的存储设备与处理器的运算速度有几个数量级的差距,所以现代计算机系统都不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存(Cache)来作为内存与处理器之间的缓冲:将运算需要使用到的数据复制到缓存中,让运算能快速进行,当运算结束后再从缓存同步回内存之中,这样处理器就无须等待缓慢的内存读写了。
缓存一致性
对于增加缓存的设计,将会引入缓存一致性的问题,每个处理器都有自己的高速缓存,而它们又共享同一主内存。当多个处理器的运算任务都涉及同一块主内存区域时,将可能导致各自缓存数据不一致,那么以哪一个缓存为标准同步到主内存中呢?这时,需要各个处理器访问缓存时都遵循一些协议,根据协议来进行读写操作。
内存模型
可以理解为在特定的操作协议下,对特定的内存或高速缓存进行读写访问的过程抽象。
乱序执行
为了使得处理器内部的运算单元能尽量被充分利用,处理器可能会对输入代码进行乱序执行(Out-Of-Order Execution)优化,处理器会在计算之后将乱序执行的结果重组,保证该结果与顺序执行的结果一致。
Java 内存模型
Java虚拟机规范中试图定义一种Java内存模型来屏蔽掉各种硬件和操作系统的内存访问差异,以实现让Java程序在各种平台下都能达到一致的内存访问效果。
主内存与工作内存
Java内存模型的主要目标是定义程序中各个变量的访问规则,此处的变量包括了实例字段,静态字段和构成数组对象的元素,但不包括局部变量与方法参数,因为后者是线程私有的,不会被共享。
Java内存模型规定了所有的变量都存储在主内存中,每条线程还有自己的工作内存,线程的工作内存中保存了被该线程使用到的变量的主内存副本拷贝,线程对变量的所有操作都必须在工作内存中进行,而不能直接读写主内存的变量。
内存间交互操作
关于主内存与工作内存之间具体的交互协议,Java内存模型中定义了以下8种操作来完成,虚拟机实现时必须保证下面提及的每一种操作都是原子的,不可再分的。
- lock(锁定):作用于主内存的变量。
- unlock(解锁):作用于主内存的变量。
- read(读取):作用于主内存的变量。它把一个变量的值从主内存传输到线程的工作内存中,以便随后的load动作使用。
- load(载入):作用于工作内存的变量。它把read操作从主内存中得到的变量值放入工作内存的变量副本中。
- use(使用):作用于工作内存的变量。
- assign(赋值):作用于工作内存的变量。
- store(存储):作用于工作内存的变量。它把工作内存中一个变量的值传送到主内存中,以便随后的write操作使用。
- write(写入):作用于主内存的变量。它把store操作从工作内存中得到的变量的值放入主内存变量中。
对于volatile型变量的特殊规则
关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制。当一个变量定义为volatile之后,它将具备两种特性:
- 保证此变量对所以线程的可见性(指当一条线程修改了这个变量的值,新值对于其他线程来说可以立即得知的,只是因为volatile变量每次使用前都要刷新)。
- 禁止指令重排序优化。
原子性,可见性与有序性
回顾一下Java内存模型的特征,它围绕着在并发过程中如何处理原子性,可见性和有序性这3个特征来建立的。
- 原子性:由Java内存模型来直接保证的原子性变量操作包括read,load,assign,use,store和write,我们大致可以认为基本数据类型的访问读写是具备原子性的。如果应用场景需要一个更大范围的原子性保证,还提供了lock和unlock操作,对应的就是synchronized关键字。
- 可见性:可见性是指当一个线程修改了共享变量的值,其他线程能够立即得知这个修改。无论是普通变量还是volatile变量都是如此,区别就是volatile的特殊规则保证了新值能立即同步到主内存,以及每次使用前立即从主内存刷新。因此,可以说volatile保证了多线程操作时变量的可见性,而普通变量则不能保证这一点。除了volatile,Java还有两个关键字能实现可见性,即synchronized(对一个变量执行前,必须先把此变量同步到主内存中)和final。
- 有序性:volatile和synchronized两个关键字来保证线程之间操作的有序性,volatile本身就包含了禁止指令重排序的语义,synchronized则是由一个变量在同一时刻只允许一条线程对其进行lock操作获得的。
Java与线程
线程的实现
线程是比进程更轻量级的调度执行单位,线程的引入,可以把一个进程的资源分配和执行调度分开,各个线程既可以共享进程资源(内存地址,文件I/O等),又可以独立调度。
线程的实现主要有3种方式:使用内核线程实现,使用用户线程实现和使用用户线程加轻量级进程混合实现。
使用内核线程实现
内核线程就是直接由操作系统内核支持的线程,这种线程由内核来完成线程切换,内核通过操纵调度器对线程进行调度,并负责将线程的任务映射到各个处理器上。
程序一般不会直接去使用内核线程,而是去使用内核线程的一种高级接口–轻量级进程,它就是我们通常意义上所讲的线程,每个轻量级进程都由一个内核线程支持,是1:1的对应关系。
轻量级进程的局限性:
- 各种线程操作都需要进行系统调用,代价相对较高。
- 消耗一定的内核资源,数量有限。
使用用户线程实现
是完全建立在用户空间的线程库上,系统内核不能感知线程存在的实现,各种线程操作都在用户态中完成,不需要内核的帮助,因此可以非常快速且低消耗的。劣势在于没有系统内核的支援,所有的线程操作都需要用户程序自己处理,程序比较复杂,很少使用了。
使用用户线程加轻量级进程
融合了上面两种的优势。
Java线程调度
线程调度是指系统为线程分配处理器使用权的过程。有两种方式:协同式线程调度和抢占式线程调度。
协同式线程调度
线程的执行时间由线程本身来控制,线程把自己的工作执行完了之后,要主动通知系统切换到另一个线程上。
- 好处:实现简单,切换操作对线程自己是可知的,没有什么线程同步的问题。
- 坏处:线程执行时间不可控制,如果出现问题,不告知系统,就会一致阻塞在那。
抢占式线程调度
每个线程将由系统来分配执行时间,线程的切换不由线程本身来决定。
状态切换
Java定义了5种线程状态:
- 新建:创建后尚未启动的线程处于这种状态。
- 运行:包括操作系统线程状态中的Running和Ready。
- 无限期等待:处于这种状态的线程不会被分配CPU执行时间,它们要等待被其他线程显示地唤醒。
- 限期等待:处于这种状态的线程也不会被分配CPU执行时间,不过无须等待被其他线程显示地唤醒,在一定时间之后它们会由系统自动唤醒。
- 阻塞:线程被阻塞,阻塞状态在等待着获取到一个排他锁,这个时间将在另外一个线程放弃这个锁的时候发生。
- 结束:已终止线程的线程状态,线程已经结束执行。