并发处理的广泛应用是使得amdahl定律代替摩尔定律成为计算机性能发展源动力的根本原因,是人类压榨计算机运算能力的最有力武器。
上一篇《java 多线程—线程怎么来的 》中我们了解了线程在操作系统中的是如何派生出来的,这一篇我们聊聊jvm的内存模型,了解一些jvm在内存操作中如何保证一致性问题的。
本篇主要包含以下内容:
硬件的内存模型
jvm的内存模型
happens-before
硬件的内存模型
物理机并发处理的方案对于jvm的内存模型实现,也有很大的参考作用,毕竟jvm也是在硬件层上来做事情,底层架构也决定了上层的建筑建模方式。
计算机并发并非只是多个处理器都参与进来计算就可以了,会牵扯到一些列硬件的问题,最直接的就是要和内存做交互。但计算机的存储设备与处理器的预算速度相差太大,完全不能满足处理器的处理速度,怎么办,这就是后续加入的一层读写速度接近处理器运算速度的高速缓存来作为处理器和内存之间的缓冲。
高速缓存一边把使用的数据,从内存复制搬入,方便处理器快速运算,一边把运算后的数据,再同步到主内存中,如此处理器就无需等待了。
高速缓存虽然解决了处理器和内存的矛盾,但也为计算机带来了另一个问题:缓存一致性。特别是当多个处理器都涉及到同一块主内存区域的时候,将可能会导致各自的缓存数据不一致。
那么出现不一致情况的时候,以谁的为准?
为了解决这个问题,处理器和内存之间的读写的时候需要遵循一定的协议来操作,这类协议有:MSI、MESI、MOSI、Synapse、Firefly 以及 Dragon Protocol等。这就是上图中处理器、高速缓存、以及内存之间的处理方式。
另外除了高速缓存之外,为了充分利用处理器,处理器还会把输入的指令码进行乱序执行优化,只要保证输出一致,输入的信息可以乱序执行重组,所以程序中的语句计算顺序和输入代码的顺序并非一致。
JVM内存模型
上面我们了解了硬件的内存模型,以此为借鉴,我们看看jvm的内存模型。
jvm定义的一套java内存模型为了能够跨平台达到一致的内存访问效果,从而屏蔽掉了各种硬件和操作系统的内存访问差异。这点和c和c++并不一样,C和C++会直接使用物理硬件和操作系统的内存模型来处理,所以在各个平台上会有差异,这一点java不会。
java的内存模型规定了所有的变量都存储在主内存中,每个线程拥有自己的工作内存,工作内存保存了该线程使用到的变量的主内存拷贝,线程对变量所有操作,读取,赋值,都必须在工作内存中进行,不能直接写主内存变量,线程间变量值的传递均需要主内存来完成。
内存交互
一个变量如何从主内存拷贝到工作内存,然后发生改变又从工作内存同步到主内存的,jvm定义了8中操作来完成,并保证每一种操作都是原子的。我们来看看有那些操作。
上图就是一个变量从主内存到工作内存,经过使用和赋值之后,又同步到主内存之中。
读取:
1、read:读取主内存的变量,传送到工作内存中。
2、load: 把刚读取的变量,放入到工作内存的变量副本中。
修改:
3、use:把工作内存变量的值传递给执行引擎
4、assign: 把执行引擎收到的值赋值给工作内存的变量
写入:
5、store:把工作内存的变量传送会主内存中
6、write:把刚store的变量放入到主内存中
锁定:
除了以上三种分类,还有锁定操作,用来处理线程独占状态。
lock:把主内存的一个变量锁定。
unlock: 把主内存内,lock的变量释放解锁,释放后可以被其他线程访问。
如果把变量从主变量复制到工作内存中,就要顺序的执行read和load操作,如果要把变量从工作内存同步回主内存,就要顺序的执行strore和write操作,不允许read和load、store和write操作之一单独出现,也不允许一个线程丢弃assign操作,也就是改变后必须同步到主内存中。
另外还有有些其他的规则,比如变量不允许在工作线程中诞生,只可以在主内存中诞生,所以方法内的局部变量也是在主内存中初始化的,并非在工作线程中诞生。如此的多的规则,要记住不容易,下面讲到的happen-before会将这些规则整合一起,相信看完happen-before之后,会加深理解。
特征
变量从诞生到赋值再回写,这么简单的一个过程要分解为8个操作,目的是为了让内存在高速读取的同时,也能保持数据的一致性。
jvm内存模型是围绕着并发过程中如何处理原子性、可见性和有序性来建立的,我们看下这三个特征。
原子性:
jvm内存模型中直接保证的原子变量操作包括read、load、assign、use、store、write,基本数据的访问读写都是具备原子性的。这就解释了为何多线程下对变量赋值操作不是安全的,因为一个赋值会包含5个操作。
如果要保持原子性,jvm提供了lock和unlock,这个直接在代码层就是synchronized关键字,拥有synchronized关键字的同步块,在对数据操作的时候,线程会先对变量lock,等操作完了在unlock,如此也具备原子操作了。
可见性:
可见性是指当一个线程修改了共享变量的值,其他线程可以立即得知 。比如轻同步关键字volatile就可以保证这点,这个下次单独讲。除了volatile,synchronized和final关键字定义的变量,也实现了可见性。其他的就没办法保证了,目前的可共享内存的多处理器架构上,一个线程无法马上(甚至永远)看到另一个线程操作产生的结果的。
有序性:
前面有讲过,处理器为了加快处理速度,会把执行顺序打乱,只保证结果一致,而不保证顺序一致。这就是指令的重排序。
具体的编译器实现可以产生任意它喜欢的代码 -- 只要所有执行这些代码产生的结果,能够和内存模型预测的结果保持一致。这为编译器实现者提供了很大的自由,包括操作的重排序。
jvm对定义了volatile和synchronize的关键变量,可以保证操作的有序性,比如禁止指令重排序,保证线程之间的操作有序,让一个变量在同一时刻只能有个线程对其lock操作。
happens-before
前面铺垫了这么多的基础知识,一直没有讲到jvm究竟是如何并发期间,保证对定义有synchronize和volatile变量的一致性?
happen-before,是判断数据是否存在竞争、线程是否安全的主要依据,依靠这个原则,我们可以一揽子解决并发环境下两个操作是否可能存在冲突的所有问题。
我们先看规则:
- 程序次序法则:如果在程序中,所有动作 A 出现在动作 B 之前,则线程中的每动作 A 都 happens-before 于该线程中的每一个动作 B。
- 监视器锁法则:对一个监视器的解锁 happens-before 于每个后续对同一监视器的加锁。
- Volatile 变量法则:对 Volatile 域的写入操作 happens-before 于每个后续对同一 Volatile 的读操作。
- 传递性:如果 A happens-before 于 B,且 B happens-before C,则 A happens-before C。
- 线程启动规则: thread对象的start()方法线性发生与此线程每个动作。
- 线程终止规则:线程中的所有操作都线性发生对此线程的终止检测。
- 线程中断规则:对线程interrupt()方法的调用先行发生与被中断线程的代码检测。
- 对象终结规则:一个对象的初始化完成线性发生于finalize()。
目前我们只关注前4个就可以了,后续的用到了再聊。volatile我们这次还是先不聊,我们总结一下1、2、4,很明显是讲一个对一个同步块内的逻辑进行串行化操作,看下示例
int count = 0;
public synchronized void increCount() {
count++;
}
上例子中我们对increCount方法进行了同步处理,那么比如我们有线程A、B、C同时调用这个方法会怎样处理?
从上图中我们可以看到,对于increCount来说,多个线程对其调用在jvm这里是线性串行执行的,A中线程的监视器是this(当前对象),A中的监视器的解锁 happens-before 与B线程的,如果同步中有两个方法 a,b那么ab的顺序也是确认的。
所以说,时间先后顺序与happens-before 原则没有太大关系,我们衡量并非安全问题4的时候一切可以依据线性发生原则为准。