第五章 - 共享模型之无锁

Java中 synchronizedReentrantLock 等 独占锁 都是 ​悲观锁

在Java中java.util.concurrent.atomic包下面的原子变量类就是使用了​​乐观锁​​​的一种实现方式 ​CAS

管程即​​monitor​​​是​​阻塞式的悲观锁​​​实现​​并发控制​​​,这章我们将通过​​非阻塞式的乐观锁​​​的来实现​​并发控制​

问题提出

有如下需求,保证​​account.withdraw取款方法​​​的线程安全, 下面使用​​synchronized​​保证线程安全

/**
* Description: 使用重量级锁synchronized来保证多线程访问共享资源发生的安全问题
*
* @author xiexu
* @create 2022-02-05 3:54 PM
*/
@Slf4j(topic = "c.TestAccount")
public class TestAccount {

public static void main(String[] args) {
Account.demo(new AccountUnsafe(10000));
Account.demo(new AccountCas(10000));
}
}

class AccountUnsafe implements Account {
// 余额
private Integer balance;

public AccountUnsafe(Integer balance) {
this.balance = balance;
}

@Override
// 获取余额
public Integer getBalance() {
synchronized (this) {
return balance;
}
}

@Override
// 取款
public void withdraw(Integer amount) {
// 通过这里加锁就可以实现线程安全,不加就会导致线程安全问题
synchronized (this) {
balance -= amount;
}
}
}

interface Account {
// 获取余额
Integer getBalance();

// 取款
void withdraw(Integer amount);

/**
* Java8之后接口新特性, 可以添加默认方法
* 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
* 如果初始余额为 10000, 那么正确的结果应当是 0
*/
static void demo(Account account) {
List<Thread> ts = new ArrayList<>();
long start = System.nanoTime();
for (int i = 0; i < 1000; i++) {
ts.add(new Thread(() -> {
account.withdraw(10);
}));
}
ts.forEach(thread -> thread.start());
ts.forEach(t -> {
try {
t.join(); // 等待所有线程执行结束
} catch (InterruptedException e) {
e.printStackTrace();
}
});
long end = System.nanoTime();
System.out.println(account.getBalance()
+ " cost: " + (end - start) / 1000_000 + " ms");
}
}

解决思路 - 无锁

上面的代码中使用​​synchronized加锁​​​操作来​​保证线程安全​​,但是 synchronized加锁操作太耗费资源 (因为底层使用了操作系统mutex指令, 造成内核态和用户态的切换),这里我们使用 ​无锁

class AccountCas implements Account {
//使用原子整数: 底层使用 CAS+重试 的机制
private AtomicInteger balance;

public AccountCas(int balance) {
this.balance = new AtomicInteger(balance);
}

@Override
public Integer getBalance() {
//得到原子整数的值
return balance.get();
}

@Override
public void withdraw(Integer amount) {
while(true) {
// 获取余额的最新值
int prev = balance.get();
// 获得修改后的值
int next = prev - amount;
// 真正修改
if(balance.compareAndSet(prev, next)) {
break;
}
}
}
}

CAS 与 volatile (重点)

CAS

前面看到的​​AtomicInteger​​​的解决方法,内部并​​没有用锁​​​来保护​​共享变量​​的线程安全。那么它是如何实现的呢?

@Override
public void withdraw(Integer amount) {
// 核心代码
// 需要不断尝试,直到成功为止
while (true) {
// 比如拿到了旧值 1000
int prev = balance.get();
// 在这个基础上 1000 - 10 = 990
int next = prev - amount;
/**
compareAndSet 保证操作共享变量安全性的操作:
① 线程A首先获取balance.get(),拿到当前的balance值prev
② 根据这个prev值 - amount值 = 修改后的值next
③ 调用compareAndSet方法, 首先会判断当初拿到的prev值,是否和现在的balance值相同;
3.1、如果相同,表示其他线程没有修改balance的值, 此时就可以将next值设置给balance属性
3.2、如果不相同,表示其他线程也修改了balance值, 此时就设置next值失败,然后一直重试,
重新获取balance.get()的值,重新计算出next值,
并判断本次的prev和最新balnce的值是否相同...重复上面操作
*/
if (balance.compareAndSet(prev, next)) {
break;
}
}
}
  • 其中的关键是​​compareAndSwap(比较并设置值)​​​,它的简称就是​​CAS​​​ (也有 Compare And Swap 的说法),它必须是​​原子操作​​。

第五章 - 共享模型之无锁_volatile

流程:

  • 当一个线程要去修改​​Account对象​​​中的值时,​​先获取值prev(调用get方法)​​​,然后再将其设置为新的值​​next​​​(调用cas方法)。在调用cas方法时,会将​​prev​​​与​​Account中的余额​​进行比较。
  • 如果两者​​相等​​,就说明该值还未被其他线程修改,此时便可以进行修改操作。
  • 如果两者​​不相等​​,就不设置值,重新获取值prev(调用get方法),然后再将其设置为新的值next(调用cas方法),直到修改成功为止。

注意:

  • 其实​​CAS​​ 的底层是lock cmpxchg指令(X86 架构),在单核 CPU 和多核 CPU 下都能够保证​​【比较-交换】​​​的 ​原子性​。
  • 在多核状态下,某个核执行到带 lock 的指令时,CPU 会让总线锁住,当这个核把此指令执行完毕,再开启总线。这个过程中不会被线程的调度机制所打断,保证了多个线程对内存操作的准确性,是原子的。

volatile的作用

  • 在上面代码中的​​AtomicInteger类​​,保存值的value属性使用了​volatile 修饰​。获取共享变量时,为了​​保证该变量的可见性​​,需要使用volatile 修饰
  • volatile可以用来修饰 ​成员变量和静态成员变量​​,它可以避免线程从自己的工作缓存中查找变量的值,必须到主存中获取它的值,线程操作 volatile 变量都是直接操作主存。​即一个线程对 volatile 变量的修改,对另一个线程可见。

​注意:​​​ volatile 仅仅保证了共享变量的​​可见性​​,让其它线程能够看到最新值,​​但不能解决指令交错问题(不能保证原子性)​

  • CAS 必须借助 volatile 才能读取到共享变量的最新值来实现【比较并交换】的效果

为什么CAS+重试(无锁)效率高

  • 无锁情况下,即使重试失败,线程始终在高速运行,没有停歇,而 synchronized 会让线程在没有获得锁的时候,发生上下文切换,进入阻塞。打个比喻
  • 线程就好像高速跑道上的赛车,高速运行时,速度超快,一旦发生上下文切换,就好比赛车要减速、熄火,等被唤醒又得重新打火、启动、加速… 恢复到高速运行,代价比较大
  • 但无锁情况下,因为线程要保持运行,需要额外 CPU 的支持,CPU 在这里就好比高速跑道,没有额外的跑道,线程想高速运行也无从谈起,虽然不会进入阻塞,但由于没有分到时间片,仍然会进入可运行状态,还是会导致上下文切换。(线程数少于cpu核心数时效果好)

第五章 - 共享模型之无锁_原子_02

CAS 的特点 (乐观锁和悲观锁的特点)

结合 CAS 和 volatile 可以实现无锁并发,适用于线程数少、多核 CPU 的场景下。

  • ​CAS​​​ 是基于​​乐观锁​​的思想:最乐观的估计,不怕别的线程来修改共享变量,就算改了也没关系,我吃亏点再重试呗。
  • ​synchronized​​​ 是基于​​悲观锁​​的思想:最悲观的估计,得防着其它线程来修改共享变量,我上了锁你们都别想改,我改完了解开锁,你们才有机会。
  • CAS 体现的是无锁并发、无阻塞并发,请仔细体会这两句话的意思
  • 因为没有使用 synchronized,所以线程不会陷入阻塞,这是效率提升的因素之一
  • 但如果竞争激烈(写操作多),可以想到重试必然频繁发生,反而效率会受影响

原子整数 (内部通过CAS来实现 - AtomicInteger)

  • ​java.util.concurrent.atomic​​并发包提供了一些并发工具类,这里把它分成五类:
  • 使用原子的方式 (共享数据为基本数据类型原子类)
  • ​AtomicInteger​​:整型原子类
  • ​AtomicLong​​:长整型原子类
  • ​AtomicBoolean​​ :布尔型原子类
  • 上面三个类提供的方法几乎相同,所以我们将以 AtomicInteger为例子来介绍。

先讨论原子整数类,以 ​AtomicInteger​​ 为例讨论它的 API 接口:通过观察源码可以发现​​AtomicInteger​​​ 内部都是通过 ​​CAS​​ 的原理来实现的**

public static void main(String[] args) {
AtomicInteger i = new AtomicInteger(0);

// 获取并自增(i = 0, 结果 i = 1, 返回 0),类似于 i++
System.out.println(i.getAndIncrement());

// 自增并获取(i = 1, 结果 i = 2, 返回 2),类似于 ++i
System.out.println(i.incrementAndGet());

// 自减并获取(i = 2, 结果 i = 1, 返回 1),类似于 --i
System.out.println(i.decrementAndGet());

// 获取并自减(i = 1, 结果 i = 0, 返回 1),类似于 i--
System.out.println(i.getAndDecrement());

// 获取并加值(i = 0, 结果 i = 5, 返回 0)
System.out.println(i.getAndAdd(5));

// 加值并获取(i = 5, 结果 i = 0, 返回 0)
System.out.println(i.addAndGet(-5));

// 获取并更新(i = 0, p 为 i 的当前值, 结果 i = -2, 返回 0)
// 函数式编程接口,其中函数中的操作能保证原子,但函数需要无副作用
System.out.println(i.getAndUpdate(p -> p - 2));

// 更新并获取(i = -2, p 为 i 的当前值, 结果 i = 0, 返回 0)
// 函数式编程接口,其中函数中的操作能保证原子,但函数需要无副作用
System.out.println(i.updateAndGet(p -> p + 2));

// 获取并计算(i = 0, p 为 i 的当前值, x 为参数1, 结果 i = 10, 返回 0)
// 函数式编程接口,其中函数中的操作能保证原子,但函数需要无副作用
// getAndUpdate 如果在 lambda 中引用了外部的局部变量,要保证该局部变量是 final 的
// getAndAccumulate 可以通过 参数1 来引用外部的局部变量,但因为其不在 lambda 中因此不必是 final
System.out.println(i.getAndAccumulate(10, (p, x) -> p + x));

// 计算并获取(i = 10, p 为 i 的当前值, x 为参数1值, 结果 i = 0, 返回 0)
// 函数式编程接口,其中函数中的操作能保证原子,但函数需要无副作用
System.out.println(i.accumulateAndGet(-10, (p, x) -> p + x));
}

updateAndGet源码

第五章 - 共享模型之无锁_多线程_03

  • ​IntUnaryOperator​​​是函数式接口,可以用​​lambda表达式​​​表示具体实现里面的方法int​​applyAsInt(int operand)​​;

第五章 - 共享模型之无锁_多线程_04

  • 如​​i.updateAndGet(p -> p + 2)​​​,​​p -> p + 2​​​就是​​int applyAsInt(int operand);​​的lambda实现。其实就是实现+2的操作

举个例子: updateAndGet的实现

public static void main(String[] args) {

AtomicInteger i = new AtomicInteger(5);

// 第一种方式
updateAndGet(i, new IntUnaryOperator() {
@Override
public int applyAsInt(int operand) {
return operand / 2; // 相当于 5 / 2 = 2;
}
});
System.out.println(i.get()); // 2

// 第二种方式,也可以使用lambda表达式简化操作
updateAndGet(i, p -> p * 2); // 相当于 2 * 2 = 4;
System.out.println(i.get()); //4
}

// 自己实现的updateAndGet()方法
public static void updateAndGet(AtomicInteger i, IntUnaryOperator operator) {
while (true) {
int prev = i.get();
int next = operator.applyAsInt(prev);
if (i.compareAndSet(prev, next)) {
break;
}
}
}
  • 调用​​updateAndGet​​​方法, 将​​共享变量i​​​,​​IntUnaryOperator对象​​传递过去
  • updateAndGet方法内部, 传过来的​​operator​​​对象, 调用​​IntUnaryOperator​​​中的​​applyAsInt​​​方法, 实际调用的就是​​传递过来的对象的方法, 进行 / 操作​

原子引用 (AtomicReference)

为什么需要原子引用类型 ? (引用数据类型原子类)

保证引用类型的共享变量是线程安全的(确保这个原子引用没有引用过别人)。

  • ​AtomicReference​
  • ​AtomicMarkableReference​
  • ​AtomicStampedReference​(可以解决ABA问题)

基本类型原子类只能更新一个变量,如果需要原子更新多个变量,需要使用引用类型原子类

  • AtomicReference:引用类型原子类
  • AtomicStampedReference:原子更新带有版本号的引用类型。该类将整数值与引用关联起来,可用于解决原子的更新数据和数据的版本号,可以解决使用 CAS 进行原子更新时可能出现的 ABA 问题。
  • AtomicMarkableReference :原子更新带有标记的引用类型。该类将 boolean 标记与引用关联起来,也可以解决使用 CAS 进行原子更新时可能出现的 ABA 问题。

举例:使用原子引用实现BigDecimal存取款的线程安全

interface DecimalAccount {
// 获取余额
BigDecimal getBalance();

// 取款
void withdraw(BigDecimal amount);

/**
* 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
* 如果初始余额为 10000 那么正确的结果应当是 0
*/
static void demo(DecimalAccount account) {
List<Thread> ts = new ArrayList<>();
for (int i = 0; i < 1000; i++) {
ts.add(new Thread(() -> {
account.withdraw(BigDecimal.TEN);
}));
}
ts.forEach(Thread::start);
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
});
System.out.println(account.getBalance());
}
}
  • 试着提供不同的 DecimalAccount 实现,实现安全的取款操作

不安全实现

  • 下面这个是不安全的实现过程:
@Slf4j(topic = "c.Test35")
public class Test35 {

public static void main(String[] args) {
DecimalAccount.demo(new DecimalAccountUnsafe(new BigDecimal("10000")));
}

}

class DecimalAccountUnsafe implements DecimalAccount {
BigDecimal balance;

public DecimalAccountUnsafe(BigDecimal balance) {
this.balance = balance;
}

@Override
public BigDecimal getBalance() {
return balance;
}

@Override
public void withdraw(BigDecimal amount) {
BigDecimal balance = this.getBalance();
this.balance = balance.subtract(amount);
}

}

interface DecimalAccount {
// 获取余额
BigDecimal getBalance();

// 取款
void withdraw(BigDecimal amount);

/**
* 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
* 如果初始余额为 10000 那么正确的结果应当是 0
*/
static void demo(DecimalAccount account) {
List<Thread> ts = new ArrayList<>();
for (int i = 0; i < 1000; i++) {
ts.add(new Thread(() -> {
account.withdraw(BigDecimal.TEN);
}));
}
ts.forEach(Thread::start);
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
});
System.out.println(account.getBalance());
}
}

第五章 - 共享模型之无锁_原子_05

安全实现 - 使用 CAS

解决代码如下:在​​AtomicReference类​​​中,存在一个value类型的变量,保存对​​BigDecimal​​对象的引用

@Slf4j(topic = "c.Test35")
public class Test35 {

public static void main(String[] args) {
DecimalAccount.demo(new DecimalAccountCas(new BigDecimal("10000")));
}

}

class DecimalAccountCas implements DecimalAccount {

private AtomicReference<BigDecimal> balance;

public DecimalAccountCas(BigDecimal balance) {
this.balance = new AtomicReference<>(balance);
}

@Override
public BigDecimal getBalance() {
return balance.get();
}

@Override
public void withdraw(BigDecimal amount) {
while(true) {
BigDecimal prev = balance.get();
BigDecimal next = prev.subtract(amount);
if (balance.compareAndSet(prev, next)) {
break;
}
}
}
}

interface DecimalAccount {
// 获取余额
BigDecimal getBalance();

// 取款
void withdraw(BigDecimal amount);

/**
* 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
* 如果初始余额为 10000 那么正确的结果应当是 0
*/
static void demo(DecimalAccount account) {
List<Thread> ts = new ArrayList<>();
for (int i = 0; i < 1000; i++) {
ts.add(new Thread(() -> {
account.withdraw(BigDecimal.TEN);
}));
}
ts.forEach(Thread::start);
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
});
System.out.println(account.getBalance());
}
}

第五章 - 共享模型之无锁_多线程_06

ABA 问题及解决 (​重点​)

  • 如下程序所示,虽然在other方法中存在两个线程对共享变量进行了修改,但是修改之后又变成了原值main线程对修改过共享变量的过程是不可见的,这种操作对业务代码并无影响。
@Slf4j(topic = "c.Test36")
public class Test36 {

static AtomicReference<String> ref = new AtomicReference<>("A");

public static void main(String[] args) {
log.debug("main start...");
// 获取 ref 的值 A
String prev = ref.get();
try {
other();
} catch (InterruptedException e) {
e.printStackTrace();
}
Sleeper.sleep(1);
// 尝试把 ref 中的A改为C
log.debug("change A->C {}", ref.compareAndSet(prev, "C"));
}

static void other() throws InterruptedException {

new Thread(() -> {
// 此时ref.get()为A, 此时共享变量ref也是A, 没有被改过, 此时 CAS 可以修改成功为:B
log.debug("change A->B {}", ref.compareAndSet(ref.get(), "B"));
}, "t1").start();

Thread.sleep(1000);

new Thread(() -> {
// 同上, 修改为A
log.debug("change B->A {}", ref.compareAndSet(ref.get(), "A"));
}, "t2").start();

}

}

第五章 - 共享模型之无锁_多线程_07

  • 主线程仅能判断出​​共享变量的值​​​与​​最初值 A​​是否相同,不能感知到这种从 A 改为 B 又改回 A 的情况
  • 如果主线程希望:只要有其它线程【动过】共享变量,那么自己的 CAS 就算失败,这时,仅比较值是不够的,需要再加一个版本号。使用​AtomicStampedReference​来解决。

AtomicStampedReference (加版本号解决ABA问题)

解决ABA问题

@Slf4j(topic = "c.Test36")
public class Test36 {

//指定版本号
static AtomicStampedReference<String> ref = new AtomicStampedReference<>("A", 0);

public static void main(String[] args) {
log.debug("main start...");
// 获取 ref 的值 A
String prev = ref.getReference();
// 获取版本号
int stamp = ref.getStamp();
log.debug("获取最新版本为 {}", stamp);
try {
// 如果中间有其它线程干扰,就会发生 ABA 现象
other();
} catch (InterruptedException e) {
e.printStackTrace();
}
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
//尝试把ref中的A改为C,并比对版本号,如果版本号相同,就执行替换,并让版本号+1
log.debug("change A->C {}", ref.compareAndSet(prev, "C", stamp, stamp + 1));
}

static void other() throws InterruptedException {

new Thread(() -> {
int stamp = ref.getStamp();
log.debug("获取最新版本为 {}", stamp);
log.debug("change A->B {}", ref.compareAndSet(ref.getReference(), "B", stamp, stamp + 1));
log.debug("更新版本为 {}", ref.getStamp());
}, "t1").start();

Thread.sleep(1000);

new Thread(() -> {
int stamp = ref.getStamp();
log.debug("获取最新版本为 {}", stamp);
log.debug("change B->A {}", ref.compareAndSet(ref.getReference(), "A", stamp, stamp + 1));
log.debug("更新版本为 {}", ref.getStamp());
}, "t2").start();

}

}

第五章 - 共享模型之无锁_CAS_08

AtomicMarkableReference (标记CAS的共享变量是否被修改过)

  • ​AtomicStampedReference​​​ 可以给​​原子引用​​​加上​​版本号​​,追踪原子引用整个的变化过程,如:​​A -> B -> A -> C​​,通过AtomicStampedReference,我们可以知道,引用变量中途被更改了几次。
  • 但是有时候,​​并不关心引用变量更改了几次,只是单纯的关心是否更改过​​​,所以就有了​​AtomicMarkableReference​

第五章 - 共享模型之无锁_多线程_09

@Slf4j(topic = "c.TestABAAtomicMarkableReference")
public class TestABAAtomicMarkableReference {

public static void main(String[] args) throws InterruptedException {
GarbageBag bag = new GarbageBag("装满了垃圾");

// 参数2 mark 可以看作一个标记,表示垃圾袋满了
AtomicMarkableReference<GarbageBag> ref = new AtomicMarkableReference<>(bag, true);
log.debug("主线程 start...");

GarbageBag prev = ref.getReference();
log.debug(prev.toString());

new Thread(() -> {
log.debug("保洁阿姨 start...");
bag.setDesc("空垃圾袋");
ref.compareAndSet(bag, bag, true, false);
log.debug(bag.toString());
}, "保洁阿姨").start();

Thread.sleep(1000);
log.debug("主线程想换一只新垃圾袋?");
boolean success = ref.compareAndSet(prev, new GarbageBag("空垃圾袋"), true, false);
log.debug("换了么?" + success);
log.debug(ref.getReference().toString());
}

}

// 垃圾袋类
class GarbageBag {

String desc;

public GarbageBag(String desc) {
this.desc = desc;
}

public void setDesc(String desc) {
this.desc = desc;
}

@Override
public String toString() {
return super.toString() + " " + desc;
}

}

第五章 - 共享模型之无锁_volatile_10

AtomicStampedReference和AtomicMarkableReference两者的区别

  • AtomicStampedReference​​ 需要我们传入 ​整型变量​​ 作为​​版本号​​,来判定是否被更改过
  • AtomicMarkableReference需要我们传入​布尔变量​作为​​标记​​,来判断是否被更改过

原子数组 (AtomicIntegerArray)

  • 保证数组内的元素的​​线程安全​
  • 使用原子的方式更新数组里的某个元素
  • ​AtomicIntegerArray​​:整形数组原子类
  • ​AtomicLongArray​​:长整形数组原子类
  • ​AtomicReferenceArray​​:引用类型数组原子类

不安全的数组

普通数组内元素, 多线程访问造成安全问题

public class AtomicArrayTest {

public static void main(String[] args) {
demo(
() -> new int[10],
array -> array.length,
(array, index) -> array[index]++,
array -> System.out.println(Arrays.toString(array))
);
}

/**
* 参数1,提供数组、可以是线程不安全数组或线程安全数组
* 参数2,获取数组长度的方法
* 参数3,自增方法,回传 array, index
* 参数4,打印数组的方法
*/
// supplier 提供者 无中生有 ()->结果
// function 函数 一个参数一个结果 (参数)->结果 , BiFunction (参数1,参数2)->结果
// consumer 消费者 一个参数没结果 (参数)->void, BiConsumer (参数1,参数2)->void
private static <T> void demo(Supplier<T> arraySupplier, Function<T, Integer> lengthFun, BiConsumer<T, Integer> putConsumer, Consumer<T> printConsumer) {
List<Thread> ts = new ArrayList<>();
T array = arraySupplier.get();
int length = lengthFun.apply(array);

for (int i = 0; i < length; i++) {
// 创建10个线程, 每个线程对数组作 10000 次操作
ts.add(new Thread(() -> {
for (int j = 0; j < 10000; j++) {
putConsumer.accept(array, j % length);
}
}));
}

ts.forEach(t -> t.start()); // 启动所有线程
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
}); // 等所有线程结束

printConsumer.accept(array);
}
}

第五章 - 共享模型之无锁_无锁_11

安全的数组

使用​​AtomicIntegerArray​​来创建安全数组

public class AtomicArrayTest {

public static void main(String[] args) {
demo(
() -> new int[10],
array -> array.length,
(array, index) -> array[index]++,
array -> System.out.println(Arrays.toString(array))
);

demo(
() -> new AtomicIntegerArray(10),
array -> array.length(),
(array, index) -> array.getAndIncrement(index),
array -> System.out.println(array)
);
}

/**
* 参数1,提供数组、可以是线程不安全数组或线程安全数组
* 参数2,获取数组长度的方法
* 参数3,自增方法,回传 array, index
* 参数4,打印数组的方法
*/
// supplier 提供者 无中生有 ()->结果
// function 函数 一个参数一个结果 (参数)->结果 , BiFunction (参数1,参数2)->结果
// consumer 消费者 一个参数没结果 (参数)->void, BiConsumer (参数1,参数2)->void
private static <T> void demo(Supplier<T> arraySupplier, Function<T, Integer> lengthFun, BiConsumer<T, Integer> putConsumer, Consumer<T> printConsumer) {
List<Thread> ts = new ArrayList<>();
T array = arraySupplier.get();
int length = lengthFun.apply(array);

for (int i = 0; i < length; i++) {
// 创建10个线程, 每个线程对数组作 10000 次操作
ts.add(new Thread(() -> {
for (int j = 0; j < 10000; j++) {
putConsumer.accept(array, j % length);
}
}));
}

ts.forEach(t -> t.start()); // 启动所有线程
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
}); // 等所有线程结束

printConsumer.accept(array);
}
}

第五章 - 共享模型之无锁_volatile_12

字段更新器

保证​​多线程​​​访问​​同一个对象的成员变量​​​时, ​​成员变量的线程安全性​​。

  • ​AtomicReferenceFieldUpdater​​ - 引用类型的属性
  • ​AtomicIntegerFieldUpdater​​ - 整形的属性
  • ​AtomicLongFieldUpdater​​ - 长整形的属性

注意:利用字段更新器,可以针对​​对象的某个域(Field)进行原子操作​​​,只能​​配合 volatile 修饰​​的字段使用,否则会出现异常。

Exception in thread "main" java.lang.IllegalArgumentException: Must be volatile

代码示例

@Slf4j(topic = "c.AtomicFieldTest")
public class AtomicFieldTest {

public static void main(String[] args) {
Student stu = new Student();
// 获得原子更新器 泛型
// 参数1:持有属性的类 参数2:被更新的属性的类 参数3:属性的名称
AtomicReferenceFieldUpdater updater = AtomicReferenceFieldUpdater.newUpdater(Student.class, String.class, "name");
// 期望的为null, 如果name属性没有被别的线程更改过, 默认就为null, 此时匹配, 就可以设置name为张三
System.out.println(updater.compareAndSet(stu, null, "张三"));
System.out.println(updater.compareAndSet(stu, stu.name, "王五"));
System.out.println(stu);
}

}

class Student {

volatile String name;

@Override
public String toString() {
return "Student{" +
"name='" + name + '\'' +
'}';
}

}

第五章 - 共享模型之无锁_多线程_13

原子累加器 (LongAddr) (重要)

  • ​LongAddr​
  • LongAccumulator
  • DoubleAddr
  • DoubleAccumulator

累加器性能比较 AtomicLong, LongAddr

@Slf4j(topic = "c.Test41")
public class Test41 {

public static void main(String[] args) {
System.out.println("----AtomicLong----");
for (int i = 0; i < 5; i++) {
demo(
() -> new AtomicLong(0),
(adder) -> adder.getAndIncrement()
);
}

System.out.println();

System.out.println("----LongAdder----");
for (int i = 0; i < 5; i++) {
demo(
() -> new LongAdder(),
(adder) -> adder.increment()
);
}
}

/**
* () -> 结果 提供累加器对象
* (参数) -> void 执行累加操作
*/
private static <T> void demo(Supplier<T> adderSupplier, Consumer<T> action) {
T adder = adderSupplier.get();
List<Thread> ts = new ArrayList<>();
// 有 4 个线程,每个线程各累加 50 万次
for (int i = 0; i < 4; i++) {
ts.add(new Thread(() -> {
for (int j = 0; j < 500000; j++) {
action.accept(adder);
}
}));
}
long start = System.nanoTime();
ts.forEach(t -> t.start());
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
});

long end = System.nanoTime();
System.out.println(adder + " cost:" + (end - start) / 1000_000);
}

}

第五章 - 共享模型之无锁_volatile_14

LongAddr

  • 性能提升的原因很简单,就是在有竞争时,设置多个累加单元(但不会超过cpu的核心数),Therad-0 累加 Cell[0],而 Thread-1 累加Cell[1]… 最后将结果汇总。这样它们在累加时操作的不同的 Cell 变量,​因此减少了 CAS 重试失败​,从而提高性能。

AtomicLong

  • 之前AtomicLong等都是在一个共享资源变量上进行竞争, ​while(true)​循环进行CAS重试, 性能没有​LongAdder​

LongAdder原理 (了解)

  • LongAdder 是并发大师 @author Doug Lea (大哥李)的作品,设计的非常精巧
  • LongAdder 类有几个关键域
// 累加单元数组, 懒惰初始化
transient volatile Cell[] cells;

// 基础值, 如果没有竞争, 则用 cas 累加这个域
transient volatile long base;

// 在 cells 创建或扩容时, 置为 1, 表示加锁
transient volatile int cellsBusy;

无锁并发,这个怎么用了锁呢。这里并没有真正加锁,而是用了CAS实现锁

模拟 CAS 锁

// 不要用于实践!!!
@Slf4j(topic = "c.LockCas")
public class LockCas {
// 0 没加锁
// 1 加锁
private AtomicInteger state = new AtomicInteger(0);

public void lock() {
while (true) {
if (state.compareAndSet(0, 1)) {
break;
}
}
}

public void unlock() {
log.debug("unlock...");
state.set(0);
}

public static void main(String[] args) {
LockCas lock = new LockCas();
new Thread(() -> {
log.debug("begin...");
lock.lock();
try {
log.debug("lock...");
sleep(1);
} finally {
lock.unlock();
}
}, "t1").start();

new Thread(() -> {
log.debug("begin...");
lock.lock();
try {
log.debug("lock...");
} finally {
lock.unlock();
}
}, "t2").start();
}
}

第五章 - 共享模型之无锁_CAS_15

原理之伪共享

  • 其中 Cell 即为累加单元
// 防止缓存行伪共享
@sun.misc.Contended
static final class Cell {
volatile long value;
Cell(long x) { value = x; }
// 最重要的方法, 用来 cas 方式进行累加, prev 表示旧值, next 表示新值
final boolean cas(long prev, long next) {
return UNSAFE.compareAndSwapLong(this, valueOffset, prev, next);
}
// 省略不重要代码
}

什么叫缓存行?什么叫伪共享?

  • 得从缓存说起,缓存与内存的速度比较

第五章 - 共享模型之无锁_无锁_16

第五章 - 共享模型之无锁_CAS_17

  • 因为 CPU 与 内存的速度差异很大,需要靠预读数据至缓存来提升效率。
  • 而缓存以​​缓存行​​为单位,每个缓存行对应着一块内存,一般是 64 byte(8 个 long)
  • 缓存的加入会造成数据副本的产生,即同一份数据会缓存在不同核心的缓存行中
  • CPU 要保证数据的一致性,如果某个 CPU 核心更改了数据,其它 CPU 核心对应的整个缓存行必须失效

第五章 - 共享模型之无锁_多线程_18

  • 因为 Cell 是数组形式,在内存中是连续存储的,一个 Cell 为 24 字节(16 字节的对象头和 8 字节的 value),因此1个缓存行是可以存下 2 个的 Cell 对象。这样问题来了:
  • Core-0 要修改 Cell[0]
  • Core-1 要修改 Cell[1]
  • 无论谁修改成功,都会导致对方 Core 的缓存行失效,比如 Core-0 中 Cell[0]=6000, Cell[1]=8000 要累加Cell[0]=6001, Cell[1]=8000 ,这时会让 Core-1 的缓存行失效
  • ​@sun.misc.Contended​​​ 用来解决这个问题,它的原理是在使用此注解的对象或字段的​​前后各增加 128 字节大小的padding​​,从而让 CPU 将对象预读至缓存时占用不同的缓存行,这样,不会造成对方缓存行的失效

第五章 - 共享模型之无锁_volatile_19

LongAdder的add( )累加源码

累加主要调用下面的方法

public void add(long x) {
// as 为累加单元数组
// b 为基础值
// x 为累加值
Cell[] as; long b, v; int m; Cell a;
// 进入 if 的两个条件
// 1. as 有值, 表示已经发生过竞争, 进入 if
// 2. cas 给 base 累加时失败了, 表示 base 发生了竞争, 进入 if
if ((as = cells) != null || !casBase(b = base, b + x)) {
// uncontended 表示 cell 没有竞争
boolean uncontended = true;
if (
// as 还没有创建
as == null || (m = as.length - 1) < 0 ||
// 当前线程对应的 cell 还没有
(a = as[getProbe() & m]) == null ||
// cas 给当前线程的 cell 累加失败 uncontended=false ( a 为当前线程的 cell )
!(uncontended = a.cas(v = a.value, v + x)))
{
// 进入 cell 数组创建、cell 创建的流程
longAccumulate(x, null, uncontended);
}
}
}

add 流程图

第五章 - 共享模型之无锁_volatile_20

longAccumulate( )源码

final void longAccumulate(long x, LongBinaryOperator fn,
boolean wasUncontended) {
int h;
// 当前线程还没有对应的 cell, 需要随机生成一个 h 值用来将当前线程绑定到 cell
if ((h = getProbe()) == 0) {
// 初始化 probe
ThreadLocalRandom.current(); // force initialization
// h 对应新的 probe 值, 用来对应 cell
h = getProbe();
wasUncontended = true;
}
// collide 为 true 表示需要扩容
boolean collide = false; // True if last slot nonempty
for (;;) {
Cell[] as; Cell a; int n; long v;
// 已经有了 cells
if ((as = cells) != null && (n = as.length) > 0) {
// 还没有 cell
if ((a = as[(n - 1) & h]) == null) {
// 为 cellsBusy 加锁, 创建 cell, cell 的初始累加值为 x
// 成功则 break, 否则继续 continue 循环
if (cellsBusy == 0) { // Try to attach new Cell
Cell r = new Cell(x); // Optimistically create
if (cellsBusy == 0 && casCellsBusy()) {
boolean created = false;
try { // Recheck under lock
Cell[] rs; int m, j;
if ((rs = cells) != null &&
(m = rs.length) > 0 &&
rs[j = (m - 1) & h] == null) {
rs[j] = r;
created = true;
}
} finally {
cellsBusy = 0;
}
if (created)
break;
continue; // Slot is now non-empty
}
}
collide = false;
}
// 有竞争, 改变线程对应的 cell 来重试 cas
else if (!wasUncontended) // CAS already known to fail
wasUncontended = true; // Continue after rehash
// cas 尝试累加, fn 配合 LongAccumulator 不为 null, 配合 LongAdder 为 null
else if (a.cas(v = a.value, ((fn == null) ? v + x :
fn.applyAsLong(v, x))))
break;
// 如果 cells 长度已经超过了最大长度, 或者已经扩容, 改变线程对应的 cell 来重试 cas
else if (n >= NCPU || cells != as)
collide = false; // At max size or stale
// 确保 collide 为 false 进入此分支, 就不会进入下面的 else if 进行扩容了
else if (!collide)
collide = true;
// 加锁
else if (cellsBusy == 0 && casCellsBusy()) {
try {
if (cells == as) { // Expand table unless stale
Cell[] rs = new Cell[n << 1];
for (int i = 0; i < n; ++i)
rs[i] = as[i];
cells = rs;
}
} finally {
cellsBusy = 0;
}
collide = false;
// 加锁成功, 扩容
continue; // Retry with expanded table
}
// 改变线程对应的 cell
h = advanceProbe(h);
}
// 还没有 cells, 尝试给 cellsBusy 加锁
else if (cellsBusy == 0 && cells == as && casCellsBusy()) {
// 加锁成功, 初始化 cells, 最开始长度为 2, 并填充一个 cell
// 成功则 break;
boolean init = false;
try { // Initialize table
if (cells == as) {
Cell[] rs = new Cell[2];
rs[h & 1] = new Cell(x);
cells = rs;
init = true;
}
} finally {
cellsBusy = 0;
}
if (init)
break;
}
// 上两种情况失败, 尝试给 base 累加
else if (casBase(v = base, ((fn == null) ? v + x :
fn.applyAsLong(v, x))))
break; // Fall back on using base
}
}

第五章 - 共享模型之无锁_volatile_21

第五章 - 共享模型之无锁_CAS_22

  • 每个线程刚进入 longAccumulate 时,会尝试对应一个 cell 对象(找到一个坑位)

第五章 - 共享模型之无锁_CAS_23

sum( )源码

获取最终结果通过 sum 方法

public long sum() {
Cell[] as = cells; Cell a;
long sum = base;
if (as != null) {
for (int i = 0; i < as.length; ++i) {
if ((a = as[i]) != null)
sum += a.value;
}
}
return sum;
}

Unsafe (重点)

概述

  • Unsafe 对象提供了非常底层的,操作内存、线程的方法,Unsafe 对象不能直接调用,只能通过​​反射​​获得
public class UnsafeAccessor {
static Unsafe unsafe;
static {
try {
Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
theUnsafe.setAccessible(true);
unsafe = (Unsafe) theUnsafe.get(null);
} catch (NoSuchFieldException | IllegalAccessException e) {
throw new Error(e);
}
}
static Unsafe getUnsafe() {
return unsafe;
}
}
  • 可以发现​​AtomicInteger​​​以及其他的原子类, 底层都使用的是​​Unsafe​​类

第五章 - 共享模型之无锁_无锁_24

Unsafe CAS 操作

使用底层的​​Unsafe​​实现原子操作

public class TestUnsafe {

public static void main(String[] args) throws Exception {
// 通过反射获得Unsafe对象
Class unsafeClass = Unsafe.class;
// 获得构造函数,Unsafe的构造函数为私有的
Constructor constructor = unsafeClass.getDeclaredConstructor();
// 设置为允许访问私有内容
constructor.setAccessible(true);
// 创建Unsafe对象
Unsafe unsafe = (Unsafe) constructor.newInstance();

// 创建Person对象
Person person = new Person();
// 获得其属性 name 的偏移量
long nameOffset = unsafe.objectFieldOffset(Person.class.getDeclaredField("name"));
long ageOffset = unsafe.objectFieldOffset(Person.class.getDeclaredField("age"));

// 通过unsafe的CAS操作改变值
/**
* 第一个参数:要修改的属性所属的类对象
* 第二个参数:要修改的属性的偏移量
* 第三个参数:要修改的属性的旧值
* 第四个参数:要修改的属性的新值
*/
unsafe.compareAndSwapObject(person, nameOffset, null, "xiexu");
unsafe.compareAndSwapInt(person, ageOffset, 0, 23);
System.out.println(person);
}

}

class Person {
// 配合CAS操作,必须用volatile修饰
volatile String name;
volatile int age;

@Override
public String toString() {
return "Person{" + "name='" + name + '\'' + ", age=" + age + '}';
}
}

第五章 - 共享模型之无锁_多线程_25

Unsafe 案例实现

使用自定义的 AtomicData 实现之前线程安全的原子整数 Account 实现

  • 创建获取Unsafe对象的工具类
public class UnsafeAccessor {
private static final Unsafe unsafe;

static {
try {
Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
theUnsafe.setAccessible(true);
unsafe = (Unsafe) theUnsafe.get(null);
} catch (NoSuchFieldException | IllegalAccessException e) {
throw new Error(e);
}
}

public static Unsafe getUnsafe() {
return unsafe;
}
}
  • Account 类
interface Account {
// 获取余额
Integer getBalance();

// 取款
void withdraw(Integer amount);

/**
* 方法内会启动 1000 个线程,每个线程做 -10 元 的操作
* 如果初始余额为 10000 那么正确的结果应当是 0
*/
static void demo(Account account) {
List<Thread> ts = new ArrayList<>();
for (int i = 0; i < 1000; i++) {
ts.add(new Thread(() -> {
account.withdraw(10);
}));
}
long start = System.nanoTime();
ts.forEach(Thread::start);
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
});
long end = System.nanoTime();
System.out.println(account.getBalance() + " cost: " + (end - start) / 1000_000 + " ms");
}
}
  • 真正实现代码
@Slf4j(topic = "c.Test42")
public class Test42 {

public static void main(String[] args) {
Account.demo(new MyAtomicInteger(10000));
}

}

class MyAtomicInteger implements Account {
private volatile int value;
private static final long valueOffset;
private static final Unsafe UNSAFE;
static {
UNSAFE = UnsafeAccessor.getUnsafe();
try {
valueOffset = UNSAFE.objectFieldOffset(MyAtomicInteger.class.getDeclaredField("value"));
} catch (NoSuchFieldException e) {
e.printStackTrace();
throw new RuntimeException(e);
}
}

public int getValue() {
return value;
}

public void decrement(int amount) {
while(true) {
int prev = this.value;
int next = prev - amount;
if (UNSAFE.compareAndSwapInt(this, valueOffset, prev, next)) {
break;
}
}
}

public MyAtomicInteger(int value) {
this.value = value;
}

@Override
public Integer getBalance() {
return getValue();
}

@Override
public void withdraw(Integer amount) {
decrement(amount);
}

}

第五章 - 共享模型之无锁_volatile_26

本章小结

  • CAS 与 volatile
  • API
  • 原子整数
  • 原子引用
  • 原子数组
  • 字段更新器
  • 原子累加器
  • Unsafe
  • 原理方面
  • LongAdder 源码
  • 伪共享