上周,因为要测试一个方法的在并发场景下的结果是不是符合预期,我写了一段单元测试的代码。写完之后截了个图发了一个朋友圈,很多人表示短短的几行代码,涉及到好几个知识点。
还有人给出了一些优化的建议。那么,这是怎样的一段代码呢?涉及到哪些知识,又有哪些可以优化的点呢?
让我们来看一下。
背景
先说一下背景,也就是要知道我们单元测试要测的这个方法具体是什么样的功能。我们要测试的服务是AssetService,被测试的方法是update方法。
update方法主要做两件事,第一个是更新Asset、第二个是插入一条AssetStream。
更新Asset方法中,主要是更新数据库中的Asset的信息,这里为了防止并发,使用了乐观锁。
插入AssetStream方法中,主要是插入一条AssetStream的流水信息,为了防止并发,这里在数据库中增加了唯一性约束。
为了保证数据一致性,我们通过本地事务将这两个操作包在同一个事务中。
以下是主要的代码,当然,这个方法中还会有一些前置的幂等性校验、参数合法性校验等,这里就都省略了:
@Service
public class AssetServiceImpl implements AssetService {
@Autowired
private TransactionTemplate transactionTemplate;
@Override
public String update(Asset asset) {
//参数检查、幂等校验、从数据库取出最新asset等。
return transactionTemplate.execute(status -> {
updateAsset(asset);
return insertAssetStream(asset);
});
}
}
因为这个方法可能会在并发场景中执行,所以该方法通过事务+乐观锁+唯一性约束做了并发控制。关于这部分的细节就不多讲了,大家感兴趣的话后面我再展开关于如何防并发的内容。
单测
因为上面这个方法是可能在并发场景中被调用的,所以需要在单测中模拟并发场景,于是,我就写了以下的单元测试的代码:
public class AssetServiceImplTest {
private static ThreadFactory namedThreadFactory = new ThreadFactoryBuilder()
.setNameFormat("demo-pool-%d").build();
private static ExecutorService pool = new ThreadPoolExecutor(20, 100,
0L, TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<Runnable>(128), namedThreadFactory, new ThreadPoolExecutor.AbortPolicy());
@Autowired
private AssetService assetService;
@Test
public void test_updateConcurrent() {
Asset asset = getAsset();
//参数的准备
//...
//并发场景模拟
CountDownLatch countDownLatch = new CountDownLatch(10);
AtomicInteger atomicInteger =new AtomicInteger();
//并发批量修改,只有一条可以修改成功
for (int i = 0; i < 10; i++) {
pool.execute(() -> {
try {
String streamNo = assetService.update(asset);
} catch (Exception e) {
System.out.println("Error : " + e);
failedCount.getAndIncrement();
} finally {
countDownLatch.countDown();
}
});
}
try {
//主线程等子线程都执行完之后查询最新的资产
countDownLatch.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
Assert.assertEquals(failedCount.intValue(), 9);
// 从数据库中反查出最新的Asset
// 再对关键字段做注意校验
}
}
以上,就是我做了简化之后的单元测试的部分代码。因为要测并发场景,所以这里面涉及到了很多并发相关的知识。
很多人之前和我说,并发相关的知识自己了解的很多,但是好像没什么机会写并发的代码。其实,单元测试就是个很好的机会。
我们来看看上面的代码涉及到哪些知识点?
知识点
以上这段单元测试的代码中涉及到几个知识点,我这里简单说一下。
线程池
这里面因为要模拟并发的场景,所以需要用到多线程, 所以我这里使用了线程池,而且我没有直接用Java提供的Executors类创建线程池。
而是使用guava提供的ThreadFactoryBuilder来创建线程池,使用这种方式创建线程时,不仅可以避免OOM的问题,还可以自定义线程名称,更加方便的出错的时候溯源。(关于线程池创建的OOM问题)
CountDownLatch
因为我的单元测试代码中,希望在所有的子线程都执行之后,主线程再去检查执行结果。
所以,如何使主线程阻塞,直到所有子线程执行完呢?这里面用到了一个同步辅助类CountDownLatch。
用给定的计数初始化 CountDownLatch。由于调用了 countDown() 方法,所以在当前计数到达零之前,await 方法会一直受阻塞。
AtomicInteger
因为我在单测代码中,创建了10个线程,但是我需要保证只有一个线程可以执行成功。所以,我需要对失败的次数做统计。
那么,如何在并发场景中做计数统计呢,这里用到了AtomicInteger,这是一个原子操作类,可以提供线程安全的操作方法。
异常处理
因为我们模拟了多个线程并发执行,那么就一定会存在部分线程执行失败的情况。
因为方法底层没有对异常进行捕获。所以需要在单测代码中进行异常的捕获。
try {
String streamNo = assetService.update(asset);
} catch (Exception e) {
System.out.println("Error : " + e);
failedCount.increment();
} finally {
countDownLatch.countDown();
}
这段代码中,try、catch、finall都用上了,而且位置是不能调换的。失败次数的统计一定要放到catch中,countDownLatch的countDown也一定要放到finally中。
Assert
这个相信大家都比较熟悉,这就是JUnit中提供的断言工具类,在单元测试时可以用做断言。这就不详细介绍了。
优化点
以上代码涉及到了很多知识点,但是,难道就没有什么优化点了吗?
首先说一下,其实单元测试的代码对性能、稳定性之类的要求并不高,所谓的优化点,也并不是必要的。这里只是说讨论下,如果真的是要做到精益求精,还有什么点可以优化呢?
使用LongAdder代替AtomicInteger
我的朋友圈的网友@zkx 提出,可以使用LongAdder代替AtomicInteger。
java.util.concurrency.atomic.LongAdder是Java8新增的一个类,提供了原子累计值的方法。而且在其Javadoc中也明确指出其性能要优于AtomicLong。
首先它有一个基础的值base,在发生竞争的情况下,会有一个Cell数组用于将不同线程的操作离散到不同的节点上去(会根据需要扩容,最大为CPU核数,即最大同时执行线程数),sum()会将所有Cell数组中的value和base累加作为返回值。
核心的思想就是将AtomicLong一个value的更新压力分散到多个value中去,从而降低更新热点。所以在激烈的锁竞争场景下,LongAdder性能更好。
增加并发竞争
朋友圈网友 @Cafebabe 和 @普渡众生的面瘫青年 以及 @嘉俊 ,都提到同一个优化点,那就是如何增加并发竞争。
这个问题其实我在发朋友圈之前就有想到过,心中早已经有了答案,只不过有多位朋友能够几乎同时提到这一点还是很不错的。
我们来说说问题是什么。
我们为了提升并发,使用线程池创建了多个线程,想让多个线程并发执行被测试的方法。
但是,我们是在for循环中依次执行的,那么理论上这10次update方法的调用是顺序执行的。
当然,因为有CPU时间片的存在,这10个线程会争抢CPU,真正执行的过程中还是会发生并发冲突的。
但是,为了稳妥起见,我们还是需要尽量模拟出多个线程同时发起方法调用的。
优化的方法也比较简单,那就是在每一个update方法被调用之前都wait一下,直到所有的子线程都创建成功了,再开始一起执行。
这里就可以用到CyclicBarrier来实现,CyclicBarrier和CountDownLatch一样,都是关于线程的计数器。
CountDownLatch: 一个线程(或者多个), 等待另外N个线程完成某个事情之后才能执行。
CyclicBrrier: N个线程相互等待,任何一个线程完成之前,所有的线程都必须等待。
所以,最终优化后的单测代码如下:
//主线程根据此CountDownLatch阻塞
CountDownLatch mainThreadHolder = new CountDownLatch(10);
//并发的多个子线程根据此CyclicBarrier阻塞
CyclicBarrier cyclicBarrier = new CyclicBarrier(10);
//失败次数计数器
LongAdder failedCount = new LongAdder();
//并发批量修改,只有一条可以修改成功
for (int i = 0; i < 10; i++) {
pool.execute(() -> {
try {
//子线程等待,所有线程就绪后开始执行
cyclicBarrier.await();
//调用被测试的方法
String streamNo = assetService.update(asset);
} catch (Exception e) {
//异常发生时,对失败计数器+1
System.out.println("Error : " + e);
failedCount.increment();
} finally {
//主线程的阻塞器奇数-1
mainThreadHolder.countDown();
}
});
}
try {
//主线程等子线程都执行完之后查询最新的资产池计划
mainThreadHolder.await();
} catch (InterruptedException e) {
e.printStackTrace();
}
//断言,保证失败9次,则成功一次
Assert.assertEquals(failedCount.intValue(), 9);
// 从数据库中反查出最新的Asset
// 再对关键字段做注意校验
以上,就是关于我的一次单元测试的代码所涉及到的知识点,以及目前所能想到的相关的优化点。
第一次被公众号上近30万读者在线CodeReview,有点小小紧张。但是还是想问一下,对于这部分代码,你觉得还有什么可以优化的地方吗?