盘点一下过去几年遇到的一些偶现问题，有的是真坑爹啊。

你好呀，我是歪歪。

在日常开发过程中大家肯定或多或少都会遇到一些偶现的问题，最常见的一句话就是：在我本地运行的时候都是好的呀？在测试环境跑的时候都是好的呀？在预发布环境都是正常的呀？在灰度阶段都是没问题的呀？

怎么到生产上就时不时爆出几个预警来呢？

一般来说，这种情况多半是遇到了在特定的条件下、多种因素叠加在一起的时候才会触发的“偶现问题”。

以前我碰到这类问题的时候，我都是调侃到：不能稳定复现的 BUG 都不算是 BUG。

后来也因为这样天真的、抱有幻想的想法，吃过了好几次亏，才开始越来越意识到比起能稳定复现的 BUG 来说，“偶现问题”往往才是发出致命一击的刺客。

歪师傅在网上看到一篇相关的总结类的文章，觉得写的不错，很多坑我也结结实实的踩到过，分享给大家，希望能引起警惕。

链接：https://juejin.cn/post/7294844864020430902 作者：uzong

总结过去几年遇到的一些偶现问题。

偶现问题有一定隐秘性，要有刨根问底的精神，偶现的问题也是问题。

如果上线前不把偶现的问题刨根问底弄清楚，到了线上将会更难排查。

客户所在的上下文环境可能会和我们不同，常常导致我们不能模拟重现问题，在过去的几年中也遇到过不少这样的场景，最近便梳理了一些。

本文结构安排：第一部分罗列场景；第二部分列举案例。

一、场景罗列

偶现问题可以是概率高的，也可以是概率低的; 甚至是出现一次的；或者是一开始是没有，运行一段时间出现的。

大多数问题都是编码不严谨导致，甚至是一些低级错误。

第一类：并发访问、异步编程、资源竞争

第二类：缓存相关，缓存一致性

数据库、本地缓存，分布式缓存数据是常见问题，编码时没有考虑周全，给业务带来麻烦。

缓存不一致性持续的时间极短，往往会忽略缓存一致性这个因素，导致排查方向走偏，增加排查时长，警惕！

第三类：脏数据、数据倾斜

脏数据常常会引起异常现象，也是偶发性问题高发区，此处换成现脏数据易发的场景。

脏数据出现触发异常。常见的情况：selectOne，但是查询出来两条。

第四类：边界值、超时、限流

上游的服务链路很长；异常被转换；日志被吞掉的情况会大大增加排查的难度

第五类：服务器、硬件

第六类：程序代码

程序未做好兼容发布，比如数据结构不兼容，请求参数不兼容，方法不兼容等等；未做好优雅关闭，正在处理的任务被中断。这样的发布都是灾难。

第七类：网络等其他

二、案例描述

非线程安全集合类

并行流里面使用了非线程安全集合类，集合对象返回结果可能不正确。

当数据量小的时候，不容易察觉；当数据量多的时候，容易暴露问题。

List<XXXDO> dataList = 从 DB 中获取结果集合

// 非线程安全集合了
List<XXXDO> successList = new ArrayList();
List<XXXDO> failList = new ArrayList();

// parallelStream 并行流中使用了不安全的集合
dataList.parallelStream().forEach(
    vo -> {
        .......
        if(执行成功) {
            successList.add(vo);
        } else {
            failList.add(vo);
        }
   }
);

开始为 stream，没有任何问题。

当数据量大的时候，做了一个优化，将 stream 修改成 parallelStream，测试时，数据量较小，未察觉，线上数据量多的时候，发现了这个问题。

ThreadLocal

当使用 ThreadLocal 时，未正确执行 remove 方法；有可能是因为抛出异常导致。线程在特殊情况下被复用；导致 ThreadLocal 中的数据符合预期。

注：这是编码不严谨导致。

// 正常情况能够执行 remove
try {
    ...
} finally {
    threadLocalUser.remove();
}

不严谨，导致 remove 未执行

// 错误使用
try {
    ...
    // 业务异常, 未能执行 remove
    threadLocalUser.remove();
} catch(Exception exception) {
   ...
}

ThreadLocal 其实应用场景很多，但一定要记得移除用完 remove 掉。由于具有线程复用，比较难排查。

修改成员变量

从配置中心读取配置信息，该数据作为模板，带有占位符；在执行实例时，通过上下文参数，解析占位符。比如发送短信、卡片等。

{
    "authorized":{
        "themeHeader":"交付授权协议",
        "contentDesc":"交付工程师: （$userName$) 向您申请交付权限",
        "keyNote":"特别提醒：如果不签署，交付工程师将无法进行交付",
        "redirectLinkText":"立即前往授权",
        "tenantId":"您所在的组织“$tenantId$”有以下权限申请需要授权"
    }
}

这是一份模板数据，占位符通过上下文替换。

// 从配置中心读取配置，用成员变量保存
public class CardSceneParamConfig implements XXXDataCallback {

    // 从 nacos 配置读取初始化模板数据
    private Map<String, AuthorizedCardParamVO> cardParamVO = new HashMap<>();
    ......
    // 获取配置模板
    public AuthorizedCardParamVO getAuthorizedCardParamVO(String sceneCode) {
        return cardParamVO.get(sceneCode);
    }
}

// 获取模板对象，修改了模板里面的占位符。
private AuthorizedCardParamVO xxx(AuthorizedCardParamVO stable, Map<String, String> params) {
    ......
    final String contentDescStr = Optional.ofNullable(stable.getContentDesc())
            .map(contentDesc -> contentDesc.replace("$userName$", params.get("userName")))
            .orElse(stable.getContentDesc());

    // 更改了成员变量
    stable.setContentDesc(contentDescStr);
    .......
    return dynamic;
}

stable.setContentDesc(contentDescStr); 修改了成员变量，导致 "contentDesc":"交付工程师: （

被修改成具体值 "contentDesc":"交付工程师: （XXXX) 向您申请交付权限"。

如果 userName 是同一个人，或者第一次请求到不同机器；都不会有问题；否则有问题。

需要特别注意成员变量被修改的情况。修改成员变量的案例遇到过很多次。需要警惕。

异步依赖

使用线程池执行，但是将结果添加到 list 这个操作是异步的。有可能代码执行完毕，但是 list 结果集合没有任何的数据。异步依赖。

List<XXXDO> dataList = 从 DB 中获取结果集合

// 非线程安全集合
List<XXXDO> successList = new ArrayList();
List<XXXDO> failList = new ArrayList();

for (XXXDO vo : dataList) {
   ThreadUtil.execute(() -> {
        // API 操作 vo
        .......
        if(执行成功) {
            successList.add(vo);
        } else {
            failList.add(vo);
        }  
   });
}
// 可能未获取运行结果就返回了

这是个低级错误，需要异步等待，但是因为数据量小，未察觉这个问题。数据大的时候非常容易暴露。

很久以前，接手了一位离职伙伴的代码，现在想来都觉得很坑。

• 上传 excel 数据，到服务端解析，将解析结果上再传到 redis，redis 设置 1min 过期；解析这个过程也是一个异步行为。
• 客户端上传完成再点击提交数据，从刚才的 redis 取数据再保存到 DB 中。

当数据大的时候，发现一条数据都没有插入到 DB 里面。

原因大致有二：

• 未解析完成，提交时 redis 还没有数据
• 提交按钮迟了，redis 解析的数据过期

数据量小的时候不易察觉，因为功能不常用，等数据量大的时候，就暴露了。

并发性修改

下面案例，由于 counter++ 操作不是原子的，同时并发修改。循环的次数偏小，可能不会出现问题。

循环次数多 counter 不符合预期

public class UnsafeConcurrencyExample {
    private static int counter = 0;

    public static void main(String[] args) {
        Thread thread1 = new Thread(() -> {
            for (int i = 0; i < 1000; i++) {
                counter++;
            }
        });

        Thread thread2 = new Thread(() -> {
            for (int i = 0; i < 1000; i++) {
                counter++;
            }
        });

        thread1.start();
        thread2.start();

        try {
            thread1.join();
            thread2.join();
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println("Counter: " + counter);
    }
}

数据不一致

当第一次运行这段代码时，会从数据库中获取数据，并将数据放入缓存中。

10 分钟内再次运行代码时，将直接从缓存中获取数据，而不会再次访问数据库。只有当缓存过期后，才会再次从数据库获取新的数据。

public class CacheExample {
    // 创建缓存
    private static Cache<String, Object> cache = CacheBuilder.newBuilder()
            .expireAfterWrite(10, TimeUnit.MINUTES) // 设置缓存过期时间为10分钟
            .build();

    public static void main(String[] args) {
        String key = "data"; // 缓存的键

        // 从缓存中获取数据，如果缓存中不存在，则从数据库获取
        Object data = cache.get(key, () -> fetchDataFromDB());

        System.out.println("Data: " + data);
    }

    // 模拟从数据库获取数据
    private static Object fetchDataFromDB() {
        // 从数据库获取数据的逻辑
        System.out.println("Fetching data from DB...");
        return "Data from DB";
    }
}

缓存偏长，有部分已经更新，有部分还是旧的，导致数据表现不一致。

数据一致性问题，导致请求到不同服务器节点出现不一样的效果

未考虑优雅关闭

如果提交到线程池的任务，没有考虑优雅关闭，极端情况出现了脏数据，导致偶发性问题。

下面举一个简单的例子，线程池的使用，但是下面线程池未考虑优雅关闭。

public class SimpleThreadPool {
    private ExecutorService executor;

    public SimpleThreadPool(int threads) {
        executor = Executors.newFixedThreadPool(threads);
    }

    public void execute(Runnable task) {
        executor.execute(task);
    }

    public void shutdown() {
        executor.shutdown();
    }
}

正在使用 execute 执行任务的时候，重新发布，重启、异常中断等等。导致正在执行的任务中断，产生了脏数据

脏数据导致查询结果多条

使用 selectOne 方法查询数据库中的数据，但查询出来多条

com.baomidou.mybatisplus.core.exceptions.MybatisPlusException: One record is expected, but the query result is multiple records] with root cause

边界值触发限流

发生在很多年前的一个事情。

需求场景是往一个 IM 群批量发送卡片，由于特定场景，满足场景的卡片数据量较大，大约300，触发了限流。

由于经过了多个服务，导致原始报错，被转换成一个通用异常，也增加了排查的成本。

限流异常错误未考虑，在切面层面统一处理转换成系统异常。

边界值会导致偶发问题，特别是不能模拟客户真实场景，加上原始错误信息丢失时，会增加排查难度。

数据量引发的限流问题较多；原始错误异常在链路上被转换其他异常也很普遍；因此在系统里面要多考虑这种场景，增强系统的健壮性。

机器中存在机器异常

• 分批发布时，没有做好机器的优雅下线
• 节点异常，没有剔除该 IP

由此可能引发以下问题：

• 下游 RPC 请求异常；该服务的依赖方异常
• 本机器请求异常
• mq 消费异常
• .......

集群健康非常重要！！！！！

因为磁盘打满而出现机器挂了

服务挂掉了：No space left on device

因为集群中的一台机器磁盘满了，hang 住，不能继续服务，路由到这台机器超时异常。其他机器正常可以正常访问。

需要做好集群的检活，异常时及时下掉机器。

数据不在同一个事务内

比如 updateBalance 是独立事务，在执行时可能出现问题 A 账户余额不够了，导致异常。

// 假设这是一个转账操作，从账户A向账户B转账
updateBalance(connection, "B", 100); // 向账户B添加100元
// A账户钱不够了
updateBalance(connection, "A", -100); // 从账户A扣除100元

网络入口带宽不足

发生在小作坊的故事；在开发阶段，购买了阿里云的服务器，当时网络带宽 1M，测试阶段没有问题，但未压测上线；

等用户量上来时，发现一些客户请求总是出现超时，最后排查为网络带宽不足导致。

压测、网络监控非常重要

DDos攻击等导致正常用户异常

存在正常用户异常。带宽资源被抢占了。

rpc 超时

假设客户端发送一个获取用户信息的请求给服务器端，并设置一个超时时间为5秒。

客户端期望在5秒内接收到服务器端返回的用户信息。但是由于网络延迟的原因，在某些情况下，服务器端的响应可能会在超时时间之后才到达客户端。

也有可能是因为运行了很长时间，服务端性能出现问题。

内存泄漏

故事发生在多年前，至今印象深刻；是一个 16 台线上机器内存全部飙高的案例。

业务是通过计件算工资；程序是输入表达式运算结果。

服务刚上线， 测试边界值，因为输入一个很大的值，导致类型溢出；是计算工资的方法，程序设置了出错重试。

• 本来是单例的对象，但是却在每次执行方法时被创建
• 因为错误发生，这个方法被发送到 mq 进行重试
• 但是 mq 未设置最大重试次数
• 因为集群机器都监听这个 mq，导致错误被不断地发送到 mq，形成了死循环。对象被无限创建，导致集群机器内存全部飙高。

历历在目的例子......

三、总结

场景还远远不止上面罗列的这些，但根据这些场景也总结了一些经验：

• 合理的代码编写，很多问题都是编码导致，甚至还有很多低级错误
• 多考虑边界值，边界值常常因为不会发生而被忽略
• 合理的日志，方便排查，没有日志的异常增加排查难度
• 别随便转换异常，做好异常处理
• 压测，数据大会提前暴露并发相关问题
• 别吞掉异常，否则出现错误时不容易排查，偶发性问题就变成灵异事件了
• 机器一定要有完善的监控。包括上下游的监控，否则其中 1 个节点出现问题，整个链路都会因为这个节点出现偶发性的问题。
• 做好优雅关闭等

很多偶现的问题排查也十分困难，遇到了就是一个很好的训练机会，当排查问题多了，经验就足了，再遇到相似问题就能轻轻搞定了。像网络问题排查比较麻烦，平时多学习工具，技多不压身。

偶发性问题往往也是由于我们细节做的不够到位！！！

好了，本文的技术部分就到这里啦。

下面这个环节叫做[荒腔走板]，技术文章后面我偶尔会记录、分享点生活相关的事情，和技术毫无关系。我知道看起来很突兀，但是我喜欢，因为这是一个普通博主的生活气息。

荒腔走板

家里之前一个挂植物的地方植物枯死了，想着换一个东西放在那边，但是又不想再放一个植物挂着。

有一天在网上闲逛的时候看到有人在类似的地方挂着一辆积木拼出来的车，歪师傅觉得是帅的，于是也想挂一个。

于是歪师傅申请了 200 多元的“活动经费”，买到了一个巨大的“车”，有 4000 多个小模块，还带电机，可以遥控。

所以最近一段时间和 Max 同学沉溺于拼积木，每天晚上都要研究好一阵时间，甚至 Max 同学都不追剧了，就想着尽快的把这玩意拼好。

拼的过程真的有点上瘾，时不时会惊叹于它巧妙的设计，特别是模拟发动机的转动，有一种机械之美，看起来非常上头。

但是拼的过程中也遇到过好几次“滑铁卢”，需要拆开重新弄，甚至要追溯到前面的好几十步。

现在我们遇到的最大的问题是前轮不会随着前面的马达转动，只是方向盘转，导致车子只能直线运动。

关键是不知道问题在哪里，如果想要定位前轮的问题，需要往前追溯四百多步，这就太痛苦了。

过程还是挺好玩的，也是一个增进感情交流的过程，关键这玩意也很便宜，有兴趣的话你也可以试一试。

当然，前提是你得有个女朋友，或者老婆。（手动狗头

·············· END ··············