缓存 面试题

1 缓存如何实现高性能？

缓存通过减少对慢速数据源（如磁盘存储或远程服务）的访问来提高性能，允许快速读写访问经常使用的数据。实现高性能缓存通常包括以下关键方面：

1. 内存存储：将缓存数据存储在内存中，而非硬盘，以实现快速读写。内存访问速度远高于任何形式的磁盘 IO。
2. 数据结构优化：缓存使用的数据结构应当简单且高效，如哈希表对于键值存取特别快。
3. 有效的过期策略：通过设置有效期限（TTL）自动移除老旧数据，保持缓存的相关性和最新性。常见的过期策略如LRU（最近最少使用）、FIFO（先进先出）、LFU（最少使用频率）等。
4. 并发控制：合理的并发控制可以有效地处理多线程或多进程访问同一缓存数据的性能问题。锁、原子操作、分区技术都是确保并发安全的常见方法。
5. 分布式架构：通过网络分布式缓存可以提供水平扩展性，从而支持更大规模的数据和高并发访问，例如使用一致性哈希来分布数据到多个节点。
6. 最小化网络延迟：缓存节点应尽可能地接近客户端或应用服务器，以减少网络传输延迟。
7. 预加载和预热缓存：在系统启动时预先加载常用数据到缓存中，或在低流量时段预热缓存，以免在高流量时出现缓存未命中的情况。
8. 缓存穿透和雪崩保护：通过缓存空结果或设置标记来防止不存在的数据导致的缓存穿透问题。实施全局控制如限流、熔断等来防止缓存雪崩。
9. 多级缓存：使用本地缓存（如 CPU 缓存、线程本地存储）、分布式缓存（如 Redis、Memcached）和浏览器缓存等多级缓存策略，靠近数据消费者的缓存级别越高，访问速度越快。
10. 智能更新策略：根据数据的使用模式和变化频率，智能决定何时更新缓存。
11. 监控与自动调节：实时监控缓存性能指标，并根据指标自动调节缓存配置和资源分配。
12. 压缩数据：对缓存数据进行压缩可以减少内存的使用，提高缓存存储效率，适用于缓存大对象时考虑使用。

高性能缓存通常需要综合考虑和精心设计，包括硬件配置、软件算法、系统架构以及应用程序逻辑等多个方面。缓存不是万能的，适当的情况下通过合理配置和使用缓存能极大提高应用的响应速度和系统吞吐量。

2 缓存如何实现高并发？

实现高并发缓存通常需要考虑以下方面：

1. 内存优先：高并发缓存系统通常使用内存作为数据存储介质，因为内存的访问速度要远远快于磁盘。缓存系统如 Redis 和 Memcached 都是内存中存储数据。
2. 有效的锁策略：确保缓存层的锁策略（如乐观锁、悲观锁、无锁设计）在保护数据的一致性的同时，不会因为锁竞争而降低性能。
3. 数据分区（Sharding）：将缓存数据分散到多个服务器或 CPU 核心上，这样不同的进程或线程可以同时访问不同的数据段，避免资源的竞争。
4. 避免热点数据问题：对于访问非常集中的数据（热点数据），可以通过复制、增加副本数目或者使用负载均衡的方法分散请求压力。
5. 非阻塞 IO：使用非阻塞 IO 和事件驱动模型处理网络请求，如 Node.js、Nginx 这样的技术，可以处理大量并发连接。
6. 异步处理：使用消息队列和事件队列来异步处理数据操作，以减少前端请求的等待时间，并提高系统吞吐量。
7. 多级缓存：结合本地缓存（如每个应用服务器的本地缓存）、分布式缓存来减少网络传输的延迟和分布式缓存的访问压力。
8. 读写分离：对于需要写入的缓存操作，可以通过读写分离来提高并发量。比如，读操作可以直接从缓存中获取，而写操作先更新到主存储，然后异步地更新缓存。
9. 合理的过期策略：合理设置缓存数据的过期时间，可以在保证数据新鲜度的同时，避免因缓存数据膨胀导致的性能问题。
10. 使用 CDN：对于静态资源，使用 CDN（内容分发网络）可以缓存全球多个地理位置的数据，减少主服务器的压力。
11. 限流和降级：在系统负载过高时，通过限流和降级机制来保护系统不至于因超负载而完全失效。
12. 优化缓存算法：根据实际使用场景选择合适的缓存淘汰算法，如 LRU（Least Recently Used）、LFU（Least Frequently Used）等。
13. 监控和自动化缩放：监控缓存系统的健康状况和性能指标，并根据负载自动扩展缓存资源。

通过综合应用以上策略，可以建立一个既高效又能够应对高并发需求的缓存系统。实际部署时，需要根据应用的特点和负载情况来调整和优化上述各项配置和策略。

3 Redis 和 Memcached 的区别

Redis 和 Memcached 都是常见的高性能的键值对存储系统，都可以作为数据缓存使用，但它们在设计、数据模型、功能和使用场景上有一些关键的不同。 以下是 Redis 和 Memcached 的一些主要区别：

1. 数据类型：

• Memcached：支持简单的数据类型，主要是字符串。
• Redis：提供了更丰富的数据类型，包括字符串（Strings）、散列（Hashes）、列表（Lists）、集合（Sets）、有序集合（Sorted Sets）以及更复杂的类型如位图（Bitmaps）和超日志（HyperLogLogs）等。

1. 持久性：

• Memcached：主要是作为一个纯内存缓存使用，不提供数据持久化功能。
• Redis：支持数据持久化，可以将内存中的数据保存到磁盘中，通过 RDB 快照或 AOF 日志。

1. 复制和高可用性：

• Memcached：简单的复制功能，通常依靠外部工具，建议用在多个服务器上实现扩展。
• Redis：具有内置的主从复制功能，能够实现自动故障转移，稳定性和可用性更高。

1. 内存管理：

• Memcached：使用简单的 LRU（最近最少使用）算法来管理内存。
• Redis：提供了多种内存淘汰策略。

1. 集群模式：

• Memcached：没有官方的集群模式，需要依赖客户端实现分布式存储。
• Redis：官方支持的 Redis 集群方式，能够对数据进行分片（Sharding）和提供高可用性。

1. 原子操作：

• Memcached：提供了一些简单的原子操作，如 incr 和 decr。
• Redis：提供了丰富的原子操作，可以对其支持的各种复杂数据类型执行操作。

1. 发布/订阅：

• Memcached：不支持发布/订阅。
• Redis：支持发布/订阅消息模式。

1. 客户端支持：

• Memcached：大多数语言的支持都比较简单。
• Redis：由于其功能丰富，许多语言都提供了特定的库来利用 Redis 的各种特性。

1. 使用场景：

• Memcached：适合作为简单的内存缓存，当需要快速的、纯粹的缓存服务时比较有优势。
• Redis：除缓存使用外，由于其支持的丰富数据类型和功能，适用于需要复杂数据结构支持的场景，如消息队列、社交网络、实时系统等。

1. 版本控制：

• Memcached：更新比较少，新特性增加的速度较慢。
• Redis：持续更新和维护，定期增加新特性和改善。

总结来说，虽然 Redis 和 Memcached 在表面上都是作为缓存服务使用，但是 Redis 提供了更为丰富的功能集和扩展性，适应了更多的场景和要求。然而，如果你的需求仅仅是快速的缓存一些简单的数据，且想要尽量减少复杂性，Memcached 可能是一个更好的选择。在实际选择时应考虑应用场景、性能需求及开发维护成本等多个因素。

4 用缓存可能出现的问题

在使用缓存时，可能会遇到多种问题，主要包括：

1. 缓存一致性：因为缓存数据是对原始数据的一个副本，当原始数据发生变化而缓存数据没有更新时，就会出现不一致的情况。解决策略包括缓存失效、缓存更新通知、读取时进行校验等。
2. 缓存穿透：当请求查询不存在的数据时，每次查询都会到达数据库，缓存没有起到应有的作用。解决办法比如对这些空查询结果也进行缓存，使用布隆过滤器等。
3. 缓存雪崩：当大量缓存数据几乎同时失效，导致请求直接打到数据库上，可能引起数据库瞬时压力剧增，从而引发雪崩效应。解决方案包括设置缓存数据不同的失效时间、使用熔断机制等。
4. 缓存击穿：热点 key 失效，在高并发访问下所有请求都会到达数据库。预防机制包括设置热点数据永不过期、使用互斥锁等。
5. 内存浪费：缓存未命中的数据过多，或者缓存了大量不常访问的数据，都可能导致内存资源的浪费。可以通过优化缓存策略、淘汰机制来减轻这个问题。
6. 热点 key 的问题：所有的请求都集中在少数几个 key 上，如果缓存服务器对热点 key 的处理不合适，可能会导致单点负载过高。解决方法包括增加热点 key 的缓存副本分散读取请求，或者使用负载均衡策略。
7. 资源竞争：当多个线程或者进程尝试修改同一个缓存时可能会引起资源竞争问题，导致数据不一致或者服务延迟上升。需要合理的锁机制和设计来保证并发安全。

除了上述问题之外，缓存系统的监控和维护也是重要的。例如，监控缓存的命中率，及时进行适当的扩容或者优化。还需要考虑到缓存系统的高可用性和故障恢复策略，以确保在缓存服务出现问题时，整个应用仍能继续运行。

5 当查询缓存报错时，怎么提高可用性？

当查询缓存报错时，为了提高可用性，你可以考虑采取以下策略：

1. 降级处理：当缓存不可用时，降级到数据库查询。虽然性能会下降，但仍能确保服务的可用性。同时，限流等保护措施也需要随之启动，以避免数据库过载。
2. 重试机制：对失败的缓存访问操作进行重试，可能只是暂时的网络故障或缓存服务短暂的不可用造成的。
3. 超时控制：对缓存访问设置合理的超时时间，避免长时间的等待造成服务挂起。如果缓存服务无响应，可以及时中断操作并切换至其他备选方案。
4. 熔断机制：实现熔断机制，当缓存系统错误达到一定阈值时，自动切断对缓存的调用，直接用数据库返回结果，同时保护数据库不会因为缓存失效而过载。
5. 读写分离：如果可用性问题仅影响读缓存，可以暂时将写入操作继续到缓存，并防止这些操作因读缓存问题而影响。
6. 备用缓存：有备用缓存作为热备，一旦主缓存出现问题，可以迅速切换到备用缓存。
7. 使用多级缓存：局部缓存在应用层，分布式缓存在服务层，若分布式缓存出现问题，可以查询应用层缓存或数据库。
8. 预防数据雪崩：如果高频数据从缓存消失，保证数据库能够承受读取压力，并且有策略重新加载这些热点数据到缓存。
9. 异步队列：使用队列异步写入缓存，哪怕缓存不可用，数据也不会丢失，待缓存恢复后再进行处理。
10. 实时监控与报警：实施实时监控与报警机制，确保在出现错误时能够快速定位问题并进行处理。

重要的是在系统设计初期就考虑到缓存的容错性和高可用性，并在出现问题时有预案和自动处理策略，将对用户体验和系统稳定性的影响降到最低。

6 如何避免缓存穿透的问题？

缓存穿透指的是用户或者攻击者查询缓存系统中不存在的数据，请求会穿过缓存而直达数据库，如果请求量巨大，数据库可能会因此受到巨大压力，进而影响系统的稳定性。针对缓存穿透，可以采取以下一些策略来避免：

1. 布隆过滤器（Bloom Filter）：使用布隆过滤器预先检查请求的 key 是否存在于已知的集合中。因为布隆过滤器具有很高的空间和时间效率，在大量数据和高查询率的情况下特别有效。
2. 缓存空结果：如果一个查询返回的数据为空（即数据库中也没有这个数据），依然把这个查询的结果以键值对的形式存入缓存，并且可以设置较短的过期时间。
3. 数据预热：系统上线前，可以将可能被频繁访问的数据预先加载到缓存中。
4. 设置合理的过期时间：对于一些热点数据设置不过期或者较长的过期时间，普通数据设置较短的过期时间。
5. 接口层拦截：对于用户请求，接口层可以增加校验逻辑，对于不合法的访问请求（如格式不正确的 key），直接拦截而不访问缓存或数据库。
6. 限制访问频率：对于相同的 key，可以限制其访问频率。

遵循上述任何一种或多种策略可以帮助防范缓存穿透问题，但实际应用时需要根据具体场景和可能面临的问题做出选择和调整。

7 如何避免缓存雪崩的问题？

缓存雪崩是指缓存同一时间大面积失效过期，导致所有请求都去打到数据库，引发数据库访问压力过大而导致崩溃的现象。为了防止缓存雪崩，可以采取以下措施：

1. 缓存数据的过期时间分散设置：不要让大量的缓存在同一时间失效，可以在原有的过期时间基础上增加一个随机值，来分散不同缓存键的失效时间。
2. 使用持久化：如果缓存服务支持持久化（如 Redis 的 AOF 和 RDB），即使服务重启，缓存还可以从磁盘中恢复，不会全部失效。
3. 设置热点数据永不过期：对于一些非常热的数据可以将它们设置为永不过期，这样即使缓存服务重启，它们也可以避免立即过期造成雪崩。
4. 缓存预加载：在缓存到期前，把数据预先加载到缓存中。
5. 使用多级缓存：如在本地 JVM 缓存和集中式缓存（如 Redis）之间建立多级缓存，即使一个级别的缓存失效，其他级别也可以担当起缓存的作用，降低对后端数据库的压力。
6. 提供备用缓存服务：配置热备（Master/Slave），这样当一个缓存服务不可用时，可以切换到备用服务。
7. 限流和熔断机制：引入限流和熔断机制，当缓存服务不可用或数据库压力过大时，暂时阻止部分访问，直到稳定。
8. 监控和报警：对缓存命中率、访问频率、加载时间等指标进行监控，一旦发现异常及时报警，并做出处理。

通过上述综合措施，能够在很大程度上防止缓存雪崩问题的发生。在设计缓存策略时要考虑其健壮性和容错能力，以确保系统的高可用。

8 如何避免缓存击穿的问题？

缓存击穿指的是在高并发场景下，某一个（或多个）热点数据突然失效或者是第一次加载时，瞬时会有大量的请求直接打到数据库上。与缓存穿透不同，缓存击穿通常发生在热点 key 上。为避免缓存击穿，可以采取如下措施：

1. 设置热点数据永不过期：对于热点数据，设置为不设置过期时间，一直保持在缓存中。这需要定期对这些 key 进行更新。
2. 使用互斥锁（Mutex Lock）：在缓存失效后（不是缓存穿透，而是 key 确实是热点 key 并已经失效），不是每个请求都去查数据库然后回设缓存，而是使用锁或者其他同步机制来确保只有一个请求查询数据库并将结果回设到缓存，其他进程或线程等待这个查询的结果。
3. 缓存预加载：可以在缓存数据过期前做预加载处理，将相关的缓存数据更新，避免过期。
4. 数据加载策略优化：对于可能成为热点的数据，使用"惰性加载"（Lazy Loading）与"主动加载"（Write Through）结合的策略，即数据更新时除了写缓存，还可以异步地更新热点数据缓存。
5. 双缓存策略：使用两层缓存，热点数据在第一层缓存中设置较短的过期时间，在第二层缓存中设置较长的过期时间。即使第一层缓存失效，请求也能够通过第二层缓存来获取数据，避免直接打到数据库。
6. 异步缓存更新：当热点数据在缓存中失效时，并不直接去数据库拉取数据并同步到缓存，而是通过使用消息队列等异步更新机制，一个任务负责更新数据库，一个任务负责更新缓存。
7. 使用分布式缓存：这种方式下，即使某个 key 在一个节点失效，其他节点由于设置了不同的缓存策略，这个数据依然可能是热的。
8. 限流：对于访问量特别大的 key，可以在接口层增加限流措施，从而降低后端数据库的压力。

每种措施都有自己适用的场景，并且可能需要与其他的措施组合使用以达到最佳效果。设计时应根据具体业务特点和技术栈，考虑易实现性、成本以及维护性等因素。

9 什么是缓存预热？如何实现缓存预热？

缓存预热是一个过程，其目的是在缓存启用之前，将数据加载到缓存系统中，这样就可以确保处理请求的时候不需要等待缓存加载，从而可以提供快速的响应速度。这通常在系统维护、版本升级、缓存服务重启后进行，以避免大量请求直接穿透到数据库。 实现缓存预热通常有以下几种方法：

1. 静态预热：根据历史访问数据分析或预测哪些数据是热点数据，然后在系统启动或维护期间，手动或自动将这些数据加载到缓存中。例如，如果是电商平台，可能会预热商品的详情数据。
2. 动态预热：系统运行中动态监控哪些数据被频繁访问，并判断这些数据预热到缓存中。此方法需要建立一套数据访问热度评估体系。
3. 业务启动预热：在业务服务启动时，根据业务场景预加载缓存。例如，对于报表系统，可能会预加载今日/昨日的报表数据。
4. 数据更新时预热：当数据修改操作发生时，不仅更新数据库，同时异步地更新缓存数据，确保缓存中存储的是最新数据。
5. 定时任务预热：通过设置定时任务，根据缓存失效规律，定期地进行数据预热。例如在每天访问量上升之前预热。
6. 订阅数据库更新：某些缓存系统（如 Redis）支持订阅数据库的变动，可以在数据更新到数据库同时预热到缓存。
7. 分布式预热：如果是分布式缓存系统，可以将预热过程也做成分布式，每个缓存节点预热一部分数据，避免单点负载过高。

注意，缓存预热不是无脑地将所有数据全部加载进缓存，这样很有可能造成缓存资源的浪费。需要根据数据的访问频率、重要性和更新频率等特点选择合理的预热策略，保证高价值数据处于可缓存状态。同时，预热过程应确保对现有系统影响最小，避免对在线服务产生负面影响。

10 缓存数据的淘汰策略有哪些？

缓存数据的淘汰策略用于在缓存满了之后决定哪些数据应当被移除以腾挪空间给新的数据。以下是一些较为常见的缓存淘汰策略：

1. 先进先出（FIFO, First In First Out）：缓存系统按照数据进入缓存的顺序来移除它们。最早进入的数据将最先被淘汰。
2. 最少使用（LFU, Least Frequently Used）：根据数据的访问频次进行淘汰，访问次数最少的数据最先被移除。实现时常需要维护一个按访问频率排序的链表。
3. 最近最少使用（LRU, Least Recently Used）：缓存淘汰最长时间未被访问的数据。通常使用双向链表和哈希表组合实现，以达到 O(1)复杂度的访问和更新。
4. 随机淘汰（Random Replacement）：随机选择数据进行淘汰。这种方式实现简单，但不考虑数据的重要性和使用频率。
5. 最不经常使用（MFU, Most Frequently Used）：这种策略是基于这样的思考：最经常访问的数据更可能在将来被访问，因此淘汰掉一些次数最多的数据。
6. 到期时间（TTL, Time To Live）：数据在缓存中存在有一定的有效时期，一旦超过这个时间，数据就可以被淘汰。TTL 是个动态淘汰过程，可以因为数据被重新访问而被刷新。
7. 定期删除：定期运行一个删除过程，清理那些已经过期或者即将过期的数据。
8. 懒惰删除：只有在数据被访问时，才检查该数据是否已经过期或符合淘汰条件，如果是，则执行淘汰。

对于现代的缓存系统（如 Redis），通常会支持多种淘汰策略，而不同的应用场景可能更适合某种特定的淘汰策略。选择合适的淘汰策略可以优化缓存的性能和效率。在实际应用中，还可以根据实际业务需要自定义淘汰逻辑。

​