首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

大型web系统数据缓存设计

前言 在高访问量的web系统中,缓存几乎是离不开的;但是一个适当、高效的缓存方案设计却并不容易;所以接下来将讨论一下应用系统缓存的设计方面应该注意哪些东西,包括缓存的选型、常见缓存系统的特点和数据指标、...3.2.6 容灾 我们使用缓存系统的初衷就是当数据请求量很大,数据库无法承受的情况,能够通过缓存来抵挡住大部分的请求流量,所以一旦缓存服务器发生故障,而缓存系统又没有一个很好的容灾措施的话...并不是所有的缓存系统都具有容灾特性的,所以我们在选择的时候,一定要根据自己的业务需求,对缓存数据的依赖程度来决定是否需要缓存系统的容灾特性。...映射到我们的系统上,我们的缓存对象中到底要放哪些数据?...Java源生序列化 Java源生序列化是JDK自带的对象序列化方式,也是我们最常用的一种;其优点是简单、方便,不需要额外的依赖而且大部分三方系统或框架都支持;目前看来,Java源生序列化的兼容性也是最好的

1.8K61
您找到你想要的搜索结果了吗?
是的
没有找到

Java高性能系统缓存的最佳实践

内存作为缓存来加速程序访问速度,是所有高性能系统都会采用的方案。 缓存思想简单,就是把低速存储的数据,复制一份放到高速存储,加速数据访问。...读写缓存的设计,本身就不可靠,牺牲数据一致性换取性能。当然,程序可以调用sync等系统调用,强制操作系统立即把缓存数据同步到磁盘文件中去,但是该同步过程很慢,也失去了缓存意义。 写缓存实现非常复杂。...使用只读缓存来加速系统才是明智选择。 设计只读缓存又该考虑哪些问题呢? 维护缓存数据时效性 对只读缓存缓存数据源只有一个途径:磁盘。当数据需更新时,磁盘数据缓存副本都需更新。...对这样系统,一般都不使用缓存或使用提到的第一种方法,在更新数据时同时更新缓存缓存置换 除考虑数据一致性,还需关注内存有限,要优先缓存哪些数据,让缓存命中率最高。...如果你的系统是那种可预测未来访问哪些数据的,比如有的系统它会定期做数据同步,每次同步数据范围都一样,这样的系统缓存策略简单,你要访问什么数据,就缓存什么数据,甚至可做到百分百命中。

93010

自己实现简单java缓存类文件_java怎么把数据存到缓存

需求分析 项目中经常会遇到这种场景:一份数据需要在多处共享,有些数据还有时效性,过期自动失效。比如手机验证码,发送之后需要缓存起来,然后处于安全性考虑,一般还要设置有效期,到期自动失效。...如果不考虑分布式,只是在单线程或者多线程间作数据缓存,其实完全可以自己手写一个缓存工具。下面就来简单实现一个这样的工具。...---- 代码 import java.util.HashMap; import java.util.Map; import java.util.concurrent.Executors; import...Cache类对外只提供了几个同步方法: 方法 作用 put(key, value) 插入缓存数据 put(key, value, expire) 插入带过期时间的缓存数据, expire: 过期时间,单位...:毫秒 get(key) 获取缓存数据 remove(key) 删除缓存数据 size() 查询当前缓存记录数 当添加键值对数据的时候,首先会调用remove()方法,清除掉原来相同key的数据,并取消对应的定时清除任务

1.3K10

应用系统缓存体系深入研究(Java版)

[image-20211027110637436.png] 缓存固然能够提高系统性能,与此同时也带来了脏数据的副作用,系统缓存体系、缓存结构、缓存策略、缓存介质等对可能出现的脏数据产生影响。...缓存是一把双刃剑,既能够提高应用系统的效率,同时避免脏数据发生也是不小的工作量。特别是不同的层次的缓存同时使用时,出现数据异常的概率快速提高。...(包含查询条件)时,第二次以后调用会从本地缓存数据,与此同时如果另一个会话将有关的数据修改,显而易见从缓存查询的数据是脏数据。...2、回避脏数据 强制使用语句级缓存 在全局配置中强制使用语句级缓存,防止系统因会话未及时关闭而产生的缓存数据 会话及时关闭 推荐一个会话仅执行一条SQL语句,并且SQL语句执行完毕后及时关闭会话,会话关闭时...2、回避脏数据 设置合理的缓存过期时间 二级缓存数据强制设置过期时间,保证缓存数据拥有被动失效的能力。

51030

Java视角理解系统结构(二)CPU缓存

CPU缓存 网页浏览器为了加快速度,会在本机存缓存以前浏览过的数据; 传统数据库或NoSQL数据库为了加速查询, 常在内存设置一个缓存, 减少对磁盘(慢)的IO....同样内存与CPU的速度相差太远, 于是CPU设计者们就给CPU加上了缓存(CPU Cache). 如果你需要对同一批数据操作很多次, 那么把数据放至离CPU更近的缓存, 会给程序带来很大的速度提升....一次次地未命中,代表取数据消耗的时间越长. 缓存行(Cache line) 为了高效地存取缓存, 不是简单随意地将单条数据写入缓存的. 缓存是由缓存行组成的, 典型的一行是64字节....在这儿我将不提及缓存的associativity问题, 将问题简化一些. 一个Java long型占8字节, 所以从一条缓存行上你可以获取到8个long型变量....32位机器中的java的数组对象头共占16字节(详情见 链接), 加上62个long型一行long数据一共占512字节. 所以这个二维数据是顺序排列的. ? 编译后运行,结果如下 ?

83290

java map 缓存_缓存用于

缓存 什么是缓存? 平常的开发项目中,多多少少都会使用到缓存,因为一些数据我们没有必要每次查询的时候都去查询到数据库。...缓存的使用场景: 在Java应用中,对于访问频率高,更新少的数据,通常的方案是将这类数据加入缓存中,相对从数据库中读取,读缓存效率会有很大提升。 在集群环境下,常用的分布式缓存有Redis等。...但在某些业务场景上,可能不需要去搭建一套复杂的分布式缓存系统,在单机环境下,通常是会希望使用内部的缓存(LocalCache)。...对于Cache,我们希望被缓存的对象最好始终常驻内存,但是如果JVM内存吃紧,为了不发生OutOfMemoryError导致系统崩溃,必要的时候也允许JVM回收Cache的内存,待后续合适的时机再把数据重新...这样可以系统设计得更具弹性。

1K20

高效缓存策略:优化系统数据访问

在应对高并发、大数据的挑战时,精心设计的缓存策略是提高系统性能和响应速度的关键因素之一。本文将介绍一些顶级的缓存策略,涵盖了从系统读取数据到写入数据的全过程,以帮助开发者制定更高效的缓存方案。 1....Read Through: 策略概述: 缓存系统直接参与数据读取操作,负责检查和维护缓存。当数据未命中缓存时,缓存系统自动从数据源读取数据并加入缓存。...通过Read Through策略,缓存系统可以负责热度数据的更新和维护,确保系统始终返回最新的热门新闻列表。 2....写入数据策略 Write Around: 策略概述: 数据首先写入数据源,然后通知缓存系统将相应的缓存项删除。这样,在写入操作时,不会影响缓存。...通过Write Around策略,可以确保写入操作不会过多影响缓存的有效性,同时满足读取时的高响应需求。 Write Back: 策略概述: 数据首先写入缓存缓存系统异步地将缓存数据写回数据源。

10810

系统设计:缓存

它们几乎应用于计算的每一层:硬件、操作系统、web浏览器、web应用程序等等。缓存就像短期内存:它的空间有限,但通常比原始数据源快,并且包含最近访问的项。...如果我们正在构建的系统还不足以拥有自己的CDN,那么我们可以通过在单独的服务器上为静态媒体提供服务来简化将来的转换 子域(例如static.yourservice.com)使用轻量级HTTP服务器,比如...image.png 缓存失效 虽然缓存非常棒,但它确实需要一些维护,以保持缓存与真实来源(例如数据库)保持一致。如果数据库中修改了数据,则在缓存中应失效;如果没有,这可能导致应用程序行为不一致。...缓存数据允许快速检索,而且,由于相同的数据被写入永久存储器,我们将在缓存和存储器之间拥有完全的数据一致性。此外,此方案还确保在发生崩溃、电源故障或其他系统中断时不会丢失任何东西。...因此也会带来缓存穿透、缓存雪崩、缓存击穿、缓存数据不一致等问题 refresh-ahead 简单的说就是在缓存数据过期前,能自动的刷新缓存数据。举个例子来说,某条数据缓存中,过期时间是60秒。

2.7K483

java http缓存

HTTP/1.1中缓存的目的是为了在很多情况下减少发送请求,也即直接返回缓存;同时在许多情况下可以不需要发送完整响应。...缓存如何工作 所有的缓存都用一套规则来帮助他们决定什么时候使用缓存中的副本提供服务(假设有副本可用的情况下);一些规则在协议中有定义(HTTP协议1.0和1.1),一些规则由缓存的管理员设置(浏览器的用户或者代理服务器的管理员...); 一般说来:遵循以下基本的规则(不必担心,你不必知道所有的细节,细节将随后说明) 如果响应头信息:告诉缓存器不要保留缓存缓存器就不会缓存相应内容; 如果请求信息是需要认证或者安全加密的,相应内容也不会被缓存...一个缓存的副本如果含有以下信息:内容将会被认为是足够新的 含有完整的过期时间和寿命控制头信息,并且内容仍在保鲜期内; 浏览器已经使用过缓存副本,并且在一个会话中已经检查过内容的新鲜度; 缓存代理服务器近期内已经使用过缓存副本...; 总之:新鲜度和校验是确定内容是否可用的最重要途径: 如果副本足够新,从缓存中提取就立刻能用了; 而经缓存器校验后发现副本的原件没有变化,系统也会避免将副本内容从源服务器整个重新传输一遍。

1.2K80

Java本地缓存

前言 缓存是计算机系统中一种常见的数据存储技术。它用于临时存储经常访问的数据,以提高系统的性能和响应速度。 在计算机系统中,数据通常存储在较慢的主存(RAM)中。...本地缓存通常由应用程序使用,可以提高应用程序的性能和响应速度。 Map 在Java中,实现本地缓存通常使用key/value形式的数据结构,可以选择使用Map集合来作为存储容器。...Guava Cache(也称为Guava缓存)是Google开源的一个Java库,用于实现本地缓存。它是Guava项目的一部分,是Google对Java集合框架的扩展和增强。...EhCache EhCache 是一个纯Java的进程内缓存框架,具有快速、精干等特点,是Hibernate中默认CacheProvider。...Ehcache是一种广泛使用的开源Java分布式缓存。主要面向通用缓存,Java EE和轻量级容器。

22221

构建远程缓存系统

与之前不同,并没有可用的缓存。 鉴于这种新的行为,我们的远程缓存系统被彻底打破。因为构建性能对我们的客户非常重要,所以我们回滚并停留在Docker 1.9.2上以保留缓存系统。...新的号召 新的缓存系统 鉴于1.11中的更新,显然我们需要设计一个远程缓存系统来依赖保存和加载事件。那些保存的Docker镜像可以远程存储,并在构建开始之前下拉。...透明度 更新我们的缓存系统有很多好处,例如客户不再需要在Codeship构建期间为了缓存而设置私有注册表。...双亲元数据使用新的Docker保存/加载系统持久化的方式有一个很大的问题:整个双亲链需要在docker save命令执行期间保存。 简单地使用docker save cache-test说是不够的。...在这种情况下,cache-test不知道它应该在寻找一个busybox层,因为这个元数据没有被保存。 这有时会导致巨大的镜像。

1.8K60

Java高并发缓存架构,缓存雪崩、缓存穿透之谜

系统该如何应对这种情况?如何处理 redis 的穿透? 面试官心理分析 其实这是问到缓存必问的,因为缓存雪崩和穿透,是缓存最大的两个问题,要么不出现,一旦出现就是致命性的问题,所以面试官一定会问你。...面试题剖析 缓存雪崩 对于系统 A,假设每天高峰期每秒 5000 个请求,本来缓存在高峰期可以扛住每秒 4000 个请求,但是缓存机器意外发生了全盘宕机。...用户发送一个请求,系统 A 收到请求后,先查本地 ehcache 缓存,如果没查到再查 redis。...缓存穿透 对于系统A,假设一秒 5000 个请求,结果其中 4000 个请求是黑客发出的恶意攻击。 黑客发出的那 4000 个攻击,缓存中查不到,每次你去数据库里查,也查不到。 举个栗子。...解决方式很简单,每次系统 A 从数据库中只要没查到,就写一个空值到缓存里去,比如 set -999 UNKNOWN。

1.1K40

java缓存技术总结

一、什么是缓存 1、Cache是高速缓冲存储器 一种特殊的存储器子系统,其中复制了频繁使用的数据以利于快速访问 2、凡是位于速度相差较大的两种硬件/软件之间的,用于协调两者数据传输速度差异的结构,均可称之为...Cache 二、缓存的分类 1、基于web应用的系统架构图 2、在系统架构的不同层级之间,为了加快访问速度,都可以存在缓存 操作系统磁盘缓存->减少磁盘机械操作 数据缓存->减少文件系统I/O 应用程序缓存...->减少对数据库的查询 Web服务器缓存->减少应用服务器请求 客户端浏览器缓存->减少对网站的访问 三、操作系统缓存 1、文件系统提供的Disk Cache:操作系统会把经常访问到的文件内容放入到内存当中...1、重要性 数据库通常是企业应用系统最核心的部分 数据库保存的数据量通常非常庞大 数据库查询操作通常很频繁,有时还很复杂 以上原因造成数据库查询会引起非常频繁的磁盘I/O读取操作,迫使CPU挂起等待,...,使用对象缓存将会极大降低Web系统对于数据库的访问请求 良好的设计数据库结构和利用对象缓存,能够提供极高的性能,对象缓存适合OLTP(联机事务处理)应用 2、查询缓存数据库查询结果集进行缓存,类似数据库的

2.2K50

Memcache,Redis,MongoDB(数据缓存系统)方案对比与分析

内存数据库 四、下面重点分析Memcached和Redis两种方案: 4.1 Memcached介绍 Memcached 是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载...3.保持缓存的“新鲜性”,每当数据发生变化的时候(比如,数据有被修改,或被删除的情况下),要同步的更新缓存信息,确保用户不会在缓存取到旧的数据。...4.4 Redis 介绍 Redis是一个key-value存储系统。...5.应用场景: Memcached:动态系统中减轻数据库负载,提升性能;做缓存,适合多读少写,大数据量的情况(如人人网大量查询用户信息、好友信息、文章信息等)。...Redis:适用于对读写效率要求都很高,数据处理业务复杂和对安全性要求较高的系统(如新浪微博的计数和微博发布部分系统,对数据安全性、读写要求都很高)。

1.9K20

Java内存缓存-通过Map定制简单缓存

缓存 在程序中,缓存是一个高速数据存储层,其中存储了数据子集,且通常是短暂性存储,这样日后再次请求此数据时,速度要比访问数据的主存储位置快。通过缓存,可以高效地重用之前检索或计算的数据。...为什么要用缓存 ? 场景 在Java应用中,对于访问频率高,更新少的数据,通常的方案是将这类数据加入缓存中,相对从数据库中读取,读缓存效率会有很大提升。...在集群环境下,常用的分布式缓存有Redis、Memcached等。但在某些业务场景上,可能不需要去搭建一套复杂的分布式缓存系统,在单机环境下,通常是会希望使用内部的缓存(LocalCache)。...方案 基于JSR107规范自研 基于ConcurrentHashMap实现数据缓存 JSR107规范目标 为应用程序提供缓存Java对象的功能。 定义了一套通用的缓存概念和工具。...小例子 使用Map来实现一个简单的缓存功能 MapCacheDemo.java package me.xueyao.cache.java; import java.lang.ref.SoftReference

3.5K41

如何设计缓存系统缓存穿透,缓存击穿,缓存雪崩解决方案分析

前言 设计一个缓存系统,不得不要考虑的问题就是:缓存穿透、缓存击穿与失效时的雪崩效应。...缓存穿透 缓存穿透是指查询一个一定不存在的数据,由于缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了缓存的意义。...解决方案 有很多种方法可以有效地解决缓存穿透问题,最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的bitmap中,一个一定不存在的数据会被 这个bitmap拦截掉,从而避免了对底层存储系统的查询压力...另外也有一个更为简单粗暴的方法(我们采用的就是这种),如果一个查询返回的数据为空(不管是数 据不存在,还是系统故障),我们仍然把这个空结果进行缓存,但它的过期时间会很短,最长不超过五分钟。...大多数系统设计者考虑用加锁或者队列的方式保证缓存的单线 程(进程)写,从而避免失效时大量的并发请求落到底层存储系统上。

86440
领券