网站海量数据和高并发解决方案(一)

现在无论是企业的业务系统还是互联网上的网站程序都面临着数据量大的问题,这个问题如果解决不好将严重的影响系统的运行速度,下面就针对这个问题的各种解决解决方案进行介绍。

1. 缓存和页面静态化

1.1 缓存

数据量大这个问题最直接的解决方案就是使用缓存,缓存就是将数据库中获取的结果暂时保存起来在,在下次使用的时候无需从数据库中提取,这样可以大大降低数据库压力。常用的缓存框架有Ehcache、Memcache 和 Redis等。

不过缓存也不是什么情况都适用,它主要用于数据变化不是很频繁的情况。而且如果是定期失效(数据修改时不失效)的失效机制,实时性要求也不能太高,因为这样缓存中的数据和真实数据可能会不一致。

2.1 页面静态化

页面静态化是将程序最后生成的页面保存起来,以后就不用每次都调用重新生成页面了。页面静态化同时对数据量大和并发量高两大问题都有好处。

页面静态化可以在程序中使用模版技术生成,如常用的Freemarker 和 Velocity 都可以根据模版生成静态页面。另外也可以使用缓存服务器在应用服务器的上一层生成页面,如可以使用Squid,另外Nginx 也提供了响应的功能。

2. 数据库优化

要解决数据量大的问题,是避不开数据库优化的。数据库优化是不增加硬件的情况下提高处理效率,是一种用技术换金钱的方式。以下是常用的数据库优化方法。

2.1 表结构优化

表结构优化是数据库中最基础也是最重要的,如果表结构优化得不合理,就可能导致严重的性能问题,具体怎么设计更合理也没有固定不变的准则,需要根据实际情况具体处理。

2.2 SQL 语句优化

sql语句优化也是非常重要的,基础的sql 优化是语法层面的优化,不过更重要的是处理逻辑的优化,这也需要根据实际情况具体处理,而且要和索引缓存等配合食用。sql 优化有一个通用的做法就是,首先要将涉及大数据业务的sql 语句,通过仔细分析日志信息,和不同条件的执行时间,找出需要优化的语句和其中的问题,然后再有的放矢地优化。而不是不分重点的对每条语句都花同样的事件和精力优化。

2.3 分区

当一张表中的数据量变多的时候操作速度就变慢了,容易想到的解决方法就是分表,但是分表操作起来就比较麻烦。其实在常用数据库中可以不分表而达到跟分表类似的效果,那就是分区。

分区就是将一张表中的数据按照一定的规则分到不同的区进行保存,在查询数据时如果范围在同一个区内哪么可以只对一个区的数据进行操作。这样操作的数据量更少,速度更快。

2.4 分表

如果一张表中的数据可以分为几种固定不变的类型,而且如果同时对多种类型共同操作的情况不多,哪么都可以通过分表来处理。

分表方法分为两种,横切 和纵切。

横切:

假设数据库表中的数据有三个状态,处理、解决、关闭。由于数据量非常的大所以就可以将数据分别存在三个表中。第一个表中保存处理状态的数据,第二个表保存 解决状态的数据,第三个表保存关闭状态的数据,并且对每个表进行分区。由于报表一般都是按月份、季度、半年、和年来做的,所以分区也按月份,每一个月做一个分区。这样就可以大大的提高处理和统计速度哦

竖切:

如果一个表的操作频率很高们在增删改其中一部分字段数据的同时另一部分字段也可能被操作,而且(主要指查询)用不到被增删改的字段,哪么就可以吧不同类型的地段分别保存到不同的表中,这样可以减少操作时锁定数据的范围。不过这样分表后需要查询完整数据就得多表操作了。

2.5 索引优化

索引的大致原理是在数据发生变化(增删改)的时候就预先指定字段排序后保存到一个类似表的结构中,这样在查询索引字段为条件的记录时就可以很快的从索引中找到对应记录的指针并从表中获取到记录,这样速度就快多了。不过索引也是一把双刃剑,它在提高查询速度的同时也降低了增删改查的速度,因为每次数据的表话都需要更新相应的索引。

2.6 使用存储过程代替操作

在操作过程复杂而且调用频率高的业务中,可以通过使用存储过程代替直接操作来提高效率,因为存储过程主需要编译一次,而且可以在一个存储过程里面做一些复杂的操作。

3. 分离活跃数据

有些数据总数据量非常大,但是活跃数据并不多,这种情况就可以将活跃数据单独保存起来从而提高处理效率。

比如说网站的用户,将经常登录的一部分活跃用户信息存在一张表,将不活跃的用户存在另外一张表。(可以跑一个定时任务将不经常登录的用户转移到不活跃用户表)当用户登录时先从活跃用户的表中查询。查询不到后再去不活跃用户的表中查询。这样就可以提高查询的效率。

4. 批量读取和延迟修改

批量读取和延迟修改的原理是通过减少操作的次数来提高效率,如果使用的恰当,效率将呈数量级提升。

批量读取是将多次的查询合并到一次中进行。 延迟修改主要针对高并发而且频繁修改(包括新增)的数据,如一些统计数据。可以先将需要修改的数据暂时保存到缓存中,然后定时将缓存中的数据保存到数据库中,程序读取数据可以同时读取数据库中的数据和缓存的数据。(这种方式下如果保存缓存的机器出现了故障可能会丢失数据。)所以如果是重要数据就需要做一些特殊处理。

5. 读写分离

读写分离的本质是对数据库进行集群,这样就可以在高并发的情况下将数据库的操作分配到多个数据库服务器去处理从而降低了单台服务器的压力。不过由于数据库的特殊性--每台服务器所保存的数据都需要一致,所以数据同步就成了数据库集群中最核心的问题了。

一般的解决方案是:将写操作交给专门的一台服务器,这台专门负责写操作的服务器叫做主服务器。当主服务器写入(增删改)数据后从底层同步到别的服务器(从服务器),读取数据的时候到从服务器读取,从服务器可以有多台,这样就可以实现读写分离了。并且将请求分配到多个服务器处理。如果从服务器太多,主服务器同步数据时,先同步到一部分从服务器,同步过数据的从服务器再将数据同步到另外一部分没有同步数据的从服务器。

简单的数据同步方式可以采用数据库的热备份功能,不过读取到的数据可能会存在一定的滞后性。既然是集群就会涉及到负载均衡问题,负载均衡和读写分离操作一般采用专门的程序处理,而且对应用系统来说是透明的。

6. 分布式数据库

分布式数据库是将不同的表放到不同的数据库中然后放到不同的服务器。这样需要调用多个表,则可以让多台服务器同时处理,从而提高处理速度。

分布式数据库是解决单个请求本身就非常复杂的问题,它可以将单个请求分配到多个服务器,使用分布式后的每个节点还可以同时使用读写分离,从来组成多个节群。

使用分布式数据库有很多的问题需要解决,如分布式事务处理、多表查询等。

分布式的另外一种使用思路是将不同的业务数据表保存到不同的节点,让不同的业务调用不同的数据库,这样的做法其实就是和集群一样起分流作用,不过这种做法就不用同步数据了。

7. Nosql 和 hadoop

Nosql 是近年来发展非常迅速的一项技术,他的核心是非结构化。Nosql 通过多个块存储数据,操作大数据的速度非常快。 关于Hadoop 请看:

hadoop 初识

出处:http://blog.csdn.net/u012373815/article/details/66577549

版权申明:内容来源网络,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知,我们会立即删除并表示歉意。谢谢。

原文发布于微信公众号 - IT技术精选文摘(ITHK01)

原文发表时间:2017-06-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

分享 java缓存技术详解

一、缓存是什么? Cache 高速缓冲存储器,其中复制了频繁使用的数据以利于快速访问。 位于速度相差较大的两种硬件/软件之间,用于协调两者数据传输速度差异的结构...

42790
来自专栏java一日一条

Java 开发必须掌握的线上问题排查命令

作为一个合格的开发人员,不仅要能写得一手还代码,还有一项很重要的技能就是排查问题。这里提到的排查问题不仅仅是在coding的过程中debug等,还包括的就是线上...

17130
来自专栏后端云

Openstack两个容易混淆的概念

az是在region范围内的再次切分,只是工程上的独立,例如可以把一个机架上的机器划分在一个az中,划分az是为了提高容灾性和提供廉价的隔离服务。选择不同的re...

33740
来自专栏编程一生

漫画:性能、可用性和锁

15640
来自专栏北京马哥教育

让你的Git水平更上一层楼的10个小贴士

最近,我们发表了关于Git基础知识和在团队中使用Git的教程。我们之前讨论的那些命令,已经足够让帮助一个开发者在Git世界里生存了。本篇文章,我们将尝试探索如何...

32250
来自专栏Android群英传

Xposed加载JNI库

20310
来自专栏IT技术精选文摘

有赞MySQL自动化运维之路—ZanDB

一、前言 在互联网时代,业务规模常常出现爆发式的增长。快速的实例交付,数据库优化以及备份管理等任务都对DBA产生了更高的要求,单纯的凭借记忆力去管理那几十套DB...

31780
来自专栏我是攻城师

从App的角度看进程和线程

在现在人人都有一部手机或电脑的年代,我们几乎天天都在使用各种app,如微信,QQ,抖音,优酷等等软件,表面上我们是与各种app交互,但如果站在操作系统的角度来看...

7220
来自专栏蘑菇先生的技术笔记

Redis高可用分布式内部交流(九)

37670
来自专栏python3

python 软件目录结构规范

"设计项目目录结构",就和"代码编码风格"一样,属于个人风格问题。对于这种风格上的规范,一直都存在两种态度:

1.9K10

扫码关注云+社区

领取腾讯云代金券