初学Redis(2)——用Redis作为Mysql数据库的缓存

http://blog.csdn.net/qtyl1988/article/details/39519951

        用Redis作Mysql数据库缓存,必须解决2个问题。首先,应该确定用何种数据结构存储来自Mysql的数据;在确定数据结构之后,还要考虑用什么标识作为该数据结构的键。

        直观上看,Mysql中的数据都是按表存储的;更微观地看,这些表都是按行存储的。每执行一次select查询,Mysql都会返回一个结果集,这个结果集由若干行组成。所以,一个自然而然的想法就是在Redis中找到一种对应于Mysql行的数据结构。Redis中提供了五种基本数据结构,即字符串(string)、列表(list)、哈希(hash)、集合(set)和有序集合(sorted set)。经过调研,发现适合存储行的数据结构有两种,即string和hash。

        要把Mysql的行数据存入string,首先需要对行数据进行格式化。事实上,结果集的每一行都可以看做若干由字段名和其对应值组成的键值对集合。这种键值对结构很容易让我们想起Json格式。因此,这里选用Json格式作为结果集每一行的格式化模板。根据这一想法,我们可以实现将结果集格式化为若干Json对象,并将Json对象转化为字符串存入Redis的代码:

[cpp] view plaincopy

  1. // 该函数把结果集中的每一行转换为一个Json格式的字符串并存入Redis的STRING结构中,
  2. // STRING键应该包含结果集标识符和STRING编号,形式如“cache.string:123456:1”
  3. string Cache2String(sql::Connection *mysql_connection,  
  4.                     redisContext *redis_connection,  
  5.                     sql::ResultSet *resultset,  
  6. const string &resultset_id, int ttl) {  
  7. if (resultset->rowsCount() == 0) {  
  8. throw runtime_error("FAILURE - no rows");  
  9.   }  
  10. // STRING键的前缀,包含了结果集的标识符
  11.   string prefix("cache.string:" + resultset_id + ":");  
  12.   unsigned int num_row = 1;  // STRING编号,附加于STRING键的末尾,从1开始
  13.   sql::ResultSetMetaData *meta = resultset->getMetaData();  
  14.   unsigned int num_col = meta->getColumnCount();  
  15. // 将结果集中所有行对应的所有STRING键存入该SET,SET键包含了结果集的标识符
  16.   string redis_row_set_key("resultset.string:" + resultset_id);  
  17.   redisReply *reply;  
  18.   string ttlstr;  
  19.   stringstream ttlstream;  
  20.   ttlstream << ttl;  
  21.   ttlstr = ttlstream.str();  
  22.   resultset->beforeFirst();  
  23. // 将结果集中的每一行转为Json格式的字符串,将这些Json字符串存入STRING,
  24. // 每个STRING对应结果集中的一行
  25. while (resultset->next()) {  
  26.     string redis_row_key;  // STRING键名,由前缀和STRING编号组成
  27.     stringstream keystream;  
  28.     keystream << prefix << num_row;  
  29.     redis_row_key = keystream.str();  
  30.     Json::Value row;  
  31. for (int i = 1; i <= num_col; ++i) {  
  32.       string col_label = meta->getColumnLabel(i);  
  33.       string col_value = resultset->getString(col_label);  
  34.       row[col_label] = col_value;  
  35.     }  
  36.     Json::FastWriter writer;  
  37.     string redis_row_value = writer.write(row);  
  38. // 将STRING键及Json格式的对应值对存入Redis
  39.     reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  40. "SET %s %s",  
  41.                                                  redis_row_key.c_str(),   
  42.                                                  redis_row_value.c_str()));  
  43.     freeReplyObject(reply);  
  44. // 将STRING键加入SET中
  45.     reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  46. "SADD %s %s",  
  47.                                                  redis_row_set_key.c_str(),   
  48.                                                  redis_row_key.c_str()));  
  49.     freeReplyObject(reply);  
  50. // 设置STRING的过期时间
  51.     reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  52. "EXPIRE %s %s",  
  53.                                                  redis_row_key.c_str(),   
  54.                                                  ttlstr.c_str()));  
  55.     freeReplyObject(reply);  
  56.     ++num_row;  
  57.   }  
  58. // 设置SET的过期时间
  59.   reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  60. "EXPIRE %s %s",  
  61.                                                redis_row_set_key.c_str(),   
  62.                                                ttlstr.c_str()));  
  63.   freeReplyObject(reply);  
  64. return redis_row_set_key;  // 返回SET键,以便于其他函数获取该SET中的内容
  65. }  

        要把Mysql的行数据存入hash,过程要比把数据存入string直观很多。这是由hash的结构性质决定的——hash本身就是一个键值对集合:一个“父键”下面包含了很多“子键”,每个“子键”都对应一个值。根据前面的分析可知,结果集中的每一行实际上也是键值对集合。用Redis键值对集合表示Mysql键值对集合应该再合适不过了:对于结果集中的某一行,字段对应于hash的“子键”,字段对应的值就是hash“子键”对应的值,即结果集的一行刚好对应一个hash。这一想法的实现代码如下:

[cpp] view plaincopy

  1. // 该函数把结果集中的每一行都存入一个HASH结构。HASH键应当包括结果集标识符和HASH编号,
  2. // 形如“cache.string:123456:1”
  3. string Cache2Hash(sql::Connection *mysql_connection,  
  4.                   redisContext *redis_connection,  
  5.                   sql::ResultSet *resultset,  
  6. const string &resultset_id, int ttl) {  
  7. if (resultset->rowsCount() == 0) {  
  8. throw runtime_error("FAILURE - no rows");  
  9.   }  
  10. // HASH键的前缀,包含了结果集的标识符
  11.   string prefix("cache.hash:" + resultset_id + ":");  
  12.   unsigned int num_row = 1;  // HASH编号,附加于HASH键的末尾,从1开始
  13.   sql::ResultSetMetaData *meta = resultset->getMetaData();  
  14.   unsigned int num_col = meta->getColumnCount();  
  15. // 将结果集中所有行对应的所有HASH键存入该SET,SET键包含了结果集的标识符
  16.   string redis_row_set_key("resultset.hash:" + resultset_id);  
  17.   redisReply *reply;  
  18.   string ttlstr;  
  19.   stringstream ttlstream;  
  20.   ttlstream << ttl;  
  21.   ttlstr = ttlstream.str();  
  22. // 结果集中的每一行对应于一个HASH,将结果集的所有行都存入相应HASH中
  23.   resultset->beforeFirst();  
  24. while (resultset->next()) {  
  25.     string redis_row_key;  // HASH键名,由前缀和HASH编号组成
  26.     stringstream keystream;  
  27.     keystream << prefix << num_row;  
  28.     redis_row_key = keystream.str();  
  29. for (int i = 1; i <= num_col; ++i) {  
  30.       string col_label = meta->getColumnLabel(i);  
  31.       string col_value = resultset->getString(col_label);  
  32. // 将结果集中一行的字段名和对应值存入HASH
  33.       reply = static_cast<redisReply*>(redisCommand(redis_connection,  
  34. "HSET %s %s %s",  
  35.                                                    redis_row_key.c_str(),   
  36.                                                    col_label.c_str(),  
  37.                                                    col_value.c_str()));  
  38.       freeReplyObject(reply);  
  39.     }  
  40. // 将HASH键加入SET中
  41.     reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  42. "SADD %s %s",  
  43.                                                  redis_row_set_key.c_str(),   
  44.                                                  redis_row_key.c_str()));   
  45.     freeReplyObject(reply);  
  46. // 设置HASH的过期时间
  47.     reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  48. "EXPIRE %s %s",  
  49.                                                  redis_row_key.c_str(),   
  50.                                                  ttlstr.c_str()));  
  51.     freeReplyObject(reply);  
  52.     ++num_row;  
  53.   }  
  54. // 设置SET的过期时间
  55.   reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  56. "EXPIRE %s %s",  
  57.                                                redis_row_set_key.c_str(),   
  58.                                                ttlstr.c_str()));  
  59.   freeReplyObject(reply);  
  60. return redis_row_set_key;  // 返回SET键,以便于其他函数获取该SET中的内容
  61. }  

        至此,我们已经给出了两种存储Mysql结果集的方案,这就是我们在篇首提出的第一个问题,即选择何种数据结构存储Mysql结果集的答案。下一篇文章将研究第二个问题,即数据结构键的标识符选择问题。

        把Mysql结果集缓存到Redis的字符串或哈希结构中以后,我们面临一个新的问题,即如何为这些字符串或哈希命名,也就是如何确定它们的键。因为这些数据结构所对应的行都属于某个结果集,假如可以找到一种唯一标识结果集的方法,那么只需为这些数据结构分配一个唯一的序号,然后把结果集标识符与该序号结合起来,就能唯一标识一个数据结构了。于是,为字符串和哈希命名的问题就转化为确定结果集标识符的问题。

        经过调研,发现一种较为通用的确定结果集标识符的方法。正如我们所知道的,缓存在Redis中的结果集数据都是利用select等sql语句从Mysql中获取的。同样的查询语句会生成同样的结果集(这里暂时不讨论结果集中每条记录的顺序问题),这一性质刚好可以用来确定结果集的唯一标识符。当然,简单地把整个sql语句作为结果集标识符是不可取的,一个显而易见的理由是,未经处理的sql查询语句均包含若干空格,而Redis的键是不允许存在空格的。这时,我们需要一个可以把sql语句转换为唯一标识符的函数。通常,这一功能由散列函数完成,包括MD5,SHA系列等加密散列函数在内的很多算法均可达到这一目的。

        确定结果集标识符之后,从Redis读数据或向Redis写数据的思路就很清晰了。对于一个sql语句格式的数据请求,首先计算该语句的MD5并据此得到结果集标识符,然后利用该标识符在Redis中查找该结果集。注意,结果集中的每一行都有一个相应的键,这些键都存储在一个Redis集合结构中。这个集合恰好对应了所需的结果集,所以,该集合的键必须包含结果集标识符。如果Redis中不存在这样一个集合,说明要找的结果集不在Redis中,所以需要执行相应的sql语句,在Mysql中查询到相应的结果集,然后按照上面所说的办法把结果集中的每一行以字符串或哈希的形式存入Redis。在Redis中查找相应结果集的代码如下:

[cpp] view plaincopy

  1. // 该函数根据sql语句在Redis中查询相应的结果集,并返回结果集中每一行所对应的数据结构的键
  2. vector<string> GetCache(sql::Connection *mysql_connection,  
  3.                       redisContext *redis_connection,  
  4. const string &sql, int ttl, int type) {  
  5.   vector<string> redis_row_key_vector;  
  6.   string resultset_id = md5(sql);  // 计算sql语句的md5,这是唯一标识结果集的关键
  7. // type==1时,该函数将查询相应的STRING集合或将结果集写入若干STRING
  8.   string cache_type = (type == 1) ? "string" : "hash";  
  9. // 根据type信息和结果集标识符合成SET键
  10.   string redis_row_set_key = "resultset." + cache_type + ":" + resultset_id;  
  11.   redisReply *reply;  
  12. // 尝试从reply中获取SET中保存的所有键
  13.   reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  14. "SMEMBERS %s",  
  15.                                                redis_row_set_key.c_str()));  
  16. if (reply->type == REDIS_REPLY_ARRAY) {  
  17. // 如果要找的SET不存在,说明Redis中没有相应的结果集,需要调用Cache2String或
  18. // Cache2Hash函数把数据从Mysql拉取到Redis中
  19. if (reply->elements == 0) {  
  20.       freeReplyObject(reply);  
  21.       sql::Statement *stmt = mysql_connection->createStatement();  
  22.       sql::ResultSet *resultset = stmt->executeQuery(sql);  
  23. if (type == 1) {  
  24.         redis_row_set_key = Cache2String(mysql_connection, redis_connection,  
  25.                                          resultset, resultset_id, ttl);  
  26.       } else {  
  27.         redis_row_set_key = Cache2Hash(mysql_connection, redis_connection,   
  28.                                        resultset, resultset_id, ttl);  
  29.       }  
  30. // 再次尝试从reply中获取SET中保存的所有键
  31.       reply = static_cast<redisReply*>(redisCommand(redis_connection,   
  32. "SMEMBERS %s",  
  33.                                                    redis_row_set_key.c_str()));  
  34. delete resultset;  
  35. delete stmt;  
  36.     }  
  37. // 把SET中的每个STRING或HASH键存入redis_row_key_vector中
  38.     string redis_row_key;  
  39. for (int i = 0; i < reply->elements; ++i) {  
  40.       redis_row_key = reply->element[i]->str;  
  41.       redis_row_key_vector.push_back(redis_row_key);  
  42.     }  
  43.     freeReplyObject(reply);  
  44.   } else {  
  45.     freeReplyObject(reply);  
  46. throw runtime_error("FAILURE - SMEMBERS error");  
  47.   }  
  48. return redis_row_key_vector;  
  49. }  

        现在我们已经掌握了确定Redis中的结果集标识符以及各数据结构的键的方法。下一篇文章将研究结果集在Redis中的排序和分页问题。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Golang语言社区

go语言的sql包原理与用法分析

本文实例讲述了go语言的sql包原理与用法。分享给大家供大家参考,具体如下: go的sql包是在pkg/database中,里面的两个包sql和sql/driv...

4436
来自专栏技术博客

Entity Framework DataAnnotations

DataAnnotation 特性由.NET 3.5中引进,给.NET中的类提供了一种添加验证的方式。但是在EF中它又可以对映射关系进行控制,相比较Fluent...

833
来自专栏大数据和云计算技术

Spring+Mybatis+Maven+Mysql编程实战

image.png 封面是Niagara Falls,世界第一大瀑布。 概述 这篇文章主要讲解使用eclipse对Spring+Maven+Mybatis+My...

3126
来自专栏PHP在线

mysql学习笔记

InnoDB引擎与MyISAM引擎 mysql是关系型数据库。其中的存储引擎可以show engines来查看。我的版本是5.6.26的,查看版本用selec...

2845
来自专栏机器学习从入门到成神

Java知识点总结

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/sinat_35512245/articl...

1471
来自专栏Java帮帮-微信公众号-技术文章全总结

第二十九天-加强1-Junit&类加载&反射&Properties&BeanUtils&xml&动态代理&数据库【悟空教程】

第二十九天-加强1-Junit&类加载&反射&Properties&BeanUtils&xml&动态代理&数据库【悟空教程】

1787
来自专栏Golang语言社区

go语言的sql包原理与用法分析

go的sql包是在pkg/database中,里面的两个包sql和sql/driver可以一起看。建议看这个两个包之前可以先看看sql文件夹下的doc.txt。...

2984
来自专栏农夫安全

注入学习之sqli-labs-6(第五次)

前言 上一次课讲解的是sql基于布尔型盲注,紧接着这节讲基于时间的盲注 布尔型盲注,是在我们判断网站是否存在注入的时候,网页不会暴漏错误信息,但会返回正确的页面...

3716
来自专栏跟着阿笨一起玩NET

【C#】Entity Framework 增删改查和事务操作

  方法二:方法一中每次都需要对所有字段进行修改,效率低,而且麻烦,下面介绍修改部分字段

881
来自专栏*坤的Blog

自写文件小工具类

1663

扫码关注云+社区