LRU Cache
1. 什么是LRU Cache
LRU是Least Recently Used的缩写，意思是最近最少使用，它是一种Cache替换算法。 什么是Cache？ 狭义的Cache指的是位于CPU和主存间的快速RAM， 通常它不像系统主存那样使用DRAM技术，而使用昂贵但较快速的SRAM技术。 广义上的Cache指的是位于速度相差较大的两种硬件之间， 用于协调两者数据传输速度差异的结构。除了CPU与主存之间有Cache， 内存与硬盘之间也有Cache，乃至在硬盘与网络之间也有某种意义上的Cache── 称为Internet临时文件夹或网络内容缓存等。
而Cache的容量有限，那如果cache满了怎么办？ 当Cache的容量用完后，而又有新的内容需要添加进来时， 就需要挑选并舍弃原有的部分内容，从而腾出空间来放新内容。 那应该选取那一部分的内容和新内容进行替换呢？这就涉及到cache的替换算法，而LRU Cache就是cache替换算法中的一种！ LRU Cache 的替换原则就是将最近最少使用的内容替换掉。其实，LRU译成最久未使用会更形象， 因为该算法每次替换掉的就是一段时间内最久没有使用过的内容。
2. LRU Cache的实现
那要实现一个LRU Cache其实并不难，方法和思路有很多；但是想要实现一个高效（所有操作都是O(1) ）的LRU Cache是有难度的
实现LRU Cache的方法和思路很多，但是要保持高效实现O(1)的put和get，那么使用双向链表和哈希表的搭配是最高效和经典的。 使用双向链表是因为双向链表可以实现任意位置O(1)的插入和删除，使用哈希表是因为哈希表的增删查改也是O(1)。
那具体到底应该应该怎么做呢？
下面我们借助LeetCode上的一道OJ来给大家进行一个详细的讲解。
3. LRU Cache的OJ
题目链接: link
我们来看一下题目：
大家可以自己先看一下题目，我们看到题目中要求函数 get 和 put 必须以 O(1) 的平均时间复杂度运行。
那我们来分析一下要如何实现
题目分析
题目要求我们实现一个满足 LRU (最近最少使用) 缓存 约束的数据结构。 这个 LRUCache 类的要求是这样的：
那我们要如何实现呢？
其实分析完题目我们很容易能想到用哈希表，那当然C++里面我们就用unordered_map去搞，那这样的话get函数（其实就是查找嘛）就能达到O(1)；然后put呢，put也是要查找嘛，找到就更新，找不到就插入。那这样就也是O(1)。 但是呢我们真正还要考虑还有——如果插入操作导致关键字数量超过 capacity ，我们此时就要进行LRU替换，则应该 逐出 最久未使用的关键字。 那我们要如何实现LRU的替换呢？满的话应该逐出谁啊？如何找到最久未被使用的那个呢？
🆗，那上面也提到了，使用双向链表和哈希表的搭配是最高效和经典的：
我们再搞一个list（list底层就是带头双向循环链表），让它里面也存储数据（相当于数据存储两份），然后我们可以默认认为尾部的那个元素就是最近最少用（最久未被使用）的（按头部实现也可）。 然后如果有新插入的元素或者被访问（get一个已有的值）的元素我就把它移到链表头部。 这样我们需要替换的时候，那么链表尾部的那个就是最久未被使用的那个。
但是呢？
如果我们就这样设计的话，还存在一个问题。 就是更新的时候其实复杂度是O(N)。 为什么呢？ 更新的情况就是调用put先在哈希表里面查找到key是已存在的，那然后我们要修改，哈希表里面我找到这个就可以直接修改。 但是，在list里面我们是不是也要修改啊，因为我们替换的时候找最久未被使用的那个值就是要从list里面找呢。 但是要修改list的话我们知不知道当前要修改的这个元素是list里面的哪一个元素？ 是不知道的，所以还得遍历list去找。找到之后更新一下，然后把它移到头部去，更新顺序。 那这里遍历查找的话不就是O(N)了嘛。
那这个问题我们如何解决一下呢？
如何做到在哈希表里面找到这个key之后，就直接能获取到他在list中的位置，而不需要去遍历查找呢？
那这里有一个非常巧的设计是这样来解决的：
还是list和unordered_map搭配。 list里面呢还是存key-value的键值对pair。然后哈希表里面key还是要存的，但是不再像上面写的那样直接存key对应的数据value，而是存这个key对应的元素在list里面的对应的迭代器。（那这样真正的数据就只存在list里面）
那这样的话如果更新的话，首先我们在哈希表里面找到key，然后通过它里面存的该元素在list中的迭代器，就可以直接修改list里面存放的数据。
然后再把它放到链表头部（两种方法，后面会提到）。
当然list<pair<int,int>>::iterator这个类型比较长，我们也可以typedef一下
那下面我们来尝试写一下代码：
AC代码
那首先我们应该还要再增加一个成员变量：
即cache的容量capactity，因为有时候我们还需要判断cache满不满。
然后我们来逐一实现一下它的3个成员函数：
首先是它的构造函数LRUCache：
那这个很简单，就是初始化一下capacity就行了。 剩下两个成员变量是自定义类型，有默认构造。
那然后是get函数：
get呢也很简单，就是通过key判断在不在嘛。 如果在的话，就返回key对应的值；如果不在，返回-1。 那我们就可以直接调用unordered_map的find函数，根据find的返回结果判断，如果找到了，我们要返回什么呢？
🆗，首先这里的ret是啥啊，这里find返回的是迭代器，找到的话返回的就是key对应的这个元素的迭代器。 那我们要返回这个key对应的那个有效的值，那真正的数据是存在list里面的。 我们通过谁可以找到list里面存储的这个key对应的元素呢？ 🆗，现在unordered_map里面的value存的是list里面这个key对应元素的迭代器（有点绕了这里😂）。
所以ret->second就是list里面这个元素的迭代器，但是我们想要拿到的是这个元素的key对应的值，即ret->second->second，这里要取两次second。
🆗，那这样就完了嘛？
还没有。 如果get的时候成功找到了这个数据，那相当于访问了它，那cache里面存储数据的顺序是不是就要调整了。是不是要把这个刚被访问的元素放到链表头部啊。
那如何在list里面调整这个顺序呢？我们上面提到有两种方式：
首先第一种方法我们可以先把这个元素删除掉，然后在头插到头部。 但是这样的话记得还要更新一下unordered_map里面存的对应的那个迭代器，因为删完之后这个迭代器就失效了。之前的文章我们模拟实现过list，我们知道list的迭代器其实就是对结点指针的封装嘛，这个结点删除的话它这个结点指针指向的空间就释放了。 所以这种方法好像有点麻烦。 那我就可以考虑用另外一种——直接调用list的
splice接口转移结点。 那splice 这个函数其实我们之前也有提到过
它可以把一个链表的一部分转移到另一个链表（当然也可以是同一个链表直接进行转移） 所以我们就可以直接调用splice将这个结点转移到list的头部。
那最后就剩下put：
那put的话呢无非就两种操作 如果关键字 key 已经存在，则变更其数据值 value ；如果不存在，则向缓存中插入该组 key-value 。 当然插入的时候需要判断： 如果插入操作导致关键字数量超过 capacity ，则应该 逐出 最久未使用的关键字，然后插入新值。 另外不论是插入还是更新，都应该把插入或更新的值放到链表头部。
那我们来写一下代码：
🆗，那到这里就完事了。
我们来提交一下：
没有问题！
完整代码：
class LRUCache {
public:
LRUCache(int capacity)
:_capacity(capacity)
{}
int get(int key) {
auto ret=_hashmap.find(key);
if(ret!=_hashmap.end())
{
LtIter it=ret->second;
//将it对应的结点转移到链表头部
_LRUList.splice(_LRUList.begin(),_LRUList,it);
return it->second;
}
return -1;
}
void put(int key, int value) {
auto ret=_hashmap.find(key);
//如果找到，更新值
if(ret!=_hashmap.end())
{
LtIter it=ret->second;
it->second=value;
//将it对应的结点转移到链表头部
_LRUList.splice(_LRUList.begin(),_LRUList,it);
}
else//找不到，插入
{
//如果满了需要先删除最久未使用的值
if(_capacity==_hashmap.size())
{
pair<int,int> back=_LRUList.back();
_hashmap.erase(back.first);
_LRUList.pop_back();
}
//插入
_LRUList.push_front(make_pair(key,value));
_hashmap[key]=_LRUList.begin();
}
}
private:
typedef list<pair<int,int>>::iterator LtIter;
//hash做到查找更新/插入是O(1)
unordered_map<int, LtIter> _hashmap;
//LRU 默认链表尾部的是最久未被使用的
list<pair<int, int>> _LRUList;
size_t _capacity;
};那我们这篇文章就到这里…