魔改Attention大集合

导读

如何对attention进行高效改进？本文盘点了相关论文，并梳理出它们的引用量、代码实现、算法复杂度和关键点，方便对比使用。

前几天逛github刷到一个awesome-fast-attention大列表，整理了一系列关于attention的高效改进文章，包括论文、引用量、源码实现、算法复杂度以及关键亮点。

Github地址：

https://github.com/Separius/awesome-fast-attention

Efficient Attention