从大量的IP访问记录中找到访问次数最多的IP

1.内存不受限

一个IP有32bit（4Byte），1GB=10亿，那么在4GB内存的情况下，可以存10亿个IP。用HashMap，边存入IP边维护一个最大次数，这样遍历一遍就可以求出，时间复杂度为O(n)。

2.内存受限

假设我们有1TB的数据，但内存只有4GB，不能将数据全部读入内存做运算。

• 从输入流中读取1TB的数据，将IP地址按模1000运算，相同的模值IP写到同一个文件中。这样就会产生1000个小文件，每个文件大约1GB，且保证了相同的IP一定在同一个文件中。
• 对这1000个文件中的每个文件使用HashMap找到该文件中的最多IP，然后1000个局部极值比较，再求出最值，有点像小组赛晋级然后总决赛。

【Reference】

1. 从1亿个ip中找出访问次数最多的IP http://blog.csdn.net/linmiansheng/article/details/19290879

发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/112603.html原文链接：https://javaforall.cn