用 Python 爬了猫眼3000+《指环王》影评，看看20年前的魔幻电影鼻祖在当下影迷眼中的样子

周萝卜

发布于 2021-07-14 15:56:53

2820

发布于 2021-07-14 15:56:53

文章被收录于专栏：萝卜大杂烩萝卜大杂烩

指环王三部曲，可以说是魔幻电影的开山鼻祖，二十年前的特效下，森林、大山、魔王、高塔，城堡等等都栩栩如生的呈现在我们眼前。虽然这次重映，票房不高，也因为电影时长等原因被各种诟病，但是还是不影响魔戒迷们冲进电影院，来弥补二十年的遗憾！

本文获取了猫眼上三部曲的全部影评，一起来看看大陆影迷对于这系列“老”片的评价吧

数据获取

我们先来看看爬取数据的部分代码，由于猫眼采取了一定的反爬措施，一个比较重的措施就是对于请求中 header 的 UA 数值的校验，所以我们这里使用了 Python 第三方库中比较好用的生成随机 UA 的库 fake_useragent

from fake_useragent import UserAgent

ua = UserAgent()

接下来我们就可以根据评论的接口来获取数据了

def fire(num):
    page = 0
    for i in range(15, 135, 15):
        print("开始爬取第 %s 页" % page)
        headers["User-Agent"] = ua.random
        url1 = 'http://m.maoyan.com/review/v2/comments.json?movieId=1220&offset={}&limit=15&type=2'.format(
            i)  # rings 1
        url2 = 'http://m.maoyan.com/review/v2/comments.json?movieId=1221&offset={}&limit=15&type=2'.format(
            i)  # rings 2
        url3 = 'http://m.maoyan.com/review/v2/comments.json?movieId=428&offset={}&limit=15&type=2'.format(
            i)  # rings 3
        try:
            if num == 1:
                print(url1)
                res = requests.get(url1, headers=headers).json()
            elif num == 2:
                print(url2)
                res = requests.get(url2, headers=headers).json()
            else:
                print(url3)
                res = requests.get(url3, headers=headers).json()
        except Exception as e:
            print(e)
            time.sleep(120)
            # continue
        # if not to_json['paging']['hasMore']:
        if not res['paging']['hasMore']:
            print("爬取完成")
            # driver.close()
            break
        data = get_json(res)
        # data = get_json(to_json)
        save_to_csv(data, num)
        time.sleep(20)
        page += 1

这里还是进行了比较长的 sleep，毕竟如果请求发送的太快，我们的 IP 还是很容易被识别的

获取到数据之后，我们就来看看每一部电影的相关数据吧