爬来爬去（一）：《蚁人2》豆瓣影评爬虫+简单情感分析+词云

量化小白

发布于 2019-08-29 16:26:39

8570

发布于 2019-08-29 16:26:39

文章被收录于专栏：量化小白上分记量化小白上分记量化小白上分记

今天是《蚁人2》国内上映的第19天，作为练手，打算把豆瓣上的短评爬下来作为分析的素材。

然而并没有成功爬到所有的短评，一波三折，最终只爬到了500条，当然这也是豆瓣目前可见的最大数量，本文将细致分析爬虫的整个过程，并对爬到的数据加以分析，蚁小见大。

整篇文章共包含爬和文本分析两部分，因为爬到的数据包含信息较少，所以分析过程相对简单，包含描述统计分析、情感分析和分词词云，主要代码在各部分给出，需要完整代码和爬到的数据请在后台回复"蚁人2爬虫"，可以直接运行。

1. 爬虫部分

首先说明一下目标和工具

软件：python3.6

packages：selenium jieba snownlp wordcloud

后三个是之后文本分析用的。

目标网址：https://movie.douban.com/subject/26636712/comments?status=P

豆瓣上的影评分两种，一种是长篇大论的影评，还有一种是短评，类似上图中，这次爬虫的目标就是上图中红色框线中的短评，信息包括用户名，星级评价，日期，有用数，评论正文，虽说主页显示45576条，但其实可见的只有500条，每页是20条短评，多一条都不给，手动去点，点到25页之后就没有任何信息了。

第一遍直接用selenium去爬只爬到了200条，200条之后就自动停止了，后来检查了半天发现必须登录豆瓣上去才能看到更多的评论，然后又加了登陆的代码，后来尝试过程中登陆的太多又有了验证码，又加了一个手动输入验证码的部分，最终成功爬到了500条，因为之前没有处理过登陆相关的，所以折腾了很长时间，整体过程如下。

登陆

登陆页面是豆瓣主页https://www.douban.com/，并不是我们爬取的网站，所以首先通过selenium模拟登陆之后，再获取蚁人2短评页面进行爬虫。

通过chrome开发者工具获得账户名，密码，验证码的位置，账户名和密码直接输入，验证码获取图片后先存到本地，打开后手动输入，输入之后关掉验证码图片，代码继续执行，就登录成功了，刚开始登的时候不需要验证码。

账户名位置（点开放大）

密码位置（点开放大）

验证码位置（点开放大）

代码如下

def gethtml(url):
    loginurl='https://www.douban.com/'    # 登录页面

    browser = webdriver.PhantomJS()    
    browser.get(loginurl)    # 请求登录页面
    browser.find_element_by_name('form_email').clear()  # 获取用户名输入框，并先清空
    browser.find_element_by_name('form_email').send_keys(u'你的用户名') # 输入用户名
    browser.find_element_by_name('form_password').clear()  # 获取密码框，并清空
    browser.find_element_by_name('form_password').send_keys(u'你的密码') # 输入密码

    # 验证码手动处理,输入后，需要将图片关闭才能继续执行下一步
    captcha_link = browser.find_element_by_id('captcha_image').get_attribute('src')
    urllib.request.urlretrieve(captcha_link,'captcha.jpg')
    Image.open('captcha.jpg').show()
    captcha_code = input('Pls input captcha code:')
    browser.find_element_by_id('captcha_field').send_keys(captcha_code)   

    browser.find_element_by_css_selector('input[class="bn-submit"]').click()
    browser.get(url)
    browser.implicitly_wait(10)
    return(browser)

爬短评

登录之后，转到我们要爬的蚁人2短评页面，爬完一页之后，找到后页的位置click跳转到下一页继续爬，循环一直到最后一页，从开发者工具可以看到，第一页的后页xpath是"//*[@id='paginator']/a"，之后每一页的后页的xpath都是"//*[@id='paginator']/a[3]"，但最后一页的xpath不为这两个，因此可以通过循环的方式，第一页之后，只要"//*[@id='paginator']/a[3]"找得到，就跳转到下一页继续爬，直到找不到为止。

具体爬的时候，用一个dataframe来存所有的信息，一行为一个用户的所有数据，数据位置仍然通过开发者工具获得，细节不再赘述。

代码

def getComment(url):
    i = 1
    AllArticle = pd.DataFrame()
    browser = gethtml(url)
    while True:
        s = browser.find_elements_by_class_name('comment-item')
        articles = pd.DataFrame(s,columns = ['web'])
        articles['uesr'] = articles.web.apply(lambda x:x.find_element_by_tag_name('a').get_attribute('title'))
        articles['comment'] = articles.web.apply(lambda x:x.find_element_by_class_name('short').text)
        articles['star'] = articles.web.apply(lambda x:x.find_element_by_xpath("//*[@id='comments']/div[1]/div[2]/h3/span[2]/span[2]").get_attribute('title'))
        articles['date'] = articles.web.apply(lambda x:x.find_element_by_class_name('comment-time').get_attribute('title'))
        articles['vote'] = articles.web.apply(lambda x:np.int(x.find_element_by_class_name('votes').text))
        del articles['web']
        AllArticle = pd.concat([AllArticle,articles],axis = 0)
        print ('第' + str(i) + '页完成!')

        try:
            if i==1:
                browser.find_element_by_xpath("//*[@id='paginator']/a").click()  
            else:
                browser.find_element_by_xpath("//*[@id='paginator']/a[3]").click()
            browser.implicitly_wait(10)
            time.sleep(3) # 暂停3秒
            i = i + 1
        except:
            AllArticle = AllArticle.reset_index(drop = True)
            return AllArticle
    AllArticle = AllArticle.reset_index(drop = True)
    return AllArticle

调用以上两个函数爬取数据，其实对于豆瓣上别的电影影评，估计稍微改一改也可以爬了

url = 'https://movie.douban.com/subject/26636712/comments?status=P'
result = getComment(url)

最终爬下来的数据大概是这样子

2. 文本分析

描述统计分析

首先看一看拿到的样本中各星级评价的分布情况，None表示没有星级评价。

整体来看，三星四星评价巨多，说明大家对于蚁人2整体评价还不错。

再来看看哪些短评大家最认可，投票数最多

嗯，怎么说呢

初代黄蜂女的扮演者米歇尔·菲佛也成功引起了广大影迷的注意力。

情感分析

情感分析做的比较简单，主要借助于snownlp包，对于评论的情感倾向进行评分，0-1之间，越正面的情感倾向对应的分值越高，不过根据官方说明，这里用到的模型是用购物评价数据训练出来的，用到这里可能误差会有些大，姑且一试吧，感觉效果还可以。

# 情感分析
def sentiment(content):
    s = SnowNLP(str(content))
    return s.sentiments


result['sentiment'] = result.comment.apply(sentiment)

# 负面评价
result.sort(['sentiment'],ascending = True)[:10][['comment','sentiment']]

# 正面评价
result.sort(['sentiment'],ascending = False)[:10][['comment','sentiment']]

先来看看正面评价，sentiment表示情感得分。

恩，看上去正面评价基本都是高星级评分的观众给出的，有理有据，令人信服。再来看看负面评价

分词词云

通过jieba进行分词，根基TF-IDF算法提取关键词，代码及部分关键词如下

texts = ';'.join(result.comment.tolist())
cut_text = " ".join(jieba.cut(texts))
keywords = jieba.analyse.extract_tags(cut_text, topK=500, withWeight=True, allowPOS=('a','e','n','nr','ns'))


ss = pd.DataFrame(keywords,columns = ['词语','重要性'])

fig = plt.axes()
plt.barh(range(len(ss.重要性[:20][::-1])),ss.重要性[:20][::-1],color = 'darkred')
fig.set_yticks(np.arange(len(ss.重要性[:20][::-1])))
fig.set_yticklabels(ss.词语[:20][::-1],fontproperties=font)
fig.set_xlabel('Importance')

alice_mask = np.array(Image.open( "yiren.jpg"))
text_cloud = dict(keywords)
cloud = WordCloud(
        width = 600,height =400,
        font_path="STSONG.TTF",
        # 设置背景色
        background_color='white',

        mask=alice_mask,
        #允许最大词汇
        max_words=500,
        #最大号字体
        max_font_size=150,
        #random_state=777,
   #     colormap = 'Accent_r'
    )



plt.figure(figsize=(12,12))
word_cloud = cloud.generate_from_frequencies(text_cloud)
plt.imshow(word_cloud)
plt.axis('off')
plt.show()

关键词