python盘点:知乎沙雕问题排行榜

前言

这两天偶然上网的时候,被知乎上一个名为“玉皇大帝住在平流层还是对流层”的问题吸引,本以为只是小打小闹,殊不知这个问题却在知乎上引发了强烈共鸣,浏览次数500W+,7000+关注:

于是乎就激发了去探索知乎上“沙雕”问题的想法,也参照了shenzhongqiang强哥之前的知乎神回复文章,通过Python爬取这些问题的内容,浏览次数,关注人数,总结一份权威(搞笑)的“沙雕”问题排行榜

数据来源

知乎非常“贴心”地专门有一个问题可以满足我们的需求,出人意料的是这个问题居然有243个回答,并且陶飞同学获得了3W+的赞同

我们从中爬取了所有回答中出现的问题链接,共用400多个问题,其中陶飞就提供了200+,在此向陶飞同学表示感谢,帮助我们构建了“沙雕数据库”,这部分代码如下:

import re
import selenium
from selenium import webdriver
import requests
from bs4 import BeautifulSoup
import pandas as pd
import time

driver = webdriver.Chrome()
driver.maximize_window()

url = 'https://www.zhihu.com/question/37453271'
js='window.open("'+url+'")'
driver.execute_script(js)
driver.close()
driver.switch_to_window(driver.window_handles[0])
for i in range(100):
     js="var q=document.documentElement.scrollTop=10000000"  
     driver.execute_script(js)

all_html = [k.get_property('innerHTML') for k in driver.find_elements_by_class_name('AnswerItem')]
all_text = ''.join(all_html)

#all_text = all_text.replace('\u002F','/')
all_text = all_text.replace('questions','question')
pat = 'question/\d+'
questions = list(set([k for k in re.findall(pat,all_text)]))

获得到了问题的对应的编号后,就可以去各自的页面获取各个问题对应的的标题、浏览数等信息,如下图所示:

这部分代码如下:

header = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win32; x32; rv:54.0) Gecko/20100101 Firefox/54.0','Connection': 'keep-alive'}
cookies ='v=3; iuuid=1A6E888B4A4B29B16FBA1299108DBE9CDCB327A9713C232B36E4DB4FF222CF03; webp=true; ci=1%2C%E5%8C%97%E4%BA%AC; __guid=26581345.3954606544145667000.1530879049181.8303; _lxsdk_cuid=1646f808301c8-0a4e19f5421593-5d4e211f-100200-1646f808302c8; _lxsdk=1A6E888B4A4B29B16FBA1299108DBE9CDCB327A9713C232B36E4DB4FF222CF03; monitor_count=1; _lxsdk_s=16472ee89ec-de2-f91-ed0%7C%7C5; __mta=189118996.1530879050545.1530936763555.1530937843742.18'
cookie = {}
for line in cookies.split(';'):
    name, value = cookies.strip().split('=', 1)
    cookie[name] = value

questions_df = pd.DataFrame(columns = ['title','visit','follower','answer','is_open'])

for i in range(len(questions)):
    try:
        url = 'https://www.zhihu.com/'+questions[i]
        html = requests.get(url,cookies=cookie, headers=header).content
        bsObj = BeautifulSoup(html.decode('utf-8'),"html.parser")
        text = str(bsObj)
        title = bsObj.find('h1',attrs={'class':'QuestionHeader-title'}).text
        visit = int(re.findall('"visitCount":\d+',text)[0].replace('"visitCount":',''))
        follower = int(re.findall('"followerCount":\d+',text)[0].replace('"followerCount":',''))
        answer = int(re.findall('"answerCount":\d+',text)[0].replace('"answerCount":',''))
        is_open = int(len(re.findall('问题已关闭',text))==0)
        questions_df = questions_df.append({'title':title,'visit':visit,
                                            'follower':follower,'answer':answer,
                                            'is_open':is_open},ignore_index=True)
        time.sleep(2)
        print(i)
    except:
        print('错误'+str(i))

数据分析

在分享出最终的“沙雕排行榜”前,我们首先严肃认真(lixinggongshi)的进行一波分析,主要看一下问题中的关键词,首先是所有词云的词云:

看来这些问题大多是源自于大家对于人生的探索,否则“为什么”,“如果”,“怎么办”也不会出现那么多,出人意料的是“体验”这个知乎专属tag居然并不多,可能是出于对知乎的尊重,和“体验”相关的问题都不会问得那么“沙雕”。

下面把这些助词去掉,再来看下结果:

这个图看来,读者关注的问题还是很极端,一方面在关注男女朋友“你冷酷、你无情、你无理取闹”这种问题,另一方面却在关注宇宙、地球这种关乎全人类的问题,很符合知乎“人均985,各个过百万”的人设。

这两个图实际上都是基于一个表情,不知道有没有看出来:

好吧,其实看不出来才是正常,能看出来的可能现在去知乎提个问题,下期就会上榜

,最后把部分问题做出词云:

不知道大家能不能看清,说实话我自己是看不清的,也没准备让大家看清

,目的就是引出下面真正的排行榜

沙雕问题排行榜

通过综合问题观看数,关注数,回答数,关注占比,回答占比,综合得到分数的流量指数和新奇指数,最终获得一个整体的分数,如下图所示:

听起来是不是很复杂,实际上最终还是通过90%10%的数据+10%90%的主观来进行了排名,为大家精选了15个最为“沙雕”的问题,特此声明,以下回答来自于知乎网友:

TOP 15

Q:李白写那么多诗,他自己都会背吗?

原问题链接:

https://www.zhihu.com/question/276876453

森麟小结:写自己的诗,让别人去背吧,真乃人生最高境界

TOP 14

Q:猪八戒是黑猪还是白猪?

原问题链接:

https://www.zhihu.com/question/37160000

森麟小结:后经多方考证,证明了猪八戒的黑猪身份,这下子身价进一步暴增,对此我们表示:黑猪白猪,不涨价的猪就是好猪

TOP 13

Q:邹市明能一拳把自己打晕吗?

原问题链接:

https://www.zhihu.com/question/36805199

森麟小结:知乎上各种关于邹市明能打多少人的问题层出不穷,没想到最终还是要向自己动手了

TOP 12

Q:生蚝煮熟了还可以叫生蚝么?

原问题链接:

https://www.zhihu.com/question/25016659

森麟小结:这个问题就好比有些叫帅帅的人,无论长成什么样,别人都要叫他帅帅

TOP 11

Q:被袋鼠暴打是一种怎样的体验?

原问题链接:

https://www.zhihu.com/question/27387052

森麟小结:珍爱生命,远离袋鼠,切莫为了一个高赞回答去和袋鼠亲身肉搏,否则可能还没来得及分享“刚编出来的故事”就……

TOP 10

Q:秃顶的人洗头,应该用洗发水还是洗面奶?

原问题链接:

https://www.zhihu.com/question/48119206

森麟小结:希望广大程序员朋友保护好头发,不要有朝一日被邀请回答这个问题

TOP 9

Q:如果地球上所有人同时用激光笔指着月亮,月亮会不会变颜色?

原问题链接:

https://www.zhihu.com/question/48119206

森麟小结:会不会变色无从考究,但是在月亮变色前,我的眼睛一定会先被闪瞎

TOP 8

Q:玉皇大帝住在平流层还是对流层?

原问题链接:

https://www.zhihu.com/question/304133742/

森麟小结:这个问题应该就是“一本正经的胡说八道”集大成者,评论区好多相关领域人士进行了认真解答,不过究竟住哪也没搞明白,可能只能只有孙悟空知道答案了

TOP 7

Q:把一个变色龙绑在不断变换颜色的灯上,它会不会心力交瘁而死?

原问题链接:

https://www.zhihu.com/question/32052499

森麟小结:变色龙属于国家级保护动物,很可能还没看到结果,先被带走接受教育

TOP 6

Q:如果把皮卡丘的耳朵塞到插座里,皮卡丘会被电死么?

原问题链接:

https://www.zhihu.com/question/52083864

森麟小结:皮卡丘会不会被电死不好说,但是你会不会被电死还是很清楚的

TOP 5

Q:西瓜除了被吃还有什么生存意义?

原问题链接:

https://www.zhihu.com/question/24393996

森麟小结:提问之前最好先想想自己除了吃,还有什么生存意义

TOP 4

Q:为什么外国超级英雄趴着飞,而中国神仙竖着飞?

原问题链接:

https://www.zhihu.com/question/26992616

森麟小结:这是怎样的神仙读者,居然问出了这种“惊天地,泣鬼神”的问题,想必各路神仙也在跃跃欲试,准备拉他过去现场讲解

TOP 3

Q:向日葵晚上在干嘛,跟着月亮吗?

原问题链接:

https://www.zhihu.com/question/21370688/

森麟小结:自产自销,果然够厉害,而且不要用人类“996”的思想去要求向日葵,人家太阳落山就下班了,不多说了,已泪崩

TOP 2

Q:苍蝇被搭载到另一个城市怎么办?它的家人孩子怎么办?

原问题链接:

https://www.zhihu.com/question/20831390/

森麟小结:这位朋友为了苍蝇的生活操碎了心,不如把让他们大家族都在自己的家里生活,实现大团圆的美好结局

TOP 1

Q:女朋友生气心烦的时候爱爬树怎么办?

原问题链接:

https://www.zhihu.com/question/30914451/

本文分享自微信公众号 - 凹凸玩数据(alltodata)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-11-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏GA小站

3.2.13 、Google Tag Manager实战指南——跟踪页面访问深度

这一节要讲解的是如何通过GTM监测用户的访问深度,也就是用户浏览量整个页面多大比例。可以对评估用户对页面是否有兴趣作为一个补充。也可以用于衡量页面设计的长短版选...

5910
来自专栏移动大前端

OAuth2.0微信网页授权获取用户信息实现全过程(JAVA版本)

为什么需要OAuth2.0网页授权接口,主要是为了获取微信用户的基本信息(比如用户绑定,用户统计等等)

11530
来自专栏生信宝典

数据可视化完美指南-R-python

Yan Holtz 和Conor Healys两个人关系很好,一起在业余时间开发了这个网站。基于R和Python做的源代码,这里我们不仅可以得到大量优秀的源代码...

15930
来自专栏GA小站

5.1、人的唯一性识别

随着互联网的广泛普及,数以亿计网民的用户数据和网络行为数据早已成为最宝贵的资源,企业通过五花八门的各种手段去识别用户,了解网民的行为和隐私数据,用于广告投递、用...

10240
来自专栏移动大前端

jenkins  for app使用总结

官方主题插件: https://wiki.jenkins-ci.org/display/JENKINS/Simple+Theme+Plugin git h...

5310
来自专栏Python绿色通道

有了这个神器,轻松用 Python 写 APP !

GitHub地址:https://github.com/streamlit/streamlit/

12620
来自专栏前端劝退师

Typescript 严格模式有多严格?

"use strict"指令在JavaScript 1.8.5 (ECMAScript5)中新增。

7340
来自专栏移动大前端

Android微信之登录授权(ShareSDK-Eclipse)

有时候我们需要通过微信登录授权实现第三方登录,扩大用户量 ShareSDK不仅仅可以做到分享相关操作,原来第三方登录授权也可以做到,之前一直没有发现 好了,...

7420
来自专栏python学习教程

一个月从入门到精通Python !

要知道,一个月是一段很长的时间。如果每天坚持用 6-7 小时来做一件事,你会有意想不到的收获。

10110
来自专栏生信宝典

NAR| 表观组关联分析数据库 - EWAS Data Hub

近年来, 表观组关联分析(Epigenome-wide Association Study,EWAS)已成为探索复杂性状表观遗传基础的有效策略。随着大量EWAS...

15020

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励