专栏首页小詹同学[爬虫+数据分析] 分析北京Python开发的现状

[爬虫+数据分析] 分析北京Python开发的现状

相信各位同学多多少少在拉钩上投过简历,今天突然想了解一下北京Python开发的薪资水平、招聘要求、福利待遇以及公司地理位置。既然要分析那必然是现有数据样本。本文通过爬虫和数据分析为大家展示一下北京Python开发的现状,希望能够在职业规划方面帮助到大家!!!

爬虫

爬虫的第一步自然是从分析请求和网页源代码开始。从网页源代码中我们并不能找到发布的招聘信息。但是在请求中我们看到这样一条POST请求

如下图我们可以得知

url:https://www.lagou.com/jobs/positionAjax.json?city=%E5%8C%97%E4%BA%AC&needAddtionalResult=false

请求方式:post

result:为发布的招聘信息

totalCount:为招聘信息的条数

通过实践发现除了必须携带headers之外,拉勾网对ip访问频率也是有限制的。一开始会提示 '访问过于频繁',继续访问则会将ip拉入黑名单。不过一段时间之后会自动从黑名单中移除。

针对这个策略,我们可以对请求频率进行限制,这个弊端就是影响爬虫效率。

其次我们还可以通过代理ip来进行爬虫。网上可以找到免费的代理ip,但大都不太稳定。付费的价格又不太实惠。

具体就看大家如何选择了

1

思路

通过分析请求我们发现每页返回15条数据,totalCount又告诉了我们该职位信息的总条数。

向上取整就可以获取到总页数。然后将所得数据保存到csv文件中。这样我们就获得了数据分析的数据源!

post请求的Form Data传了三个参数

first : 是否首页(并没有什么用)

pn:页码

kd:搜索关键字

2

no bb, show code

# 获取请求结果
# kind 搜索关键字
# page 页码 默认是1
def get_json(kind, page=1,):
 # post请求参数
    param = {
 'first': 'true',
 'pn': page,
 'kd': kind
    }
    header = {
 'Host': 'www.lagou.com',
 'Referer': 'https://www.lagou.com/jobs/list_python?labelWords=&fromSearch=true&suginput=',
 'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
    }
 # 设置代理
    proxies = [
        {'http': '140.143.96.216:80', 'https': '140.143.96.216:80'},
        {'http': '119.27.177.169:80', 'https': '119.27.177.169:80'},
        {'http': '221.7.255.168:8080', 'https': '221.7.255.168:8080'}
    ]
 # 请求的url
    url = 'https://www.lagou.com/jobs/positionAjax.json?px=default&city=%E5%8C%97%E4%BA%AC&needAddtionalResult=false'
 # 使用代理访问
 # response = requests.post(url, headers=header, data=param, proxies=random.choices(proxies))
    response = requests.post(url, headers=header, data=param, proxies=proxies)
    response.encoding = 'utf-8'
 if response.status_code == 200:
        response = response.json()
 # 请求响应中的positionResult 包括查询总数 以及该页的招聘信息(公司名、地址、薪资、福利待遇等...)
 return response['content']['positionResult']
 return None

接下来我们只需要每次翻页之后调用 get_json 获得请求的结果 再遍历取出需要的招聘信息即可

if __name__ == '__main__':
 # 默认先查询第一页的数据
    kind = 'python'
 # 请求一次 获取总条数
    position_result = get_json(kind=kind)
 # 总条数
    total = position_result['totalCount']
    print('{}开发职位,招聘信息总共{}条.....'.format(kind, total))
 # 每页15条 向上取整 算出总页数
    page_total = math.ceil(total/15)

 # 所有查询结果
    search_job_result = []
 #for i in range(1, total + 1)
 # 为了节约效率 只爬去前100页的数据
 for i in range(1, 100):
        position_result = get_json(kind=kind, page= i)
 # 每次抓取完成后,暂停一会,防止被服务器拉黑
        time.sleep(15)
 # 当前页的招聘信息
        page_python_job = []
 for j in position_result['result']:
            python_job = []
 # 公司全名
            python_job.append(j['companyFullName'])
 # 公司简称
            python_job.append(j['companyShortName'])
 # 公司规模
            python_job.append(j['companySize'])
 # 融资
            python_job.append(j['financeStage'])
 # 所属区域
            python_job.append(j['district'])
 # 职称
            python_job.append(j['positionName'])
 # 要求工作年限
            python_job.append(j['workYear'])
 # 招聘学历
            python_job.append(j['education'])
 # 薪资范围
            python_job.append(j['salary'])
 # 福利待遇
            python_job.append(j['positionAdvantage'])

            page_python_job.append(python_job)

 # 放入所有的列表中
        search_job_result += page_python_job
        print('第{}页数据爬取完毕, 目前职位总数:{}'.format(i, len(search_job_result)))
 # 每次抓取完成后,暂停一会,防止被服务器拉黑
        time.sleep(15)

ok! 数据我们已经获取到了,最后一步我们需要将数据保存下来

 # 将总数据转化为data frame再输出
    df = pd.DataFrame(data=search_job_result,
                      columns=['公司全名', '公司简称', '公司规模', '融资阶段', '区域', '职位名称', '工作经验', '学历要求', '工资', '职位福利'])
    df.to_csv('lagou.csv', index=False, encoding='utf-8_sig')

运行main方法直接上结果:

数据分析

通过分析cvs文件,为了方便我们统计,我们需要对数据进行清洗

比如剔除实习岗位的招聘、工作年限无要求或者应届生的当做 0年处理、薪资范围需要计算出一个大概的值、学历无要求的当成大专

# 读取数据  
df = pd.read_csv('lagou.csv', encoding='utf-8')
# 数据清洗,剔除实习岗位  
df.drop(df[df['职位名称'].str.contains('实习')].index, inplace=True)  
# print(df.describe())
# 由于CSV文件内的数据是字符串形式,先用正则表达式将字符串转化为列表,再取区间的均值  
pattern = '\d+' 
df['work_year'] = df['工作经验'].str.findall(pattern)
# 数据处理后的工作年限
avg_work_year = []
# 工作年限
for i in df['work_year']:
 # 如果工作经验为'不限'或'应届毕业生',那么匹配值为空,工作年限为0  
 if len(i) == 0:  
       avg_work_year.append(0)  
 # 如果匹配值为一个数值,那么返回该数值  
 elif len(i) == 1:  
       avg_work_year.append(int(''.join(i)))  
 # 如果匹配值为一个区间,那么取平均值  
 else:  
       num_list = [int(j) for j in i]  
       avg_year = sum(num_list)/2 
       avg_work_year.append(avg_year)
df['工作经验'] = avg_work_year

# 将字符串转化为列表,再取区间的前25%,比较贴近现实  
df['salary'] = df['工资'].str.findall(pattern)
# 月薪
avg_salary = []  
for k in df['salary']:  
   int_list = [int(n) for n in k]  
   avg_wage = int_list[0]+(int_list[1]-int_list[0])/4 
   avg_salary.append(avg_wage)
df['月工资'] = avg_salary

# 将学历不限的职位要求认定为最低学历:大专\
df['学历要求'] = df['学历要求'].replace('不限','大专')

数据通过简单的清洗之后,下面开始我们的统计

1

绘制薪资直方图

# 绘制频率直方图并保存  
plt.hist(df['月工资'])
plt.xlabel('工资 (千元)')   
plt.ylabel('频数')
plt.title("工资直方图")   
plt.savefig('薪资.jpg')  
plt.show()  

结论:北京市Python开发的薪资大部分处于15~25k之间

2

公司分布饼状图

# 绘制饼图并保存 count = df['区域'].value_counts() plt.pie(count, labels = count.keys(),labeldistance=1.4,autopct='%2.1f%%') plt.axis('equal') # 使饼图为正圆形 plt.legend(loc='upper left', bbox_to_anchor=(-0.1, 1)) plt.savefig('pie_chart.jpg') plt.show()

结论:Python开发的公司最多的是海淀区、其次是朝阳区。准备去北京工作的小伙伴大概知道去哪租房了吧

3

学历要求直方图

# {'本科': 1304, '大专': 94, '硕士': 57, '博士': 1}
dict = {}
for i in df['学历要求']:
 if i not in dict.keys():
        dict[i] = 0
 else:
        dict[i] += 1
index = list(dict.keys())
print(index)
num = []
for i in  index:
    num.append(dict[i])
print(num)
plt.bar(left=index, height=num, width=0.5)
plt.show()

结论:在Python招聘中,大部分公司要求是本科学历以上。但是学历只是个敲门砖,如果努力提升自己的技术,这些都不是事儿

4

福利待遇词云图

# 绘制词云,将职位福利中的字符串汇总  
text = '' 
for line in df['职位福利']:  
   text += line  
# 使用jieba模块将字符串分割为单词列表
cut_text = ' '.join(jieba.cut(text))
#color_mask = imread('cloud.jpg')  #设置背景图
cloud = WordCloud(
    background_color = 'white',
 # 对中文操作必须指明字体
    font_path='yahei.ttf',
 #mask = color_mask,
    max_words = 1000,
    max_font_size = 100
    ).generate(cut_text)

# 保存词云图片
cloud.to_file('word_cloud.jpg')
plt.imshow(cloud)
plt.axis('off')
plt.show()

结论:弹性工作是大部分公司的福利,其次五险一金少数公司也会提供六险一金。团队氛围、扁平化管理也是很重要的一方面。

至此,此次分析到此结束。有需要的同学也可以查一下其他岗位或者地区的招聘信息哦~

希望能够帮助大家定位自己的发展和职业规划。

本文分享自微信公众号 - 小詹学Python(xiaoxiaozhantongxue),作者:宇亮

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-10-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Python系列之——如何每天跟女朋友说晚安~

    文章来源:http://www.cnblogs.com/botoo/p/8622379.html

    小小詹同学
  • 最搞笑的代码注释,你遇到过几个?

    小小詹同学
  • 还在用Excel做数据分析?两大方法教你 5 分钟完成别人一天的工作量!

    我是个只会用Excel的数据分析工作者。有一天,我和同事大鹏约好晚上一起喝酒,离下班还有5分钟,老板突然Q我:

    小小詹同学
  • [爬虫+数据分析] 分析北京Python开发的现状|文末送书5本

    相信各位同学多多少少在拉钩上投过简历,今天突然想了解一下北京Python开发的薪资水平、招聘要求、福利待遇以及公司地理位置。既然要分析那必然是现有数据样本。本文...

    叫我龙总
  • Apache Spark 2.2.0 中文文档 - SparkR (R on Spark) | ApacheCN

    SparkR (R on Spark) 概述 SparkDataFrame 启动: SparkSession 从 RStudio 来启动 创建 S...

    片刻
  • HBase Thrift with Python

    本文内容是基于 Centos 7、HDP 3.0.0、HBase 2.0.0、Python 2.7 环境下,其他环境的童鞋选择性进行参考。

    迹_Jason
  • 程序员如何迈过年薪30万的坎?

    作为一个写了十几年代码的老程序员,程序员要想拿到年薪30万,起码需要具备以下几个条件:

    程序员互动联盟
  • vncserver端口的修改

    http://hi.baidu.com/wxf966/blog/item/301c95f4920aabfe7709d71c.html

    力哥聊运维与云计算
  • Python使用matplotlib填充图形指定区域

    本文代码重点在于演示Python扩展库matplotlib.pyplot中fill_between()函数的用法。 import numpy as np im...

    Python小屋屋主
  • 流量红利渐失,电商的“新故事”往哪讲?

    这几天互联网企业迎来了集体狂欢:网易、搜狐、新浪微博都迎来了自己的第二春,股票大涨,市值激增。电商领域的老大哥们也没闲着:2月21日,唯品会发布了公司截至12月...

    曾响铃

扫码关注云+社区

领取腾讯云代金券

玩转腾讯云 有奖征文活动