抱歉,你查看的文章不存在

Python爬虫:100万以大学专业为关键词的职位信息爬取

一、系统环境:

Windows 7+Python3.4+MongoDB

二、爬取过程:

(1)获取大学本科所有专业名称
# 获取大学本科专业名称
def get_name():
 url = 'http://yx.liexue.cn/zy/'
 wbdata = requests.get(url,headers=header).content
 soup = BeautifulSoup(wbdata,'html.parser')
 name = soup.select("dd.but > a")
 name_list = []
 for n in name:
 # print(n.text)
 name_list.append(n.text)
 # print(soup)
 print(name_list)
 # print(len(name_list))
 return name_list
(2)以专业名称作为搜索关键词获取职位信息的数量url = 'http://sou.zhaopin.com/jobs/searchresult.ashx?jl={0}&kw={1}&sm=0'.format("全国",keywords)
wbdata = requests.get(url,headers=header).content
soup = BeautifulSoup(wbdata,'lxml')
job_count = re.findall(r"共<em>(.*?)</em>个职位满足条件",str(soup))[0] 
pages = (int(job_count)//60)+1
(3)获取职位信息
jobs_url = 'http://sou.zhaopin.com/jobs/searchresult.ashx?jl={0}&kw={1}&sm=0&p={2}'.format("全国",keywords,page)
job_name = soup.select("table.newlist > tr > td.zwmc > div > a")
# company_name = soup.select("table.newlist > tr > td.gsmc > a")
salarys = soup.select("table.newlist > tr > td.zwyx")
locations = soup.select("table.newlist > tr > td.gzdd")
times = soup.select("table.newlist > tr > td.gxsj > span")
for name,salary,location,time in zip(job_name,salarys,locations,times):
 data = {
 'name':name.get_text(),
 'salary':salary.get_text(),
 'location':location.get_text(),
 'time':time.get_text(),
 'cate_name':keywords
 }
 print(keywords,data,page)
 jobs_info.insert_one(data)
 print("插入1条数据完成")
(4)使用多进程执行程序
 pool = Pool(processes=4)
 pool.map_async(get_name_job_info,get_name())
 pool.close()
 pool.join()

最后,抓取了100多万条智联招聘上的职位信息,使用了多进程和多线程,耗时很快;

需要完整代码的,可以关注微信公众号:州的先生,留言获取

原文发布于微信公众号 - 州的先生(zmister2016)

原文发表时间:2016-12-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

编辑于

州的先生

4 篇文章54 人订阅

相关文章

来自专栏跨界架构师

过去这几十年,分布式系统的「数据一致性」精华都在这了!

        本文是本系列的第三篇。与前两篇《分布式系统关注点——数据一致性(上篇)》、《分布式系统关注点——通过“共识”达成数据一致性》形成完整的「数据一致...

1661
来自专栏web前端教室

面试中,遇到一个请假系统的项目面试题,咋办?要求三天做完

今天下午,我正带着孩子逛街呢,咱们先行者群里的一个同学,他现在遇到这样一个问题, ? 咋办?详细的需求是这样的: ? 先来看看需求吧,第一部分是几个功能;第二部...

2275
来自专栏ThoughtWorks

ArchUnit,架构守护神 | 雷达哔哔哔

ArchUnit是一个基于 Java 的测试库,用于检查代码的结构特性,如包和类的依赖关系、注解验证,甚至还能检查代码分层是否一致。我们很喜欢 ArchUnit...

3232
来自专栏云加头条

智能云上手指南:如何接入腾讯云的自然语言处理能力?

本文将为广大云开发者介绍如何介入腾讯开放的自然语言处理能力,即文智自然语言处理。

8230
来自专栏微信公众号:Java团长

以技术面试官的经验分享毕业生和初级程序员通过面试的技巧(Java后端方向)

本来想分享毕业生和初级程序员如何进大公司的经验,但后来一想,人各有志,有程序员或许想进成长型或创业型公司或其它类型的公司,所以就干脆来分享些提升技能和通过面试的...

1071
来自专栏Python爬虫与算法进阶

爬虫学到什么程度可以去找工作

随便看看知乎上的教程就可以入门了,就Python而言,会requests当然是不够的,还需要了解scrapy和pyspider这两个框架,scrapy_redi...

2460
来自专栏ThoughtWorks

流水线即代码|洞见

2016年11月份的技术雷达中给出了一个简明的定义:流水线即代码(Pipeline as Code)通过对持续集成/持续交付(CI/CD)运行工具进行编码而非配...

3985
来自专栏极乐技术社区

『教程』来自小程序开发者的实例教程

最近由马伊琍、靳东男神主演的《我的前半生》火到不行,剧中人物的爱恨纠葛,简直让大批剧迷深陷其中,不能自拔!而女主人公罗子君的前半生,更让剧迷们操碎了心。 就没人...

2678
来自专栏杨建荣的学习笔记

改和看别人的代码是一种什么感受

工作里面可能会沉淀下来很多的东西,比如文档,代码/脚本,或者图片,甚至你留下的趣事或者“案底”。 对于修改代码,我很多年前就体验过一次,是修改自己写的代码,记...

3968
来自专栏编舟记

架构整洁之道导读(三)

上回说到组件聚合,反映的是组件内部的“基本元素”的选择标准。第14章介绍的组件耦合则是指组件和组件之间的关系,这些依赖关系有些是好的,有些是不好的,我们即将看到...

1543

扫码关注云+社区

领取腾讯云代金券