前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >python 爬虫伪造UA字符串-第三方海量ua库

python 爬虫伪造UA字符串-第三方海量ua库

作者头像
十四君
发布2019-11-28 16:55:31
1.9K0
发布2019-11-28 16:55:31
举报
文章被收录于专栏:Urlteam

写好爬虫的原则只有一条: 就是让你的抓取行为和用户访问网站的真实行为尽量一致。

1、伪造UA字符串,每次请求都使用随机生成的UA。 为了减少复杂度,随机生成UA的功能通过第三方库fake-useragent实现

代码语言:javascript
复制
pip install fake-useragent

2、生成一个UA字符串只需要如下代码:

代码语言:javascript
复制
from fake_useragent import UserAgent
ua=UserAgent()
print(ua.random)

3、亲测:

代码语言:javascript
复制
n [5]: ua.random
Out[5]: 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.93 Safari/537.36'
 
In [6]: ua.random
Out[6]: 'Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:16.0.1) Gecko/20121011 Firefox/21.0.1'
 
In [7]: ua.random
Out[7]: 'Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.16 Safari/537.36'
 
In [8]: ua.random
Out[8]: 'Mozilla/5.0 (X11; NetBSD) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.116 Safari/537.36'
 
In [9]: ua.random
Out[9]: 'Mozilla/5.0 (Windows NT 4.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/37.0.2049.0 Safari/537.36'
 
In [10]: ua.random
Out[10]: 'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/33.0.1750.517 Safari/537.36'

原创文章,转载请注明: 转载自URl-team

本文链接地址: python 爬虫伪造UA字符串-第三方海量ua库

Related posts:

  1. 使用phantomjs采集运用了强制跳转与页面等待等反爬技术的网站
  2. 数据采集技术指南 第一篇 技术栈总览-附总图和演讲ppt
  3. 1000家公司五年的新浪微博采集
  4. python 高度鲁棒性爬虫的超时控制问题
  5. python 爬虫资源包汇总
  6. phantomjs 模块进阶
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2018-07-202,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Related posts:
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档