前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Python 爬虫——随机UA

Python 爬虫——随机UA

作者头像
背雷管的小青年
发布2020-06-09 15:28:29
3.7K0
发布2020-06-09 15:28:29
举报

导入爬虫的基本库函数

了解一下我们的Request headers: 包含更多有关要获取的资源或客户端本身信息的消息头。

import requests  # 常用的爬虫库

引入一个库来使用我们相关的请求消息头

from fake_useragent import UserAgent

这个需要安装相关的包,使用命令如下:

pip3  install fake-useragent

接下来就是如何使用的阶段了!

import requests
from fake_useragent import UserAgent

def getHtml(url):
    try:
        ua = UserAgent()
        # 随机UA
        headers = {'user-agent': ua.random}
        r = requests.get(url, headers=headers)
        r.raise_for_status()
        print("爬取成功!")
        print(r.text)
    except Exception:
        print("爬取失败!")

url = "https://www.xmaven.cn"
getHtml(url)

展示结果如下:

GL117$GU9))PB_M[UJOLJMR.png
GL117$GU9))PB_M[UJOLJMR.png
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 导入爬虫的基本库函数
  • 了解一下我们的Request headers: 包含更多有关要获取的资源或客户端本身信息的消息头。
  • 引入一个库来使用我们相关的请求消息头
  • 这个需要安装相关的包,使用命令如下:
  • 接下来就是如何使用的阶段了!
  • 展示结果如下:
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档