如何进行公众号文章收集 两种收集方法详解

大家都知道优质的公众号吸引用户最关键的就是要优质的文章,所以会有专人负责进行公众号文章收集工作,下面我们跟随拓途数据一起来了解一下如何进行公众号文章收集的相关资料吧。

如何进行公众号文章收集方案一:基于搜狗入口

在网上能搜索到的公众号文章采集相关的信息来看来看,这是最多、最直接、也是最简单的一种方案。

一般流程是:

1、搜狗微信搜索入口进行公众号搜索。

2、选取公众号进入公众号历史文章列表3、对文章内容进行解析入库。

采集过于频繁的话,搜狗搜索和公众号历史文章列表访问都会出现验证码。直接采用一般的脚本采集是无法拿到验证码的。这里可以使用无头浏览器来进行访问,通过对接打码平台识别验证码。无头浏览器可采用selenium。

即便采用无头浏览器同样存在问题:

1、效率低下(实际上就是在跑一个完整的浏览器来模拟人类操作)。

2、网页资源浏览器加载难以控制,脚本对浏览器加载很难控制3、验证码识别也无法做到100%,中途很可能会打断抓取流程。如果坚持使用搜狗入口并想进行完美采集的话只有增加代理IP。顺便说一句,公开免费的IP地址就别想了,非常不稳定,而且基本都被微信给封了。

3、除了面临搜狗/微信的反爬虫机制之外,采用此方案还有其他的缺点:无法获得阅读数、点赞数等用于评估文章质量的关键信息。无法及时获得已经发布公众号文章,只能作定期的重复爬取只能获得最近十条群发文章。

如何进行公众号文章收集方案二:对手机微信进行中间人攻击

中间人攻击本是某种黑客手法,用于截取客户端与服务端之间的通信信息。这种方案的思路是在手机微信和微信服务器之间搭建一个"HTTPS代理",用于截获手机微信获取的公众号文章信息。

一般性步骤是:

1、手机微信搜索一个公众号。

2、点击进入公众号历史文章页面3、代理识别已经进入列表页,进行内容截获,同时根据实际情况返回继续下拉或爬取新的公众号的js代码。

这种方案能够实现自动化的原因是:

1、微信公众号使用的是HTTPS协议,且内容未加密。

2、微信公众号文章列表和详情本质上是个Web页面,可以嵌入js代码进行控制

如何进行公众号文章收集

方案的优点:

1、一般情况下不会被屏蔽。

2、能拿到点赞数和阅读数等文章评估信息。

3、能拿到公众号全部的历史文章。

当然,也存在很多缺点:

1、需要一个长期联网的实体手机。

2、前期需要设置代理,工作量比较大3、本质上还是个轮查的过程,而不是实时推送4、同样有Web加载难以控制的风险,且本地网络环境对其影响非常大5、存在着微信接口发生变更代码不再适应的情况。

这种方案还存在着一些变种,比如:

1、通过lua脚本控制公众号搜索而不是靠代理返回嵌入的js代码。

2、通过GUI操作脚本控制PC端微信,但都存在"不能精确稳定控制"的缺点。

如何进行公众号文章收集呢?相信看完了拓途数据的介绍之后你对于公众号文章收集的方法已经有了全面了解,那就赶紧行动起来开始公众号做文章收集吧!

更多资讯知识点可持续关注,后续还有公众号数据分析报告微信公众平台数据分析微信公众号内容搜索,公众号文章收集,公众号文章标题等知识点。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20200416A0AHUD00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券