from pyquery import PyQuery as pq「建议收藏」
from pyquery import PyQuery as pq「建议收藏」
全栈程序员站长
发布于 2022-08-23 20:54:11
发布于 2022-08-23 20:54:11
大家好，又见面了，我是你们的朋友全栈君。
1.爬取知乎-发现-热门话题的问答：
import requests
from pyquery import PyQuery as pq
url = 'https://www.zhihu.com/explore'
headers = {'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKi\
t/537.36 (KHTML, like Gecko) Chrome/68.0.3440.75 Safari/537.36'}
html = requests.get(url,headers = headers).text
doc = pq(html) #初始化PyQuery类对象
items = doc('.explore-tab .feed-item').items() #抓取 .explore-tab 结点下的所有 .feed-item 子节点 .items() 把他们组成列表
for item in items:
question = item.find('h2').text() #抓问题，不为 .h2 理由是 h2 是标签，不是属性
author = item.find('.author-link-line').text() #抓作者
answer = pq(item.find('.content').html()).text() #抓取一条回答，列表里面返回的是标签名称，.html()还原成 html 代码
file = open('explore.txt','a',encoding='utf-8')
file.write('\n'.join([question,author,answer]))
file.write('\n' + '=' * 50 + '\n')
file.close()2..find()
查找子孙结点
3.,attr()
<img alt=”炉石传说石英元素 女巫森林新卡” src=”http://newsimg.5054399.com/uploads/litimg/180410/1606441M5F5.jpg”>
可以理解为这个标签的对应值，是以字典形式返回，所以 attr() 返回键的值；例如 attr(‘alt’) 得到的是 ‘炉石传说石英元素
女巫森林新卡’
提取 scr 的值：.attr(‘lz_src’) 加一个 lz_
4.
doc = pq(html)
items = doc('#dq_list > li').items()绿色部分获取结点的方法为 Selector;还可以有其他方法
发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/139612.html原文链接：https://javaforall.cn
本文参与 腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。
原始发表：2022年5月7，如有侵权请联系 cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读