我试图通过抓取twitter来获取给定Twitter账号的追随者数量。我试过用BeautifulSoup和XPath抓取。但是所有的代码都不起作用。
这是我的一些示例测试代码,
from bs4 import BeautifulSoup
url = "https://twitter.com/BarackObama"
resposnse = re.get(url)
soup = BeautifulSoup(resposnse.content)
div_tag = soup.find_all('main',{"class":"css-1dbjc4n r-1habvwh r-16xksha r-1wbh5a2"})当我尝试使用下面的代码查看我抓取的内容时,
import requests
t=requests.get('https://twitter.com/BarackObama')
print(t.content)它没有包括任何数据,如追随者数量或任何东西。
请帮我做这件事。
发布于 2020-09-15 17:59:51
每当您的代码开始解析来自twitter URL的信息时。它会突然解析所有数据,但不会获得所有数据。因为加载了URL页面,但没有加载值或其他重要数据等。(追随者也是如此)。现在有了TWITTER PYTHON API,你可以通过获得关注者
发布于 2020-09-17 23:53:43
相关的API端点为followers/ids。使用TwitterAPI,您可以执行以下操作:
from TwitterAPI import TwitterAPI, TwitterPager
api = TwitterAPI(YOUR_CONSUMER_KEY,
YOUR_CONSUMER_SECRET,
YOUR_ACCESS_TOKEN_KEY,
YOUR_ACCESS_TOKEN_SECRET)
count = 0
r = TwitterPager(api, 'followers/ids')
for item in r.get_iterator():
count = count + 1
print(count)https://stackoverflow.com/questions/63898905
复制相似问题