web爬虫-用RoboBrowser登录和抓取数据

import re
from robobrowser import RoboBrowser
#创建RoboBrowser
br = RoboBrowser()
#打开datacoup登录地址
br.open("https://datacoup.com/signin")
#获取登录的表单
form = br.get_form()
#填写表单中的邮箱和密码
form['email'] = "FILL_USERNAME_IN"
form['password'] = "FILL_PASSWORD_IN"
#提交表单
br.submit_form(form)
#获取登录后的页面结果返回信息
src = str(br.parsed())
#匹配开始和结束的位置html
start = '<li class="header-bal">Earned: '
end = '</li>'
#使用正则进行匹配 返回结果
result = re.search('%s(.*)%s' % (start, end), src).group(1)

print(result)

import re
from robobrowser import RoboBrowser
#浏览Rap Genius网站
browser = RoboBrowser(history=True)
browser.open('http://rapgenius.com/')
#获取表单
form = browser.get_form(action='/search')
print(form)                # <RoboForm q=>
#输入查询关键词queen 提交表单
form['q'].value = 'queen'
browser.submit_form(form)
#查询第一首歌曲
songs = browser.select('.song_name')
#访问歌曲连接地址
browser.follow_link(songs[0])
#查找样式lyrics的文本信息
lyrics = browser.select('.lyrics')
print(lyrics[0].text)      # \n[Intro]\nIs this the real life...

#返回查询结果页面
browser.back()
# 查询我最喜欢的歌曲
browser.follow_link('death on two legs')

# 也可以使用正则进行查找
lyrics = browser.find(class_=re.compile(r'\blyrics\b'))
lyrics.text