我有一个网络爬虫,我想把它检索到的html+javascript传递给selenium,这是可能的吗?为了澄清,我不想使用webdriver.get检索selenium的页面,因为我的爬虫更快。
发布于 2013-07-16 07:32:00
我最终在xvfb服务器上用PyQt4抓取了网页,因为我使用的是亚马逊ec2,它没有附带x11。下面的代码加载包含JavaScript的网页,并在返回html之前等待7秒,这样所有的JavaScript都将完成加载。
import sys
from PyQt4.QtGui import *
from PyQt4.QtCore import *
from PyQt4.QtWebKit import *
from xvfbwrapper import Xvfb
class Render(QWebPage):
def __init__(self, url):
self.app = QApplication(sys.argv)
QWebPage.__init__(self)
self.timerScreen = QTimer()
self.timerScreen.setInterval(7000)
self.timerScreen.setSingleShot(True)
self.timerScreen.timeout.connect(self.getHtml)
self.loadFinished.connect(self.timerScreen.start)
self.mainFrame().load(QUrl(url))
self.app.exec_()
def getHtml(self):
self.frame = self.mainFrame()
self.app.quit()
args = {"nolisten":"tcp"}
vdisplay = Xvfb(**args)
vdisplay.start()
url = 'url here'
r = Render(url)
html = r.frame.toHtml()
print html
f = open("./test.html","wb")
f.write(html.__str__().encode("utf-8"))
f.close()
#stri = str(html).encode("utf-8")
vdisplay.stop()
https://stackoverflow.com/questions/17626434
复制相似问题