这里所说的Web自动化是所有跟页面相关的自动化,比如页面爬取,数据抓取,页面内容检测,页面功能测试,页面加载性能测试,页面回归测试等等,当前主要由如下几种解决方式:
这就是各种request
库或者类似curl
这样的工具做的事情,拿到的是页面的文本,然后进行XML文档解析,获得相应的内容。但如果页面有一些动态执行的内容,比如JavaScript生成跳转URL,这样就搞不定了,需要有JS引擎的工具来搞,比如再配合JS引擎自行实现的工具,或者直接使用浏览器内核来搞的工具。
这就是各种使用浏览器内核来实现的工具,比如基于Webkit
的PhantomJS
, 基于Gecko
的SlimerJS
, 经过包装的CasperJS
兼容PhantomJS
和SlimerJS
,以及基于v8
JS引擎和.net
平台的trifleJS
等。这些工具更新迭代跟不上Web标准的发展,新的Web标准无法得到良好的支持。
这就是Selenium
的实现方式,通过WebDriver
协议进行通信,浏览器和浏览器驱动都实现了C/S结构的WebDriver
协议,Selenium
通过浏览器的驱动包,来发送操作请求,浏览器根据请求响应相应的操作。这样实现有一个问题是始终有一个真实浏览器的界面在渲染和变化,一方面效率低下,另一方面在服务端环境无法运行。于是就衍生出了使用Xvfb(virtual framebuffer X Server)
来配合实现在服务器环境下的运行,基本解决了问题。但每一种浏览器的特性支持都依赖于相应的驱动的实现和支持情况。
前面的实现方式都或多或少有自己的问题或者局限,如果浏览器本身支持在服务端环境运行,这将是一个近乎完美的解决思路。Chrome
59开始支持无界面模式,Firefox 55支持Linux版的无界面模式,Firefox 56支持全平台的无界面模式,这样一来,使用方不用被动等待浏览器的WebDriver
的实现。
Headless 是一种在无图形界面环境运行的一种能力,比如高性能的服务器端环境,参考Healess Software。