上一讲中我给你讲了如何使用八爪鱼采集数据，对于数据采集刚刚入门的人来说，像八爪鱼这种可视化的采集是一种非常好的方式。它最大的优点就是上手速度快，当然也存在一些问题，比如运行速度慢、可控性差等。
前言 在一般情况下，我们通过简单的xpath即可定位到目标元素,但对于一些既没id又没name，而且其他属性都是动态的情况就很难通过简单的方式进行定位了。 在这种情况下，我们需要使用xpath1.0内
这几年，Selenium 确实挺火。作为一个 Web 应用程序自动化测试工具，Selenium 可以直接驱动浏览器，模拟真正的用户操作，解决回归测试和多浏览器兼容性测试问题；而且跟 Python 搭配，还能实现不少功能的自动化，切实提升了测试和业务效率。
在做 Web 自动化时，最根本的就是操作页面上的元素，首先要能找到这些元素，然后才能操作这些元素。工具或代码无法像测试人员一样用肉眼来分辨页面上的元素。那么要如何定位到这些元素，本章会介绍各种定位元素的方法。
天气如此炎热！ 写个爬虫降降温??? 看完天气预报，嗯瞬间感觉热了好多！ 学习还是要继续！ 昨天没有说明XPath 今天现给补充点常用规则 XPath常用规则 表达式 描述 nodename 选取
selenium最初是一个自动化测试工具,而爬虫中使用它主要是为了解决requests无法直接执行JavaScript代码的问题 selenium本质是通过驱动浏览器，完全模拟浏览器的操作，比如跳转、输入、点击、下拉等，来拿到网页渲染之后的结果，可支持多种浏览器 有了selenium能够实现可见即可爬 -使用（本质，并不是python在操作浏览器，而是python在操作浏览器驱动（xx.exe），浏览器驱动来驱动浏览器） -0 以驱动谷歌浏览器为例子（建议你用谷歌，最合适）找谷歌浏览器驱动 -0 如果是windows，解压之后是个exe，不同平台就是不同平台的可执行文件 -1 安装模块：pip3 install selenium -2 需要浏览器驱动（ie，火狐，谷歌浏览器。。。。驱动得匹配（浏览器匹配，浏览器版本跟驱动匹配）） -3 写代码
1. Selenium - 建议使用低版本的Python-Selenium库，因为高版本在Chrome中不支持。
按宏哥计划，本文继续介绍WebDriver关于元素定位大法，这篇介绍定位倒数二个方法：By xpath。xpath 的定位方法， 非常强大。 使用这种方法几乎可以定位到页面上的任意元素。
2.XPath很强悍，但定位性能不是很好，所以还是尽量少用。如果确实少数元素不好定位，那还是选择XPath或cssSelector。
接着几个月之前的（数据科学学习手札31）基于Python的网络数据采集（初级篇），在那篇文章中，我们介绍了关于网络爬虫的基础知识（基本的请求库，基本的解析库，CSS，正则表达式等），在那篇文章中我们只介绍了如何利用urllib、requests这样的请求库来将我们的程序模拟成一个请求网络服务的一端，来直接取得设置好的url地址中朴素的网页内容，再利用BeautifulSoup或pyspider这样的解析库来对获取的网页内容进行解析，在初级篇中我们也只了解到如何爬取静态网页，那是网络爬虫中最简单的部分，事实上，现在但凡有价值的网站都或多或少存在着自己的一套反爬机制，例如利用JS脚本来控制网页中部分内容的请求和显示，使得最原始的直接修改静态目标页面url地址来更改页面的方式失效，这一部分，我在（数据科学学习手札47）基于Python的网络数据采集实战（2）中爬取马蜂窝景点页面下蜂蜂点评区域用户评论内容的时候，也详细介绍过，但之前我在所有爬虫相关的文章中介绍的内容，都离不开这样的一个过程：
（一） 前言 Selenium Grid可以将测试分布在若干个物理或虚拟机器上，从而实现分布方式或并行方式执行测试。 这个链接是官方的相关说明。 https://github.com/Selenium
大家应该都有过从百度文库下载东西的经历，对于下载需要下载券的文章，我们可以办理文库VIP；又或者使用“冰点文库”这样的下载软件，但是对于会爬虫的人来说，当然就是把他爬下来。
首先我们需要安装selenium库，使用命令pip install selenium;然后我们需要下载对应的chromedriver，，安装教程：。我们的chromedriver.exe应该是在C:\Program Files\Google\Chrome\Application中（即让它跟chrome.exe在同一个文件下）。
Selenium是基于Web的最流行的UI自动化测试工具。它提供了一组支持多种平台的公开API（例如Linux，Windows，Mac OS X等）。此外，像Google Chrome，Mozilla Firefox，Internet Explorer和Safari等所有现代浏览器都可以用来运行Selenium测试。它也涵盖了Android平台，其中Appium是实现Selenium Webdriver界面的工具，用于移动自动化。
完整路径 C:\Python27\Lib\site-packages\selenium\webdriver\remote\webelement.py 注：笔者pyth
自动化测试使用自动化工具来编写和执行测试用例，执行自动化测试套件不需要人工参与。测试人员更喜欢自动化工具来编写测试脚本和测试用例，然后组合成测试套件。 自动化测试允许使用专门的工具来自动执行手动设计的测试用例，而无需任何人工干预。自动化测试工具可以访问测试数据，控制测试的执行并将实际结果与预期结果进行比较。因此，生成被测系统的详细测试报告。
本文通过分析网络爬虫技术的实现，探讨了如何从网络中爬取所需信息。通过使用Python的BeautifulSoup和Selenium库，可以爬取网站的内容。同时，文章还讨论了如何爬取动态加载的内容和网站，并分析了爬取效率的问题。最后，作者分享了自己在爬虫实践中的经验和教训，并指出了爬虫技术的优缺点。
When something is important enough, you do it even if the odds are not in your favor.
使用 Selenium 打开链接的最简单方法是使用 WebDriver 对象的 get（） 方法。此方法指示浏览器导航到指定的 URL。
Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，类型像我们玩游戏用的按键精灵，可以按指定的命令自动操作，不同是Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器，但是现在谷歌的无头比较火，下面展示谷歌的无头）
Selenium是一个Web UI自动化工具。它不提供任何API来建立数据库连接。这取决于你使用Selenium进行自动化的编程语言。
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tf6swSQl-1664184420106)(upload://iauRLUk4DgFfFyKYQHzLuy4pyqj.png)
软件测试培训也是一种提升技术及迅速转行的辅助手段，不管在哪学你都必须先去试听，看看讲课的风格及氛围，是否通俗易懂，课件是否老化，工具是否过时，课程内容及项目是否具有实战性，主要就是了解项目实战周期是多久，工具是否属现在主流，还有你自己喜不喜欢讲师的讲课风格，如果不喜欢讲师的上课风格也会对你的学习进度造成一定的影响，今天给大家分享Selenium的面试题。希望在学习的小伙伴都能找到更好的心仪工作。
XPath使用路径表达式来选择XML文档中的节点或节点集。这些路径表达式类似于在传统计算机文件系统中使用的路径表达式。
作者 | Anthony_tester，300w+访问量博主，Oracle测试开发工程师。
也叫robots.txt，是存放在网站根目录下的文本文件，用来告诉搜索引擎该网站哪些内容是不应该被抓取的，哪些是可以抓取的。
Selenium 打开页面后，默认是在父级 Frame 里面操作，如果页面中还有子 Frame，Selenium 是不能获取到子 Frame 里面的节点的。这时就需要使用 switch_to.frame 方法来切换 Frame。
本来是不打算学Xpath的，个人觉得BeautifulSoup()完全能够满足自己的爬虫需求了。但是在学Selenium是时候教程用的是Xpath，加上之前身边的小伙伴也一直在给自己安利Xpath，索性就了解一下。
随着互联网和大数据的飞速发展，我们需要从海量信息中挖掘出有价值的信息，而在收集这些海量信息过程中，通常都会涉及到底层数据的抓取构建工作，比如多源知识库融合、知识图谱构建、计算引擎建立等。其中具有代表性的知识图谱应用包括谷歌公司的Knowledge Graph、Facebook推出的实体搜索服务（Graph Search）、百度公司的百度知心、搜狗公司的搜狗知立方等。这些应用的技术可能会有所区别，但相同的是它们在构建过程中都利用了Wikipedia、百度百科、互动百科等在线百科知识。所以本章将教大家分别爬取这三大在线百科。
元素的定位应该是自动化测试的核心，想要操作一个元素，首先应该识别这个元素。Webdriver提供了一系列的元素定位方法。
又到了一年一度的考研出分时间啦，近期有不少朋友让笔者帮他们分析如何提前做好调剂。复试与调剂总是密不可分。今天，给大家分享一些调剂的重要知识点，希望你在调剂的时候，能明白调剂的趋势与规则。
前文回顾： 「Python爬虫系列讲解」一、网络数据爬取概述 「Python爬虫系列讲解」二、Python知识初学 「Python爬虫系列讲解」三、正则表达式爬虫之牛刀小试 「Python爬虫系列讲解」四、BeautifulSoup 技术 「Python爬虫系列讲解」五、用 BeautifulSoup 爬取电影信息 「Python爬虫系列讲解」六、Python 数据库知识 「Python爬虫系列讲解」七、基于数据库存储的 BeautifulSoup 招聘爬取 「Python爬虫系列讲解」八、Selenium 技术 「Python爬虫系列讲解」九、用 Selenium 爬取在线百科知识 「Python爬虫系列讲解」十、基于数据库存储的 Selenium 博客爬虫
Selenium是一款用于测试Web应用程序的经典工具，它直接运行在浏览器中，仿佛真正的用户在操作浏览器一样，主要用于网站自动化测试、网站模拟登陆、自动操作键盘和鼠标、测试浏览器兼容性、测试网站功能等，同时也可以用来制作简易的网络爬虫。
针对119.0.x的版本驱动需要在 https://googlechromelabs.github.io/chrome-for-testing/ 中下载
xpath即为XML路径语言（XML Path Language），是由国际标准化组织W3C指定的，一种用来确定XML文档节点位置的语言
https://www.cnblogs.com/poloyy/category/1680176.html
网络爬虫在信息获取、数据分析等领域发挥着重要作用，而定时爬虫则可以实现定期获取网站数据的功能，为用户提供持续更新的信息。在Python中，结合Selenium技术可以实现定时爬虫的功能，但如何设置和优化定时爬虫的执行时间是一个关键问题。本文将介绍如何在Python中设置和优化Selenium定时爬虫的执行时间，以及一些优化策略和注意事项。
在编写爬虫程序的过程中提取信息是非常重要的环节，但是有时使用正则表达式无法匹配到想要的信息，或者书写起来非常麻烦，此时就需要用另外一种数据解析方法，也就是本节要介绍的 Xpath 表达式。
因为工作需要，同事刚开始学python，学到selenium这个工具半个月都没整明白，因为这个令他头秃了半个月，最后找到我给他解答。
selenium 官网可知，selenium 是支持分布式测试的，需要部署 Grid 服务；
在自动化测试中，使用Selenium定位网页元素是至关重要的。XPath是一种强大的定位方法，允许您通过元素的路径来精确定位，无论其在DOM（文档对象模型）中的位置如何。
我们模拟登陆用的是selenium库，selenium是一个自动化测试工具，在爬虫中通常用来进行模拟登陆。
在需要以表格格式显示信息的情况下，通常使用Web表或数据表。本质上，显示的数据可以是静态的也可以是动态的。您经常会在电子商务门户网站中看到这样的示例，其中产品规格显示在Web表中。随着它的广泛使用，您经常会遇到需要在Selenium测试自动化脚本中处理它们的场景。
前文回顾： 「Python爬虫系列讲解」一、网络数据爬取概述 「Python爬虫系列讲解」二、Python知识初学 「Python爬虫系列讲解」三、正则表达式爬虫之牛刀小试 「Python爬虫系列讲解」四、BeautifulSoup 技术 「Python爬虫系列讲解」五、用 BeautifulSoup 爬取电影信息 「Python爬虫系列讲解」六、Python 数据库知识 「Python爬虫系列讲解」七、基于数据库存储的 BeautifulSoup 招聘爬取 「Python爬虫系列讲解」八、Selenium 技术
领取专属 10元无门槛券
手把手带您无忧上云
