首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

初识Web和元素定位方法

我们今天来聊一聊什么是什么是Web自动化,以及如何写一个简单的登录的自动化脚本。Web自动化的含义就是用电脑模拟人工自动的在网页上执行各种各样的网页操作。比如说登陆、购物、下载电影或者是爬取信息。那我们就先聊下Web自动化的执行流程。我们使用Python语言编写一个自动化脚本,Selenium模拟人类在Web页面上增删改查,Web页面将selenium操作的信息发送给服务器,服务器返回数据在Web页面上显示,最后我们就看到了浏览器在自己操作。

Web自动化流程

从上图我们可以看出来两大问题:如何什么是Web页面和Python脚本应该怎么写。

一、什么是Web页面。

Web页面简而言之就是我们常说的网页,是构成网站的基本元素。通常我们登录网站,都是从网页上获取信息,所以我们自动化操作的主体也就是Web页面。大家在网上一般只能看到网页,并不知道后面还有个服务器。给大家举个例子,网页和服务器的关系就像显示器和主机的关系一样。服务器里存的都是数据,我们根本看不懂这些数据的含义,网页就是能够让我们轻松阅读这些数据的显示器。

网页与服务器通信

网页和服务器之间的交流就像写信一样,网页发送一个叫做Request的信件,而服务器收到后就立马回个叫做Response的回信。Web页面和服务器之间的信息交流是靠HTTP协议传输。HTTP协议的全称是超文本传输协议,是一种用于分布式的应用层协议。HTTP协议分为request和response两部分,并且他们同样包含Start Line和Headers两部分,但不同的是request中的Start Line中包含的是HTTP的方法、地址和协议,而response中的Start Line则是接受到request后返回的状态码和具体解释,当然Headers里的内容也不同。

HTTP协议内容

HTTP协议是明文传输,那么这就带来了安全问题。如果黑客从Web页面和服务器之间盗取数据,那我们的隐私则毫无秘密可言。因此诞生了带加密的HTTP协议,我们称之为HTTPS。下图便是HTTPS的工作原理。

HTTPS的工作原理

(1)客户使用https的URL访问Web服务器,要求与Web服务器建立SSL连接。

(2)Web服务器收到客户端请求后,会将网站的证书信息(证书中包含公钥)传送一份给客户端。

(3)客户端的浏览器与Web服务器开始协商SSL连接的安全等级,也就是信息加密的等级。

(4)客户端的浏览器根据双方同意的安全等级,建立会话密钥,然后利用网站的公钥将会话密钥加密,并传送给网站。

(5)Web服务器利用自己的私钥解密出会话密钥。

(6)Web服务器利用会话密钥加密与客户端之间的通信。

我们之前讲了网页的作用是将服务器中的数据展示给我们,那网页是怎么展示给我们的呢,这里就不得不提到HTML了。HTML 指的是超文本标记语言 (Hyper Text Markup Language) 所谓的超文本就是指页面内可以包含图片、链接、甚至音乐,等非文字元素。HTML文件后缀名就是(.html),下面就是HTML示例和结构图。

HTML示例

HTML结构图

HTML是一种标记语言,这些..就叫做标签,而HTML就是使用这些标签来描述网页的。HTML一般分成head和body两部分,这些标签有自己的含义,例如h1是定义HTML的标题heading,标签p定义的是HTML的段落。看上图你可以发现,html等标签都是成对出现的。在chrome浏览器中直接按F12,就能见到下面的界面,左边是常见的界面,右边则是HTML网页代码。

二、如何写Python脚本

如何写脚本呢?那就要问写的对象是谁呢?显而易见,就是根据HTML代码来定位确切元素,然后用Selenium来操作这些元素。Python的selenium常用ID、Name、tagName、className、xpath、linkText(和partialLinkText同类)和CSS选择器这七种方法定位。找到对应元素之后,直接可以进行操作。

元素定位方法

y示例:慕课网自动化登录

1.找到慕课网点地址并输入

browser.get('https://www.imooc.com/user/newlogin/from_url')

2.点击注册(使用链接文本查找元素)

browser.find_element_by_link_text('立即注册').click()

3.直接登录(只知道链接文本的部分内容)

browser.find_element_by_partial_link_text('直接').click()

4.输入用户名(tagName查找元素)

browser.find_element_by_tag_name('input').send_keys('************')

5.输入密码(name查找元素)

browser.find_element_by_name('password').send_keys('*************')

6.点击自动登录(className查找元素)

browser.find_element_by_class_name('auto-cbx').click()

7.点击登录(xpath查找元素)

点击阴影部分并鼠标右键,选择copy>copy xpath,就能复制到xpath信息。

browser.find_element_by_xpath('//*[@id=signup-form]/div[5]/input').click()

慕课网自动化登录脚本

这是完整的自动化登录操作,使用了五种查找元素的方法。其中click指的是点击操作,send_keys是输入关键字,find_element...指的是找到对应的元素。目前只需要将 * 号中的内容换成对应的用户名和密码就能自动运行了,现在你可以试试了。

附(python selenium 的指导与说明):

http://selenium-python-zh.readthedocs.io/en/latest/locating-elements.html#id2

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20171215G0P66B00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券