[大数据测试]ETL测试或数据仓库测试入门

概述

在我们学习ETL测试之前,先了解下business intelligence(即BI)和数据仓库。

什么是BI?

BI(Business Intelligence)即商务智能,它是一套完整的解决方案,用来将企业中现有的数据(原始数据或商业数据或业务数据等)进行有效的整合,快速准确地提供报表并提出决策依据,帮助企业做出明智的业务经营决策。

原始数据记录了企业日常事务,例如与客户交互的信息、财务信息,员工相关记录等等。

这些数据可以用于汇报、分析、挖掘、数据质量、交互、预测分析等等

什么是数据仓库

数据仓库是为查询和分析而不是事务处理而设计的数据库。

数据仓库是通过整合不同的异构数据源而构建起来的。

数据仓库的存在使得企业或组织能够将整合、分析数据工作与事务处理工作分离。

数据能够被转换、整合为更高质量的信息来满足企业级用户不同层次的需求。

什么是ETL

ETL是Extract-Transform-Load的缩写(提取-转换-载入),是一个完整的从源系统提取数据,进行转换处理,载入至数据仓库的过程。

我们从联机事务数据库中提取数据,进行转换处理,匹配数据仓库模式,然后载入至数据仓库数据库中。

在通常情况下,大多数的数据仓库要整合非联机事务数据库系统的数据,例如来源文本文件、日志、电子表格等等。

下面我们一起看看ETL是怎么工作的。

例如一个公司,有关于其不同部门的数据记录,销售、市场、物流等等。每个部门所处理的客户信息是独立的,而且存储的数据也是相对不同的,假如销售团队有存储客户的姓名,而物流团队存储的是用户 的ID。

现在我们想要去检查客户的历史数据,并且想要了解他/她在不同的营销活动中购买的不同产品是什么。这将是一项非常枯燥的工作。

该解决方案就是使用数据仓库应用统一的结构来存储经过ETL处理过的不同源的数据。

ETL能够转换不同结构/类型的数据集为统一的结构,以便后续使用BI工具生成有意义的分析和表报。

下面我们看一下ETL过程完整的流程图:

ETLProcess.png

  1. Extract 提取有效的数据
  2. Transform
  • 将提取的数据转换为数据仓库模式/格式
  • 构建keys:一个key是一个或多个数据属性的惟一标识实例,key的类型可以是主键(primary key)、外键(foreign key)、替代键(alternate key)、复合键(composite key)以及代理键(surrogate key)。这些key只允许数据仓库进行维护管理,且不允许其他任何实体进行分配。
  • 数据清理:在提取好数据后,则进入下一个节点:数据清理。对提取的数据中的错误进行标识和修复。解决不同数据集之间的不兼容的冲突问题,使数据一致性,以便数据集能用于目标数据仓库。通常,通过转换系统的处理,我们能创建一些元数据(meta data)来解决源数据的问题,并改进数据的质量。
  1. Load
  • 将转换后的数据载入数据仓库
  • 构建聚集:创建聚集对数据进行汇总并存储数据至表中,以改进终端用户的查询体验。

什么是ETL测试

ETL测试是为了确保从源到目的地数据经过业务转换完成后是准确的。

同时它还涉及数据的验证,即从源到目的地数据各个不同阶段验证数据。

ETL是Extract-Transform-Load的缩写。

ETL测试过程

与其他测试过程类似,ETL也需要经历不同的测试阶段。其流程如下:

ETLTestingProcess.png

ETL测试过程主要分为以下五大阶段:

  1. 分析需求、业务和源数据
  2. 获取数据
  3. 实现业务逻辑和维度建模
  4. 构建和填充数据
  5. 生成报告

ETL测试类型

  1. Production Validation Testing 该类型的ETL测试是在数据迁移至生产系统时进行的。为了保证生产业务的正常运营,生产系统中的数据必须以正确的顺序进行排序。在该ETL测试类型中要注意从数据层面进行自动化测试和管理能力的植入。
  2. Source to Target Testing(Validation Testing) 该类型的测试主要元组转换的数据是否满足预期的转换目标
  3. Application Upgrades(升级测试) 该类型的ETL测试是可以自动生成的,能节省大量的测试开发时间。主要检查旧应用或存储库中提取的数据是否与新的应用或新的存储库中的数据完全相同。
  4. Metadata testing(元数据测试) 元数据测试包括数据类型检查、数据长度和索引/约束检查。
  5. Data Completeness Testing(数据完整性测试) 当把所有期望的数据从源加载到目标地时,就算完成了数据完整性测试。在数据完整性测试过程中,我们还可以进行一些简单的转换或无转换的源与目标之间的计数、聚合和实际数据比较和验证的测试。
  6. Data Accuracy Testing(数据准确性测试) 该类型测试验证数据正确的完成加载和按预期目标进行转换。
  7. Data Transformation Testing(数据转换测试) 测试数据转换是一个复杂的过程,并不是简单的写一个源SQL查询并与目标进行比较来实现的。可能需要为每个行运行多个SQL查询,来验证转换规则
  8. Data Quality Testing(数据质量测试) 数据质量测试包含语法和基准测试。为了避免在业务过程中由于日期或唯一编号(例如订单号)引起的错误,进行数据质量测试。
  • 语法测试:根据无效字符、字符模式、不正确大小写、顺序等出具脏数据测试结果
  • 基准测试:基于数据模型检查数据,例如客户ID数据质量测试,包含:数字检查、日期检查、精度检查、数据检查、零校验等等
  1. Incremental ETL Testing(增量ETL测试) 该类型测试主要验证旧数据和新数据的完整性,并添加新数据。增量测试验在增量ETL过程中,插入和更新是否满足预期的要求。
  2. GUI/Navigation Testing 该类型测试主要检查生成的大数据报告的UI\导航方面是否正常

怎么创建ETL测试用例

ETL测试是一个可以应用于信息管理领域中不同工具和数据库的概念。

ETL测试的目的是确保在业务转换完成后从源加载到目的地的数据是正确无误的。

ETL测试同样还涉及在源和目的地之间转换时的各个阶段的数据的验证。

在从事ETL测试时,有两份文档是ELT测试人员实时使用的:

  1. ETL映射表:一个ETL映射表包含源和目的地表的所有的信息,包括每个列及其引用表等约束关系。ETL测试人员需要更为优美的SQL查询语句,因为在ETL测试各阶段可能需要编写具有多个连接的大查询来验证数据。ETL映射表在为数据验证编写查询时提供大量的有用的信息。
  2. 源、目标数据库模式:该模式应该便于验证映射表中的所有细节。

ETL测试场景和测试用例

序号

测试场景

测试用例

1

Mapping Doc Validation(映射文件验证)

验证映射文件是否提供了响应的ETL信息,且每个映射文档的更新日志有记录

2

Validatioin(验证)

1. 根据对应的映射文件验证源与目的地数据仓库的表结构2. 验证源和目标数据的类型一致3. 验证源和目标数据的长度一致4. 验证数据字段类型和格式是指定的类型5. 验证源的数据类型长度不应小于目标数据类型长度6. 针对映射表对数据表的列的名称进行验证

3

约束验证

验证目标表中的约束关系满足我们的期望设计

4

数据一致性问题

1. 要防止语义定义相同,但特定属性的数据类型和长度不一致的问题2. 防止完整性约束滥用

5

完整性问题

1. 要确保所有期望的数据都已经完整的加载到目标表中2. 要比较源和目标数据的个数(即确保计数上的完整)3. 检查出现的任何不合格的记录4. 检查目标表列中的数据没出现被截断的情况5. 对边界值进行分析检查6. 要检查比较目标数据仓库和源数据的关键字段的唯一性

6

正确性问题

1. 数据要没有拼写错误或不准确的记录2. 无null、非惟一或超出范围的数据记录存在

7

转换

验证转换逻辑的正确性

8

数据质量

1. 数值型验证,验证是否为数值类型2. 日期型验证,验证是否为日期格式,并且在所有日期类型数据的格式应该统一3. 精度验证,小数点的精度要满足期望的精度4. 数据检查:检查数据的正确性,完整性5. null检查

9

拷贝验证

1. 验证目标表中业务要求所有惟一性指标均正确的实现(例如主键、惟一标识的键、或其他任一惟一表示的列)2. 验证从源数据多列合并而成的数据是正确的3. 验证仅仅根据客户要求对源数据进行了多列合并至目标表中

10

日期验证

日期是ETL开发过程中常用的数据,主要用于:1. 了解数据行创建的日期2. 用于识别活动记录3. 根据业务需求透视表确定活动记录4. 便于基于时间插入、更新记录

11

数据完整性验证

在验证源和目标表中的数据集的完整性时,我们需要用到交集运算,以确定目标数据的完整性

12

数据清理

对于不需要的列在载入至数据仓库前应该进行删除

ETL的bug类型

序号

bug类型

描述说明

1

用户接口bug

1. 主要涉及应用的GUI2.字体、样式、颜色、对齐、拼写错误、导航等等

2

边界值bug

数据的边界值范围

3

等价类划分bug

有效和无效类

4

输出/输出bug

1.未接受的有效值2. 无效的值被接受

5

计算类bug

1. 数学计算错误2. 最终输出错误

6

载入条件bug

1. 不运行多用户操作2. 不运行用户载入期望的数据

7

崩溃bug

1. 系统宕机或挂起2. 系统无法运行在用户的平台上

8

版本控制bug

1. 无匹配标识2. 没有可用的版本信息3. 一般版本控制bug发生在回归测试时

9

硬件问题

一般发生在应用程序不兼容设备

10

文档错误bug

错误的帮助文档信息

ETL测试与数据库测试的不同

序号

ETL测试

数据库测试

1

验证数据是否按照预期进行了移动

主要验证数据是否遵循了设计预定的数据模式规则或标准

2

验证数据经过业务转换后是否满足预定的转换逻辑以及验证源和目标数据计算是否一致

主要表的主、外键等越苏是否正常

3

验证ETL过程数据表的主外键关系是否保存

验证没有冗余表,数据库最佳化

4

验证已载入的数据拷贝是否满足预期

验证需要的是否缺少数据

ETL测试工程师的主要责任

对于一个ETL测试工程师而言,其关键的责任有三大类:

  • 源数据分析(数据库、文本等类型数据分析)
  • 业务转换逻辑实现
  • 将经过转换的数据载入至目标表

其他有:

  • 掌握ETL测试软件
  • ETL数据仓库测试组件
  • 在后端执行数据驱动测试
  • 创建、设计、执行测试用例、计划等
  • 标识问题、提供问题解决方案
  • 梳理业务需求和设计测试策略
  • 写SQL或数据库操作代码完成实现各种测试场景

等等其他工作内容

下半年总体目标是:编撰译ETL测试系列和Python3接口测试系列

原文发布于微信公众号 - 开源优测(DeepTest)

原文发表时间:2017-08-08

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Java架构沉思录

同样是晶体管,为什么寄存器比内存快?

计算机的存储层次(memory hierarchy)之中,寄存器(register)最快,内存其次,最慢的是硬盘。

21210
来自专栏开源优测

[大数据测试]ETL测试或数据仓库测试入门

概述 在我们学习ETL测试之前,先了解下business intelligence(即BI)和数据仓库。 什么是BI? BI(Business Intell...

43160
来自专栏UML

用例图示例:包含和扩展用例

用例提供了系统的高级视图。用例建模是与用户和其他利益相关者就系统和目标进行沟通的有效方式。用例描述了系统执行的动作序列,其为特定的actor产生可观察的值结果。...

51090
来自专栏老秦求学

深入理解计算机系统读书笔记之第一章:漫游

我是从豆瓣上看到好多人都在推荐这本书,于是就去借来读一读,昨天晚上用了好长时间来读这本书的第一章节,感觉这本书比较符合我(有些基础还不太明白,这本书详细的进行了...

33670
来自专栏Golang语言社区

在 Go 语言中,如何正确的使用并发

从多个花絮中提取,但是如果我斗胆提出主要观点的总结,其内容就是:抢占式多任务和一般共享状态结合导致软件开发过程不可管理的复杂性, 开发人员可能更喜欢保持自己的一...

13320
来自专栏开源优测

[大数据测试]ETL测试或数据仓库测试入门

概述 在我们学习ETL测试之前,先了解下business intelligence(即BI)和数据仓库。 什么是BI? BI(Business Intell...

45460
来自专栏狮乐园

RPC vs REST vs GraphQL

最近2周的时间由于工作不忙,一直在看有关GraphQL的东西,前后端均有涉及,由于我之前做过后端开发,当时实现的接口的大体是符合RPC风格的接口。后来转做了前端...

35620
来自专栏Python中文社区

用Python玩转微信的正确姿势!

0. itchat 最近研究了一些微信的玩法,我们可以通过网页版的微信微信网页版,扫码登录后去抓包爬取信息,还可以post去发送信息。 然后发现了itchat这...

64680
来自专栏顶级程序员

用Python画一个中国地图

先来聊聊为什么做数据分析一定要用Python或R语言。编程语言这么多种,Java, PHP都很成熟,但是为什么在最近热火的数据分析领域,很多人选择用Python...

34140
来自专栏Jerry的SAP技术分享

腾讯AI开放平台的接口调用指南

最近无意发现腾讯AI开放平台上提供了大量好玩的人工智能云服务,而且是完全免费的。只需要用QQ号登录即可。这么好的东西,作为一个程序员,当然要试试了!

1.9K20

扫码关注云+社区

领取腾讯云代金券