国外功能测试方法深度解析

作为黑盒测试的一个重要阶段,功能测试毋庸置疑是不可缺失的。功能测试的相关话题很多,无论是测试的形式,例如手动测试和自动化测试,还是测试方法,例如数据驱动和关键字驱动,都有大量的研究文章。

我这篇文章里主要从国别不同的角度来讨论一下功能测试的差异,原创文章可能有一些谬误的地方,请读者指摘。

#No.1

日式循规蹈矩

日本人给世界其他民族的印象是做事认真严谨,对待问题一丝不苟,犯了错误按严重程度该下跪的下跪,该剖腹的剖腹。他们的这种一贯行事方式也带到了软件行业,而软件行业的摩尔定律,技术的日新月异,代码、框架的多变,都似乎与他们的性格格格不入。

日本制造的东西一向以坚固耐用著称,给我映像最深的一个细节是,在日本工作的时候,发现他们的垃圾袋居然都坚固无比,用来逛超市买东西拎重物也是屡用不坏。

然而,对于遵从摩尔定律的计算机行业来说,投入大量的精力来尽可能的发现bug以及解决问题是否很值,这真的是有待商榷的问题。

但,话虽如此,日企采用的测试用例的设计方法还是非常值得我们学习的,这其中又首先要提一下要因分析法(网上有些说法把鱼骨图等同于要因分析法,我并不赞同此说,后面会有详述)。

要因分析法的精髓在于,以产品的某一特性为因子,以这个特性的不同表现(根据等价类划分、边界值分析等方法)为状态,一一列举后,采用二维组合的方式来确定测试用例。

下面我举一个简单的例子“我打算从南京去北京”来说明。

表1

这即是一张简单的要因表,值得注意的是,因子和状态的确定是必须规定范围的,而这个范围在这个例子中则为“正常人的思考”范围。

譬如说,“交通方式”我没有写“步行”,因为这不符合常人从南京去北京的思考方式,当然有人为了挑战吉尼斯纪录,这里非要采用步行方式从南京前往北京,那么状态里添加这项显然是可以的。

此外,因子和状态的另一个隐性的确定方针为详细度,这个度如何把握,我们可以从下表来理解:

表2

表2将表1的“交通方式”进一步细化,此时状态的选择将进一步增多。如果要求详细度更加提高,例如因子为“动车”,那么可以加上状态为“一等座”和“二等座”,这种组合很灵活,取决于我所需的详细级别。

要因确定之后,便是组合,以表1所列要因为例,二维组合有下列共18种:

飞机-晴-白天,飞机-雨-白天,飞机-雪-白天,飞机-晴-夜晚,飞机-雨-夜晚,飞机-雪-夜晚

火车-晴-白天,火车-雨-白天,火车-雪-白天,火车-晴-夜晚,火车-雨-夜晚,火车-雪-夜晚

汽车-晴-白天,汽车-雨-白天,汽车-雪-白天,汽车-晴-夜晚,汽车-雨-夜晚,汽车-雪-夜晚

对于表2来说,二维组合则有2*4*2*3*2=96种,貌似有点多,当然你想分析的越详细,那么组合数量自然会相应的增加。

回到表1得出的18种用例,假如我的通过条件是从南京到北京的时间越短越好,在实际的外界环境下(例如晴天,预期花费有限额),这18个用例中,就会出现有的测试通过,有的测试失败的情况了。

在不同的实际外界环境下,测试通过的情况还会发生变化(例如下雪天,飞机会发生班次延误)。

要因分析法的好处在于“事无巨细,滴水不漏”,坏处在于过程“繁琐冗长,枯燥乏味”。即使如此细致的要因分析,依然存在一定的用例遗漏的风险,这个风险来自于对因子和状态潜在的考虑不周。

随着详细级别要求或者系统复杂度的提高,使用要因分析法组合出详尽的测试方案则成为了QA的一种折磨,每一个QA遇到复杂的测试对象,都将成为酷刑下折翼的天使,欲哭无泪的在心中默默呐喊“坑爹啊”(因此要对要因法做一定程度的改良,如何改良,后文将详述)。

前文伏笔“要因分析法不是鱼骨分析法”,鱼骨分析法的另一个更加正式的书面称呼是“根本原因分析法”(日本管理大师石川馨先生发展出来的,故又名石川图)。

根本原因分析法同样有着折磨常人的地方(题外话:为什么日本人使用的方法总是那么坑爹?),它要求分析者们集中精力寻求发生问题的任何一种可能性(头脑风暴),将这些可能性绘制在鱼骨图上,再寻求所有可能性的根源,其本质上不是一种用于设计测试方案的方法(仅仅用于追溯问题,例如发现bug后追溯引起bug的根源)。

关于根本原因分析法的讨论,由于和本文的重点有偏离,因此不做进一步描述,题外话就此打住。

#No.1

欧美式头脑风暴

众所周知,欧美企业的风格是强调人性和自由,对于测试来说,自然不可能采纳日式那种条条框框的做法。

测试方案设计的基本方法和准则,例如边界值分析、等价类划分、因果图等,被QA们牢牢的记在心中,功能测试方案设计时,根据需求分析或用户手册,众人在一起集中进行头脑风暴,此时包括RD也将参与进来,对于测试合理或者不合理的地方提出建议。

因此,方案设计的时候,更强调的是经验和阅历以及对需求的关注程度。测试方案设计是有偏重的,对于一些重要的feature强烈关注,用例也将根据feature的重要性而详略有别。

头脑风暴式的测试用例设计的辅助工具往往以思维导图为主,还是以“我打算从南京去北京”为例,其中一种思维导图设计如下:

思维导图的灵活性很高,因此设计出的导图每次都会有所不同,跟随着与会者偏重点的不同而产生不同的设计方案。

好比欧洲的菜肴大多以整块烹制为主,而中国人的菜肴则基本上都是切碎的。这是因为受限于传统使用的餐具。

而测试方案的设计方法也同样受到西方和东方文化差异的影响,例如Agile首先在欧美出现并迅速得到推广和应用,而Agile绝对不会首先出现于日本。

对于头脑风暴式的测试方案设计,这颇有Agile的风格,项目参与者进行充分的思想交流,QA们将每一个闪现于头脑的想法都记录在案,同时根据别的QA和RD的建议来不断地修正或弥补方案,直到完成设计。

这种设计方法的好处是拥有很好的灵活性,且可以避免精力被耗费到旁枝末节上。用例可以是很多步骤组合起来的(表现为思维导图的层次较多),通过一个用例测到多个feature,这在进行具体的自动化测试代码编写时可以节省大量劳动力。

由于交流足够充分,某些不易被想到的测试用例也可以被挖掘出来(好比绘制清晰的思维导图)。

然而,这种方法的缺点也是显而易见的,某些测试用例有可能在头脑风暴中被忽视或遗忘,且受限于人的思维的不严密性,未设计在案的测试用例,往往也没有人会关注到“为什么这些测试用例不用测”这个问题。

#No.3

欧美与日式的比较

其实从上述的两个篇章,我已经阐述了二者之间的差异。日式苦行僧般的要因分析法,几乎可以遍历穷举所有可能的组合方式(除非因子有遗漏),设计完毕后,到了具体测试实施阶段,无论是手动测试还是自动化测试,对于QA来说,都是一个比拼耐力的考验,测试用例数动辄过千,大量的测试用例之间甚至只有细微的差别。

QA将完全体验不到创作的乐趣,转而成为一名不折不扣的体力劳动者。一个测试对象的测试周期也被大大拉长,所需的人月数也很多。

完成这些繁琐的工作之后,测试对象将趋于完美,细微的bug也将被找出并修正。此时不排除测试对象可能已经是一个落后的甚至被淘汰的产品了。

当然,这对于用户忠诚度极高的日本人来说,这不算什么问题,他们不厌其烦的强调产品品质,但是对于这颗星球上的其他民族来说,大多宁可忍受一些小bug,也不愿使用一个过期的技术落后的产品。

对于欧美式的测试设计,显然比较契合当前的飞速发展的计算机业,但产品中留下的bug数量往往也会比日式测试法多的多。这尤其表现在产品的一些局部的、次要的功能上,这些功能往往将成为bug集中营。

#No.4

两者融合的思考

欧美与日本,两者采用的方法各有长处。一者的缺点往往恰是另一者的长处。

那么该如何从两者中取长补短,去粗取精以至互相融合呢?这也是我在工作中一直不断思考的一个问题。

我认为有一种可行的解决方案可以按照如下的做法进行:

1、列出要因表,因子和状态的列举方式可以采用思维导图进行

2、根据deadline来划分测试的详略程度,制订测试计划

3、头脑风暴,将要因表的二维组合放在参与者的头脑中进行

4、在列举测试用例的同时,对不测的用例也要追究一下不测的原因

5、归纳测试用例之间的共性,对于差别较小的测试用例,要考虑如何整合到一起,对于可以串行的用例,要考虑是否可以合并为一个多步骤的用例

通过以上5个步骤,我想既可以避免要因分析法的要因组合阶段带来的让人抓狂的繁琐和用例数量过多的缺陷,又可以避免头脑风暴带来的某些用例的考虑不周。

是否还有其他更好的取长补短的方法呢?这个问题还需要大家在日常的测试工作中去找寻。

本文来自企鹅号 - 云测学院媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏理论坞

情商高的男人,都应该学习这些说话技巧

我们从一两岁开口发出第一个音节起,就被称为学会说话了,几十年来,每一天我们都要说话,从简单的沟通交流,到复杂的辩论探讨,说话伴随着我们每个人的生活——说话是件小...

1712
来自专栏程序员的碎碎念

幸存者偏差与创业鼓吹

https://www.sonyaellenmann.com/2018/06/survivorship-bias-and-startup-hype.html

1012
来自专栏恰童鞋骚年

【转】我的技术学习方法 — Anytao

  关于这个问题,也有不少刚刚入行的朋友向我问起。我想可能一千个人就有一千个答案,我不能保证自己的想法适合于所有的人,但是这确实是我自己的体会和经历,希望能给你...

562
来自专栏华章科技

从技术小白到老司机,这20本书帮你“快进”20年

导读:文艺复兴以来,源远流长的科学精神和逐步形成的学术规范,使西方国家在自然科学的各个领域取得了垄断性的优势;也正是这样的优势,使美国在信息技术发展的六十多年间...

1153
来自专栏海天一树

给计算机专业大一新生的一些学习规划建议

(零) 每个时代都会悄悄犒赏努力学习的人。 没有人生来就是主角,所有主角都是从龙套开始,一步一步脚印,把自己的路走出万丈光芒。 不少人在高中时候,尤其是高三的时...

3926
来自专栏企鹅号快讯

来看看这些流行的编程语言之父都是谁

对于程序员来说有一个工作的立身之本,那就是离不开的各种编程语言,而对于这些语言背后的创造者们,我们没有理由忘记,不管他们的发际线位置、头发的多少,下面主要整理了...

2315
来自专栏程序员的酒和故事

那些曾经写过代码的大佬们(不能写代码,他们会难过吗?)

Bill Gates ? 盖茨大学用汇编,不间断写了整整一个星期,最后运行bug free。 盖茨年轻的时候很厉害,他编写的软件很多。 年轻的时候,盖茨很看不起...

3668
来自专栏我就是马云飞

北京7年游戏开发就这么被淘汰了!

入职后同学就是我的领导,技术相对一般,我们做游戏后端的,时间很快,一眨眼,我就跟着混了四年,每天就看些博客,书籍,业务上也会做功能,但自觉做的比较蠢。没什么太大...

2633
来自专栏程序人生

Joe Armstrong 面对面

他书中的句子,他的公开演讲或是私下的谈话,都被不同的人到处引用 —— 今年的 code beam,好些 speaker 用 Joe 的原话来佐证自己的观点。Jo...

1520
来自专栏企鹅号快讯

编程难,首先入门就难

“Hello,world”,其实并不像你想象的那么简单。 某虽不才,小学稀里糊涂的拿过县里奥数三等奖,95年就能用小霸王学习机(Basic)打出杨辉三角形,高中...

3005

扫码关注云+社区

领取腾讯云代金券