当前位置: 首页 > news >正文

用技术提高回归测试精确度

在大家的常识中,回归测试在范围的选择上,有如下四种方法:

  1、测试全部用例——选择基线测试用例库中的全部测试用例,这是一种比较安全的方法,再测试全部用例具有最低的遗漏回归错误的风险,但测试成本最高;

  2、基于风险选择测试——可以基于一定的风险标准来从基线测试用例库中选择回归测试;

  3、基于操作剖面选择测试——如果基线测试用例库的测试用例是基于软件操作剖面开发的,回归测试可以优先选择那些针对最重要或最频繁使用功能的测试用例,释放和缓解最高级别的风险,有助于尽早发现那些对可靠性有最大影响的故障;

  4、再测试修改的部分——当测试者对修改的局部化有足够的信心时,可以通过相依性分析识别软件的修改情况并分析修改的影响,将回归测试局限于被改变的模块和它的接口上。

  我前一段时间在微博里发了一个号称“回归测试用例自动生成器”的设计图(如下),核心思路就是通过配置管理工具对版本差异的扫描来获取改动的文件,通过用代码扫描工具对改动文件的扫描得到改动的内容,再通过这些改动的内容扫描出关键字:

  SP:cursor、function、procedure……

  JAVA:method、interface、class、DAO、DTO……

  最后通过这些关键字和系统功能点、回归测试用例库中的测试用例,这三者的映射关系来精确的找到每次移交之后所要进行的关联测试。其实后来经过大家的讨论,发现这种构思叫“回归测试范围界定选择器”更加合适,用“生成”二字有点歧义。我自己也没有想清楚到底如何实现,需要关注哪些问题,但是我做这种设想的理由很简单:

  1、我厌倦了每次版本最后一次移交之后都需要的全面回归测试,这是一种无耻的浪费;

  2、我厌倦了这种“瞎蒙”式的回归测试,不精确,而且所谓的全面回归也无法避免测试遗漏;

  3、我不相信在没有足够的时间的情况下,所谓的回归测试剪裁,所谓基于风险的评估是无法保证规避一些重要的测试遗漏的;

  4、我不相信coder兄弟们告诉我的,他们基于本次版本所有需求所修改的内容,因为他们其中个别人往往会稍带着做一些自认为“无伤大雅的优化”;

  5、我憎恨任何一个把前期测试没有尽力却在出了测试遗漏的时候把责任推给回归测试的人,开发人员也好、测试人员也罢;

  当然,这些只是我个人主观上的认知倾向,貌似我应该用更有说服力的数据来说明我这么思考和想做这件事情的理由,那么不妨让我算一笔账给大家看看:

  1、前提:自动化开发和维护的成本撇开不算,因为有没有这个构思,自动化测试开发和维护都必须要做;

  2、按照目前Selenium/WebDriver的自动化回归测试脚本的粒度算,假设一个系统平均Web页面回归测试用例1000个,其中80%是自动化的,20%是手动的;

  3、这1000个Web页面测试Case的执行,总计约消耗12.67小时,其中人力是7人时:

  ● 受限与应用逻辑和环境效率,自动化平均每个可能要30s(现阶段全部门实际是100+,后续必须组织系统的优化),1000*80%*30=6.67小时;

  ● 手动的平均每个可能要执行1分钟到2分钟,按平均1分半计算:1000*20%*90=5小时;

  ● 自动化测试执行的6.67小时是机器时间,而我们需要关注和分析结果,同时硬件资源消耗在测试范围没有优化的情况下需要投入更多,这里将硬件资源的多余耗费也计入人力成本,则人力的总耗费大约为1.5+0.5=2小时;

  4、参照历史数据,实际上每个版本涉及的改动功能点和分支,只是整个系统功能点的10%不到,大家可以自己回顾思考一下有没有超过这个比例的;

  5、用10%的改动点,假设我们将回归测试用例挑选这件事情分三个步骤来做:

  ● 第一阶段:映射关系很粗糙,甚至只扫描到JAVA的独立文件和SP的独立文件,那么10%的改动点应该平均对应最多不过30%的回归测试用例的执行需求;

  ● 第二阶段:映射关系细化一层,JAVA改动点细化到.do/.screen,SP改动点细化到procedure,那么10%的改动点可能只涉及20%的回归测试用例的执行需求;

  ● 第三阶段:精确映射,加上关联影响的延伸,10%的改动点可能只会涉及15%左右的回归测试用例的执行需求;

  6、参照历史数据:在QC里,除去DB、EAI、ETL、TJS、MIS等暂时无需自动化回归测试的系统,最近107天发布版本约760个,这样算下来每年大约2600个版本,按照每人时180元计算,测试人力每人月成本3万,看一下每年这2600个版本的回归测试能够节省多少:

  ● 第一阶段:3万元/人月*(1-30%)*7*2600/22/7.58=约230万元

  ● 第二阶段:3万元/人月*(1-20%)*7*2600/22/7.58=约260万元

  ● 第三阶段:3万元/人月*(1-15%)*7*2600/22/7.58=约276万元

  对于某些保险公司或者银行来说,一年区区的两三百万算不得什么,不过,一屋不扫何以扫天下?精细经营才是王道,况且员工们在每次版本发布之前都能正常下班不也是Boss们的无上成就么?目前这个构思还在细化分析中,期待后续能够拿出实际的成果再来和大家分享。








====================================分割线================================



最新内容请见作者的GitHub页:http://qaseven.github.io/

相关文章:

  • 错过了无奈
  • php 字符串重要函数
  • arcgis server for .NET学习转载8
  • Oracle12C新特性——cdb与pdb
  • [Script]采用Python创建当前日期文件夹
  • react-native 常见操作 及 git 补充
  • 关于 Out of Socket memory
  • 关于管理的那些事
  • 数据在网络7层中的传输过程
  • VTemplate模板引擎的使用--高级篇
  • 树莓派初次使用必装软件
  • dp递推题2010年吉林省省赛 1456: 逃票的chanming(3)
  • Brew平台音乐播放器Dream Player
  • bitnami忘记登录密码
  • 趋势图
  • 【108天】Java——《Head First Java》笔记(第1-4章)
  • gcc介绍及安装
  • Java知识点总结(JavaIO-打印流)
  • magento 货币换算
  • MaxCompute访问TableStore(OTS) 数据
  • Netty+SpringBoot+FastDFS+Html5实现聊天App(六)
  • PhantomJS 安装
  • Quartz实现数据同步 | 从0开始构建SpringCloud微服务(3)
  • Travix是如何部署应用程序到Kubernetes上的
  • 百度贴吧爬虫node+vue baidu_tieba_crawler
  • 大快搜索数据爬虫技术实例安装教学篇
  • 关键词挖掘技术哪家强(一)基于node.js技术开发一个关键字查询工具
  • 通信类
  • 吐槽Javascript系列二:数组中的splice和slice方法
  • 我的zsh配置, 2019最新方案
  • 系统认识JavaScript正则表达式
  • ​LeetCode解法汇总2583. 二叉树中的第 K 大层和
  • ​MPV,汽车产品里一个特殊品类的进化过程
  • ​油烟净化器电源安全,保障健康餐饮生活
  • #、%和$符号在OGNL表达式中经常出现
  • #我与Java虚拟机的故事#连载09:面试大厂逃不过的JVM
  • (2020)Java后端开发----(面试题和笔试题)
  • (39)STM32——FLASH闪存
  • (day6) 319. 灯泡开关
  • (附源码)计算机毕业设计SSM保险客户管理系统
  • (介绍与使用)物联网NodeMCUESP8266(ESP-12F)连接新版onenet mqtt协议实现上传数据(温湿度)和下发指令(控制LED灯)
  • (已解决)什么是vue导航守卫
  • (转) 深度模型优化性能 调参
  • (转)Groupon前传:从10个月的失败作品修改,1个月找到成功
  • .libPaths()设置包加载目录
  • .net core 6 使用注解自动注入实例,无需构造注入 autowrite4net
  • .NET Core MongoDB数据仓储和工作单元模式封装
  • .NET 表达式计算:Expression Evaluator
  • .net 程序发生了一个不可捕获的异常
  • .net 获取url的方法
  • .net 简单实现MD5
  • .net连接MySQL的方法
  • /proc/vmstat 详解
  • /ThinkPHP/Library/Think/Storage/Driver/File.class.php  LINE: 48
  • @autowired注解作用_Spring Boot进阶教程——注解大全(建议收藏!)