本发明涉及计算机技术领域,具体而言,涉及一种测试用例的处理方法、处理装置、介质和电子设备。
背景技术:
随着软件业的发展,敏捷(agile)开发在业界日益流行,而面临的挑战也日益增多,如何继续保证软件的质量是一个不能回避的问题。
许多企业级规模的项目常常按照功能模块将庞大的团队分为多个独立的scrum团队。在这种情况下,每个scrum团队各自负责相应的功能模块的开发和测试,在scrum团队中各种角色在不同的时间点有不同的测试需求,并且测试部署以及测试频率大幅增加,测试类型和阶段也更加细化。
在现有的自动化测试过程中,常常由独立的自动化测试团队来执行和维护,其他的scrum团队成员除非十分了解自动化测试包的细节,否则无法按照自身多类型的测试需求来执行自动化脚本。并且有些项目的自动化测试包涵盖了成百上千的测试用例,仅仅因为需要验证某个模块或某几个功能点是否成功而执行整个测试包不仅费时且没有必要。同时,当自动化用例的执行环境不一致时,想要执行不同环境的用例,团队成员需要去对应的环境选择需要执行的用例,并在执行过程中定时去观察执行环境是否正常运行,如果执行环境出现问题,需要人为修复,并再次选择对应的用例进行执行,而且对于所有用例的执行结束时间无法明确。在这种情况下,往往会出现大批自动化用例因为环境原因或者集成测试结束时间已到而未执行的问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
技术实现要素:
本发明的目的在于提供一种测试用例的处理方法、处理装置、介质和电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。
本发明的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本发明的实践而习得。
根据本发明的第一方面,提供了一种测试用例的处理方法,包括:获取待执行的测试用例;根据所述待执行的测试用例在执行时所需的执行环境,对所述待执行的测试用例进行分类,以得到至少一类测试用例;根据所述至少一类测试用例的执行环境,向各个执行域分配相对应的测试用例,其中,每个所述执行域包含至少一台执行机,每个所述执行域中的执行机的执行环境一致;基于所述各个执行域中的执行机执行分配到的测试用例。
在本发明的一些实施例中,基于前述方案,根据所述至少一类测试用例的执行环境,向各个执行域分配相对应的测试用例的步骤,包括:确定所述各个执行域执行测试用例的目标时长;根据所述各个执行域执行测试用例的目标时长和所述各个执行域对应的测试用例,确定所述各个执行域实际所需要的执行机数量;根据所述各个执行域中的执行机数量和所述各个执行域实际所需要的执行机数量,向所述各个执行域分配相对应的测试用例。
在本发明的一些实施例中,基于前述方案,确定所述各个执行域执行测试用例的目标时长的步骤,包括:获取当前时间和用户设置的测试报告生成时间;将所述测试报告生成时间与所述当前时间之间的时长作为所述各个执行域执行测试用例的目标时长。
在本发明的一些实施例中,基于前述方案,根据所述各个执行域执行测试用例的目标时长和所述各个执行域对应的测试用例,确定所述各个执行域实际所需要的执行机数量的步骤,包括:根据所述各个执行域对应的每个测试用例的执行时长,计算所述各个执行域对应的所有测试用例被单个执行机执行时的总时长;根据所述各个执行域对应的所有测试用例被单个执行机执行时的总时长和所述各个执行域执行测试用例的目标时长,计算所述各个执行域实际所需要的执行机数量。
在本发明的一些实施例中,基于前述方案,向所述各个执行域分配相对应的测试用例的步骤,包括:确定所述各个执行域的优先级;根据所述各个执行域的优先级,依次向所述各个执行域分配相对应的测试用例。
在本发明的一些实施例中,基于前述方案,根据所述各个执行域中的执行机数量和所述各个执行域实际所需要的执行机数量,向所述各个执行域分配相对应的测试用例的步骤,包括:在任一执行域中的执行机数量大于或等于所述任一执行域实际所需要的执行机数量时,根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
在本发明的一些实施例中,基于前述方案,根据所述各个执行域中的执行机数量和所述各个执行域实际所需要的执行机数量,向所述各个执行域分配相对应的测试用例的步骤,包括:在任一执行域中的执行机数量小于所述任一执行域实际所需要的执行机数量时,确定所述任一执行域额外需要的执行机数量n1;若所述额外需要的执行机数量n1小于可用的备用执行机的数量n2,则从可用的备用执行机中取出n1台执行机加入所述任一执行域,并将所述n1台执行机的执行环境调整为与所述任一执行域相匹配;根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
在本发明的一些实施例中,基于前述方案,还包括:若所述额外需要的执行机数量n1大于或等于可用的备用执行机的数量n2,则将可用的备用执行机全部加入所述任一执行域,并将所述可用的备用执行机的执行环境调整为与所述任一执行域相匹配;根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
在本发明的一些实施例中,基于前述方案,依次向所述任一执行域中的执行机分配测试用例的步骤,包括:在向所述任一执行域中的任一执行机分配测试用例时,依次累加所述任一执行域对应的未分配的测试用例的执行时长;将累加后的执行时长小于或等于所述用例执行平均时长的最大数量个未分配的测试用例分配给所述任一执行机。
在本发明的一些实施例中,基于前述方案,还包括:在向所述任一执行域中的所有执行机均分配测试用例之后,若仍有未分配的剩余测试用例,则判断是否有可用的备用执行机;在判定有可用的备用执行机时,选取至少一台备用执行机加入所述任一执行域,并将所述至少一台备用执行机的执行环境调整为与所述任一执行域相匹配;将所述未分配的剩余测试用例分配给所述至少一台备用执行机。
在本发明的一些实施例中,基于前述方案,还包括:在判定没有可用的备用执行机时,将所述未分配的剩余测试用例依次分配给所述任一执行域中的执行机。
在本发明的一些实施例中,基于前述方案,在基于所述各个执行域中的执行机执行分配到的测试用例的步骤之前,还包括:在测试用例分配完成之后,计算所述各个执行域的用例执行时长;若任一执行域的用例执行时长超过所述各个执行域执行测试用例的目标时长,则进行预警提示,以使用户确认是否需要修改测试用例的分配方案。
在本发明的一些实施例中,基于前述方案,还包括:若所有执行域的用例执行时长均未超过所述各个执行域执行测试用例的目标时长,则基于所述各个执行域中的执行机执行分配到的测试用例。
在本发明的一些实施例中,基于前述方案,计算所述各个执行域的用例执行时长的步骤,包括:计算所述各个执行域中的每台执行机的用例执行时长,将其中最长的用例执行时长作为所述各个执行域的用例执行时长。
在本发明的一些实施例中,基于前述方案,还包括:获取所述各个执行域对应的所有测试用例被单个执行机执行时的总时长;根据所述各个执行域对应的所有测试用例被单个执行机执行时的总时长和所述各个执行域实际所需要的执行机数量,计算所述各个执行域中的执行机的用例执行平均时长。
在本发明的一些实施例中,基于前述方案,还包括:在基于所述各个执行域中的执行机执行分配到的测试用例的过程中,监听每个测试用例的执行结果;若在预定的监听时长内未监听到任一测试用例的执行结果,则判断未监听到所述任一测试用例的执行结果的次数是否达到设定次数;在未监听到所述任一测试用例的执行结果的次数小于所述设定次数时,重新设定一监听时长,并继续监听所述任一测试用例的执行结果;在未监听到所述任一测试用例的执行结果的次数达到所述设定次数时,将执行所述任一测试用例的执行机未执行的所有测试用例分配给其它执行机。
在本发明的一些实施例中,基于前述方案,将执行所述任一测试用例的执行机未执行的所有测试用例分配给其它执行机的步骤,包括:判断执行所述任一测试用例的执行机所属的目标执行域中是否有空闲的执行机;在所述目标执行域中有空闲的执行机时,将执行所述任一测试用例的执行机未执行的所有测试用例分配给所述空闲的执行机;在所述目标执行域中没有空闲的执行机时,判断是否有可用的备用执行机;若有可用的备用执行机,则通过可用的备用执行机替换执行所述任一测试用例的执行机;若无可用的备用执行机,则将执行所述任一测试用例的执行机未执行的所有测试用例分配给所述目标执行域中的执行机。
在本发明的一些实施例中,基于前述方案,在将执行所述任一测试用例的执行机未执行的所有测试用例分配给所述目标执行域中的执行机之后,还包括:计算所述目标执行域的最终用例执行时长;将所述最终用例执行时长通知给用户。
根据本发明的第二方面,提供了一种测试用例的处理装置,包括:获取单元,用于获取待执行的测试用例;分类单元,用于根据所述待执行的测试用例在执行时所需的执行环境,对所述待执行的测试用例进行分类,以得到至少一类测试用例;分配单元,用于根据所述至少一类测试用例的执行环境,向各个执行域分配相对应的测试用例,其中,每个所述执行域包含至少一台执行机,每个所述执行域中的执行机的执行环境一致;处理单元,用于基于所述各个执行域中的执行机执行分配到的测试用例。
根据本发明的第三方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述第一方面中所述的测试用例的处理方法。
根据本发明的第四方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述第一方面中所述的测试用例的处理方法。
在本发明的一些实施例所提供的技术方案中,通过根据待执行的测试用例在执行时所需的执行环境对待执行的测试用例进行分类,并根据分类得到的至少一类测试用例的执行环境向各个执行域分配相对应的测试用例,使得能够自动实现对待执行的测试用例根据执行环境进行分类,也使得用户在选择待执行的测试用例时,无需根据执行环境手动将各个测试用例分配到不同的执行环境中来运行,进而能够减少测试人员的工作量,提高了测试效率。
在本发明的一些实施例所提供的技术方案中,通过确定各个执行域实际所需要的执行机数量,并根据各个执行域中的执行机数量和各个执行域实际所需要的执行机数量来向各个执行域分配相对应的测试用例,使得能够在分配测试用例时,考虑到实际所需要的执行机数量和执行域中的执行机数量,进而能够将测试用例合理地分配给相应的执行机进行执行,同时也能够智能调配备用执行机,以保证测试用例的及时执行。
在本发明的一些实施例所提供的技术方案中,通过在测试用例分配完成之后,计算各个执行域的用例执行时长,并在任一执行域的用例执行时长超过目标时长时进行预警提示,使得用户能够确认是否需要修改测试用例的分配方案,以确保测试用例的执行满足用户的需求。
在本发明的一些实施例所提供的技术方案中,通过在执行机执行测试用例的过程中,监听测试用例的执行结果,使得能够掌握每个测试用例的执行结果。当未监听到任一测试用例的执行结果的次数达到设定次数时,说明执行该测试用例的执行机可能出现问题,此时通过将执行该测试用例的执行机未执行的所有测试用例分配给其它执行机,使得能够保证测试用例的顺利执行。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示意性示出了根据本发明的一个实施例的测试用例的处理方法的流程图;
图2示意性示出了图1中所示的步骤s14的一个实施例的具体处理流程图;
图3示出了根据本发明的一个实施例的主机、执行域和备用池的关系示意图;
图4示出了根据本发明的一个实施例的各个执行域的优先级列表及按照优先级排序后的列表示意图;
图5示出了根据本发明的实施例的单个执行域对应的测试用例的分配方法示意图;
图6示出了根据本发明的实施例的备用池中的执行机的处理过程示意图;
图7示出了根据本发明的实施例的对测试用例进行监听的流程示意图;
图8示出了根据本发明的实施例的对收回的无执行结果的测试用例进行分配的流程示意图;
图9示意性示出了根据本发明的实施例的测试用例的处理装置的框图;
图10示意性示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本发明的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示意性示出了根据本发明的一个实施例的测试用例的处理方法的流程图。
参照图1,根据本发明的一个实施例的测试用例的处理方法,包括:
步骤s10,获取待执行的测试用例。
根据本发明的示例性实施例,待执行的测试用例可以是用户(如测试人员)选择的,并且用户选择的待执行的测试用例的执行环境可以是不一致的。
步骤s12,根据所述待执行的测试用例在执行时所需的执行环境,对所述待执行的测试用例进行分类,以得到至少一类测试用例。
在步骤s12中,可以将执行时需要相同执行环境的测试用例分为一类,这样可以得到至少一类测试用例。
步骤s14,根据所述至少一类测试用例的执行环境,向各个执行域分配相对应的测试用例,其中,每个所述执行域包含至少一台执行机,每个所述执行域中的执行机的执行环境一致。
需要说明的是,执行域是用于执行测试用例的,一个执行域对应于一类测试用例。
在本发明的一个实施例中,如图2所示,步骤s14包括:
步骤s142,确定所述各个执行域执行测试用例的目标时长。
根据本发明的示例性实施例,步骤s142包括:获取当前时间和用户设置的测试报告生成时间;将所述测试报告生成时间与所述当前时间之间的时长作为所述各个执行域执行测试用例的目标时长。
需要说明的是,用户设置的测试报告生成时间是所有执行域中的执行机在执行所有测试用例之后生成相应的测试报告的时间。用户在选择待执行的测试用例时可以设置该测试报告生成时间。
步骤s144,根据所述各个执行域执行测试用例的目标时长和所述各个执行域对应的测试用例,确定所述各个执行域实际所需要的执行机数量。
根据本发明的示例性实施例,步骤s144包括:根据所述各个执行域对应的每个测试用例的执行时长,计算所述各个执行域对应的所有测试用例被单个执行机执行时的总时长;根据所述各个执行域对应的所有测试用例被单个执行机执行时的总时长和所述各个执行域执行测试用例的目标时长,计算所述各个执行域实际所需要的执行机数量。
需要说明的是,各个执行域对应的不同测试用例的执行时长可以是相同的,也可以是不相同的。在本发明的实施例中,计算各个执行域对应的所有测试用例被单个执行机执行时的总时长的过程可以是将各个执行域对应的所有测试用例的执行时长进行相加。
在本发明的实施例中,计算各个执行域实际所需要的执行机数量的过程可以是用各个执行域对应的所有测试用例被单个执行机执行时的总时长除以各个执行域执行测试用例的目标时长,然后对商取整来得到。
步骤s146,根据各个执行域中的执行机数量和所述各个执行域实际所需要的执行机数量,向所述各个执行域分配相对应的测试用例。
在本发明的实施例中,在向各个执行域分配相对应的测试用例时,可以先确定各个执行域的优先级,然后根据各个执行域的优先级,依次来向各个执行域分配相对应的测试用例。
其中,各个执行域的优先级可以由用户进行设定,本发明的实施例中之所以考虑执行域的优先级主要是因为在分配测试用例时,一些执行域中的执行机可能不够用,那么需要使用备用执行机,当考虑执行域的优先级之后,可以使优先级高的执行域优先使用备用执行机,以保证优先级高的执行域执行测试用例的时效性。
根据本发明的示例性实施例,步骤s146中具体可分为三种情况,即执行域中的执行机数量大于执行域实际所需要的执行机数量、执行域中的执行机数量等于执行域实际所需要的执行机数量、执行域中的执行机数量小于执行域实际所需要的执行机数量,以下针对这三种情况,分别说明具体如何分配测试用例:
情况一:
在任一执行域中的执行机数量大于所述任一执行域实际所需要的执行机数量时,根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
根据本发明的示例性实施例,依次向所述任一执行域中的执行机分配测试用例的步骤,包括:在向所述任一执行域中的任一执行机分配测试用例时,依次累加所述任一执行域对应的未分配的测试用例的执行时长;将累加后的执行时长小于或等于所述用例执行平均时长的最大数量个未分配的测试用例分配给所述任一执行机。
通常情况下,在某个执行域中的执行机数量大于该执行域实际所需要的执行机数量时,基于本发明上述的分配方案可以在不使用备用执行机的前提下,保证分配给各个执行机的测试用例的执行时长均小于或等于用例执行平均时长。
需要说明的是,上述的用例执行平均时长可以通过如下方式计算得到:获取各个执行域对应的所有测试用例被单个执行机执行时的总时长;根据各个执行域对应的所有测试用例被单个执行机执行时的总时长和各个执行域实际所需要的执行机数量,计算各个执行域中的执行机的用例执行平均时长。
具体来说,可以用各个执行域对应的所有测试用例被单个执行机执行时的总时长除以各个执行域实际所需要的执行机数量来计算得到各个执行域中的执行机的用例执行平均时长。
情况二:
在任一执行域中的执行机数量等于所述任一执行域实际所需要的执行机数量时,根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
根据本发明的示例性实施例,依次向所述任一执行域中的执行机分配测试用例的步骤,包括:在向所述任一执行域中的任一执行机分配测试用例时,依次累加所述任一执行域对应的未分配的测试用例的执行时长;将累加后的执行时长小于或等于所述用例执行平均时长的最大数量个未分配的测试用例分配给所述任一执行机。
需要说明的是,当执行域中的执行机数量等于该执行域实际所需要的执行机数量时,通过本发明实施例的分配方式如两种结果:一种结果是正好将执行域对应的测试用例全部分配给该执行域中的所有执行机;另一种结果是在向执行域中的所有执行机均按照上述分配方案分配之后,还有未分配的剩余测试用例。
为了使未分配的剩余测试用例也能够被执行,本发明实施例还提出了如下方案:
在向所述任一执行域中的所有执行机均分配测试用例之后,若仍有未分配的剩余测试用例,则判断是否有可用的备用执行机;在判定有可用的备用执行机时,选取至少一台备用执行机加入所述任一执行域,并将所述至少一台备用执行机的执行环境调整为与所述任一执行域相匹配;将所述未分配的剩余测试用例分配给所述至少一台备用执行机;在判定没有可用的备用执行机时,将所述未分配的剩余测试用例依次分配给所述任一执行域中的执行机。
可见,在本发明的实施例中,当有未分配的剩余测试用例时,若有可用的备用执行机,则可以选取备用执行机,并自动调整备用执行机的执行环境,以通过备用执行机来执行未分配的剩余测试用例;若没有可用的备用执行机,为了保证未分配的剩余测试用例能够被执行,则可以将未分配的剩余测试用例依次分配给执行域中的执行机。需要说明的是,在将未分配的剩余测试用例依次分配给执行域中的执行机时,可以按照执行域中执行机的顺序,逐个将未分配的剩余测试用例分配给执行机,也可以将未分配的剩余测试用例平均分配给执行域中的执行机。
其中,各个执行域中的执行机的用例执行平均时长的计算方法如情况一中所述,在此不再赘述。
情况三:
在任一执行域中的执行机数量小于所述任一执行域实际所需要的执行机数量时,确定所述任一执行域额外需要的执行机数量n1;若所述额外需要的执行机数量n1小于可用的备用执行机的数量n2,则从可用的备用执行机中取出n1台执行机加入所述任一执行域,并将所述n1台执行机的执行环境调整为与所述任一执行域相匹配;根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
若所述额外需要的执行机数量n1大于或等于可用的备用执行机的数量n2,则将可用的备用执行机全部加入所述任一执行域,并将所述可用的备用执行机的执行环境调整为与所述任一执行域相匹配;根据与所述任一执行域相对应的每个测试用例的执行时长和所述任一执行域中的执行机的用例执行平均时长,依次向所述任一执行域中的执行机分配测试用例。
根据本发明的示例性实施例,依次向所述任一执行域中的执行机分配测试用例的步骤,包括:在向所述任一执行域中的任一执行机分配测试用例时,依次累加所述任一执行域对应的未分配的测试用例的执行时长;将累加后的执行时长小于或等于所述用例执行平均时长的最大数量个未分配的测试用例分配给所述任一执行机。
根据本发明的示例性实施例,在向所述任一执行域中的所有执行机均分配测试用例之后,若仍有未分配的剩余测试用例,则判断是否有可用的备用执行机;在判定有可用的备用执行机时,选取至少一台备用执行机加入所述任一执行域,并将所述至少一台备用执行机的执行环境调整为与所述任一执行域相匹配;将所述未分配的剩余测试用例分配给所述至少一台备用执行机;在判定没有可用的备用执行机时,将所述未分配的剩余测试用例依次分配给所述任一执行域中的执行机。
其中,各个执行域中的执行机的用例执行平均时长的计算方法如情况一中所述,在此不再赘述。
继续参照图1,所示的测试用例的处理方法还包括:
步骤s16,基于所述各个执行域中的执行机执行分配到的测试用例。
在本发明的实施例中,基于上述三种情况下的测试用例分配方案,由于情况二和情况三中都可能存在需要将未分配的测试用例依次分配给执行域中的执行机的场景,在这种场景下,可能会存在执行域的用例执行时长超过执行域执行测试用例的目标时长,因此本发明还提出了如下方案:
在本发明的实施例中,在测试用例分配完成之后,计算所述各个执行域的用例执行时长;若任一执行域的用例执行时长超过所述各个执行域执行测试用例的目标时长,则进行预警提示,以使用户确认是否需要修改测试用例的分配方案;若所有执行域的用例执行时长均未超过所述各个执行域执行测试用例的目标时长,则基于所述各个执行域中的执行机执行分配到的测试用例。
需要说明的是,在本发明的实施例中,计算所述各个执行域的用例执行时长的步骤可以包括:计算所述各个执行域中的每台执行机的用例执行时长,将其中最长的用例执行时长作为所述各个执行域的用例执行时长。
此外,本发明的实施例中,当执行域中的执行机执行测试用例时,还可以对测试用例的执行结果进行监听,具体如下:
在本发明的一些实施例中,基于前述方案,还包括:在基于所述各个执行域中的执行机执行分配到的测试用例的过程中,监听每个测试用例的执行结果;若在预定的监听时长内未监听到任一测试用例的执行结果,则判断未监听到所述任一测试用例的执行结果的次数是否达到设定次数;在未监听到所述任一测试用例的执行结果的次数小于所述设定次数时,重新设定一监听时长,并继续监听所述任一测试用例的执行结果;在未监听到所述任一测试用例的执行结果的次数达到所述设定次数时,将执行所述任一测试用例的执行机未执行的所有测试用例分配给其它执行机。
在本发明的一些实施例中,基于前述方案,将执行所述任一测试用例的执行机未执行的所有测试用例分配给其它执行机的步骤,包括:判断执行所述任一测试用例的执行机所属的目标执行域中是否有空闲的执行机;在所述目标执行域中有空闲的执行机时,将执行所述任一测试用例的执行机未执行的所有测试用例分配给所述空闲的执行机;在所述目标执行域中没有空闲的执行机时,判断是否有可用的备用执行机;若有可用的备用执行机,则通过可用的备用执行机替换执行所述任一测试用例的执行机;若无可用的备用执行机,则将执行所述任一测试用例的执行机未执行的所有测试用例分配给所述目标执行域中的执行机。
在本发明的一些实施例中,基于前述方案,在将执行所述任一测试用例的执行机未执行的所有测试用例分配给所述目标执行域中的执行机之后,还包括:计算所述目标执行域的最终用例执行时长;将所述最终用例执行时长通知给用户。
在本发明的示例性实施例中,目标执行域的最终用例执行时长的计算方法可以是:计算目标执行域中的各个执行机的用例执行时长,将其中最长的用例执行时长作为目标执行域的最终用例执行时长。
在本发明的另一个实施例的测试用例的处理方法中,包括如下步骤:
步骤(1),测试人员选择不同执行环境的用例并明确测试报告最终生成时间。
步骤(2),针对已选用例,按照测试用例在执行时所需的测试环境进行分类,并确定各个执行环境的优先级。
步骤(3),根据执行环境的优先级对每个执行环境对应的用例进行智能分配。
步骤(4),用例分配结束时,如果任一环境的用例执行结束时间晚于测试报告最终生成时间,且测试人员需要修改用例则进入步骤(1),否则进行用例执行,进入步骤(5);如果每个环境的用例执行结束时间都早于测试报告最终生成时间,则直接进行用例执行,进入步骤(5)。
步骤(5),监听每台执行机的用例执行情况并记录用例执行结果,如果在监听过程中发现某台机子无反应则进入步骤(6),否则持续监听至每台执行机的用例执行结束且记录所有用例的执行结果后,进入步骤(8);
步骤(6),判断该执行机的执行环境是否出错,如果出错,则进入步骤(7);如果未出错,则继续监控,进入步骤(5);
步骤(7),分配该台执行机未执行的测试用例至该运行环境的其他执行机中,保障剩余用例有执行机执行,进入步骤(5)继续监听执行机的用例执行情况;
步骤(8),还原自动化用例环境并生成测试报告通知给测试人员。如可以通过发送邮件、短信等方式通知给对应的测试人员。
以下对上述步骤(1)至步骤(8)的处理过程进行详细说明:
在步骤(1)中,测试人员在主机上选择所需要执行的用例,所选择的用例执行环境可以不一致,并确定最后测试报告生成时间及报告所需通知的人员。
需要说明的是,不同环境的执行机以域来划分,同一域内有多台环境一致的执行机,而备用池中的执行机可根据条件切换至不同域内的环境。图3示出了根据本发明的一个实施例的主机、执行域和备用池的关系示意图。
由于同一系统可能因配置不同而实现不同的功能,因此该系统的测试用例需要根据配置来具体设计并执行。为便于说明,在此引入执行域的概念,以区分不同配置下的同一个系统。同一执行域内的所有执行机对应的测试系统的配置文件信息都是一致的,只要是针对该配置文件设计的自动化用例,在该域内任何机器上都可执行,换句话说,同一执行域内的所有执行机的执行环境都是一致的。
备用池中的备用机可根据指令切换至不同的执行环境来加入到不同的执行域内,以协助对执行域对应的测试用例进行执行。
在环境搭建时,每个执行域中的执行机数量由测试人员依据该执行域对应的测试用例的数量、测试用例的执行频率来决定。一般情况下,如果执行域的测试用例数量多和/或执行频率较高,则该执行域中的执行机需要多分配;而在执行域的测试用例数量少且执行频率不高的情况下,该执行域中的执行机可少分配,但必须保证该执行域的测试用例有对应的执行机可执行。
备用池中的备用机可根据整个系统的测试用例执行频率及测试结果报告的生成时间进行分配。如果该系统的测试用例执行频率较高且测试结果报告的生成时间比较紧急,则可多配几台备用机,以防紧急情况;在测试结果报告的生成时间不紧急的情况下,可少配甚至不配备用机。
在步骤(2)中,主机按照测试用例所需执行的测试环境进行分类,并确定各个执行环境的优先级。
具体来说,主机根据已选用例的执行环境标志,进行用例区分,明确共有多少个执行域,并根据执行域的优先级,进行所需执行域的排序,放入执行域列表。有优先级配置的则根据优先级排序,无优先级配置的默认为优先级最低,优先级高的域排在列表最前面,同一优先级的域根据读取先后顺序存入。在本发明的一个示例性实施例中,图4示出了各个执行域的优先级列表及按照优先级排序后的列表。
在步骤(3)中,主机根据执行域列表,依次对表中每个执行域所对应的用例进行智能分配。
在本发明的实施例中,主机根据执行域列表向列表中的各个执行域对应的执行机发送ack消息,如果接收到执行机的响应,则认为该执行机具备执行条件,加入该执行域的执行列表中;如果没有接收到响应信息,则认为该执行机不具备执行条件,不做任何处理。同时检测备用池中的执行机,将可用的执行机加入备用池的执行机列表中。然后统计每个执行域中的执行机总数,记为n域n,并统计备用池中的执行机总数,记为n备。
主机根据系统当前时间及测试报告最终生成时间计算出各个执行域中的用例执行时间s总,具体为:s总=测试报告最终生成时间-系统当前时间。
并根据各个执行域对应的每个测试用例的执行时间(记为s用n)计算出各个执行域中的测试用例被单个执行机执行时的执行时间s域n,具体为s域
图5所示为单个执行域对应的测试用例的分配方法示意图。具体地,主机获得该执行域对应基础数据:n域n、n备、s总、s域n、m域n,然后根据m域n与n域n的大小关系,分为如下几种场景:
场景一:m域n小于n域n
在场景一中,先计算出该执行域中每个执行机的用例执行平均时间s分,具体为:
分配原则:
(1)累积该执行域对应的测试用例列表中的前m个测试用例的执行时间,当前m个测试用例的执行时间总和小于或等于s分,而前m+1个测试用例的执行时间总和大于s分(即
(2)累积该执行域对应的测试用例列表中的第m+1个至第n个测试用例执行时间,当第m+1个至第n个测试用例的执行时间总和小于或等于s分,而第m+1个至第n+1个测试用例的执行时间总和大于s分(即
(3)依此直至该执行域的第m域n台执行机用例分配结束。
当该执行域的第m域n台执行机分配结束后,判断该执行域对应的测试用例执行列表中是否有剩余测试用例未分配。如果存在未分配的测试用例,由于n域n大于m域n,因此将未分配的剩余测试用例分配给该执行域的第m域n+1台执行机,此时该执行域的测试用例分配结束,保证该执行域中的每台执行机的执行时间均小于或等于s分,且满足测试报告最终生成时间;如果不存在未分配的测试用例,也标志该执行的测试用例分配结束,同时也满足该执行域中的每台执行机的执行时间小于或等于s分,且满足测试报告最终生成时间。
场景二:m域n等于n域n
在场景二中,按照场景一中的分配原则,依次为该执行域的执行列表中的执行机分配用例,直至第m域n台执行机分配结束,此时判断该执行域对应的测试用例执行列表中是否有未分配的剩余测试用例。
如果不存在剩余测试用例,则该执行域的测试用例分配结束。
如果存在剩余测试用例,则判断备用池是否有备用执行机,如果还有剩余备用执行机(即n备>0),则从备用池列表中取出一台备用执行机,并切换该执行机的执行环境与该执行域的其他执行机的执行环境一致,然后加入该执行域的执行机列表中,此时n备=n备-1,而m域n=n域n=m域n+1,并把该执行域的剩余测试用例分配至该执行机;如果无剩余备用执行机(即n备=0),则把剩余测试用例按照如下原则,分配至该执行域内的所有执行机:
剩余测试用例分配原则:
(1)剩余测试用例逐个分配给该执行域的执行列表中的执行机直至无剩余测试用例或者列表中的每个执行机都分配到;
(2)按照上一步骤分配后,若还有剩余用例,则继续按照上一步骤执行,直至无剩余测试用例。
当剩余测试用例分配结束后,计算该执行域内的每台执行机的测试用例执行时间总和s执n,具体为s执
场景三:m域n大于n域n
当m域n大于n域n时,计算该执行域额外需要的执行机个数n需n,具体为:n需n=m域n-n域n。
判断n需n是否小于n备,如果n需n小于n备,则从备用池列表中取出n需n台备用执行机,并切换这些执行机的执行环境与该执行域中的其他执行机的执行环境一致并加入该执行域的执行机列表中,此时n备=n备-n需n,而m域n=n域n=m域n+n需n,然后依照m域n等于n域n的场景进行用例分配。
如果n需n大于或等于n备,则从备用池列表中取出所有备用执行机,并切换这些执行机的执行环境与该执行域中的其他执行机的执行环境一致并加入该执行域的执行机列表中,此时n备=0,而m域n=n域n=m域n+n备,然后也按照m域n等于n域n的场景进行用例分配。
图6所示为备用池中的执行机的处理过程示意图。其中,备用池中的执行机(以下简称备用机)处于持续监听的状态,监听从主机发送的指令。如果备用机接收到主机发送的切换指令,则解析该指令消息,根据不同的指令数值,切换至不同的执行域或再切换为备用机状态(数值与执行域/备用池相对应,不可出现一个数值对应多个执行域(包含备用池)的情况,也不可出现某个执行域/备用池无数值的情况)。备用机切换完成后,主机会把该备用机加入该执行域的执行列表或再加入备用池中,且备用机依旧处于监听状态。
在步骤(4)中,用例分配结束时,如果某个执行域对应的用例执行结束时间s超n晚于测试报告最终生成时间,则可以通知测试人员,进而测试人员可以修改测试用例。如果测试人员需要修改测试用例,则进入步骤(1);如果测试人员不需要修改测试用例,则进行用例执行,进入步骤(5),那么最终测试报告最终生成时间为s超n的最大值。如果各个执行域的用例执行结束时间s超n都不晚于测试报告最终生成时间,则进行用例执行,进入步骤(5)。
如图7所示,在步骤(5)中,主机在测试用例执行开始时,记录每台执行机当前所执行的测试用例,并根据当前执行的测试用例所需的执行时间,确定该测试用例的执行结束时间,然后开启监听器。
若在该测试用例结束时间之前收到该用例的执行结果及下一个所需执行的测试用例,则主机关闭对当前测试用例的监听,记录该测试用例执行结果及下一个测试用例开始执行的时间,并预计结束时间,开启下一个测试用例的监听,持续监听至每台执行机的测试用例执行结束且记录所有测试用例的执行结果后,进入步骤(8);如果监听过程中,发现某台执行机无反应则进入步骤(6)。
在步骤(6)中,若主机在规定时间内未收到该执行机返回的执行结果,则判断对该测试用例是否为重复监听,如果为重复监听,则判定该执行机的当前环境已不符合剩余用例执行,进入步骤(7)。
如果为非重复监听,则判断该执行机是否死机,如果未死机,则修改当前用例的重复监听标志为重复监听,并增加监听时间,所增加的时间为该用例的执行时间,然后继续监控,进入步骤(5);如果该执行机死机,则进入步骤(7)。
在步骤(7)中,主机收回执行机中无执行结果的测试用例,在本发明的实施例中,若确定某台执行机的当前环境已不符合剩余用例执行,或确定某台执行机死机,则主机可以收回该执行机所有未执行的测试用例。
如图8所示,在收回执行机无执行结果的测试用例之后,判断该执行域的m域n是否小于n域n,若是,则把收回的测试用例分配至该执行域的其它执行机执行(如分配给第m域n+1台执行机执行),并监听该执行机对测试用例的执行结果。
如果m域n等于n域n,则判断备用池是否有可用的备用执行机,若有,则从备用池中取出一台执行机替换当前执行机,并把收回的测试用例分配至该执行机执行,同时监听该执行机对测试用例的执行结果;若无可用的备用执行机,则根据剩余用例分配原则把收回的测试用例分配至该执行域内所有的执行机,并计算出该执行域最后的执行结束时间,同时通知给测试人员(如通过邮件、短信等方式进行通知)。
在步骤(8)中,若主机通过监控发现所有测试用例都已有执行结果,则把从备用池中获取的执行机从每个执行域的执行列表中取出,并切换这些执行机的环境为备用池中的环境,同时生成最后的测试报告并发送给对应测试人员(如通过邮件、短信等方式进行发送)。
本发明上述实施例的技术方案能够实现如下技术效果:
1、测试人员(在控制机上)选择不同环境所需执行的自动化用例,并设置最终测试报告的生成时间后,控制机能够根据最终测试报告的生成时间,智能调配不同执行环境中的执行机,并自动分配所选择的测试用例。
2、控制机能够智能地从备用池中调用备用执行机并切换备用执行机至相应的执行域中,以满足测试报告的生成时间要求。
3、在全部备用执行机都启用的情况下,若依旧不能满足最终测试报告的生成时间,则可以告知测试人员,以便测试人员对测试用例进行调整或对测试报告的生成时间进行调整。
4、在测试用例的执行过程中,能够监控每台执行机对测试用例的执行状态,并收集执行结果。当监控到执行机无法执行测试用例时,可根据最终测试报告的生成时间,把该执行机未执行的测试用例分配至其他执行机,保证测试用例的顺利执行。
5、在所有测试用例都执行完成后,能够自动汇总并生成测试报告,并发送给对应的测试人员。
图9示意性示出了根据本发明的实施例的测试用例的处理装置的框图。
参照图9,根据本发明的实施例的测试用例的处理装置900,包括:获取单元902、分类单元904、分配单元906和处理单元908。
具体地,获取单元902用于获取待执行的测试用例;分类单元904用于根据所述待执行的测试用例在执行时所需的执行环境,对所述待执行的测试用例进行分类,以得到至少一类测试用例;分配单元906用于根据所述至少一类测试用例的执行环境,向各个执行域分配相对应的测试用例,其中,每个所述执行域包含至少一台执行机,每个所述执行域中的执行机的执行环境一致;处理单元908用于基于所述各个执行域中的执行机执行分配到的测试用例。
需要说明的是,上述测试用例的处理装置900中包含的各模块/单元的具体细节已经在对应的测试用例的处理方法中进行了详细的描述,因此此处不再赘述。
下面参考图10,其示出了适于用来实现本发明实施例的电子设备的计算机系统1000的结构示意图。图10示出的电子设备的计算机系统1000仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图10所示,计算机系统1000包括中央处理单元(cpu)1001,其可以根据存储在只读存储器(rom)1002中的程序或者从存储部分608加载到随机访问存储器(ram)1003中的程序而执行各种适当的动作和处理。在ram1003中,还存储有系统操作所需的各种程序和数据。cpu1001、rom1002以及ram1003通过总线1004彼此相连。输入/输出(i/o)接口1005也连接至总线1004。
以下部件连接至i/o接口1005:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至i/o接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被中央处理单元(cpu)1001执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的测试用例的处理方法。
例如,所述的电子设备可以实现如图1中所示的:步骤s10,获取待执行的测试用例;步骤s12,根据所述待执行的测试用例在执行时所需的执行环境,对所述待执行的测试用例进行分类,以得到至少一类测试用例;步骤s14,根据所述至少一类测试用例的执行环境,向各个执行域分配相对应的测试用例,其中,每个所述执行域包含至少一台执行机,每个所述执行域中的执行机的执行环境一致;步骤s16,基于所述各个执行域中的执行机执行分配到的测试用例。
又如,所述的电子设备可以实现如图2,以及图5至图8中任一图所示的各个步骤。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是cd-rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。