一种MapReduce任务的高可用方法、系统、终端及存储介质与流程

本发明涉及大数据insight平台技术领域，具体涉及一种mapreduce任务的高可用方法、系统、终端及存储介质。

背景技术：

在大数据insight平台中，mapreduce是其核心组件之一。insight若实现分布需要包括两部分，一个是分布式文件系统hdfs，一个是分布式计算框架mapreduce，两者缺一不可。insight组件执行任务所依赖的关键就是mapreduce，所以mapreduce对于大数据平台来说是重中之重。当前mapreduce任务在数据节点执行，但数据节点有宕机、网络不可用、性能不佳、等多种情况会影响任务执行导致执行失败，宕机则无日志可查的风险；无法追溯原因，浪费人力、时间，浪费集群资源。

技术实现要素：

针对现有技术的上述不足，本发明提供一种mapreduce任务的高可用方法、系统、终端及存储介质，以解决上述技术问题。

第一方面，本发明提供一种mapreduce任务的高可用方法，包括：

从集群中选取备用节点并存储所述备用节点；

监控所述mapreduce任务的执行节点状态；

若监控到所述执行节点状态异常，则将异常执行节点的任务转发至备用节点。

进一步的，所述从集群中选取备用节点，包括：

采集集群所有节点的性能参数；

选取多个性能参数最优的空闲节点作为备用节点，所述备用节点的数量不少于执行节点数量。

进一步的，所述监控mapreduce任务的执行节点状态，包括：

获取执行节点性能参数，所述性能参数为i/o、job、磁盘、cpu、网络、内存、电源和运行时间的加权求和；

判断所述执行节点的性能参数是否超过预设阈值：

若是，则判定所述执行节点状态异常。

进一步的，所述方法还包括：

保存执行节点的日志存储路径。

实时监控并保存执行节点的任务执行进度。

进一步的，所述将异常执行节点的任务转发至备用节点，包括：

将异常执行节点的任务执行进度和任务数据转发至备用节点；

将异常执行节点的日志存储路径设置为所述备用节点的日志存储路径。

第二方面，本发明提供一种mapreduce任务的高可用系统，包括：

备用选取单元，配置用于从集群中选取备用节点并存储所述备用节点；

状态监控单元，配置用于监控所述mapreduce任务的执行节点状态；

任务转发单元，配置用于若监控到所述执行节点状态异常，则将异常执行节点的任务转发至备用节点。

进一步的，所述备用选取单元包括：

参数采集模块，配置用于采集集群所有节点的性能参数；

节点筛选模块，配置用于选取多个性能参数最优的空闲节点作为备用节点，所述备用节点的数量不少于执行节点数量。

进一步的，所述节点监控单元包括：

参数计算模块，配置用于获取执行节点性能参数，所述性能参数为i/o、job、磁盘、cpu、网络、内存、电源和运行时间的加权求和；

参数判断模块，配置用于判断所述执行节点的性能参数是否超过预设阈值；

异常判定模块，配置用于若所述执行节点的性能参数超过预设阈值，则判定所述执行节点状态异常。

第三方面，提供一种终端，包括：

处理器、存储器，其中，

该存储器用于存储计算机程序，

该处理器用于从存储器中调用并运行该计算机程序，使得终端执行上述的终端的方法。

第四方面，提供了一种计算机存储介质，所述计算机可读存储介质中存储有指令，当其在计算机上运行时，使得计算机执行上述各方面所述的方法。

本发明的有益效果在于，

本发明提供的mapreduce任务的高可用方法、系统、终端及存储介质，通过从集群选取备用节点，并实时监控mapreduce任务的执行节点的状态，一旦发生执行节点状态异常则将异常执行节点的任务转移至备用节点，实现mapreduce任务的高可用。本发明可以确保任务正常执行，不被中断，即节约人力资源，且保证产品质量，且整个过程有log作为记录，后续复盘比较快捷方便。

此外，本发明设计原理可靠，结构简单，具有非常广泛的应用前景。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明一个实施例的方法的示意性流程图。

图2是本发明一个实施例的系统的示意性框图。

图3为本发明实施例提供的一种终端的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明中的技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

图1是本发明一个实施例的方法的示意性流程图。其中，图1执行主体可以为一种mapreduce任务的高可用系统。

如图1所示，该方法100包括：

步骤110，从集群中选取备用节点并存储所述备用节点；

步骤120，监控所述mapreduce任务的执行节点状态；

步骤130，若监控到所述执行节点状态异常，则将异常执行节点的任务转发至备用节点。

为了便于对本发明的理解，下面以本发明mapreduce任务的高可用方法的原理，结合实施例中对mapreduce任务进行调度管理的过程，对本发明提供的mapreduce任务的高可用方法做进一步的描述。

具体的，所述mapreduce任务的高可用方法包括：

s1、从集群中选取备用节点并存储所述备用节点。

任务数据节点推荐模块：保存mapreduce任务数据节点推荐模块推荐的数据节点作为备用节点，所推荐节点为性能最优节点。且选取的备用节点数量不少于当前执行mapreduce任务的节点数总和。

本实施例设置的备用节点数量是最佳的实施方式，在其他实施方式中也可以根据需要自行设置备用节点数量。

s2、监控所述mapreduce任务的执行节点状态。

监控当前mapreduce任务执行节点的i/o、job、磁盘、cpu、网络、内存、电源、运行时间各项指标，利用上述采集的各项指标参数计算执行节点的综合参数，计算方法为对各项指标参数进行加权求和，各指标参数的权值根据各项指标对服务器执行任务的性能需求进行设定。当执行节点的综合参数超出设定阈值则判定该执行节点的状态异常。

s3、若监控到所述执行节点状态异常，则将异常执行节点的任务转发至备用节点。

保存当前所有mapreduce任务执行日志的路径，提供当mapreduce任务转发模块触发后，mapreduce任务切换数据节点执行后，日志可继续在此路径下写入。

监控当前任务执行进度，保证mapreduce任务转发模块执行后，任务继续执行而不是从头开始执行。

当步骤s2中监控到存在异常状态的执行节点后，随机选取一个备用节点，将异常状态的执行节点的任务执行进度和任务数据转发至选取的备用节点并将异常执行节点的日志存储路径设置为该备用节点的日志存储路径。控制备用节点继续执行异常状态执行节点的任务。

如图2示，该系统200包括：

备用选取单元210，配置用于从集群中选取备用节点并存储所述备用节点；

状态监控单元220，配置用于监控所述mapreduce任务的执行节点状态；

任务转发单元230，配置用于若监控到所述执行节点状态异常，则将异常执行节点的任务转发至备用节点。

可选地，作为本发明一个实施例，所述备用选取单元包括：

参数采集模块，配置用于采集集群所有节点的性能参数；

节点筛选模块，配置用于选取多个性能参数最优的空闲节点作为备用节点，所述备用节点的数量不少于执行节点数量。

可选地，作为本发明一个实施例，所述节点监控单元包括：

参数计算模块，配置用于获取执行节点性能参数，所述性能参数为i/o、job、磁盘、cpu、网络、内存、电源和运行时间的加权求和；

参数判断模块，配置用于判断所述执行节点的性能参数是否超过预设阈值；

异常判定模块，配置用于若所述执行节点的性能参数超过预设阈值，则判定所述执行节点状态异常。

图3为本发明实施例提供的一种终端系统300的结构示意图，该终端系统300可以用于执行本发明实施例提供的mapreduce任务的高可用方法。

其中，该终端系统300可以包括：处理器310、存储器320及通信单元330。这些组件通过一条或多条总线进行通信，本领域技术人员可以理解，图中示出的服务器的结构并不构成对本发明的限定，它既可以是总线形结构，也可以是星型结构，还可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

其中，该存储器320可以用于存储处理器310的执行指令，存储器320可以由任何类型的易失性或非易失性存储终端或者它们的组合实现，如静态随机存取存储器(sram)，电可擦除可编程只读存储器(eeprom)，可擦除可编程只读存储器(eprom)，可编程只读存储器(prom)，只读存储器(rom)，磁存储器，快闪存储器，磁盘或光盘。当存储器320中的执行指令由处理器310执行时，使得终端300能够执行以下上述方法实施例中的部分或全部步骤。

处理器310为存储终端的控制中心，利用各种接口和线路连接整个电子终端的各个部分，通过运行或执行存储在存储器320内的软件程序和/或模块，以及调用存储在存储器内的数据，以执行电子终端的各种功能和/或处理数据。所述处理器可以由集成电路(integratedcircuit，简称ic)组成，例如可以由单颗封装的ic所组成，也可以由连接多颗相同功能或不同功能的封装ic而组成。举例来说，处理器310可以仅包括中央处理器(centralprocessingunit，简称cpu)。在本发明实施方式中，cpu可以是单运算核心，也可以包括多运算核心。

通信单元330，用于建立通信信道，从而使所述存储终端可以与其它终端进行通信。接收其他终端发送的用户数据或者向其他终端发送用户数据。

本发明还提供一种计算机存储介质，其中，该计算机存储介质可存储有程序，该程序执行时可包括本发明提供的各实施例中的部分或全部步骤。所述的存储介质可为磁碟、光盘、只读存储记忆体(英文：read-onlymemory，简称：rom)或随机存储记忆体(英文：randomaccessmemory，简称：ram)等。

因此，本发明通过从集群选取备用节点，并实时监控mapreduce任务的执行节点的状态，一旦发生执行节点状态异常则将异常执行节点的任务转移至备用节点，实现mapreduce任务的高可用。本发明可以确保任务正常执行，不被中断，即节约人力资源，且保证产品质量，且整个过程有log作为记录，后续复盘比较快捷方便，本实施例所能达到的技术效果可以参见上文中的描述，此处不再赘述。

本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明实施例中的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中如u盘、移动硬盘、只读存储器(rom，read-onlymemory)、随机存取存储器(ram，randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质，包括若干指令用以使得一台计算机终端(可以是个人计算机，服务器，或者第二终端、网络终端等)执行本发明各个实施例所述方法的全部或部分步骤。

本说明书中各个实施例之间相同相似的部分互相参见即可。尤其，对于终端实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例中的说明即可。

在本发明所提供的几个实施例中，应该理解到，所揭露的系统和方法，可以通过其它的方式实现。例如，以上所描述的系统实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，系统或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

尽管通过参考附图并结合优选实施例的方式对本发明进行了详细描述，但本发明并不限于此。在不脱离本发明的精神和实质的前提下，本领域普通技术人员可以对本发明的实施例进行各种等效的修改或替换，而这些修改或替换都应在本发明的涵盖范围内/任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。