定时任务处理方法、系统、计算机设备及存储介质与流程

本发明涉及数据处理技术领域，尤其涉及一种定时任务处理方法、系统、计算机设备及存储介质。

背景技术：

随着信息与科技的发展，技术日新月异的进步，信息爆发式的增长，每天都会产生巨量的数据，每天都需要处理巨量的数据。通常在信息系统中采用定时任务来处理这些数据，用户数量少的时候可以由单台服务器来执行定时任务，能够在较短时间内完成任务，然而随着用户量开始增多时，单台服务器无法在规定的时间内完成定时任务。为了能够按时完成定时任务，通常由多台服务器来处理不同批次的数据，需要指定不同服务器处理数据的范围，例如，根据数据的属性来区分，不同服务器处理不同属性的数据。但是该数据处理方式不够灵活，每台服务器处理不同类型的数据需要配置，涉及到开发上的更改。

技术实现要素：

本发明实施例提供了一种定时任务处理方法、系统、计算机设备及存储介质，旨在解决数据处理方式不够灵活的问题。

第一方面，本发明实施例提供了一种定时任务处理方法，其包括：从数据库中获取待处理的数据；根据预设分片策略将所述待处理的数据进行分片得到分片数据；将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行。

第二方面，本发明实施例还提供了一种定时任务处理系统，其包括：分片服务器，用于根据预设分片策略将待处理的数据进行分片得到分片数据；消息服务器，用于将所述分片数据根据负载均衡策略进行推送；任务执行服务器，用于根据所述分片数据执行定时任务。

第三方面，本发明实施例还提供了一种计算机设备，其包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现上述方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序当被处理器执行时可实现上述方法。

本发明实施例提供了一种定时任务处理方法、系统、计算机设备及存储介质。其中，所述方法包括：从数据库中获取待处理的数据；根据预设分片策略将所述待处理的数据进行分片得到分片数据；将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行，可提高数据处理的灵活性，简单易扩展。

附图说明

为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的定时任务处理方法的应用场景示意图；

图2为本发明实施例提供的定时任务处理方法的流程示意图；

图3为本发明实施例提供的定时任务处理方法的子流程示意图；

图4为本发明实施例提供的定时任务处理系统的示意性框图；

图5为本发明实施例提供的定时任务处理系统的消息服务器的示意性框图；

图6为本发明另一实施例提供的定时任务处理系统的消息服务器的示意性框图；以及

图7为本发明实施例提供的计算机设备的示意性框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

请参阅图1和图2，图1为本发明实施例提供的定时任务处理方法的应用场景示意图。图2为本发明实施例提供的定时任务处理方法的示意性流程图。本发明通过服务器之间的交互实现，包括分片服务器20、消息服务器30以及任务执行服务器40，首先分片服务器20从数据库10中获取待处理的数据，并将待处理的数据进行分片得到分片数据，然后将分片数据推送到消息服务器30中，由消息服务器30将分片数据推送到各个任务执行服务器40中，最后由任务执行服务器40执行定时任务处理分片数据。本发明实施例提供的定时任务处理方法应用在分片服务器20中。

图2是本发明实施例提供的定时任务处理方法的流程示意图。如图所示，该方法包括以下步骤s110-130。

s110、从数据库中获取待处理的数据。

在一实施例中，数据库用于存储待处理数据，用户根据任务需要在数据库中获取所需要处理的数据，例如，定时任务为更新用户信息，从数据库获取用户信息。

s120、根据预设分片策略将所述待处理的数据进行分片得到分片数据。

在一实施例中，预设分片策略指的是预先设置好将待处理数据进行分片的规则，待处理数据首先通过预设分片策略分片后再进行下一步处理。

在一实施例中，所述步骤s120可包括步骤：s121。

s121、将所述待处理的数据以集合的方式进行分片得到多片分片数据。

在一实施例中，集合的方式指的是将数据按照集合划分，例如，定时任务为更新100万个用户信息，以10万个用户信息为一个集合，将100万个用户信息划分为1-10万、10-20万、20-30万…90-100万，10个集合的用户信息。每一个集合为一片分片数据，分片方式简单高效，不需要涉及到开发上的更改。

在另一实施例中，所述步骤s120可包括步骤：s122。

s122、将所述待处理的数据以时间单位的方式进行分片得到多片分片数据。

在一实施例中，时间单位的方式指的是按照时间单位划分，例如，定时任务为处理一个月的数据，按照以天为时间单位将一个月的数据划分为30天的数据，每一天的数据为一片分片数据；又例如，定时任务为处理一天的数据，按照以小时为时间单位将一天的数据划分为24个小时的数据，每一小时的数据为一片分片数据。分片方式简单高效，不需要涉及到开发上的更改。

s130、将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行。

在一实施例中，消息服务器是作为中间件推送分片数据的服务器，负载均衡策略指的是一种将任务合理分配到多个任务执行服务器中执行的方法，具体地，消息服务器接收到分片数据后，根据负载均衡策略将分片数据均匀地分片到各个任务执行服务器中去执行，以提高任务的执行效率。

本发明实施例展示的一种定时任务处理方法从数据库中获取待处理的数据；根据预设分片策略将所述待处理的数据进行分片得到分片数据；将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行，可提高数据处理的灵活性，简单易扩展。

图3是本发明实施例提供的一种定时任务处理系统200的示意性框图。所述定时任务处理系统包括：分片服务器20、消息服务器30以及任务执行服务器40。如图4所示，所述分片服务器包括：获取单元210、分片单元220、以及发送单元230。

获取单元210，用于从数据库中获取待处理的数据。

在一实施例中，数据库用于存储待处理数据，用户根据任务需要在数据库中获取所需要处理的数据，例如，定时任务为更新用户信息，从数据库获取用户信息。

分片单元220，用于根据预设分片策略将所述待处理的数据进行分片得到分片数据。

在一实施例中，预设分片策略指的是预先设置好将待处理数据进行分片的规则，待处理数据首先通过预设分片策略分片后再进行下一步处理。

在一实施例中，所述分片单元具体用于将所述待处理的数据以集合的方式进行分片得到多片分片数据。集合的方式指的是将数据按照集合划分，例如，定时任务为更新100万个用户信息，以10万个用户信息为一个集合，将100万个用户信息划分为1-10万、10-20万、20-30万…90-100万，10个集合的用户信息。每一个集合为一片分片数据，分片方式简单高效，不需要涉及到开发上的更改。

在另一实施例中，所述分片单元具体用于将所述待处理的数据以时间单位的方式进行分片得到多片分片数据。时间单位的方式指的是按照时间单位划分，例如，定时任务为处理一个月的数据，按照以天为时间单位将一个月的数据划分为30天的数据，每一天的数据为一片分片数据；又例如，定时任务为处理一天的数据，按照以小时为时间单位将一天的数据划分为24个小时的数据，每一小时的数据为一片分片数据。分片方式简单高效，不需要涉及到开发上的更改。

发送单元230，用于将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行。

在一实施例中，消息服务器是作为中间件推送分片数据的服务器，负载均衡策略指的是一种将任务合理分配到多个任务执行服务器中执行的方法，具体地，消息服务器接收到分片数据后，根据负载均衡策略将分片数据均匀地分片到各个任务执行服务器中去执行，以提高任务的执行效率。

参照图5，所述消息服务器30包括：接收单元240、判断单元250以及第一推送单元260。

接收单元240，用于接收所述任务执行服务器推送的负载信息。

判断单元250，用于根据所述负载信息判断所述任务执行服务器的负载。

第一推送单元260，用于将所述分片数据推送给负载最低的所述任务执行服务器。

在一实施例中，负载信息用于表示任务执行服务器目前运行的进程数，进程数越高负载越高，进程数越低负载越低。所述消息服务器接收来自任务执行服务器的负载信息，根据各个任务执行服务器的负载信息判断目前负载最低的任务执行服务器，将分片数据推送给负载最低的任务执行服务器中执行合理分配定时任务以达到最优的执行效率。

在一实施例中，如图6所示，所述消息服务器30包括：第二推送单元270。

第二推送单元270，用于将一片或多片所述分片数据推送到一台所述服务器中执行。

在一实施例中，每一台服务器执行一片分片数据，当然可以理解的是，一台服务器还可执行多片分片数据，例如，有10台服务器，共需要处理10片分片数据，一台服务器只执行一片分片数据，将10片分片数据一一分配到10台服务器中执行。需要增加分片数据时，只需要更新分片数增加相应处理执行的服务器即可，简单且易扩展。

本发明实施例展示的一种定时任务处理系统从数据库中获取待处理的数据；根据预设分片策略将所述待处理的数据进行分片得到分片数据；将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行，可提高数据处理的灵活性，简单易扩展。

请参阅图7，图7是本申请实施例提供的一种计算机设备的示意性框图。该计算机设备500可以是服务器。

参阅图7，该计算机设备500包括通过系统总线501连接的处理器502、存储器和网络接口505，其中，存储器可以包括非易失性存储介质503和内存储器504。

该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032被执行时，可使得处理器502执行一种定时任务处理方法。

该处理器502用于提供计算和控制能力，以支撑整个计算机设备500的运行。

该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境，该计算机程序5032被处理器502执行时，可使得处理器502执行一种定时任务处理方法。

该网络接口505用于与其它设备进行网络通信。本领域技术人员可以理解，图7中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备500的限定，具体的计算机设备500可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

其中，所述处理器502用于运行存储在存储器中的计算机程序5032，以实现如下步骤：从数据库中获取待处理的数据；根据预设分片策略将所述待处理的数据进行分片得到分片数据；将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行。

在一实施例中，处理器502在实现所述根据预设分片策略将所述待处理的数据进行分片得到分片数据步骤时，具体实现如下步骤：将所述待处理的数据以集合的方式进行分片得到多片分片数据。

在一实施例中，处理器502在实现所述根据预设分片策略将所述待处理的数据进行分片得到分片数据步骤时，具体实现如下步骤：将所述待处理的数据以时间单位的方式进行分片得到多片分片数据。

应当理解，在本申请实施例中，处理器502可以是中央处理单元(centralprocessingunit，cpu)，该处理器502还可以是其他通用处理器、数字信号处理器(digitalsignalprocessor，dsp)、专用集成电路(applicationspecificintegratedcircuit，asic)、现成可编程门阵列(field-programmablegatearray，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中，通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

本领域普通技术人员可以理解的是实现上述实施例的方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成。该计算机程序包括程序指令，计算机程序可存储于一存储介质中，该存储介质为计算机可读存储介质。该程序指令被该计算机系统中的至少一个处理器执行，以实现上述方法的实施例的流程步骤。

因此，本发明还提供一种存储介质。该存储介质可以为计算机可读存储介质。该存储介质存储有计算机程序，其中计算机程序包括程序指令。该程序指令被处理器执行时使处理器执行如下步骤：从数据库中获取待处理的数据；根据预设分片策略将所述待处理的数据进行分片得到分片数据；将所述分片数据推送至消息服务器，由所述消息服务器根据负载均衡策略将所述分片数据推送到各任务执行服务器中执行。

在一实施例中，所述处理器在执行所述程序指令而实现所述根据预设分片策略将所述待处理的数据进行分片得到分片数据步骤时，具体实现如下步骤：将所述待处理的数据以集合的方式进行分片得到多片分片数据。

在一实施例中，所述处理器在执行所述程序指令而实现所述根据预设分片策略将所述待处理的数据进行分片得到分片数据步骤时，具体实现如下步骤：将所述待处理的数据以时间单位的方式进行分片得到多片分片数据。

所述存储介质可以是u盘、移动硬盘、只读存储器(read-onlymemory，rom)、磁碟或者光盘等各种可以存储程序代码的计算机可读存储介质。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的。例如，各个单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。

本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。本发明实施例装置中的单元可以根据实际需要进行合并、划分和删减。另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。

该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，终端，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。