数据批量加载方法及装置与流程

文档序号:14120398阅读:273来源:国知局
本发明涉及计算机
技术领域
:,尤其涉及一种数据批量加载方法及装置。
背景技术
::随着移动互联网技术及应用的不断发展,作为移动通信
技术领域
:的主要环节:核心网子系统,其在生产过程中产生海量数据。从应用角度,如何应用及/或挖掘海量数据的价值,存在以下几方面的挑战:(1)根据精益化理念,挖掘用户潜在的需求;(2)从海量数据中提供用户记录的即席查询;(3)随着应用的快速发展,建立可动态扩展的大数据技术架构。而采用大数据技术,可解决核心网子系统海量数据的分析挖掘与即席查询等问题。然而,核心网子系统海量数据若采用现有的api(applicationprogramminginterface,应用程序编程接口)或者批量数据加载方法接入大数据系统进行存储,将无法实现海量数据的灵活、高吞吐量的性能要求,进而影响移动核心网子系统的业务应用。技术实现要素:本发明的主要目的在于提供一种数据批量加载方法及装置,旨在实现海量数据的快速加载,提高海量数据加载的自适应性和灵活性。为实现上述目的,本发明提供的数据批量加载方法包括以下步骤:确定待数据加载的分布式数据库对应的数据表结构信息;根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件;将解析的所述本地文件批量加载至所述分布式数据库中。优选地,所述确定待数据加载的分布式数据库对应的数据表结构信息的步骤包括:定时或者在收到数据批量加载指令后,根据预先确定的分布式数据库与数据表结构信息的映射关系,确定待数据加载的分布式数据库对应的数据表结构信息。优选地,所述数据表结构信息包括字段名称、类型、索引字段及/或主键字段,所述预设格式的文件为文本文件,所述根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件的步骤包括:利用预先确定的分隔符对待加载的预设格式的文件中的文本内容按照数据表结构信息类型进行分隔;将分隔后的文本内容按照所述分布式数据库对应的表结构,生成所述分布式数据库对应格式的本地文件。优选地,所述数据批量加载方法还包括:实时或者定时侦测所述分布式数据库的预设类型负载数据;若侦测的负载数据大于对应的预设阈值,则禁止将解析的所述本地文件批量加载至所述分布式数据库中;若侦测的负载数据小于或者等于对应的预设阈值,则允许将解析的所述本地文件批量加载至所述分布式数据库中。优选地,所述数据批量加载方法还包括:实时或者定时侦测所述分布式数据库的待加载数据量;若侦测的待加载数据量大于预设数量,则禁止确定所述数据表结构信息以及禁止根据确定的所述数据表结构信息解析生成所述本地文件;若侦测的待加载数据量小于或者等于预设数量,则允许确定所述数据表结构信息以及允许根据确定的所述数据表结构信息解析生成所述本地文件。此外,为实现上述目的,本发明还提供一种数据批量加载装置,所述数据批量加载装置包括数据解析模块和批量加载模块;所述数据解析模块用于确定待数据加载的分布式数据库对应的数据表结构信息;所述数据解析模块还用于根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件;所述批量加载模块用于将解析的所述本地文件批量加载至所述分布式数据库中。优选地,所述数据解析模块还用于定时或者在收到数据批量加载指令后,根据预先确定的分布式数据库与数据表结构信息的映射关系,确定待数据加载的分布式数据库对应的数据表结构信息。优选地,所述数据表结构信息包括字段名称、类型、索引字段及/或主键字段,所述预设格式的文件为文本文件,所述数据解析模块包括:分隔单元,用于利用预先确定的分隔符对待加载的预设格式的文件中的文本内容按照数据表结构信息类型进行分隔;生成单元,用于将分隔后的文本内容按照所述分布式数据库对应的表结构,生成所述分布式数据库对应格式的本地文件。优选地,所述数据批量加载装置还包括第一加载控制模块,所述第一加载控制模块用于实时或者定时侦测所述分布式数据库的预设类型负载数据;若侦测的负载数据大于对应的预设阈值,且所述批量加载模块处于启用状态,则所述第一加载控制模块关闭所述批量加载模块;若侦测的负载数据小于或者等于对应的预设阈值,且所述批量加载模块处于关闭状态,则所述第一加载控制模块启用所述批量加载模块。优选地,所述数据批量加载装置还包括第二加载控制模块,所述第二加载控制模块用于实时或者定时侦测所述分布式数据库的待加载数据量;若侦测的待加载数据量大于预设数量,且所述数据解析模块处于启用状态,则所述第二加载控制模块关闭所述数据解析模块;若侦测的负载数据小于或者等于对应的预设阈值,且所述数据解析模块处于关闭状态,则所述第二加载控制模块启用所述数据解析模块。本发明提出的数据批量加载方法及装置,通过确定待数据加载的分布式数据库对应的数据表结构信息,并根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件,最后将解析的所述本地文件批量加载至所述分布式数据库中,由于直接将待加载文件解析为分布式数据库对应格式的本地文件,使得该本地文件可以批量加载至分布式数据库中,减少了预写日志以及内存存储的操作,从而实现了海量数据的快速加载,提高了海量数据加载的自适应性和灵活性。附图说明图1为本发明数据批量加载方法第一实施例的流程示意图;图2为本发明数据批量加载方法的第三实施例中生成本地文件步骤的细化流程示意图;图3为本发明数据批量加载装置第一实施例的功能模块示意图;图4为本发明数据批量加载装置的第三实施例中数据解析模块的细化功能模块示意图;图5为本发明数据批量加载装置的第四实施例的功能模块示意图;图6为本发明数据批量加载装置的第五实施例的功能模块示意图。本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。具体实施方式应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。本发明提供一种数据批量加载方法。该数据批量加载方法可以用于核心网子系统的大数据处理。该方法可以基于以下系统架构实现,该系统架构包括数据源系统(例如核心网子系统)、数据批量加载控制系统和分布式数据库,其中,数据源系统与数据批量加载控制系统通信连接,数据批量加载控制系统与分布式数据库通信连接,数据批量加载控制系统包括数据解析模块和批量加载模块。参照图1,图1为本发明数据批量加载方法第一实施例的流程示意图。在该实施例中,该数据批量加载方法包括:步骤s10,确定待数据加载的分布式数据库对应的数据表结构信息;在本实施例中,可以由上述数据解析模块确定待数据加载的分布式数据库对应的数据表结构信息。数据表结构信息例如可以包括但不限于字段名称、类型、索引字段及/或主键字段等。例如,可以根据预先确定的表名称与数据表结构信息的映射关系,通过待数据加载的分布式数据库对应的表名称,自动获取待数据加载的分布式数据库对应的数据表结构信息。步骤s20,根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件;在本实施例中,可以由上述数据解析模块根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件。待加载的预设格式的文件例如可以为文本文件textfile。所述本地文件例如可以为filestore。步骤s30,将解析的所述本地文件批量加载至所述分布式数据库中。在本实施例中,可以由上述批量加载模块将解析的所述本地文件批量加载至所述分布式数据库中。具体的,批量加载模块将本地文件批量加载至分布式数据库的不同节点上。同时为了较优的加载性能,数据解析模块实现过程减少了预写日志以及内存存储的过程,提升了数据加载的整体性能。在本实施例中,数据解析模块获取数据存储的表结构、原始文本文件的特征,将原始文本文件解析为分布式数据库存储的文件格式;数据批量加载模块读取解析成功的分布式数据库存储的格式的文件,批量加载至数据库不同节点上。同时,本实施例以配置命令参数的方式,实现数据的多种模式的加载,例如:全模式、解析模式、加载模式。全模式表示将待加载(源)文件,通过批量数据加载方法的实现,直接加载至分布式数据库中;解析模式表示将待加载(源)文件解析为分布式数据库存储结构的文件;加载模式表示将解析为分布式数据库存储结构的文件,加载至分布式数据库中。可选的,本发明以移动核心网子系统的大数据应用场景为背景,为实现海量数据的即席查询,可以采用分布式k-value模型数据库作为大数据存储组件。本发明提供的数据批量加载方法,通过确定待数据加载的分布式数据库对应的数据表结构信息,并根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件,最后将解析的所述本地文件批量加载至所述分布式数据库中,由于直接将待加载文件解析为分布式数据库对应格式的本地文件,使得该本地文件可以批量加载至分布式数据库中,减少了预写日志以及内存存储的操作,从而实现了海量数据的快速加载,提高了海量数据加载的自适应性和灵活性。进一步地,为了进一步提高海量数据加载的灵活性,基于本发明数据批量加载方法的第一实施例,本发明还提出了数据批量加载方法的第二实施例,步骤s10包括:定时或者在收到数据批量加载指令后,根据预先确定的分布式数据库与数据表结构信息的映射关系,确定待数据加载的分布式数据库对应的数据表结构信息。在本实施例中,在采用定时方式作为触发条件时,例如可以每隔20分钟确定一次数据表结构信息。在采用数据批量加载指令作为触发条件时,例如,可以根据预先确定的表名称与数据表结构信息的映射关系,通过待数据加载的分布式数据库对应的表名称,自动获取待数据加载的分布式数据库对应的数据表结构信息。本实施例提供了两种触发条件,使得对海量数据加载更加灵活。进一步地,基于本发明数据批量加载方法的第一或第二实施例,本发明还提出了数据批量加载方法的第三实施例,参照图2,图2为本发明数据批量加载方法的第三实施例中生成本地文件步骤的细化流程示意图,所述数据表结构信息包括字段名称、类型、索引字段及/或主键字段,所述预设格式的文件为文本文件,所述步骤s20包括:步骤s21,利用预先确定的分隔符对待加载的预设格式的文件中的文本内容按照数据表结构信息类型进行分隔;步骤s22,将分隔后的文本内容按照所述分布式数据库对应的表结构,生成所述分布式数据库对应格式的本地文件。在本实施例中,数据解析模块可以根据分布式数据库的连接信息及表名称,获取分布式数据库的字段名称、类型、索引字段及/或主键字段。然后,根据分布式数据库的表结构,解析待加载的文本文件,其中文本文件字段的分隔,支持多种类型的分隔符,即所述预先确定的分隔符例如可以为单个转义字符的分隔符、单个非转义字符的分隔符、多个字符组合成的分隔符等。待加载的文本文件的文件内容以行为单元区分数据的记录,即文本文件中一行代表一条数据记录。每一行记录的字段值支持多种不同类型的分隔符,如:单个转义字符的分隔符、单个非转义字符的分隔符、多个字符组合成的分隔符。最后,将解析的数据案子分布式数据库的表结构,生成本地文件。本实施例中,可以实现源文本文件至分布式数据数据库文件的转换;还可以解决分布式数据库中,不同存储结构的“自适应”式解析;另外还解决了复杂、多种类型的源文本文件的解析。以下提出一应用案例:采用移动核心网子系统的数据,即为移动用户上网的日志型数据,包括:电话号码、上网开始结束时间、访问域名地址等。该系统每隔一个时间段将输出一部分文本文件,数据批量加载方法的工具将这部分数据批量加载至分布式数据库。分布式数据库采用的是开源cassandra数据库,批量加载模块采用开源sstableloader类库,数据解析模块采用cqlsstablewriter类库。数据存储结构可以为:createkeyspaceifnotexistsinsertspacewithreplication={'class':'simplestrategy','replication_factor':3};createtableinserttable(teltext,begintimebigint,valuetext,primarykey(msisdn,begintime));说明:tel表示电话号、begintime表示上网开始时间、value表示其他属性值。原始文本文件记录为13字段的数据,其中电话号码与上网开始时间解析后作为数据库表的主键,其他字段值以逗号分隔作为一个数据库表的字段value。验证环境可以为:应用环境为cassandra-2.1.11版本,由4个物理机器组成分布式数据库集群,其中每台物理机器的硬件配置为:cpu内存(gb)磁盘(gb)网络(gbps)e52665(2路8核)2.4ghz1285*9001000实验结果如下:操作类型数据量/记录数目耗时(ms)效率(记录/s)加载36,11111120453512279.6万通过以上实验数据,该数据批量加载方法的工具持续加载36亿条记录,平均加载效率为79.6万/秒。可见,该数据批量加载方法可以实现海量数据的快速加载,提高了海量数据加载的自适应性和灵活性。进一步地,基于本发明数据批量加载方法的第一至第三任一实施例,本发明还提出了数据批量加载方法的第四实施例,所述数据批量加载方法还包括:实时或者定时侦测所述分布式数据库的预设类型负载数据;若侦测的负载数据大于对应的预设阈值,则禁止将解析的所述本地文件批量加载至所述分布式数据库中;若侦测的负载数据小于或者等于对应的预设阈值,则允许将解析的所述本地文件批量加载至所述分布式数据库中。在本实施例中,预设类型负载数据例如可以为cpu占用率及/或内存占用率等。在预设类型负载数据过大时,若继续批量加载,则可能会造成系统负荷过大甚至死机。因此,在预设类型负载数据过大时,则可以将批量加载模块关闭,禁止批量加载模块将解析的本地文件批量加载至分布式数据库中,避免了系统负载过大的现象产生,进而避免了系统死机,提高了系统的可靠性。此外,在侦测到预设类型负载数据较小时,表明当前系统负荷不大,因此可以允许批量加载模块将解析的本地文件批量加载至分布式数据库,使得系统可以在负荷较小时及时开启批量加载模块,提高了批量数据加载的灵活性。进一步地,基于本发明数据批量加载方法的第一至第四任一实施例,本发明还提出了数据批量加载方法的第五实施例,所述数据批量加载方法还包括:实时或者定时侦测所述分布式数据库的待加载数据量;若侦测的待加载数据量大于预设数量,则禁止确定所述数据表结构信息以及禁止根据确定的所述数据表结构信息解析生成所述本地文件;若侦测的待加载数据量小于或者等于预设数量,则允许确定所述数据表结构信息以及允许根据确定的所述数据表结构信息解析生成所述本地文件。在分布式数据库的待加载数据量过大时,若数据解析模块继续确定所述数据表结构信息以及继续根据确定的所述数据表结构信息解析生成所述本地文件,则可能会造成分布式数据库的待加载数据量越来越大,甚至可能造成系统死机。因此,在分布式数据库的待加载数据量过大时,则可以将数据解析模块关闭,禁止确定所述数据表结构信息以及禁止根据确定的所述数据表结构信息解析生成所述本地文件,避免了分布式数据库的待加载数据量进一步过大的现象产生,进而避免了系统死机,提高了系统的可靠性。此外,在侦测到分布式数据库的待加载数据量较小时,因此可以允许数据解析模块确定所述数据表结构信息以及允许根据确定的所述数据表结构信息解析生成所述本地文件,使得系统可以在分布式数据库的待加载数据量较小时及时开启数据解析模块,提高了批量数据加载的灵活性。本发明进一步提供一种数据批量加载装置。该数据批量加载装置可以用于核心网子系统的大数据处理。可以基于以下系统架构实现,该系统架构包括数据源系统(例如核心网子系统)、数据批量加载控制系统和分布式数据库,其中,数据源系统与数据批量加载控制系统通信连接,数据批量加载控制系统与分布式数据库通信连接。该数据批量加载装置可以为所述数据批量加载控制系统。参照图3,图3为本发明数据批量加载装置第一实施例的功能模块示意图。在第一实施例中,该数据批量加载装置包括数据解析模块10和批量加载模块20;所述数据解析模块10用于确定待数据加载的分布式数据库对应的数据表结构信息;数据表结构信息例如可以包括但不限于字段名称、类型、索引字段及/或主键字段等。例如,可以根据预先确定的表名称与数据表结构信息的映射关系,通过待数据加载的分布式数据库对应的表名称,自动获取待数据加载的分布式数据库对应的数据表结构信息。所述数据解析模块10还用于根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件;待加载的预设格式的文件例如可以为文本文件textfile。所述本地文件例如可以为filestore。所述批量加载模块20用于将解析的所述本地文件批量加载至所述分布式数据库中。具体的,批量加载模块20将本地文件批量加载至分布式数据库的不同节点上。同时为了较优的加载性能,数据解析模块10实现过程减少了预写日志以及内存存储的过程,提升了数据加载的整体性能。在本实施例中,数据解析模块10获取数据存储的表结构、原始文本文件的特征,将原始文本文件解析为分布式数据库存储的文件格式;数据批量加载模块20读取解析成功的分布式数据库存储的格式的文件,批量加载至数据库不同节点上。同时,本实施例以配置命令参数的方式,实现数据的多种模式的加载,例如:全模式、解析模式、加载模式。全模式表示将待加载(源)文件,通过批量数据加载方法的实现,直接加载至分布式数据库中;解析模式表示将待加载(源)文件解析为分布式数据库存储结构的文件;加载模式表示将解析为分布式数据库存储结构的文件,加载至分布式数据库中。可选的,本发明以移动核心网子系统的大数据应用场景为背景,为实现海量数据的即席查询,可以采用分布式k-value模型数据库作为大数据存储组件。本发明提供的数据批量加载装置,通过确定待数据加载的分布式数据库对应的数据表结构信息,并根据确定的所述数据表结构信息将待加载的预设格式的文件解析为该分布式数据库对应格式的本地文件,最后将解析的所述本地文件批量加载至所述分布式数据库中,由于直接将待加载文件解析为分布式数据库对应格式的本地文件,使得该本地文件可以批量加载至分布式数据库中,减少了预写日志以及内存存储的操作,从而实现了海量数据的快速加载,提高了海量数据加载的自适应性和灵活性。进一步地,为了进一步提高海量数据加载的灵活性,基于本发明数据批量加载装置的第一实施例,本发明还提出了数据批量加载装置的第二实施例,所述数据解析模块10还用于定时或者在收到数据批量加载指令后,根据预先确定的分布式数据库与数据表结构信息的映射关系,确定待数据加载的分布式数据库对应的数据表结构信息。在本实施例中,在采用定时方式作为触发条件时,例如可以每隔20分钟确定一次数据表结构信息。在采用数据批量加载指令作为触发条件时,例如,可以根据预先确定的表名称与数据表结构信息的映射关系,通过待数据加载的分布式数据库对应的表名称,自动获取待数据加载的分布式数据库对应的数据表结构信息。本实施例提供了两种触发条件,使得对海量数据加载更加灵活。进一步地,基于本发明数据批量加载装置的第一或第二实施例,本发明还提出了数据批量加载装置的第三实施例,参照图4,图4为本发明数据批量加载装置的第三实施例中数据解析模块的细化功能模块示意图,所述数据表结构信息包括字段名称、类型、索引字段及/或主键字段,所述预设格式的文件为文本文件,所述数据解析模块10包括:分隔单元11,用于利用预先确定的分隔符对待加载的预设格式的文件中的文本内容按照数据表结构信息类型进行分隔;生成单元12,用于将分隔后的文本内容按照所述分布式数据库对应的表结构,生成所述分布式数据库对应格式的本地文件。在本实施例中,数据解析模块10可以根据分布式数据库的连接信息及表名称,获取分布式数据库的字段名称、类型、索引字段及/或主键字段。然后,根据分布式数据库的表结构,解析待加载的文本文件,其中文本文件字段的分隔,支持多种类型的分隔符,即所述预先确定的分隔符例如可以为单个转义字符的分隔符、单个非转义字符的分隔符、多个字符组合成的分隔符等。待加载的文本文件的文件内容以行为单元区分数据的记录,即文本文件中一行代表一条数据记录。每一行记录的字段值支持多种不同类型的分隔符,如:单个转义字符的分隔符、单个非转义字符的分隔符、多个字符组合成的分隔符。最后,将解析的数据案子分布式数据库的表结构,生成本地文件。本实施例中,可以实现源文本文件至分布式数据数据库文件的转换;还可以解决分布式数据库中,不同存储结构的“自适应”式解析;另外还解决了复杂、多种类型的源文本文件的解析。以下提出一应用案例:采用移动核心网子系统的数据,即为移动用户上网的日志型数据,包括:电话号码、上网开始结束时间、访问域名地址等。该系统每隔一个时间段将输出一部分文本文件,数据批量加载方法的工具将这部分数据批量加载至分布式数据库。分布式数据库采用的是开源cassandra数据库,批量加载模块20采用开源sstableloader类库,数据解析模块10采用cqlsstablewriter类库。数据存储结构可以为:createkeyspaceifnotexistsinsertspacewithreplication={'class':'simplestrategy','replication_factor':3};createtableinserttable(teltext,begintimebigint,valuetext,primarykey(msisdn,begintime));说明:tel表示电话号、begintime表示上网开始时间、value表示其他属性值。原始文本文件记录为13字段的数据,其中电话号码与上网开始时间解析后作为数据库表的主键,其他字段值以逗号分隔作为一个数据库表的字段value。验证环境可以为:应用环境为cassandra-2.1.11版本,由4个物理机器组成分布式数据库集群,其中每台物理机器的硬件配置为:cpu内存(gb)磁盘(gb)网络(gbps)e52665(2路8核)2.4ghz1285*9001000实验结果如下:操作类型数据量/记录数目耗时(ms)效率(记录/s)加载36,11111120453512279.6万通过以上实验数据,该数据批量加载方法的工具持续加载36亿条记录,平均加载效率为79.6万/秒。可见,该数据批量加载方法可以实现海量数据的快速加载,提高了海量数据加载的自适应性和灵活性。进一步地,基于本发明数据批量加载装置的第一至第三任一实施例,本发明还提出了数据批量加载装置的第四实施例,参照图5,图5为本发明数据批量加载装置的第四实施例的功能模块示意图,所述数据批量加载装置还包括第一加载控制模块30,所述第一加载控制模块30用于实时或者定时侦测所述分布式数据库的预设类型负载数据;若侦测的负载数据大于对应的预设阈值,且所述批量加载模块20处于启用状态,则所述第一加载控制模块30关闭所述批量加载模块20;若侦测的负载数据小于或者等于对应的预设阈值,且所述批量加载模块20处于关闭状态,则所述第一加载控制模块30启用所述批量加载模块20。在本实施例中,预设类型负载数据例如可以为cpu占用率及/或内存占用率等。在预设类型负载数据过大时,若继续批量加载,则可能会造成系统负荷过大甚至死机。因此,在预设类型负载数据过大时,则可以将批量加载模块20关闭,禁止批量加载模块20将解析的本地文件批量加载至分布式数据库中,避免了系统负载过大的现象产生,进而避免了系统死机,提高了系统的可靠性。此外,在侦测到预设类型负载数据较小时,表明当前系统负荷不大,因此可以允许批量加载模块20将解析的本地文件批量加载至分布式数据库,使得系统可以在负荷较小时及时开启批量加载模块20,提高了批量数据加载的灵活性。进一步地,基于本发明数据批量加载装置的第一至第四任一实施例,本发明还提出了数据批量加载装置的第五实施例,参照图6,图6为本发明数据批量加载装置的第五实施例的功能模块示意图,所述数据批量加载装置还包括第二加载控制模块40,所述第二加载控制模块40用于实时或者定时侦测所述分布式数据库的待加载数据量;若侦测的待加载数据量大于预设数量,且所述数据解析模块10处于启用状态,则所述第二加载控制模块40关闭所述数据解析模块10;若侦测的负载数据小于或者等于对应的预设阈值,且所述数据解析模块10处于关闭状态,则所述第二加载控制模块40启用所述数据解析模块10。在分布式数据库的待加载数据量过大时,若数据解析模块10继续确定所述数据表结构信息以及继续根据确定的所述数据表结构信息解析生成所述本地文件,则可能会造成分布式数据库的待加载数据量越来越大,甚至可能造成系统死机。因此,在分布式数据库的待加载数据量过大时,则可以将数据解析模块10关闭,禁止确定所述数据表结构信息以及禁止根据确定的所述数据表结构信息解析生成所述本地文件,避免了分布式数据库的待加载数据量进一步过大的现象产生,进而避免了系统死机,提高了系统的可靠性。此外,在侦测到分布式数据库的待加载数据量较小时,因此可以允许数据解析模块10确定所述数据表结构信息以及允许根据确定的所述数据表结构信息解析生成所述本地文件,使得系统可以在分布式数据库的待加载数据量较小时及时开启数据解析模块10,提高了批量数据加载的灵活性。上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如rom/ram、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的
技术领域
:,均同理包括在本发明的专利保护范围内。当前第1页12当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1