据库中的数据进行相应处理;其中,不同的目标数据库对应不同的转换规则。
[0083]其中,本发明实施例提供的数据管理系统还可以包括:
[0084]第一判断模块53,用于根据事件头中包括的数据所在容器信息,以及第一过滤规贝U,判断是否继续对该记录进行解析;
[0085]所述获取模块51具体用于,当所述第一判断模块53判断为是时,获取所述记录中包括的数据内容;当所述第一判断模块53判断为否时,不对该记录进行进一步解析。
[0086]其中,所述获取模块51具体用于,根据所述事件头中包含的事件标识确定该记录对应的操作类型,并根据该操作类型对应的解析规则,对该记录进行解析,获取所述记录中包括的数据内容。
[0087]其中,本发明实施例提供的数据管理系统还可以包括:
[0088]第二判断模块54,用于根据获取到的数据内容,以及第二过滤规则,判断是否对所述数据内容进行转换;
[0089]所述处理模块52具体用于,当所述第二判断模块54判断为是时,根据预设的转换规则对所述数据内容进行转换;当所述第二判断模块54判断为否时,丢弃所述数据内容。
[0090]其中,所述处理模块52具体用于,根据所述预设的转换规则确定所述数据内容中需要转换的字段,以及所述字段的映射规则,并根据所述映射规则对对应的字段进行转换。
[0091]其中,所述处理模块52还用于,根据所述记录的事件头中包含的事件标识确定该记录对应的操作类型;并具体通过以下方式实现根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理:
[0092]根据所述操作类型,以及转换后的数据,对至少两个不同的目标数据库中的数据进行相应处理。
[0093]其中,所述操作类型包括新增、修改、或删除。
[0094]通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台终端设备(可以是手机,个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
[0095]以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视本发明的保护范围。
【主权项】
1.一种基于日志文件的数据管理方法,其特征在于,所述日志文件中的每一条记录包括事件开始标识、事件头、数据内容,以及事件结束标识;当所述日志文件中新增记录时,该方法包括: 数据管理系统对所述新增的记录进行解析,获取所述记录中包括的数据内容; 所述数据管理系统根据预设的转换规则对所述数据内容进行转换,并根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理;其中,不同的目标数据库对应不同的转换规则。
2.如权利要求1所述的方法,其特征在于,所述数据管理系统获取所述记录中包括的数据内容之前,还包括: 所述数据管理系统获取所述记录中包括的事件头,并根据该事件头中包括的数据所在容器信息,以及第一过滤规则,判断是否继续对该记录进行解析;若判断为是,则执行获取所述记录中包括的数据内容的操作;否则,不对该记录进行进一步地解析。
3.如权利要求1所述的方法,其特征在于,所述数据管理系统获取所述记录中包括的数据内容,具体为: 所述数据管理系统根据所述事件头中包含的事件标识确定该记录对应的操作类型,并根据该操作类型对应的解析规则,对该记录进行解析,获取所述记录中包括的数据内容。
4.如权利要求1所述的方法,其特征在于,所述数据管理系统根据预设的转换规则对所述数据内容进行转换之前,还包括: 所述数据管理系统根据获取到的数据内容,以及第二过滤规则,判断是否对所述数据内容进行转换;若判断为是,则执行根据预设的转换规则对所述数据内容进行转换的操作;否则,丢弃所述数据内容。
5.如权利要求1所述的方法,其特征在于,所述数据管理系统根据预设的转换规则对所述数据内容进行转换,具体为: 所述数据管理系统根据所述预设的转换规则确定所述数据内容中需要转换的字段,以及所述字段的映射规则,并根据所述映射规则对对应的字段进行转换。
6.如权利要求1所述的方法,其特征在于,所述数据管理系统根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理,之前还包括: 所述数据数据管理系统根据所述记录的事件头中包含的事件标识确定该记录对应的操作类型; 所述数据管理系统根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理,具体为: 所述数据管理系统根据所述操作类型,以及转换后的数据,对至少两个不同的目标数据库中的数据进行相应处理。
7.如权利要求3或6所述的方法,其特征在于,所述操作类型包括新增、修改、或删除。
8.一种基于日志文件的数据管理系统,其特征在于,所述日志文件中的每一条记录包括事件开始标识、事件头、数据内容,以及事件结束标识;该数据管理系统包括: 获取模块,用于当所述日志文件中新增记录时,对所述新增的记录进行解析,获取所述记录中包括的数据内容; 处理模块,用于根据预设的转换规则对所述数据内容进行转换,并根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理;其中,不同的目标数据库对应不同的转换规则。
9.如权利要求8所述的数据管理系统,其特征在于,还包括: 第一判断模块,用于根据事件头中包括的数据所在容器信息,以及第一过滤规则,判断是否继续对该记录进行解析; 所述获取模块具体用于,当所述第一判断模块判断为是时,获取所述记录中包括的数据内容;当所述第一判断模块判断为否时,不对该记录进行进一步解析。
10.如权利要求8所述的数据管理系统,其特征在于, 所述获取模块具体用于,根据所述事件头中包含的事件标识确定该记录对应的操作类型,并根据该操作类型对应的解析规则,对该记录进行解析,获取所述记录中包括的数据内容。
11.如权利要求8所述的数据管理系统,其特征在于,还包括: 第二判断模块,用于根据获取到的数据内容,以及第二过滤规则,判断是否对所述数据内容进行转换; 所述处理模块具体用于,当所述第二判断模块判断为是时,根据预设的转换规则对所述数据内容进行转换;当所述第二判断模块判断为否时,丢弃所述数据内容。
12.如权利要求8所述的数据管理系统,其特征在于, 所述处理模块具体用于,根据所述预设的转换规则确定所述数据内容中需要转换的字段,以及所述字段的映射规则,并根据所述映射规则对对应的字段进行转换。
13.如权利要求8所述的数据管理系统,其特征在于, 所述处理模块还用于,根据所述记录的事件头中包含的事件标识确定该记录对应的操作类型;并具体通过以下方式实现根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理: 根据所述操作类型,以及转换后的数据,对至少两个不同的目标数据库中的数据进行相应处理。
14.如权利要求10或13所述的数据管理系统,其特征在于,所述操作类型包括新增、修改、或删除。
【专利摘要】本发明公开了一种基于日志文件的数据管理方法及数据管理系统,该方法包括:数据管理系统对所述新增的记录进行解析,获取所述记录中包括的数据内容;所述数据管理系统根据预设的转换规则对所述数据内容进行转换,并根据转换后的数据对至少两个不同的目标数据库中的数据进行相应处理;其中,不同的目标数据库对应不同的转换规则。在本发明中,提高了数据管理的灵活性和可扩展性。
【IPC分类】G06F17-30
【公开号】CN104750729
【申请号】CN201310744554
【发明人】黄诗强, 谢丰
【申请人】中国移动通信集团公司
【公开日】2015年7月1日
【申请日】2013年12月30日