数据处理方法及其系统与流程

文档序号:14008334阅读:168来源:国知局
数据处理方法及其系统与流程
公开涉及数据处理领域,更具体地,涉及一种数据处理方法及其系统、以及一种非易失性存储介质和一种计算机系统。
背景技术
:随着信息技术的飞速发展,各行各业积累了大量的数据,数据仓库应用越来越广泛。数据拉链式存储,主要应用于数据仓库的建设中,用于保留所有数据变化的历史状态,新产生的目标数据会存储到记录有变化前的目标数据的源数据表中,克服了线上系统只记录最新数据的缺陷,进一步,可以通过查询数据仓库获得某一时刻数据的状态即数据快照。在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:使用传统的拉链式的数据存储方法存储数据时,对于任何一条数据而言,其任何一个字段只要发生变化,就会完整记录该条数据,对数据库存储耗损较大,尤其当某条记录只有一个字段经常发生变化的时候,对数据库存储的耗损尤其严重。针对相关技术中的上述问题,目前还未提出有效的解决方案。技术实现要素:有鉴于此,本公开提供了一种数据处理方法和数据处理系统。本公开的一个方面提供了一种数据处理方法,包括:获取目标数据;比较上述目标数据与参考数据,得到对应的差异数据,其中,上述目标数据与上述参考数据具有相同的数据标识,上述参考数据存储在目标表中;以及将上述差异数据存储在与上述目标表具有映射关系的映射表中,以代替对上述目标数据本身的存储。根据本公开的实施例,上述方法还包括:在上述目标表中将上述参考数据更新为上述目标数据。根据本公开的实施例,比较上述目标数据与参考数据,得到对应的差异数据包括:确定上述目标数据的第一数据内容和第一数据产生时间;确定上述参考数据的第二数据内容和第二数据产生时间;以及比较上述第一数据内容与上述第二数据内容以及比较上述第一数据产生时间与上述第二数据产生时间,得到内容差异数据和时间差异数据。根据本公开的实施例,在比较上述目标数据与参考数据,得到对应的差异数据之前,上述方法还包括:检测上述目标表中是否存在上述参考数据;以及若检测到上述目标表中存在上述参考数据,则执行比较上述目标数据与参考数据,得到对应的差异数据的操作。根据本公开的实施例,上述方法还包括:若检测到上述目标表中不存在上述参考数据,则将上述目标数据存储到上述目标表中。根据本公开的实施例,上述方法还包括:接收用于指示查询上述目标数据的数据查询指令;根据上述数据查询指令的指示查询上述目标表,得到目标表查询结果;根据上述数据查询指令的指示查询上述映射表,得到映射表查询结果;以及根据上述映射表查询结果和上述目标表查询结果确定要查询的上述目标数据。本公开的另一个方面提供了数据处理系统,包括:获取模块,用于获取目标数据;比较模块,用于比较上述目标数据与参考数据,得到对应的差异数据,其中,上述目标数据与上述参考数据具有相同的数据标识,上述参考数据存储在目标表中;以及第一存储模块,用于将上述差异数据存储在与上述目标表具有映射关系的映射表中,以代替对上述目标数据本身的存储。根据本公开的实施例,更新模块,用于在上述目标表中将上述参考数据更新为上述目标数据。根据本公开的实施例,上述比较模块包括:第一确定单元,用于确定上述目标数据的第一数据内容和第一数据产生时间;第二确定单元,用于确定上述参考数据的第二数据内容和第二数据产生时间;以及比较单元,用于比较上述第一数据内容与上述第二数据内容以及比较上述第一数据产生时间与上述第二数据产生时间,得到内容差异数据和时间差异数据。根据本公开的实施例,上述系统还包括:检测模块,用于检测上述目标表中是否存在上述参考数据;以及执行模块,用于在检测到上述目标表中存在上述参考数据的情况下,执行比较上述目标数据与参考数据,得到对应的差异数据的操作。根据本公开的实施例,上述系统还包括:第二存储模块,用于在检测到上述目标表中不存在上述参考数据的情况下,将上述目标数据存储到上述目标表中。根据本公开的实施例,上述系统还包括:接收模块,用于接收用于指示查询上述目标数据的数据查询指令;第一查询模块,用于根据上述数据查询指令的指示查询上述目标表,得到目标表查询结果;第二查询模块,用于根据上述数据查询指令的指示查询上述映射表,得到映射表查询结果;以及确定模块,用于根据上述映射表查询结果和上述目标表查询结果确定要查询的上述目标数据。本公开的另一方面提供了一种计算机系统,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上所述的数据处理方法。本公开的另一方面提供了计算机可读介质,其上存储有可执行指令,该指令被处理器执行时使处理器实现如上所述的数据处理方法。通过本公开的实施例,由于在数据拉链的过程中,采用获取目标数据与参考数据的差异数据,将差异数据存储在与目标表具有映射关系的映射表中以代替对目标数据本身的存储的技术方案,可以至少部分地克服相关技术提供的方案在实现数据拉链的过程中,获取变化数据,并记录该条数据的完整链路,造成数据库存储空间耗损严重的技术问题,并因此可以实现降低数据库存储空间耗损,释放海量存储空间的技术效果。附图说明通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:图1示意性示出了根据本公开实施例的可以应用数据处理方法及其系统的示例性系统架构;图2示意性示出了根据本公开实施例的数据处理方法的流程图;图3a示意性示出了根据本公开另一实施例的数据处理方法的流程图;图3b示意性示出了根据本公开实施例的比较目标数据与参考数据,得到对应的差异数据的流程图;图3c示意性示出了根据本公开另一实施例的数据处理方法的流程图;图3d示意性示出了根据本公开另一实施例的数据处理方法的流程图;图3e示意性示出了根据本公开另一实施例的数据处理方法的流程图;图4示意性示出了根据本公开实施例的数据处理系统的框图;图5a示意性示出了根据本公开另一实施例的数据处理系统的框图;图5b示意性示出了根据本公开实施例的比较模块的框图;图5c示意性示出了根据本公开另一实施例的数据处理系统的框图;图5d示意性示出了根据本公开另一实施例的数据处理系统的框图;图5e示意性示出了根据本公开另一实施例的数据处理系统的框图;以及图6示意性示出了根据本公开实施例的适于实现数据处理方法的计算机系统的框图。具体实施方式以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。在使用类似于“a、b和c等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有a、b和c中至少一个的系统”应包括但不限于单独具有a、单独具有b、单独具有c、具有a和b、具有a和c、具有b和c、和/或具有a、b、c的系统等)。在使用类似于“a、b或c等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有a、b或c中至少一个的系统”应包括但不限于单独具有a、单独具有b、单独具有c、具有a和b、具有a和c、具有b和c、和/或具有a、b、c的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“a或b”应当被理解为包括“a”或“b”、或“a和b”的可能性。本公开的实施例提供了一种数据处理方法及其系统。该方法包括:获取目标数据;比较目标数据与参考数据,得到对应的差异数据,其中,目标数据与参考数据具有相同的数据标识,参考数据存储在目标表中;以及将差异数据存储在与目标表具有映射关系的映射表中,以代替对目标数据本身的存储。图1示意性示出了根据本公开实施例的可以应用数据处理方法及其系统的示例性系统架构。如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的数据处理系统一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理系统也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者,本公开实施例所提供的数据处理方法也可以由终端设备101、102、或103执行,或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地,本公开实施例所提供的数据处理系统也可以设置于终端设备101、102、或103中,或设置于不同于终端设备101、102、或103的其他终端设备中。应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。本公开的实施例提供了一种数据处理方法。图2示意性示出了根据本公开实施例的数据处理方法的流程图。如图2所示,该数据处理方法可以包括操作s210~s230,其中:操作s210,获取目标数据。操作s220,比较目标数据与参考数据,得到对应的差异数据,其中,目标数据与参考数据具有相同的数据标识,参考数据存储在目标表中。操作s230,将差异数据存储在与目标表具有映射关系的映射表中,以代替对目标数据本身的存储。需要说明的是,目标数据可以是最新产生的数据,参考数据可以是保存在源数据表中的数据。对所有的数据来说,通常会给每一条数据定义一个主键即唯一标识,具有相同数据标识的数据表示记录的是同一条数据,数据表中的数据内容通常包括至少一个字段。相关技术中,数据拉链的方法通常是对比最新的数据和原有数据,数据拉链的时候会对相同主键的记录与原记录进行对比,看各字段是否完全一致,最后将最新的数据会放在有效分区,历史变化的记录会放到过期的分区。例如:源数据表中的记录格式如表1所示,数据标识(id)为1的数据在2016年8月1日进入数据库。表1idcolumn1column2column3typestart_dateend_date1c1.v1c2.v1c3.v1active2016-8-14712-12-31出于描述简便的考虑,以下将以数据表中id为1,存储3个字段的数据为例,可以理解的是,对实际中字段数大于3个的情况可以以相同的方式做扩展,在此不做限定。如表1所示,column1、column2、和column3分别代表id为1的数据记录的字段名,c1.v1、c2.v1和c3.v1分别是对应存储在column1、column2、和column3字段内的数据,type表示数据的状态,active表示有效,start_date表示该数据进入数据库的时间,end_date为该数据发生变化的时间,当该时间记录为一个无穷大的日期时,表示该数据永不过期。通过查询start_date,end_date可以得到每个时间点的数据。如果该条记录的column1发生了变化,会记录两条记录,其中一条过期,记录格式如下表2所示。表2idcolumn1column2column3typestart_dateend_date1c1.v1c2.v1c3.v1expired2016-8-12016-8-61c1.v2c2.v1c3.v1active2016-8-64712-12-31type表示数据的状态,除了可以是active表示的有效状态还可以是expired表示的过期状态,如果再次变化会再次记录一条记录。表3idcolumn1column2column3typestart_dateend_date1c1.v1c2.v1c3.v1expired2016-8-12016-8-61c1.v2c2.v1c3.v1expired2016-8-62016-8-81c1.v2c2.v2c3.v1active2016-8-84712-12-31需要说明的是,考虑到本公开实施例提供的数据处理方法可以应用到很多数据仓库中,而不同的数据仓库中数据的存储格式并不是统一的格式,说明书篇幅有限,以下将以本公开的实施例中提及的数据表中的数据存储格式为例对本公开的实施例进行详细阐述。值得注意的是,各表中的数据的存储格式仅为示意性的数据格式,并不是对本公开实施例的限定,具体可根据实际情况而定。判断目标数据与参考数据之间是否存在差异的方法,本公开的实施例也不做限定,任何可以判断目标数据与参考数据之间是否存在差异的算法/方式都在本公开的保护范围之内。本公开提供一种通过计算md5(messagedigestalgorithm5)校验码的算法来判断是否需要获取差异数据来存储最新数据的实施方式。具体地,针对需要执行拉链的记录(相同id)的数据记录,进行逐一对比,同一条id使用md5算法生成唯一的md5校验码。例如:参考数据记录生成一个md5校验码md5(source_record);目标记录生成一个md5校验码md5(target_record);对比两个md5校验码是否一致,如果一致,证明两条记录完全相同,数据没有变化,不用进行拉链操作,结束。如果参考数据和目标记录生成的md5校验码不一致,说明两条记录不一致,目标记录与参考数据有变化,需要进行数据拉链操作,即需要获取对应的差异数据并记录。在比较目标数据与参考数据,得到对应的差异数据之后,将该差异数据存储在与目标表存在映射关系的映射表中,映射表可以如表4所示。如果column1的数据内容发生变化,则会将column1发生变化之前是数据内容存储在映射表中,而column2和column3的数据内容没有发生变化,则不会存储,映射表的结构与源数据表基本保持一致,可以增加两处记录内容:1、增加数据的变化时间change_date,用于进行数据拉链的历史快照查询。2、增加数据变化详情change_detail,上述案例是c1发生变化,则记录c1,如果是多个字段发生变化,则记录c1、…、cn。表4idcolumn1column2column3change_datechange_detail1c1.v12016-8-6c11c1.v2c2.v12016-8-10c1,c2根据本公开的实施例,在数据拉链的过程中,当获取到最新的目标数据后,会在源数据表中查找与该目标数据具有相同数据标识的参考数据,比较目标数据和参考数据之间的差异,可以得到对应的差异数据,最终将得到的差异数据存储在与目标表具有映射关系的映射表中,代替对目标数据本身的存储。通过本公开的实施例,由于在数据拉链的过程中,采用获取目标数据与参考数据的差异数据,将差异数据存储在与目标表具有映射关系的映射表中以代替对目标数据本身的存储的技术方案,可以至少部分地克服相关技术提供的方案在实现数据拉链的过程中,获取变化数据,并记录该条数据的完整链路,造成数据库存储空间耗损严重的技术问题,并因此可以实现降低数据库存储空间耗损,释放海量存储空间的技术效果。下面参考图3a~图3e,结合具体实施例对图2所示的数据处理方法做进一步说明。图3a示意性示出了根据本公开另一实施例的数据处理方法的流程图。在该实施例中,该数据处理方法除了可以包括上文参考图2所对应的实施例中描述的操作s210~s230之外,还可以包括操作s311。为了描述的简洁起见,这里省略对图2描述的操作s210~s230的描述。如图3a所示,其中:操作s311,在目标表中将参考数据更新为目标数据。需要说明的是,当目标数据相对与参考数据发生变化时,可以将目标数据替换参考数据,使得目标表中始终保留最新的数据,而不再保留历史的数据信息。表5a和表5b均为本公开的实施例提供的目标表格式示意表,并非对目标表格式的限定。其中,表5a中存储的数据可以为参考数据,若目标数据相对于参考数据中的column1的数据内容由c1.v1变化为c1.v2,而column2和column3的数据内容不变,目标表中存储的参考数据更新为目标数据;若目标数据相对于参考数据没有发生变化,则目标表不更新。表5b中存储的数据可以为更新后的参考数据。表5aidcolumn1column2column31c1.v1c2.v1c3.v1表5bidcolumn1column2column31c1.v2c2.v1c3.v1通过本公开的实施例,对具有同一个数据标识的数据来说,由于本方案提供的目标表中只存储该数据标识对应的最新的数据,而不需要保留所有该数据标识对应的数据的历史变化数据,使得存储数据占用数据仓库存储空间得到有效降低,同时达到释放海量存储空间的技术效果,进一步扩大了数据仓库的存储数据的有效性,尤其是变化字段数量越少,对存储空间的释放效果越明显。图3b示意性示出了根据本公开实施例的比较目标数据与参考数据,得到对应的差异数据的流程图。在该实施例中,该数据处理方法除了可以包括上文参考图2所对应的实施例中描述的操作s210~s230之外,还可以包括操作s321~s323,具体地,图2中的操作s220还可以包括操作s321~s323。为了描述的简洁起见,这里省略对图2描述的操作s210~s230的描述。如图3b所示,其中:操作s321,确定目标数据的第一数据内容和第一数据产生时间。操作s322,确定参考数据的第二数据内容和第二数据产生时间。操作s323,比较第一数据内容与第二数据内容以及比较第一数据产生时间与第二数据产生时间,得到内容差异数据和时间差异数据。需要说明的是,当目标数据产生后,可以确定目标数据的数据内容和数据产生的时间,同样参考数据的数据内容和数据产生时间也是可以确定的,通过比较目标数据和参考数据的数据内容和数据产生时间,可以得到目标数据区别于参考数据的数据内容和变化的目标数据的数据产生时间。对相同数据标识的数据,自第一个字段开始,逐一对数据内容进行比较,直到最后一个字段,可以获得改变的数据内容,同时也可以获得发生改变的数据对应的字段。数据产生的时间是可以通过系统获取并记录在源数据表中的,包括参考数据的产生时间和目标数据是产生时间,也可以通过其他公知的方式/方法获得数据的产生时间,在此不再说明。数据内容可以包括但不限于数据变化的数值和数据变化的内容对应的字段。如上述表5a和5b所示,逐一对比column1、column2和column3中存储的数据内容,可以看出column1变化前的数据内容为c1.v1,变化后的数据内容为c1.v2,同时获得变化的字段为column1。同理,如果数据内容发生变化的还有column2和/或column3,同理可以获得数据变化的内容和变化的字段。通过本公开的实施例,由于采用获取内容差异数据和时间差异数据的技术方案,通过查询内容差异数据和时间差异数据,可以非常直观方便快捷的获取数据的变化过程,同时直观的得到各字段的变化频率。图3c示意性示出了根据本公开另一实施例的数据处理方法的流程图。在该实施例中,该数据处理方法除了可以包括上文参考图2所对应的实施例中描述的操作s210~s230之外,还可以包括操作s331~s332,具体地,图2中的操作s220还可以包括操作s331~s332。为了描述的简洁起见,这里省略对图2描述的操作s210~s230的描述。如图3c所示,其中:操作s331,检测目标表中是否存在参考数据。操作s332,若检测到目标表中存在参考数据,执行比较目标数据与参考数据,得到对应的差异数据的操作。图3d示意性示出了根据本公开另一实施例的数据处理方法的流程图。在该实施例中,该数据处理方法除了可以包括上文参考图3c所对应的实施例中描述的操作s331~s332之外,还可以包括操作s341为了描述的简洁起见,这里省略对图2描述的操作s331~s332的描述。如图3d所示,其中:操作s341,若检测到目标表中不存在参考数据,则将目标数据存储到目标表中。需要说明的是,在比较目标数据与参考数据,得到对应的差异数据的操作之前,需要检测目标表中是否存在参考数据,目标表中可能已经存有参考数据,也可能尚未存有参考数据,只有在目标表中存在参考数据的情况下,才可以执行比较目标数据与参考数据,得到对应的差异数据的操作,在目标表中不存在参考数据的情况下,将目标数据存储到目标表中。通过本公开的实施例,由于执行比较目标数据与参考数据,得到对应的差异数据的操作是在一定条件下才可以进行的,同时在存在参考数据的情况下,获取差异数据,在不存在参考数据的情况下,直接将能在有效提高系统性能,节约系统计算资源的情况下,达到目标数据始终保存最新数据的技术效果。图3e示意性示出了根据本公开另一实施例的数据处理方法的流程图。在该实施例中,该数据处理方法除了可以包括上文参考图2所对应的实施例中描述的操作s210~s230之外,还可以包括操作s331~s332,具体地,图2中的操作s220还可以包括操作s351~s354。为了描述的简洁起见,这里省略对图2描述的操作s210~s230的描述。如图3e所示,其中:操作s351,接收用于指示查询目标数据的数据查询指令。操作s352,根据数据查询指令的指示查询目标表,得到目标表查询结果。操作s353,根据数据查询指令的指示查询映射表,得到映射表查询结果。操作s354,根据映射表查询结果和目标表查询结果确定要查询的目标数据。需要说明的是,在完成数据拉链之后,可以查询某时间点的快照数据,具体的实现方式为:使用目标表与映射表通过数据标识进行数据关联来查询。具体可以判断输入日期参数(需要查询的某时间点)与映射表中记录的最大时间的关系,根据两个时间的相对关系,有如下两种规则来获取快照数据,其中:规则1、如果查询时间点的日期参数在映射表中记录的时间的范围之外即input_date>max(change_date),直接取数据表中的数据。规则2、如果日期在映射表的数据范围内,关联映射表中变化日期在输入日期之后的数据范围,得到结果数据。例如:表6a为目标表,存储有最新数据。表6b为映射表,存储有数据变化的内容和数据变化的时间等。表6aidcolumn1column2column31c1.v3c2.v2c3.v1表6bidcolumn1column2column3change_datechange_detail1c1.v12016-8-6c11c1.v2c2.v12016-8-10c1,c2输入日期input_date为2016-8-11,change_date最大值为2016-8-10,根据规则1,2016-8/11>2016-8-10,则获取最新的数据,即快照数据为表6c所示。表6cidcolumn1column2column31c1.v3c2.v2c3.v1输入日期input_date为2016-8-9,根据规则2:关联10号的变化数据,column1的数值是c1.v2,column2的数值是c2.v1,即快照数据为表6d所示。表6didcolumn1column2column31c1.v2c2.v1c3.v1输入日期input_date为2016-8-5,根据规则2:关联6号、10号的变化数据,得到5号column1的数值是c1.v1,column2的数值是c2.v1,即快照数据为表6e所示。表6eidcolumn1column2column31c1.v1c2.v1c3.v1进一步,通过查询映射表中字段在change_detail中出现的次数,获得字段的变化频率。如查询如表6b所示的映射表,c1变化频率为2次,c2变化频率为1次。通过本公开的实施例,查询某一时刻的快照数据时,可以利用目标表与映射表通过数据标识进行数据关联来查询,查询过程简单快捷,同时能查询到字段发生变化的频率。本公开的实施例提供了一种数据处理系统。图4示意性示出了根据本公开实施例的数据处理系统的框图。在该实施例中,该数据处理系统400包括获取模块410、比较模块420和第一存储模块430。该数据处理系统400可以执行上述参考图2描述的数据处理方法。如图4所示,其中:获取模块410用于获取目标数据。比较模块420用于比较目标数据与参考数据,得到对应的差异数据,其中,目标数据与参考数据具有相同的数据标识,参考数据存储在目标表中。第一存储模块430用于将差异数据存储在与目标表具有映射关系的映射表中,以代替对目标数据本身的存储。可以理解的是,获取模块410、比较模块420和第一存储模块430可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,获取模块410、比较模块420和第一存储模块430中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic),或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式的适当组合来实现。或者,获取模块410、比较模块420和第一存储模块430中的至少一个可以至少被部分地实现为计算机程序模块,当该程序被计算机运行时,可以执行相应模块的功能。通过本公开的实施例,由于在数据拉链的过程中,采用获取目标数据与参考数据的差异数据,将差异数据存储在与目标表具有映射关系的映射表中以代替对目标数据本身的存储的技术方案,可以至少部分地克服相关技术提供的方案在实现数据拉链的过程中,获取变化数据,并记录该条数据的完整链路,造成数据库存储空间耗损严重的技术问题,并因此可以实现降低数据库存储空间耗损,释放海量存储空间的技术效果。下面参考图5a~图5e,结合具体实施例对图4所示的数据处理系统做进一步说明。图5a示意性示出了根据本公开另一实施例的数据处理系统的框图。在该实施例中,该数据处理系统400除了可以包括上文参考图4所对应的实施例中描述的获取模块410、比较模块420和第一存储模块430之外,还可以包括更新模块511。为了描述的简洁起见,这里省略对图4描述的获取模块410、比较模块420和第一存储模块430的描述。如图5a所示,其中:更新模块511用于在目标表中将参考数据更新为目标数据。通过本公开的实施例,对具有同一个数据标识的数据来说,由于本方案提供的目标表中只存储该数据标识对应的最新的数据,而不需要保留所有该数据标识对应的历史变化数据,使得数据占用数据仓库存储空间得到有效降低,同时达到释放海量存储空间的技术效果,进一步扩大了数据仓库的存储数据的有效性,尤其是变化字段数量越少,对存储空间的释放效果越明显。图5b示意性示出了根据本公开实施例的比较模块的框图。在该实施例中,在该实施例中,该数据处理系统400除了可以包括上文参考图4所对应的实施例中描述的获取模块410、比较模块420和第一存储模块430之外,其中,比较模块420还可以包括第一确定单元521、第二确定单元522和比较单元523。为了描述的简洁起见,这里省略对图4描述的获取模块410、比较模块420和第一存储模块430的描述。如图5b所示,其中:第一确定单元521用于确定目标数据的第一数据内容和第一数据产生时间。第二确定单元522用于确定参考数据的第二数据内容和第二数据产生时间。比较单元523用于比较第一数据内容与第二数据内容以及比较第一数据产生时间与第二数据产生时间,得到内容差异数据和时间差异数据。通过本公开的实施例,由于采用获取内容差异数据和时间差异数据的技术方案,通过查询内容差异数据和时间差异数据,可以非常直观方便快捷的获取数据的变化过程,同时直观的得到各字段的变化频率。图5c示意性示出了根据本公开另一实施例的数据处理系统的框图。在该实施例中,在该实施例中,该数据处理系统400除了可以包括上文参考图4所对应的实施例中描述的获取模块410、比较模块420和第一存储模块430之外,还可以包括检测模块531和执行模块532。为了描述的简洁起见,这里省略对图4描述的获取模块410、比较模块420和第一存储模块430的描述。如图5c所示,其中:检测模块531用于检测目标表中是否存在参考数据。执行模块532用于在检测到目标表中存在参考数据的情况下,执行比较目标数据与参考数据,得到对应的差异数据的操作。图5d示意性示出了根据本公开另一实施例的数据处理系统的框图。在该实施例中,在该实施例中,该数据处理系统400除了可以包括上文参考图5c所对应的实施例中描述的获取模块410、比较模块420、第一存储模块430、检测模块531和执行模块532之外,还可以包括第二存储模块541。为了描述的简洁起见,这里省略对图5c描述的检测模块531和执行模块532的描述。如图5d所示,其中:第二存储模块541用于在检测到目标表中不存在参考数据的情况下,将目标数据存储到目标表中。通过本公开的实施例,由于执行比较目标数据与参考数据,得到对应的差异数据的操作是在一定条件下才可以进行的,同时在存在参考数据的情况下,获取差异数据,在不存在参考数据的情况下,直接将能在有效提高系统性能,节约系统计算资源的情况下,实现目标数据保存最新数据的技术效果。图5e示意性示出了根据本公开另一实施例的数据处理系统的框图。在该实施例中,在该实施例中,该数据处理系统400除了可以包括上文参考图4所对应的实施例中描述的获取模块410、比较模块420和第一存储模块430之外,还可以包括接收模块551、第一查询模块552、第二查询模块553和确定模块554。为了描述的简洁起见,这里省略对图4描述的获取模块410、比较模块420和第一存储模块430的描述。如图5e所示,其中:接收模块551用于接收用于指示查询目标数据的数据查询指令。第一查询模块552用于根据数据查询指令的指示查询目标表,得到目标表查询结果。第二查询模块553用于根据数据查询指令的指示查询映射表,得到映射表查询结果。确定模块554用于根据映射表查询结果和目标表查询结果确定要查询的目标数据。通过本公开的实施例,查询某一时刻的快照数据时,可以利用目标表与映射表通过数据标识进行数据关联来查询,查询过程简单快捷,同时能查询到字段发生变化的频率。需要说明的是,本公开实施例的数据处理方法与数据处理系统是相对应的,对于该数据处理系统的描述可以参考根据本公开实施例的数据处理方法的描述,在此不再赘述。图6示意性示出了根据本公开实施例的适于实现数据处理方法的计算机系统的方框图。图6示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图6所示,根据本公开实施例的计算机系统600包括处理器601,其可以根据存储在只读存储器(rom)602中的程序或者从存储部分608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如cpu)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(asic)),等等。处理器610还可以包括用于缓存用途的板载存储器。处理器610可以包括用于执行参考图2、图3a~图3e描述的根据本公开实施例的数据处理方法流程的不同动作的单一处理单元或者是多个处理单元。在ram603中,存储有系统600操作所需的各种程序和数据。处理器601、rom602以及ram603通过总线604彼此相连。处理器601通过执行rom602和/或ram603中的程序来执行以上参考图2、图3a~图3e描述的数据处理的各种操作。需要注意,所述程序也可以存储在除rom602和ram603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行以上参考参考图2、图3a~图3e描述的数据处理方法的各种操作。根据本公开的实施例,系统600还可以包括输入/输出(i/o)接口605,输入/输出(i/o)接口605也连接至总线604。系统600还可以包括连接至i/o接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至i/o接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。根据本公开的实施例,上文参考流程图描述的方法可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、rf等等,或者上述的任意合适的组合。根据本公开的实施例,计算机可读介质可以包括上文描述的rom602和/或ram603和/或rom602和ram603以外的一个或多个存储器。附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时电可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备执行:一种数据处理方法,该方法包括:获取目标数据;比较目标数据与参考数据,得到对应的差异数据,其中,目标数据与参考数据具有相同的数据标识,参考数据存储在目标表中;以及将差异数据存储在与目标表具有映射关系的映射表中,以代替对目标数据本身的存储。以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1