一种动态数据处理方法、装置、电子设备及介质与流程

文档序号:32700163发布日期:2022-12-27 22:26阅读:26来源:国知局
一种动态数据处理方法、装置、电子设备及介质与流程

1.本技术涉及数据处理的技术领域,尤其是涉及一种动态数据处理方法、装置、电子设备及介质。


背景技术:

2.随着一些检测机构需要实时将核酸检测结果上传,与此同时用户可能会查询自己的核酸检测结果,核酸检测结果一般是存储在mysql数据库中,但是mysql数据库无法实现对动态数据的计算处理,从而导致动态数据的使用非常不方便。
3.现有方式是借助spark、flink等技术手段对动态数据进行内存计算处理或离线计算处理,借助hbase对数据进行存储查询,解决了mysql数据库无法对动态数据进行计算处理的弊端。但是此种方案,实施成本较高,需要有对应的技术人才对环境进行维护和应用,还需要大量的主机节点搭建环境。
4.因此,如何降低动态数据处理的成本是本领域技术人员亟待解决的技术问题。


技术实现要素:

5.为了降低动态数据处理的成本,本技术提供了一种动态数据处理方法、装置、电子设备及介质。
6.第一方面,本技术提供一种动态数据处理方法,采用如下的技术方案:一种动态数据处理方法,包括:获取mysql数据库的数据信息,并利用全量同步法将所述数据信息写入tidb数据库;在所述将数据信息完全写入tidb数据库后,对所述mysql数据库进行监控,得到增量数据信息,并将所述增量数据信息利用增量同步法写入tidb数据库;利用ticdc工具对所述tidb数据库进行监控,得到变化数据;将所述变化数据写入内存数据库中,以使在接收到查询指令后,根据所述查询指令中的查询内容从内存数据库中获取与所述查询内容相对应的数据。
7.通过采用上述技术方案,通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点搭建环境,大大降低了动态数据处理的成本。
8.本技术在一较佳示例中可以进一步配置为:所述对所述mysql数据库进行监控包括:利用binlong日志对所述mysql数据库进行监控。
9.通过采用上述技术方案,通过利用binlong日志对mysql数据库进行监控,不需要根据变化前的mysql数据库与变化后的mysql数据库进行比对,提高了得到增量数据的效率。
10.本技术在一较佳示例中可以进一步配置为:在所述利用ticdc工具对所述tidb数据库进行监控,得到变化数据之后,还包括:对所述变化数据进行数据清洗,得到数据清洗后的变化数据;相应的,所述将所述变化数据写入内存数据库中,以使在接收到查询指令后,根据所述查询指令中的查询内容从内存数据库中获取与所述查询内容相对应的数据包括:将所述数据清洗后的变化数据写入内存数据库中,以使在接收到查询指令后,根据所述查询指令中的查询内容从内存数据库中获取与所述查询内容相对应的数据。
11.通过采用上述技术方案,通过对变化数据进行数据清洗,避免了操作人员的失误记录导致的变化数据不准确,提高了变化数据的准确性。
12.本技术在一较佳示例中可以进一步配置为:在所述利用ticdc工具对所述tidb数据库进行监控,得到变化数据之后,还包括:根据所述变化数据生成数据队列;根据所述数据队列生成提醒信息,并将所述数据队列与所述提醒信息发送至显示平台进行显示。
13.通过采用上述技术方案,通过根据变化数据生成数据队列,并根据数据队列生成提醒信息进行提醒,能够根据变化数据实时提醒用户,提高了变化数据的实用性。
14.本技术在一较佳示例中可以进一步配置为:在所述利用ticdc工具对所述tidb数据库进行监控,得到变化数据之后,还包括:利用多算法模型对所述变化数据进行数据处理,得到处理后的变化数据;相应的,所述将所述变化数据写入内存数据库中,以使在接收到查询指令后,根据所述查询指令中的查询内容从内存数据库中获取与所述查询内容相对应的数据包括:将所述分析后的变化数据写入内存数据库中,以使在接收到查询指令后,根据所述查询指令中的查询内容从内存数据库中获取与所述查询内容相对应的数据。
15.通过采用上述技术方案,通过利用多算法模型对变化数据进行数据处理,并将得到的处理后的变化数据写入内存数据库,以使在获取查询指令后,根据查询指令从内容数据库中查询相对应的处理后的变化数据,通过利用多算法模型对变化数据进行数据处理,提高了变化数据的准确性。
16.本技术在一较佳示例中可以进一步配置为:所述利用多算法模型对所述变化数据进行数据处理,得到处理后的变化数据包括:对所述变化数据进行质量校验,得到质量校验后的变化数据;对所述质量校验后的变化数据进行逻辑校验,得到逻辑校验后的变化数据;对所述逻辑校验后的变化数据进行筛选,得到处理后的变化数据。
17.通过采用上述技术方案,通过对变化数据进行质量校验、逻辑校验、并对逻辑校验后的变化数据进行筛选,得到处理后的变化数据,提高了处理后的变化数据的准确性。
18.本技术在一较佳示例中可以进一步配置为:所述变化数据包括:多条数据以及多条数据中每条数据对应的时间在所述将所述变化数据写入内存数据库中之后,还包括:
获取删除指令,所述删除指令至少包括时间节点;判断所述多条数据中每条数据对应的时间是否小于所述时间节点;若小于,则根据所述删除指令对所述数据对应的时间小于时间节点的数据进行删除。
19.通过采用上述技术方案,通过获取的删除指令中的时间节点判断多条数据中每条数据对应的时间是否小于时间节点,若小于,则根据删除指令将数据对应的时间小于时间节点的数据进行删除,避免了失效数据占用内存数据库的内存空间造成的资源浪费,降低了动态数据处理的成本。
20.第二方面,本技术提供一种动态数据处理装置,采用如下的技术方案:一种动态数据处理装置,包括,获取模块:用于获取mysql数据库的数据信息,并利用全量同步法将所述数据信息写入tidb数据库;第一监控模块:用于在所述将数据信息完全写入tidb数据库后,对所述mysql数据库进行监控,得到增量数据信息,并将所述增量数据信息利用增量同步法写入tidb数据库;第二监控模块:用于利用ticdc工具对所述tidb数据库进行监控,得到变化数据;数据写入模块:用于将所述变化数据写入内存数据库中,以使在接收到查询指令后,根据所述查询指令中的查询内容从内存数据库中获取与所述查询内容相对应的数据。
21.通过采用上述技术方案,通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点搭建环境,大大降低了动态数据处理的成本。
22.第三方面,本技术提供一种电子设备,采用如下的技术方案:至少一个处理器;存储器;至少一个应用程序,其中至少一个应用程序被存储在存储器中并被配置为由至少一个处理器执行,所述至少一个应用程序配置用于:执行上述的动态数据处理方法。
23.第四方面,本技术提供一种计算机可读存储介质,采用如下的技术方案:一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令所述计算机执行上所述的动态数据处理方法。
24.综上所述,本技术包括以下至少一种有益技术效果:通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点
搭建环境,大大降低了动态数据处理的成本。
附图说明
25.图1为本技术实施例提供的一种动态数据处理方法的流程示意图;图2为本技术实施例提供的一种动态数据处理装置的结构示意图;图3为本技术实施例提供的一种电子设备的结构示意图。
具体实施方式
26.以下结合附图1至附图3对本技术作进一步详细说明。
27.本具体实施例仅仅是对本技术的解释,其并不是对本技术的限制,本领域技术人员在阅读完本说明书后可以根据需要对本实施例做出没有创造性贡献的修改,但只要在本技术的权利要求范围内都受到专利法的保护。
28.为使本技术实施例的目的、技术方案和优点更加清楚,下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
29.另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,a和/或b,可以表示:单独存在a,同时存在a和b,单独存在b这三种情况。另外,本文中字符“/”,如无特殊说明,一般表示前后关联对象是一种“或”的关系。
30.下面结合说明书附图对本技术实施例作进一步详细描述。
31.现有方式是借助spark、flink等技术手段对动态数据进行内存计算处理或离线计算处理,借助hbase对数据进行存储查询。此种方案,实施成本较高,需要有对应的技术人才对环境进行维护和应用,还需要大量的主机节点搭建环境。
32.为了解决上述技术问题,本技术实施例提供了一种动态数据处理方法、装置、电子设备及介质,通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点搭建环境,大大降低了动态数据处理的成本。
33.本技术实施例提供了一种动态数据处理方法,由服务器执行,其中,该服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云计算服务的云服务器,但并不局限于此,本技术实施例在此不做限制。
34.结合图1,图1为本技术实施例提供的一种动态数据处理方法的流程示意图。如图1所示,该方法包括步骤s101、步骤s102、步骤s103以及步骤s104,其中:步骤s101:获取mysql数据库的数据信息,并利用全量同步法将数据信息写入tidb数据库。
35.本技术实施例可以应用在核酸检测,由于核酸检测数据量颇为庞大,用户在查询
自身核酸检测结果时,无法从mysql数据库的大量数据中准确查询到自己的核酸检测结果,所以可以将mysql数据的数据信息写入tidb数据库中,tidb数据库可随时进行调整来满足需求,添加列和索引并不会影响进行中的操作一致性的分布式事务。
36.其中,全量同步法是一次性同步全部数据信息,由于核酸采集数据的历史数据有一定的可参考性,所以讲mysql数据库中保存的数据利用全量同步法写入tidb数据库中,可以保证数据的完整性。
37.步骤s102:在将数据信息完全写入tidb数据库后,对mysql数据库进行监控,得到增量数据信息,并将增量数据信息利用增量同步法写入tidb数据库。
38.其中,增量数据信息为将mysql数据库的数据信息利用全量同步法写入tidb数据库后,录入mysql数据库的数据信息。由于核酸检测的需求量较大,在进行核酸检测后的数据信息要实时录入mysql数据库中,所以mysql数据库的数据信息是动态变化的。
39.其中,增量同步法是同步两个数据库不同部分的数据信息,即监控到的增量数据信息。
40.本技术实施例不对监控mysql数据库的数据信息,得到增量数据信息的方法进行限定,优选的,利用binlog日志对mysql数据库进行监控。
41.步骤s103:利用ticdc工具对tidb数据库进行监控,得到变化数据。
42.其中,ticdc工具是一款通过拉取变更日志实现的tidb数据库增量数据同步工具,其中变化数据为tidb数据库的增量数据,在本技术实施例中,ticdc工具在对tidb数据库的增量数据后,不进行增量同步,而是将增量数据作为变化数据进行使用。
43.步骤s104:将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据。
44.其中,内存数据库可以为redis数据库,redis数据库是当下非常流行的一种内存存储数据库,因其读写性能高的特点被大量用于网站服务端缓存,以减轻传统后台数据库压力。
45.电子设备中预先集成有监视程序,监视程序用于对查询请求触发行为进行监视,一旦监视到查询请求被触发了,则获取查询指令。具体来说,当用户打开电子设备,确认查询之后,会自动生成查询请求,其中,确认查询的方式可以包括:用户在应用程序上点击查询按钮的方式确认、用户通过语音的方式确认。
46.在本技术实施例中,通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点搭建环境,大大降低了动态数据处理的成本。
47.本技术实施例的一种可能的实现方式,对mysql数据库进行监控包括:利用binlong日志对mysql数据库进行监控。
48.其中,binlong日志是记录所有mysql数据库表数据修改的二进制数据,通过对binlog日志进行监控并解析,即可直接得到增量数据信息,并不需要根据变化前的mysql数
据库与变化后的mysql数据库进行比对,得到增量数据信息。
49.在本技术实施例中,通过利用binlong日志对mysql数据库进行监控,不需要根据变化前的mysql数据库与变化后的mysql数据库进行比对,提高了得到增量数据的效率。
50.本技术实施例的一种可能的实现方式,在利用ticdc工具对tidb数据库进行监控,得到变化数据之后,还包括:对变化数据进行数据清洗,得到数据清洗后的变化数据;相应的,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据包括:将数据清洗后的变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据。
51.其中,数据清洗(data cleaning)是对变化数据进行重新审查和校验的过程,目的在于删除变化数据中重复信息、纠正存在的错误,并提供变化数据一致性。由于操作人员的失误记录会导致核酸检测数据的重复录入或数据缺失,所以在得到变化数据后,可以对变化数据进行数据清洗,保证数据的准确性。本技术实施例不对数据清洗的方法进行限定,可以为分箱法、聚类法、回归法其中的任意一种或多种组合。
52.在本技术实施例中,通过对变化数据进行数据清洗,避免了操作人员的失误记录导致的变化数据不准确,提高了变化数据的准确性。
53.本技术实施例的一种可能的实现方式,在利用ticdc工具对tidb数据库进行监控,得到变化数据之后,还包括:根据变化数据生成数据队列;根据数据队列生成提醒信息,并将数据队列与提醒信息发送至显示平台进行显示。
54.其中,在得到变化数据后,可以将变化数据放入kafka的topic(主题)中,使用一个类别属性来划分变化数据的所属类,相当于一个数据集合,并根据数据集合生成数据队列。在核酸检测结束后,当检测结果上传后,可以根据检测结果生成数据集合,当数据集合中存在状态为检测完毕的变化数据时,电子设备生成提醒信息,并将提醒信息发送至显示平台显示来提醒用户核酸检测完毕。
55.在本技术实施例中,通过根据变化数据生成数据队列,并根据数据队列生成提醒信息进行提醒,能够根据变化数据实时提醒用户,提高了变化数据的实用性。
56.本技术实施例的一种可能的实现方式,在利用ticdc工具对tidb数据库进行监控,得到变化数据之后,还包括:利用多算法模型对变化数据进行数据处理,得到处理后的变化数据;相应的,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据包括:将分析后的变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据。
57.多算法模型是将多个算法进行融合,其中,多个算法包括质量校验对应的算法、逻辑校验对应的算法、数据筛选对应的算法,质量校验主要是针对变化数据的日期格式、数据字段长度、数据字段格式进行检验,逻辑校验主要是针对采样时间与检测时间的先后逻辑、
检测结果出具时间是否符合要求,数据筛选主要是针对核酸检测状态、检测时间、检测结果、检测结果筛选、重复数据筛选、排序等问题进行数据处理。由于变化数据是对tidb数据库进行监控得到的,得到的变化数据可能会存在错误,所以可以利用多算法模型进行数据处理,能够提高变化数据的准确性。
58.在本技术实施例中,通过利用多算法模型对变化数据进行数据处理,并将得到的处理后的变化数据写入内存数据库,以使在获取查询指令后,根据查询指令从内容数据库中查询相对应的处理后的变化数据,通过利用多算法模型对变化数据进行数据处理,提高了变化数据的准确性。
59.本技术实施例的一种可能的实现方式,利用多算法模型对变化数据进行数据处理,得到处理后的变化数据包括:对变化数据进行质量校验,得到质量校验后的变化数据;对质量校验后的变化数据进行逻辑校验,得到逻辑校验后的变化数据;对逻辑校验后的变化数据进行筛选,得到处理后的变化数据。
60.其中,质量校验可以包括校验日期格式是否符合规范、校验数据字段长度、校验数据字段格式标准,质量校验后的变化数据会让变化数据更加规范,逻辑校验可以包括校验采样时间、检测时间的先后关系是否符合正常逻辑、校验检测结果出具时间是否符合规则要求,筛选可以包括:检测核酸检测状态、检测时间是否小于预设时间、检测结果是否为阴性,person_key限定为当前查询对象,排除测试对象、排除重复数据、按照检测时间从大到小进行排序,由于各地录入核酸数据信息的格式不同,会导致数据较为混乱,所以可以对变化数据进行质量校验、逻辑校验、并对数据进行筛选,提高处理后的变化数据的准确性。
61.在本技术实施例中,通过对变化数据进行质量校验、逻辑校验、并对逻辑校验后的变化数据进行筛选,得到处理后的变化数据,提高了处理后的变化数据的准确性。
62.本技术实施例的一种可能的实现方式,变化数据包括:多条数据以及多条数据中每条数据对应的时间在将变化数据写入内存数据库中之后,还包括:获取删除指令,删除指令至少包括时间节点;判断多条数据中每条数据对应的时间是否小于时间节点;若小于,则根据删除指令对数据对应的时间小于时间节点的数据进行删除。
63.其中,由于核酸检测结果是具有时效性的,而内存数据库中存放大量失效数据极大的浪费了存储资源,所以可以在获取删除指令后,根据删除指令的时间节点确定小于时间节点的数据,并根据删除指令将其删除。
64.电子设备中预先集成有监视程序,监视程序用于对删除请求触发行为进行监视,一旦监视到删除请求被触发了,则获取删除指令。具体来说,当用户打开电子设备,确认删除之后,会自动生成删除请求,其中,确认删除的方式可以包括:用户在应用程序上点击删除按钮的方式确认、用户通过语音的方式确认。其中,本技术实施例不对时间节点进行限定,用户可以根据实际情况自定义设置。
65.在本技术实施例中,通过获取的删除指令中的时间节点判断多条数据中每条数据对应的时间是否小于时间节点,若小于,则根据删除指令将数据对应的时间小于时间节点的数据进行删除,避免了失效数据占用内存数据库的内存空间造成的资源浪费,降低了数据处理的成本。
66.上述实施例从方法流程的角度介绍一种动态数据处理方法,下述实施例从虚拟模块或者虚拟单元的角度介绍了一种动态数据处理装置,具体详见下述实施例。
67.本技术实施例提供一种动态数据处理装置200,如图2所示,图2为本技术实施例提供的一种动态数据处理装置的结构示意图。该动态数据处理装置200具体可以包括:获取模块201:用于获取mysql数据库的数据信息,并利用全量同步法将数据信息写入tidb数据库;第一监控模块202:用于在将数据信息完全写入tidb数据库后,对mysql数据库进行监控,得到增量数据信息,并将增量数据信息利用增量同步法写入tidb数据库;第二监控模块203:用于利用ticdc工具对tidb数据库进行监控,得到变化数据;数据写入模块204:用于将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据。
68.对于本技术实施例,通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点搭建环境,大大降低了动态数据处理的成本。
69.本技术实施例的一种可能的实现方式,第一监控模块202在执行对mysql数据库进行监控时,具体用于:利用binlong日志对mysql数据库进行监控。
70.本技术实施例的一种可能的实现方式,还包括:数据清洗模块:用于对变化数据进行数据清洗,得到数据清洗后的变化数据;相应的,数据写入模块204在执行将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据时,具体用于:将数据清洗后的变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据。
71.本技术实施例的一种可能的实现方式,还包括:显示模块:用于根据变化数据生成数据队列;根据数据队列生成提醒信息,并将数据队列与提醒信息发送至显示平台进行显示。
72.本技术实施例的一种可能的实现方式,还包括:数据处理模块:用于利用多算法模型对变化数据进行数据处理,得到处理后的变化数据;相应的,数据写入模块204在执行将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中获取与查询内容相对应的数据时,具体用于:将分析后的变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指
令中的查询内容从内存数据库中获取与查询内容相对应的数据。
73.本技术实施例的一种可能的实现方式,数据处理模块在执行利用多算法模型对变化数据进行数据处理,得到处理后的变化数据时,具体用于:对变化数据进行质量校验,得到质量校验后的变化数据;对质量校验后的变化数据进行逻辑校验,得到逻辑校验后的变化数据;对逻辑校验后的变化数据进行筛选,得到处理后的变化数据。
74.本技术实施例的一种可能的实现方式,还包括:删除模块:用于获取删除指令,删除指令至少包括时间节点;判断多条数据中每条数据对应的时间是否小于时间节点;若小于,则根据删除指令对数据对应的时间小于时间节点的数据进行删除。
75.所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的一种动态数据处理装置200的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
76.本技术实施例中提供了一种电子设备,如图3所示,图3所示的电子设备300包括:处理器301和存储器303。其中,处理器301和存储器303相连,如通过总线302相连。可选地,电子设备300还可以包括收发器304。需要说明的是,实际应用中收发器304不限于一个,该电子设备300的结构并不构成对本技术实施例的限定。
77.处理器301可以是cpu(central processing unit,中央处理器),通用处理器,dsp(digital signal processor,数据信号处理器),asic(application specific integrated circuit,专用集成电路),fpga(field programmable gate array,现场可编程门阵列)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本技术公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器301也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,dsp和微处理器的组合等。
78.总线302可包括一通路,在上述组件之间传送信息。总线302可以是pci(peripheral component interconnect,外设部件互连标准)总线或eisa(extended industry standard architecture,扩展工业标准结构)总线等。总线302可以分为地址总线、数据总线、控制总线等。为便于表示,图3中仅用一条粗线表示,但并不表示仅有一根总线或一型的总线。
79.存储器303可以是rom(read only memory,只读存储器)或可存储静态信息和指令的其他类型的静态存储设备,ram(random access memory,随机存取存储器)或者可存储信息和指令的其他类型的动态存储设备,也可以是eeprom(electrically erasable programmable read only memory,电可擦可编程只读存储器)、cd-rom(compact disc read only memory,只读光盘)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。
80.存储器303用于存储执行本技术方案的应用程序代码,并由处理器301来控制执行。处理器301用于执行存储器303中存储的应用程序代码,以实现前述方法实施例所示的
内容。
81.其中,电子设备包括但不限于:移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。还可以为服务器等。图3示出的电子设备仅仅是一个示例,不应对本技术实施例的功能和使用范围带来任何限制。
82.本技术实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,当其在计算机上运行时,使得计算机可以执行前述方法实施例中相应内容。与相关技术相比,本技术实施例通过将利用全量同步法将获取的mysql数据库的数据信息写入tidb数据库,利用增量同步法将监控mysql数据库得到的增量数据信息写入tidb数据库,并利用ticdc工具对tidb数据库进行监控,得到变化数据,将变化数据写入内存数据库中,以使在接收到查询指令后,根据查询指令中的查询内容从内存数据库中查询相应的数据,通过利用全量同步法与增量同步法将mysql数据库的数据写入tidb数据库,并对tidb数据库监控得到的变化数据写入内存数据库中,不需要技术人才对环境进行维护和应用,也不需要大量的主机节点搭建环境,大大降低了动态数据处理的成本。
83.应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部同步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
84.以上仅是本技术的部分实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本技术原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本技术的保护范围。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1