数据同步方法、装置、电子设备和存储介质与流程

本发明实施例涉及数据仓库技术，尤其涉及一种数据同步方法、装置、电子设备和存储介质。

背景技术：

1、随着业务的发展，海量的数据应运而生，生产系统为了适配业务的高频度需求，本身的库表结构也在不断发生变化。数据仓库作为线上生产系统和下游数据应用系统的桥梁，为确保数据的一致性，也需要进行相应的调整，保持上下游(即线上生产系统与下游数据应用系统)的联动性，以避免数据抽取作业异常，线上数据无法接入，影响下游使用。

2、目前上下游联动主要是通过人工维护实现的，即当上游生产库表发生变更时，由线上系统研发人员以邮件的形式向下游数据研发人员发送表结构变更通知或发送变动请求给运维人员，由运维人员对数据执行变更操作，并完成后续数据的补录及追溯。在实现本发明的过程中，发明人发现，人工维护实现上下游联动，人力成本高、效率低、且容易出现误操作，导致上下游数据不能健康的联动。

技术实现思路

1、本发明实施例提供一种数据同步方法、装置、电子设备和存储介质，能够减少人工参与，降低人力成本，提高数据同步的效率和准确率，保证上下游数据的健康联动。

2、第一方面，本发明实施例提供一种数据同步方法，包括：

3、获取源数据库的原始操作日志，解析所述原始操作日志得到所述源数据库的表操作信息；

4、根据所述表操作信息调整当前抽数任务的配置信息得到目标抽数任务；

5、执行所述目标抽数任务以将所述源数据库中的数据同步至数据仓库；

6、将所述数据仓库中的数据同步至各个数据集市。

7、第二方面，本发明实施例提供一种数据同步装置，包括：

8、日志处理模块，用于获取源数据库的原始操作日志，解析所述原始操作日志得到所述源数据库的表操作信息；

9、调整模块，用于根据所述表操作信息调整当前抽数任务的配置信息得到目标抽数任务；

10、执行模块，用于执行所述目标抽数任务以将所述源数据库中的数据同步至数据仓库；

11、同步模块，用于将所述数据仓库中的数据同步至各个数据集市。

12、第三方面，本发明实施例提供一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明实施例任一所述的数据同步方法。

13、第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例任一所述的数据同步方法。

14、本发明实施例中，可以获取源数据库的原始操作日志，解析原始操作日志得到源数据库的表操作信息；根据表操作信息调整当前抽数任务的配置信息，得到目标抽数任务；执行目标抽数任务以将源数据库中的数据同步至数据仓库；将数据仓库中的数据同步至各个数据集市。即本发明可以基于源数据库的操作日志调整抽数任务，通过执行调整后的抽数任务实现数据同步，整个数据同步过程通过自动化方式完成，减少了人工参与，降低了人力成本，提高了数据同步的效率和准确率，能够保证上下游数据的健康联动。

技术特征：

1.一种数据同步方法，其特征在于，包括：

2.根据权利要求1所述的数据同步方法，其特征在于，所述解析所述原始操作日志得到所述源数据库的表操作信息，包括：

3.根据权利要求2所述的数据同步方法，其特征在于，所述基于当前解析树确定所述结构化操作日志对应的候选日志组，包括：

4.根据权利要求3所述的数据同步方法，其特征在于，所述确定所述当前解析树的叶子节点存储的日志组中是否存在与所述结构化操作日志匹配的日志组，包括：

5.根据权利要求4所述的数据同步方法，其特征在于，所述根据所述目标解析树确定所述源数据库的表操作信息，包括：

6.根据权利要求1所述的数据同步方法，其特征在于，在根据所述表操作信息调整当前抽数任务的配置信息之前，还包括：

7.根据权利要求1所述的数据同步方法，其特征在于，所述获取源数据库的原始操作日志，包括：

8.一种数据同步装置，其特征在于，包括：

9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7中任一所述的数据同步方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1至7中任一所述的数据同步方法。

技术总结
本发明实施例公开一种数据同步方法、装置、电子设备和存储介质，该方法包括：获取源数据库的原始操作日志，解析原始操作日志得到源数据库的表操作信息；根据表操作信息调整当前抽数任务的配置信息得到目标抽数任务；执行目标抽数任务以将源数据库中的数据同步至数据仓库；将数据仓库中的数据同步至各个数据集市。即本发明可以基于源数据库的操作日志调整抽数任务，通过执行调整后的抽数任务实现数据同步，整个数据同步过程通过自动化方式完成，减少了人工参与，降低了人力成本，提高了数据同步的效率和准确率，能够保证上下游数据的健康联动。

技术研发人员：刘忠际
受保护的技术使用者：北京京东振世信息技术有限公司
技术研发日：
技术公布日：2024/10/28