本技术涉及大数据,特别是涉及一种数据接收处理方法、装置和计算机设备。
背景技术:
1、目前,资产托管系统通过数据接收的形式每日接入从上交所,深交所及其他各类交易所传来的交易内容。随着托管业务规模的逐步扩大,通过数据接收进入系统的数据量和指令类型都在不断扩张。
2、然而,一旦出现极端情况,如业务集中在某一时段提交了大量的指令,往往会造成数据接收的序列堆积,处理速度变慢,需要优先处理的指令也堆积其中,无法进行及时处理。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种能够高效进行数据处理的数据接收处理方法、装置和计算机设备。
2、第一方面,本技术提供了一种数据接收处理方法。所述方法包括:
3、接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
4、在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
5、通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
6、在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
7、对所述待处理数据文件信息进行解压处理,获得解压数据信息;
8、根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
9、当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
10、在其中一个实施例中,所述数据接收处理方法还包括:
11、在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
12、在其中一个实施例中,所述数据接收处理方法还包括:
13、在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
14、通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
15、根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
16、在其中一个实施例中,所述数据接收处理方法还包括:
17、通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
18、在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
19、在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
20、将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
21、将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
22、在其中一个实施例中,所述数据接收处理方法还包括:
23、按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
24、在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
25、第二方面,本技术还提供了一种数据接收处理装置。所述装置包括:
26、接收模块,用于接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
27、匹配模块,用于在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
28、处理模块,用于通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
29、在其中一个实施例中,所述处理模块,具体用于:
30、对所述待处理数据文件信息进行解压处理,获得解压数据信息;
31、根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
32、当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
33、在其中一个实施例中,所述数据接收处理装置还包括:
34、识别模块,用于在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
35、在其中一个实施例中,所述数据接收处理装置还包括验证模块,所述验证模块具体用于:
36、在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
37、通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
38、根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
39、在其中一个实施例中,所述数据接收处理装置还包括待处理数据文件信息确定模块,所述待处理数据文件信息确定模块具体用于:
40、通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
41、在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
42、在其中一个实施例中,所述待处理数据文件信息确定模块,具体用于:
43、将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
44、将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
45、在其中一个实施例中,所述数据接收处理装置还包括目标数据处理链路确定模块,所述目标数据处理链路确定模块具体用于:
46、按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
47、在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
48、第三方面,本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
49、接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
50、在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
51、通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
52、在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
53、对所述待处理数据文件信息进行解压处理,获得解压数据信息;
54、根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
55、当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
56、在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
57、在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
58、在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
59、在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
60、通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
61、根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
62、在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
63、通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
64、在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
65、在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
66、将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
67、将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
68、在其中一个实施例中,所述处理器执行所述计算机程序时还实现以下步骤:
69、按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
70、在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
71、第四方面,本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
72、接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
73、在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
74、通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
75、在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
76、对所述待处理数据文件信息进行解压处理,获得解压数据信息;
77、根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
78、当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
79、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
80、在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
81、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
82、在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
83、通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
84、根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
85、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
86、通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
87、在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
88、在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
89、将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
90、将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
91、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
92、按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
93、在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
94、第五方面,本技术还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现以下步骤:
95、接收待处理数据文件信息;所述待处理数据文件信息包括数据文件标识信息;
96、在各预设类型的数据处理链路中,确定与所述数据文件标识信息相匹配的目标类型的数据处理链路,作为目标数据处理链路;
97、通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理。
98、在其中一个实施例中,所述通过所述目标数据处理链路、以及所述目标数据处理链路对应的数据处理策略,对所述待处理数据文件信息进行处理,包括:
99、对所述待处理数据文件信息进行解压处理,获得解压数据信息;
100、根据数据库处理工具对所述解压数据信息处理,生成数据结果信息;
101、当所述数据文件标识信息是目标标识信息时,在所述数据结果信息中,基于数据筛选条件筛选出目标数据结果信息。
102、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
103、在所述数据文件标识信息不满足预设标识识别条件时,将所有所述预设类型的数据处理链路均作为所述目标数据处理链路。
104、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
105、在所述数据文件标识信息不满足预设标识识别条件时,将所述待处理数据文件信息作为验证数据文件信息;
106、通过所有所述预设类型的数据处理链路、以及所有所述预设类型的数据处理链路对应的数据处理策略,对所述验证数据文件信息进行处理,获得各所述预设类型的数据处理链路对应的数据处理结果信息;
107、根据所述验证数据文件信息的目标数据结果信息,对各所述预设类型的数据处理链路对应的数据处理结果信息进行验证,生成验证信息。
108、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
109、通过中转机将接收到的初始数据文件信息和目标数据文件目录信息进行匹配;
110、在匹配成功的情况下,根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息。
111、在其中一个实施例中,所述根据数据预处理策略,对所述初始数据文件信息进行处理,得到所述待处理数据文件信息,包括:
112、将匹配成功的初始数据文件信息的初始文件格式转换为目标文件格式;
113、将所述目标文件格式的初始数据文件信息进行压缩,作为所述待处理数据文件信息。
114、在其中一个实施例中,所述计算机程序被处理器执行时还实现以下步骤:
115、按照各所述预设类型的数据处理链路对应的处理优先级由高到低进行排序,得到处理方式序列;
116、在所述目标数据处理链路出错的情况下,在所述处理方式序列中剔除所述目标数据处理链路,并将剔除所述目标数据处理链路后的处理方式序列中,处理优先级最高的数据处理链路作为目标数据处理链路。
117、上述数据接收处理方法、装置和计算机设备,通过将待处理数据文件信息的数据文件标识信息和各预设类型的数据处理链路进行匹配,确定与数据文件标识信息匹配的目标数据处理链路,并根据目标数据处理链路及其对应的数据处理策略对待处理数据文件信息进行处理。上述方法可有效的确定待处理文件数据信息对应的目标数据处理链路,进而利用目标数据处理链路对应的处理策略,对上述待处理数据文件信息进行高效准确的处理,提高数据接收处理效率。