数据查询方法、数据存储方法、装置、计算设备和介质与流程

文档序号:30386910发布日期:2022-06-11 11:02阅读:来源:国知局

技术特征:
1.一种数据查询方法,包括:接收查询请求,所述查询请求至少包括目标报文数据的属性信息;基于所述查询请求,从多个索引数据中确定目标索引数据,其中,所述目标索引数据包括与所述目标报文数据的属性信息相关联的目标文件路径,所述多个索引数据中的每个索引数据包括历史报文数据的属性信息和所述历史报文数据所在的文件的文件路径;基于所述目标索引数据,从至少一个文件中确定出目标文件,其中,所述目标文件的文件路径为所述目标文件路径,所述至少一个文件用于存储所述历史报文数据;以及从所述目标文件中获取所述目标报文数据。2.根据权利要求1所述的方法,其中,所述多个索引数据存储于多个第一数据库,每个所述第一数据库的数据库标识和索引数据标识关联存储于第二数据库,所述索引数据标识表征了所述第一数据库存储的索引数据;其中,所述基于所述查询请求,从多个索引数据中确定目标索引数据包括:基于所述查询请求,从所述第二数据库中确定所述查询请求所指示的索引数据标识;基于所述查询请求所指示的索引数据标识,从所述第二数据库中确定出与所指示的索引数据标识相关联的至少一个数据库标识;基于所述至少一个数据库标识,确定与所述至少一个数据库标识对应的至少一个第一数据库;以及从所述至少一个第一数据库中所存储的索引数据中确定出属性信息与目标报文数据的属性信息匹配的索引数据作为所述目标索引数据。3.根据权利要求2所述的方法,其中,所述多个索引数据按照所述历史报文数据的时间戳存储于所述多个第一数据库;所述索引数据标识包括所述第一数据库所存储的索引数据的时间戳范围;所述查询请求还包括目标时间范围,所述目标报文数据的时间戳处于所述目标时间范围之内;其中,基于所述查询请求,从所述第二数据库中确定所述查询请求所指示的索引数据标识包括:基于所述查询请求中的目标时间范围,从所述第二数据库中确定所述查询请求所指示的索引数据标识,所述查询请求所指示的索引数据标识的时间戳范围包括所述目标时间范围。4.根据权利要求1所述的方法,其中,所述目标文件包括多个历史报文数据;其中,所述从所述目标文件中获取所述目标报文数据包括:基于所述目标报文数据的属性信息,从所述多个历史报文数据中确定出至少一个历史报文数据作为所述目标报文数据,其中,所述至少一个历史报文数据的属性信息与所述目标报文数据的属性信息匹配。5.根据权利要求1所述的方法,其中,所述至少一个文件为分布式文件系统中的文件;所述至少一个文件与至少一个预设时间范围一一对应,针对所述至少一个文件中的每个文件,该文件所存储的每个历史报文数据的报文生成时间处于该文件对应的预设时间范围内。6.根据权利要求1所述的方法,其中,针对所述至少一个文件中的每个文件,该文件所存储的多个历史报文数据被压缩成多个子文件;针对每个子文件,该子文件中的多个历史
报文数据依次被压缩;其中,所述多个历史报文数据依次被压缩包括:对已接收的至少一个历史报文数据进行压缩得到初步压缩子文件,将新接收的至少一历史报文数据压缩至所述初步压缩子文件中;其中,所述文件路径还包括子文件的文件名。7.根据权利要求1至6中任意一项所述的方法,其中,所述属性信息包括以下至少一项:源ip地址、目的ip地址、源端口、目的端口、数据传输协议。8.根据权利要求2或3所述的方法,其中,所述第一数据库包括位图数据库,所述第二数据库包括位图数据库。9.一种数据存储方法,包括:获取待存储的历史报文数据;解析所述待存储的历史报文数据中的每个历史报文数据,得到每个历史报文数据的属性信息;将所述待存储的历史报文数据存储至分布式文件系统中的至少一个文件,并记录每个所述历史报文数据所在的文件的文件路径;针对每个历史报文数据,确定所述历史报文数据的属性信息和所述历史报文数据所在的文件的文件路径作为索引信息;以及将所述索引信息关联存储至位图数据库。10.根据权利要求9所述的方法,其中,所述至少一个文件与至少一个预设时间范围一一对应;所述将所述待存储的历史报文数据存储至分布式文件系统中的至少一个文件包括,针对每个所述历史报文数据:确定所述历史报文数据的报文生成时间;以及基于所述报文生成时间和所述至少一个预设时间范围,将所述历史报文数据存储至所述至少一个文件中的一个,其中,所述报文生成时间处于所存储文件对应的预设时间范围内。11.根据权利要求9所述的方法,其中,针对所述至少一个文件中的每个文件,该文件所存储的多个历史报文数据被压缩成多个子文件;针对每个子文件:对已接收的至少一个历史报文数据进行压缩得到初步压缩子文件;以及将新接收的至少一历史报文数据压缩至所述初步压缩子文件中。12.一种数据查询装置,包括:接收模块,用于接收查询请求,所述查询请求至少包括目标报文数据的属性信息;第一确定模块,用于基于所述查询请求,从多个索引数据中确定目标索引数据,其中,所述目标索引数据包括与所述目标报文数据的属性信息相关联的目标文件路径,所述多个索引数据中的每个索引数据包括历史报文数据的属性信息和所述历史报文数据所在的文件的文件路径;第二确定模块,用于基于所述目标索引数据,从至少一个文件中确定出目标文件,其中,所述目标文件的文件路径为所述目标文件路径,所述至少一个文件用于存储所述历史报文数据;以及第一获取模块,用于从所述目标文件中获取所述目标报文数据。
13.一种数据存储装置,包括:第二获取模块,用于获取待存储的历史报文数据;解析模块,用于解析所述待存储的历史报文数据中的每个历史报文数据,得到每个历史报文数据的属性信息;第一存储模块,用于将所述待存储的历史报文数据存储至分布式文件系统中的至少一个文件,并记录每个所述历史报文数据所在的文件的文件路径;第三确定模块,用于针对每个历史报文数据,确定所述历史报文数据的属性信息和所述历史报文数据所在的文件的文件路径作为索引信息;以及第二存储模块,将所述索引信息关联存储至位图数据库。14.一种计算设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~11中任一项所述的方法。15.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~11中任一项所述的方法。16.一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述指令在被执行时用于实现根据权利要求1~11中任一项所述的方法。

技术总结
本公开提供了一种数据查询方法,包括:接收查询请求,查询请求至少包括目标报文数据的属性信息;基于查询请求,从多个索引数据中确定目标索引数据,其中,目标索引数据包括与目标报文数据的属性信息相关联的目标文件路径,多个索引数据中的每个索引数据包括历史报文数据的属性信息和历史报文数据所在的文件的文件路径;基于目标索引数据,从至少一个文件中确定出目标文件,其中,目标文件的文件路径为目标文件路径,至少一个文件用于存储历史报文数据;从目标文件中获取目标报文数据。本公开还提供了一种数据存储方法、装置、计算设备、计算机可读存储介质以及计算机程序产品。计算机可读存储介质以及计算机程序产品。计算机可读存储介质以及计算机程序产品。


技术研发人员:汪勇 齐向东 吴云坤
受保护的技术使用者:网神信息技术(北京)股份有限公司
技术研发日:2020.12.07
技术公布日:2022/6/10
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1