集群文件系统的数据处理方法和装置的制造方法
【技术领域】
[0001]本发明涉及数据处理技术领域,尤其涉及一种集群文件系统的数据处理方法和装置。
【背景技术】
[0002]近年来,集群文件系统已经成为计算机技术发展的新趋势。集群文件系统通过将多个单一独立的主机有机的结合串联成一个系统性的整体,并依托存储区域网络,对外提供一个大容量文件系统的共享存储应用,如CIFS。实现了存储区域网络内的多并发用户操作和大数据传输。
[0003]虽然如此,集群节点的增加同时也增加了节点宕机或服务故障的可能性。比如,当客户机在向集群中读写一个较大文件时,如果受理该读写请求的服务节点故障,即使服务能及时切换到其他节点,由于其他节点的内存中并没有数据缓存,那么客户机的读写操作还是会中断。
【发明内容】
[0004]本发明的主要目的在于提供一种集群文件系统的数据处理方法和装置,旨在解决由于集群服务节点故障,使客户端读写操作中断的技术问题。
[0005]为实现上述目的,本发明提供的一种集群文件系统的数据处理装置,所述集群文件系统的数据处理装置包括:
[0006]存储模块,用于在存储节点接收到文件读取或写入请求,且所述存储模块所在的存储节点为主存储节点时,将所述读取或写入请求中的请求信息存入其缓存区;
[0007]同步模块,用于将所述请求信息同步至集群文件系统中的从存储节点;
[0008]数据处理模块,用于根据所述读取请求以及所述缓存区中的请求信息读取其存储区中的数据,或者根据所述写入请求以及所述缓存区中的请求信息向其存储区中写入数据。
[0009]可选地,所述集群文件系统的数据处理装置包括:
[0010]检测模块,用于接收服务请求时,检测所述服务请求的类型;
[0011]判断模块,用于判断所述服务请求是否为读取或写入请求;
[0012]响应模块,用于若所述服务请求不是读取或写入请求,则响应所述服务请求。
[0013]可选地,所述集群文件系统的数据处理装置还包括:
[0014]确定模块,用于在接收到文件读取或写入请求时,确定所述读取或写入请求对应的数据是否需要验证;
[0015]获取模块,用于在所述读取或写入请求对应的数据需要验证时,获取用户输入的验证信息;
[0016]所述数据处理模块,还用于在所述验证信息与预存的验证信息匹配时,根据所述读取请求以及所述缓存区中的请求信息读取其存储区中的数据,或者根据所述写入请求以及所述缓存区中的请求信息向其存储区中写入数据。
[0017]可选地,所述集群文件系统的数据处理装置还包括:
[0018]所述检测模块,还用于检测链路连接状态和运行状态;
[0019]切换模块,用于在检测到链路连接故障或运行故障时,在处于正常工作状态的从存储节点中选取主存储节点,将选取的所述从存储节点的地址标记为主存储节点地址;
[0020]更新模块,用于将标记的所述主存储节点地址发送至控制节点以及选取的所述从存储节点,其中,所述控制节点采用接收到的所述主存储节点地址更新保存的所述主存储节点地址,且选取的所述存储节点接收到所述主存储节点地址时,将工作状态切换为主存储节点状态。
[0021 ]可选地,所述检测模块包括:
[0022]链路检测单元,用于定时向所述控制节点发送第一检测数据包以及接收所述控制节点基于所述检测数据包反馈的第二响应数据包;
[0023]读写检测单元,用于在预设时间间隔内接收到所述响应数据包时,判断读取以及写入是否正常;
[0024]判定单元,用于在读取以及写入正常时,判定运行正常,在读取以及写入异常时,判定运行故障,以及在预设时间间隔内未接收到所述响应数据包时,判定所述链路连接故障。
[0025]本发明进一步提供一种集群文件系统的数据处理方法,所述集群文件系统的数据处理方法包括:
[0026]在存储节点接收到文件读取或写入请求,且所述存储节点为主存储节点时,所述存储节点根据所述读取请求以及所述缓存区中的请求信息读取其存储区中的数据,或者根据所述写入请求以及所述缓存区中的请求信息向其存储区中写入数据;
[0027]所述存储节点将所述读取或写入请求中的请求信息存入其缓存区;
[0028]所述存储节点将所述请求信息同步至集群文件系统中的从存储节点。
[0029]可选地,所述存储节点将所述读取或写入请求中的请求信息存入其缓存区的步骤之前还包括:
[0030]在所述存储节点接收服务请求时,检测所述服务请求的类型;
[0031]判断所述服务请求是否为读取或写入请求;
[0032]若所述服务请求为读取或写入请求,则执行所述将所述读取或写入服务请求中的请求息存入其缓存区的步骤;
[0033]所述判断所述服务请求是否为读取或写入请求的步骤之后,所述集群文件系统的数据处理方法还包括:
[0034]若所述服务请求不是读取或写入请求,则响应所述服务请求。
[0035]可选地,所述存储节点根据所述读取请求以及所述缓存区中的请求信息读取其存储区中的数据,或者根据所述写入请求以及所述缓存区中的请求信息向其存储区中写入数据的步骤之前,所述集群文件系统的数据处理方法还包括步骤:
[0036]所述存储节点确定所述读取或写入请求对应的数据是否需要验证;
[0037]在所述读取或写入请求对应的数据需要验证时,所述存储节点获取用户输入的验证信息;
[0038]在所述验证信息与预存的验证信息匹配时,执行所述存储节点根据所述读取请求以及所述缓存区中的请求信息读取其存储区中的数据,或者根据所述写入请求以及所述缓存区中的请求信息向其存储区中写入数据的步骤。
[0039]可选地,所述集群文件系统的数据处理方法还包括:
[0040]在所述存储节点为主存储节点时,所述存储节点检测其链路连接状态和所述存储节点的运行状态;
[0041 ]在所述获取存储节点实时检测到其链路连接故障或所述存储节点运行故障时,所述存储节点在处于正常工作状态的从存储节点中选取主存储节点,将选取的所述从存储节点的地址标记为主存储节点地址;
[0042]将标记的所述主节点地址发送至控制节点以及选取的所述从存储节点,其中,所述控制节点采用接收到的所述主节点地址更新保存的所述主节点地址,且选取的所述存储节点接收到所述主节点地址时,将工作状态切换为主存储节点状态。
[0043]可选地,所述存储节点检测其链路连接状态和所述存储节点的运行状态的步骤包括:
[0044]所述存储节点定时向所述控制节点发送第一检测数据包;
[0045]接收所述控制节点基于所述检测数据包反馈的第二响应数据包:
[0046]在预设时间间隔内接收到所述响应数据包时,判断所述存储节点的读取以及写入是否正常;
[0047]在所述存储节点的读取以及写入正常时,判定所述存储节点运行正常,在所述存储节点的读取以及写入异常时,判定所述存储节点运行故障;
[0048]在预设时间间隔内未接收到所述响应数据包时,判定所述存储节点的链路连接故障。
[0049]本发明提出的集群文件系统的数据处理方法和装置,在存储节点接收到文件读取或写入请求,且所述存储节点为主存储节点时,所述存储节点根据所述读取请求以及所述缓存区中的请求信息读取其存储区中的数据,或者根据所述写入请求以及所述缓存区中的请求信息向其存储区中写入数据,所述存储节点将所述读取或写入请求中的请求信息存入其缓存区,所述存储节点将所述请求信息同步至集群文件系统中的从存储节点,在主存储节点故障后,从存储节点可根据其缓存区内的服务请求信息无间断的接管客户端的读取或写入进程,保证集群文件系统服务的稳定性。
【附图说明】
[0050]图1为本发明集群文件系统的数据处理装置第一实施例的功能模块示意图;
[0051]图2为本发明集群文件系统的数据处理装置处理读写外其他服务时的功能模块示意图;
[0052]图3为本发明集群文件系统的数据处理装置第二实施例的功能模块示意图;
[0053]图4为图3中检测模块的细化功能模块示意图;
[0054]图5为本发明集群文件系统的数据处理装置第三实施例的功能模块示意图;
[0055]图6为本发明集群文件系统的数据处理方法第一实施例的流程示意图;
[0056]图7为本发明集群文件系统的数据处理方法处理数据读写外其他服务时的流程示意图;
[0057]图8为本发明集群文件系统的数据处理方法第二实施例的流程示意图;
[0058]图9为图8中主存储节点检测链路连接状态和运行状态的细化流程示意图;
[0059]图10为本发明集群文件系统的数据处理方法第三实施例的流程示意图。
[0060]本发明目的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
【具体实施方式】
[0061]应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
[0062]本发明提供一种集群文件系统的数据处理装置。
[0063]参照图1,图1为本发明集群文件系统的数据处理装置第一实施例的功能模块示意图。
[0064]需要强调的是,对本领域的技术人员来说,图1所示功能模块图仅仅是一个较佳实施例的示例图,本领域的技术人员围绕图1所示的集群文件系统的数