一种分布式文件系统性能瓶颈定位方法、装置和系统的制作方法
【技术领域】
[0001]本发明涉及性能检测技术领域,特别是涉及一种分布式文件系统性能瓶颈定位方法、装置和系统。
【背景技术】
[0002]分布式文件系统由元数据服务器、数据服务器和客户端组成。一般来说,一个文件的操作首先进行元数据操作,其后是文件数据操作。目前,在读写大文件(文件大小大于或等于10MB的文件)的应用场合主要是考虑文件系统的吞吐量,也就是数据的性能。因为大文件应用元数据请求有限,主要压力是在数据存储上。而针对小文件(文件大小小于10MB的文件)的应用场合,特别是512KB到10ΜΒ之间的小文件,在系统应用中并不能直观地分析出整个分布式文件系统的瓶颈点。
【发明内容】
[0003]有鉴于此,本发明实施例提供一种分布式文件系统性能瓶颈定位方法、装置和系统,以解决现有技术中针对小文件的应用场合,在系统应用中并不能直观地分析出整个分布式文件系统的瓶颈点的问题。
[0004]为实现上述目的,本发明实施例提供如下技术方案:
[0005]—种分布式文件系统性能瓶颈定位方法,包括:
[0006]通过元数据服务器创建预设数目的文件,得到所述元数据服务器创建每个所述文件的第一速率或创建所有所述文件消耗的第一总时间;
[0007]通过数据服务器在每个所述文件中分别写入预设大小的数据,所述预设大小小于预设阈值,得到所述数据服务器写入每个所述数据的第二速率或写入所有所述数据消耗的第二总时间;
[0008]若所述第一数据大于所述第二数据或所述第一总时间小于所述第二总时间,则确定所述数据服务器性能瓶颈;
[0009]若所述第一数据小于所述第二数据或所述第一总时间大于所述第二总时间,则确定所述元数据服务器性能瓶颈。
[0010]其中,所述确认所述数据服务器性能瓶颈后还包括:对所述数据服务器进行性能优化,提高所述数据服务器性能。
[0011]其中,所述确认所述元数据服务器性能瓶颈后还包括:对所述元数据服务器进行性能优化,提供所述元数据服务器性能。
[0012]其中,所述通过元数据服务器创建预设数目的文件,得到所述元数据服务器创建每个所述文件的第一速率或创建所有所述文件消耗的第一总时间包括:
[0013]向所述元数据服务器发送文件建立请求,请求所述元数据服务器建立预设数目的文件;
[0014]接收所述元数据服务器创建所有预设数目的文件后返回的第一反馈信息,所述第一反馈信息包括所述元数据服务器开始创建所述文件的第一时间点,和所述元数据服务器创建完成所有所述文件的第二时间点;
[0015]根据所述第一时间点和第二时间点得到所述元数据服务器创建所有所述文件消耗的第一总时间,或根据所述第一时间点、第二时间点和所述预设数目得到所述元数据服务器创建每个所述文件的第一速率。
[0016]其中,所述通过数据服务器在每个所述文件中分别写入预设大小的数据,所述预设大小小于预设阈值,得到所述数据服务器写入每个所述数据的第二速率或写入所有所述数据消耗的第二总时间包括:
[0017]向所述数据服务器发送数据写入请求,请求所述数据服务器在每个所述文件中分别写入预设大小的数据;
[0018]接收所述数据服务器写入所有所述数据后返回的第二反馈信息,所述第二反馈信息包括所述数据服务器开始写入所述数据的第三时间点,和所述数据服务器写入完成所有所述数据的第四时间点;
[0019]根据所述第三时间点和第四时间点得到所述数据服务器写入所有所述数据消耗的第二总时间,或根据所述第三时间点、第四时间点和所述预设数目得到所述数据服务器写入每个所述数据的第二速率。
[0020]一种分布式文件系统性能瓶颈定位装置,包括:第一计算模块、第二计算模块和定位模块;其中,
[0021 ]所述第一计算模块,用于通过元数据服务器创建预设数目的文件,得到所述元数据服务器创建每个所述文件的第一速率或创建所有所述文件消耗的第一总时间;
[0022]所述第二计算模块,用于通过数据服务器在每个所述文件中分别写入预设大小的数据,所述预设大小小于预设阈值,得到所述数据服务器写入每个所述数据的第二速率或写入所有所述数据消耗的第二总时间;
[0023]所述定位模块,用于当所述第一数据大于所述第二数据或所述第一总时间小于所述第二总时间时,确定所述数据服务器性能瓶颈,当所述第一数据小于所述第二数据或所述第一总时间大于所述第二总时间时,确定所述元数据服务器性能瓶颈。
[0024]其中,所述分布式文件系统性能瓶颈定位装置还包括:优化模块,用于当所述定位模块确定所述数据服务器性能瓶颈后,对所述数据服务器进行性能优化,提高所述数据服务器性能,当所述定位模块确认所述元数据服务器性能瓶颈后,对所述元数据服务器进行性能优化,提供所述元数据服务器性能。
[0025]其中,所述第一计算模块包括:第一发送单元,第一接收单元和第一计算单元;其中,
[0026]所述第一发送单元,用于向所述元数据服务器发送文件建立请求,请求所述元数据服务器建立预设数目的文件;
[0027]所述第一接收单元,用于接收所述元数据服务器创建所有预设数目的文件后返回的第一反馈信息,所述第一反馈信息包括所述元数据服务器开始创建所述文件的第一时间点,和所述元数据服务器创建所有所述文件的第二时间点;
[0028]所述第一计算单元,根据所述第一时间点和第二时间点得到所述元数据服务器创建所有所述文件消耗的第一总时间,或根据所述第一时间点、第二时间点和所述预设数目得到所述元数据服务器创建每个所述文件的第一速率。
[0029]其中,所述第二计算模块包括:第二发送单元,第二接收单元和第二计算单元;其中,
[0030]所述第二发送单元,用于向所述数据服务器发送数据写入请求,请求所述数据服务器在每个所述文件中分别写入预设大小的数据;
[0031]所述第二接收单元,用于接收所述数据服务器写入所有所述数据后返回的第二反馈信息,所述第二反馈信息包括所述数据服务器开始写入所述数据的第三时间点,和所述数据服务器写入所有所述数据的第四时间点;
[0032]所述第二计算单元,根据所述第三时间点和第四时间点得到所述数据服务器写入所有所述数据消耗的第二总时间,或根据所述第三时间点、第四时间点和所述预设数目得到所述数据服务器写入每个所述数据的第二速率。
[0033]—种分布式文件系统性能瓶颈定位系统,包括:上述的分布式文件系统性能瓶颈定位装置、元数据服务器和数据服务器;其中,
[0034]所述分布式文件系统性能瓶颈定位装置,用于通过所述元数据服务器创建预设数目的文件,得到所述元数据服务器创建每个所述文件的第一速率或创建所有所述文件消耗的第一总时间;通过所述数据服务器在每个所述文件中分别写入预设大小的数据,所述预设大小小于预设阈值,得到所述数据服务器写入每个所述数据的第二速率或写入所有所述数据消耗的第二总时间;若所述第一数据大于所述第二数据或所述第一总时间小于所述第二总时间,则确定所述数据服务器性能瓶颈;若所述第一数据小于所述第二数据或所述第一总时间大于所述第二总时间,则确定所述元数据服务器性能瓶颈;
[0035]所述元数据服务器,用于创建预设数目的文件。
[0036]所述数据服务器,用于在所述元数据服务器创建的每个所述文件中分别写入预设大小的数据。
[0037]其中,所述元数据服务器包括:第三接收单元、第一记录单元和第三发送单元;其中,
[0038]所述第三接收单元,用于接收所述分布式文件系统性能瓶颈定位装置发送的文件建立请求,根据所述文件建立请求创建预设数目的文件;
[0039]所述第一记录单元,用于记录开始创建所述文件的第一时间点,和创建完成所有所述文件的第二时间点,得到第一反馈信息;
[0040]所述第三发送单元,用于将所述第一反馈信息返回给所述分布式文件系统性能瓶颈定位装置;
[0041]其中,所述数据服务器包括:第四接收单元、第二记录单元和第四发送单元;其中,
[0042]所述第四接收单元,用于接收所述分布式文件系统性能瓶颈定位装置发送的数据写入请求,根据在每个所述文件中分别写入预设大小的数据;
[0043]所述第二记录单元,用于记录开始写入所述数据的第三时间点,和写入完成所