一种基于Ceph的云存储容错机制和基于Ceph的web管理平台的制作方法

文档序号:15394886发布日期:2018-09-08 01:57阅读:1561来源:国知局

本发明涉及计算机应用技术领域,尤具体地说是一种基于ceph的云存储容错机制和基于ceph的web管理平台。



背景技术:

随着信息科技的快速发展,人们生活水平的提高伴随着对信息量的需求不断增大,数据量呈现爆炸式增长趋势,数据存储需求不断扩大,存储服务也成为云计算中的一种服务需求。对于云存储服务,数据的价值往往高于硬件设备价值,因此,为保证数据可用性及可靠性,分布式云存储就需要具备高性能和高可靠等特性。

而在实际应用中,云存储系统中的文件的访问频率大不相同。有些文件会经常被读取或修改,有些文件则访问频率偏低,但会间歇性被读取,还有一些文件则是几乎不被读取。对于访问频率不同的文件,存储于相同的位置,对于所有文件均采用相同的方式去处理,就造成了存储资源的浪费,存储成本的提高。



技术实现要素:

本发明的技术任务是针对以上不足之处,提供一种基于ceph的云存储容错机制和基于ceph的web管理平台,减少云存储的存储空间,提高存储利用率,节约存储成本。

一种基于ceph的云存储容错机制,基于数据热度进行分层,将存储中的数据根据访问热度分为热数据、温数据和冷数据;设有三个存储池,分别为副本池、柯西纠删码池和范德蒙纠删码池;

热数据采用副本策略进行数据恢复,存放在副本池;

温数据采用纠删码策略进行数据恢复,存放在柯西纠删码池;

冷数据采用纠删码策略进行数据恢复,存放在范德蒙纠删码池。

ceph集群中单点故障的概率很高,考虑集群中有一个osd(objectstoragedevice)损坏时,副本策略和纠删码策略的数据恢复性能:当集群中节点损坏时,副本策略的数据恢复是最快的,只需要取另外的可用副本即可;对于纠删码,则需要获取指定数目的码块操作才能恢复原始数据;副本池的数据恢复性能优于纠删码池,柯西纠删码池性能优于范德蒙纠删码池。

存储中数据根据热度分为热数据、温数据和冷数据。热数据为访问频率较高的数据,通常需要高性能、高度可用、高要求的环境下即时存取,采用副本冗余策略的副本池有良好的读写性能及可靠性,因此适合热数据存储。温数据处于近线或在线备份环境中,用户需要快速访问这些数据,但访问次数较少,因此使用柯西纠删码池进行存储。冷数据通常访问次数极少,通常用于归档备份,因此用范德蒙纠删码池进行存储。

进一步的,实现该ceph分布式的云存储容错机制,首先将所有数据先按副本策略进行存储,对存入系统的数据实时统计其被访问频率,设定热数据阈值和冷数据阈值,高于热数据阈值则判断为热数据,低于冷数据阈值则判断为冷数据;介于冷数据阈值和热数据阈值之间则判断为温数据。

云存储中的数据被访问频率高于热数据阈值时,判定为热数据,存放在副本池里,该存储池采用副本容错机制。数据被访问频率低于冷数据阈值时,判定为冷数据,存放在范德蒙rs纠删码池里,该存储池采用范德蒙rs纠删码容错机制。数据访问频率小于等于热数据阈值、大于等于冷数据阈值,即介于冷数据阈值和热数据阈值之间时,判定为温数据,存放在柯西rs纠删码池里,该存储池采用改进的柯西rs纠删码容错机制。

优选的,本机制每3个月对云存储中的数据进行一次数据热度划分,根据数据被访问的频率划分热数据、温数据和冷数据,将其各自放入相应的存储池,采用相应的容错机制处理数据。

一种基于ceph的web管理平台,该管理平台具有资源访问统计日志,并搭建有ceph存储集群;根据资源访问统计日志将存储数据划分为热数据、温数据和冷数据;ceph存储集群包括一个监视器monitor和三个osd(objectstoragedevice),并创建有三个存储池;监视器monitor用于管理ceph存储集群数据信息,三个osd分别用于三种数据的存储和维护,三个存储池分别用于存放三种数据。三个存储池存放不同类型的数据,采用不同的容错机制处理数据。

该管理平台搭建ceph存储集群的具体步骤如下:

首先进行ceph的初始化,进行网段的划分;

然后创建ceph监视器;

再进行三个osd的创建;

最后根据访问热度创建三个存储池,将三种数据分别放置对应的三个存储池里。

优选的,所述三个存储池分别为副本池repool、范德蒙rs纠删码池rspool和柯西rs纠删码池capool,热数据放置于副本池repool,该存储池采用副本容错机制;温数据放置于柯西rs纠删码池capool,该存储池采用柯西rs纠删码容错机制;冷数据放置于范德蒙rs纠删码池,该存储池采用范德蒙rs纠删码容错机制。

本发明的一种基于ceph的云存储容错机制和基于ceph的web管理平台,具有以下优点:

根据数据访问热度将数据进行分层,针对热度不同的数据进行分别存储,研究其容错机制;通过合理的容错机制可以保证云存储中数据的高可靠性和可用性,可以极大地减少存储空间,提升存储利用率,有利于节约存储成本。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

附图1是实施例中基于数据热度分层的数据容错流程图;

附图2是基于ceph存储集群的web管理平台搭建ceph存储集群的流程图。

具体实施方式

为了使本技术领域的人员更好地理解本发明的方案,下面结合具体实施方式对本发明作进一步的详细说明。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

一种基于ceph的云存储容错机制,如图1所示,数据热度判决器基于数据热度对云存储中的数据进行分层,将存储中的数据根据其被访问热度分为热数据、温数据和冷数据;设有三个存储池,分别为副本池、柯西纠删码池和范德蒙纠删码池。

实现该ceph分布式的云存储容错机制,首先将所有数据先按副本策略进行存储,对存入系统的数据实时统计其被访问频率,设定热数据阈值和冷数据阈值,高于热数据阈值则判断为热数据,低于冷数据阈值则判断为冷数据;介于冷数据阈值和热数据阈值之间则判断为温数据。

热数据存放在副本池,采用副本策略进行数据恢复;

温数据存放在柯西纠删码池,采用纠删码策略进行数据恢复;

冷数据存放在范德蒙纠删码池,采用纠删码策略进行数据恢复。

ceph集群中单点故障的概率很高,考虑集群中有一个osd(objectstoragedevice)损坏时,副本策略和纠删码策略的数据恢复性能:当集群中节点损坏时,副本策略的数据恢复是最快的,只需要取另外的可用副本即可;对于纠删码,则需要获取指定数目的码块操作才能恢复原始数据;副本池的数据恢复性能优于纠删码池,柯西纠删码池性能优于范德蒙纠删码池。

存储中数据根据热度分为热数据、温数据和冷数据。热数据为访问频率较高的数据,通常需要高性能、高度可用、高要求的环境下即时存取,采用副本冗余策略的副本池有良好的读写性能及可靠性,因此适合热数据存储。温数据处于近线或在线备份环境中,用户需要快速访问这些数据,但访问次数较少,因此使用柯西纠删码池进行存储。冷数据通常访问次数极少,通常用于归档备份,因此用范德蒙纠删码池进行存储。

云存储中的数据被访问频率高于热数据阈值时,判定为热数据,存放在副本池里,该存储池采用副本容错机制。数据被访问频率低于冷数据阈值时,判定为冷数据,存放在范德蒙rs纠删码池里,该存储池采用范德蒙rs纠删码容错机制。数据访问频率小于等于热数据阈值、大于等于冷数据阈值,即介于冷数据阈值和热数据阈值之间时,判定为温数据,存放在柯西rs纠删码池里,该存储池采用改进的柯西rs纠删码容错机制。

本机制每3个月对云存储中的数据进行一次数据热度划分,根据数据被访问的频率划分热数据、温数据和冷数据,将其各自放入相应的存储池,采用相应的容错机制处理数据。

一种基于ceph的web管理平台,该管理平台具有资源访问统计日志,并搭建有ceph存储集群;根据资源访问统计日志将存储数据划分为热数据、温数据和冷数据。ceph存储集群包括一个监视器monitor和三个osd(objectstoragedevice),并创建有三个存储池;监视器monitor用于管理ceph存储集群数据信息,三个osd分别用于三种数据的存储和维护,三个存储池分别用于存放三种数据。三个存储池存放不同类型的数据,采用不同的容错机制处理数据。

该管理平台搭建ceph存储集群的具体步骤如下:

首先进行ceph的初始化,进行网段的划分;

然后创建ceph监视器;

再进行三个ceph的osd的创建;

最后创建三个存储池,分别为副本池repool、范德蒙rs纠删码池rspool和柯西rs纠删码池capool;

配置完成,健康状态中ceph的状态良好即为可用状态。

热数据放置于副本池repool,该存储池采用副本容错机制;温数据放置于柯西rs纠删码池capool,该存储池采用柯西rs纠删码容错机制;冷数据放置于范德蒙rs纠删码池,该存储池采用范德蒙rs纠删码容错机制。

通过合理的容错机制保证云存储中数据的高可靠性和可用性,同时可以极大地减少存储空间,提升存储空间利用率,有利于节约存储成本。

上述具体实施方式仅是本发明的具体个案,本发明的专利保护范围包括但不限于上述具体实施方式,任何符合本发明的一种基于ceph的云存储容错机制和基于ceph的web管理平台的权利要求书的且任何所述技术领域的普通技术人员对其所做的适当变化或替换,皆应落入本发明的专利保护范围。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1