专利名称:分布式文件系统中业务内容处理、更新方法与装置的制作方法
技术领域:
本发明涉及分布式文件系统中业务内容处理、更新技术,尤其涉及一种分 布式文件系统中业务节点中的业务内容处理、更新方法与装置。
背景技术:
分布式文件系统广泛应用于网络电一见(IPTV, Internet Protocol Television) 等视频业务的服务器中,用于管理单个业务节点(为一个区域或一部分用户提 供服务)内业务数据的存储和读取。随着用户对业务多样性需求的不断提高, 业务应用中需存储的业务数据量也越来越多,分布式文件系统中各个业务节点 要提供完整的业务服务,就需要海量的存储空间,这将造成整个分布式文件系 统的成本大幅提高,给运营商带来很大压力。
为了解决上述问题,分布式文件系统普遍采用业务内容调度的方法来解决, 即所有的业务内容分散存储到各个业务节点,单个业务节点上并不存储所有的 业务内容,但每个业务节点上所提供的业务内容目录却是相同的,当用户在某 个节点上点播一个并未存储在本业务节点的业务内容时,该业务节点查找存储 所点播业务内容的其它节点,将用户所点播的业务内容緩存到本业务节点,再 提供给请求用户。
使用上述业务内容的调度方法,可大量节省分布式文件系统中各个业务节 点的存储空间,从而降低了分布式文件系统的组建成本。但仍存在不足之处, 业务内容的调度方法,在业务节点上没有相应的业务内容,而用户对该业务节 点上的该业务内容的点播请求又较多时,虽然能从其他业务节点向用户提供业 务服务,但这需耗费分布式文件系统较大的带宽,在点"t番用户数较多时,所提 供的业务服务的质量4艮难得到保证。
发明内容
有鉴于此,本发明的主要目的在于提供一种分布式文件系统中业务节点的 业务内容处理、更新方法与装置,能提升了热点业务内容的服务质量,且使所 占用的存储空间较小。
为达到上述目的,本发明的技术方案是这样实现的 一种分布式文件系统中业务节点的业务内容处理方法,包括 接收到上载的业务内容后,分布式文件系统根据所述业务内容生成文件块, 所述文件块存^f渚于至少一个所述业务节点中,未存储所述文件块的所述业务节 点中存储有与所述文件块对应的虛拟文件块,并设置所述虚拟文件块的属性列
表,所述属性列表包括虛拟标识信息、访问热度值信息以及所述文件块的至少 一个访问地址信息。
优选地,所述虚拟文件块与所述文件块的名称、属性值相同。 优选地,所述分布式文件系统根据所述业务内容生成文件块,具体为 所迷分布式文件系统将所迷业务内容直"f妾作为文件块,或将所述业务内容 分割成两个以上的业务内容块而作为文件块。
一种分布式文件系统中业务节点的业务内容更新方法,包括 接收到文件块的点播请求后,业务节点判断所点播的文件块是否为虛拟文 件块,是时根据所述虚拟文件块的属性列表中的与所述虚拟文件块对应的所述 文件块的至少 一个访问地址信息读取所述文件块并响应所述点播请求,同时, 更新所述业务节点中所述虛拟文件块的属性列表中的访问热度值,并判断更新 后的访问热度值是否达到设定阈值,达到时根据所述文件块的至少一个访问地 址信息将所述文件块下载到所述业务节点,并清除或清空所述虛拟文件块的属 性列表,或删除所述虛拟文件块的属性列表中的虛拟标识信息。
优选地,所述业务节点判断所点播的文件块是否为虚拟文件块,具体为 根据所点播的文件块的标识查找所点播的文件块是否包括属性列表或判断 所查找到的属性列表是否为非空,或判断所查找到的属性列表中是否包括虚拟标识信息,是时所点播的文件块为虛拟文件块。
优选地,所述更新所述业务节点中所述虚拟文件块的属性列表中的访问热
度值,具体为:使所述业务节点中所述虚拟文件块的属性列表中的访问热度值 力口一。
一种分布式文件系统中业务节点的业务内容处理装置,包括 上载单元,用于向分布式文件系统上载业务内容;
文件块生成单元,用于将通过所述上载单元上载的所述业务内容生成文件
块;
发布单元,用于将所述文件块存储于至少一个所述业务节点中,未存储所 述文件块的所述业务节点中存储有与所述文件块对应的虚拟文件块;以及
设置单元,用于为所述虚拟文件块设置属性列表,所述属性列表包括虚拟 标识信息、访问热度值信息以及所述文件块的至少 一个访问地址信息。
优选地,所述虛拟文件块与所述文件块的名称、属性值相同。
一种分布式文件系统中业务节点的业务内容更新装置,包括
接收单元,用于接收文件块的点播请求;
第一判断单元,用于判断所述点播请求所点播的文件块是否为虚拟文件块, 是时触发读取及响应单元;
读取及响应单元,用于根据所述虚拟文件块的属性列表中的与所述虚拟文 件块对应的所述文件块的至少 一个访问地址信息读取所述文件块并响应所述点 播请求,同时触发更新单元;
更新单元,用于更新所述虚拟文件块的属性列表中的访问热度值,并触发 第二判断单元;
第二判断单元,用于判断更新后的所述虚拟文件块的属性列表中的访问热 度值是否达到设定阈值,达到时触发下载及清除单元;以及
下载及清除单元,用于根据所述文件块的至少一个访问地址信息将所述文 件块下载到所述虚拟文件块所在的所述业务节点,并清除或清空所述虚拟文件 块的属性列表,或删除所述虚拟文件块的属性列表中的虚拟标识信息优选地,所述更新单元更新所述虚拟文件块的属性列表中的访问热度值, 具体为使所述业务节点中所述虚拟文件块的属性列表中的访问热度值加一。
本发明中,为业务节点中的虛拟文件块设置属性列表,属性列表中记载有 虚拟标识信息、访问热度值信息以及所述文件块的至少一个访问地址信息,在 用户对某业务节点中的某虚拟文件块点播后,更新虚拟文件块属性列表中的访 问热度值,即使其访问热度值加一,并与设定阈值进行比较,达到设定阈值时, 即认为该虛拟文件块对应的文件块在该业务节点上的热度较高,则根据虚拟文 件块属性列表中的所述文件块的至少 一个访问地址信息,将所述文件块下载到 该业务节点上,并去除所述文件块的虚拟标识信息。这样,在其他用户再向该 业务节点点播所述文件块时,该业务节点能直接在本地向用户提供业务服务,
由于不必再到远程业务节点緩存所点播业务内容,提升了业务的服务质量,由 于仅是将访问热度值超出阔值的业务内容下载到用户请求较多的业务节点上, 并不会占用其他业务节点的存储空间,不必为分布式文件系统中的每个业务节 点均配备很大的存储空间,实现成本较低。本发明实现简单且实用。
图1为本发明分布式文件系统中业务节点的业务内容处理方法的流程图2为本发明分布式文件系统中业务节点的业务内容更新方法的流程图; 图3为本发明分布式文件系统中业务节点的业务内容处理装置的组成结构 示意图4为本发明分布式文件系统中业务节点的业务内容更新装置的组成结构 示意图。
具体实施例方式
本发明的基本思想是为业务节点中的虚拟文件块设置属性列表,属性列 表中记载有虛拟标识信息、访问热度值信息以及所述文件块的至少 一个访问地 址信息,在用户对某业务节点中的某虚拟文件块点播后,更新虛拟文件块属性列表中的访问热度值,即使其访问热度值加一,并与设定阈值进行比较,达到 设定阈值时,即认为该虚拟文件块对应的文件块在该业务节点上的热度较高, 则根据虛拟文件块属性列表中的所述文件块的至少一个访问地址信息,将所述 文件块下载到该业务节点上,并去除所述文件块的虚拟标识信息。这样,在其 他用户再向该业务节点点播所述文件块时,该业务节点能直接在本地向用户提 供业务服务,由于不必再到远程业务节点緩存所点播业务内容,提升了业务的 服务质量,由于仅是将访问热度值超出阈值的业务内容下载到用户请求较多的 业务节点上,并不会占用其他业务节点的存储空间,不必为分布式文件系统中 的每个业务节点均配备很大的存储空间,实现成本较低。本发明实现简单且实 用。
为使本发明的目的、技术方案和优点更加清楚明白,以下举实施例并参照 附图,对本发明进一步详细说明。
图1为本发明分布式文件系统中业务节点的业务内容处理方法的流程图, 如图l所示,本发明分布式文件系统中业务节点的业务内容处理方法包括以下
步骤101:接收到上载的业务内容后,分布式文件系统根据所述业务内容 生成文件块。
分布式文件系统为维护人员提供业务内容的上载接口 ,维护人员通过上载 接口能上载各种业务内容,所述业务内容包括各种音、视频文件,如电影或歌 曲等文件。上载接口的实现是容易的,通过向维护人员提供业务内容的上载界 面,设置相应的身份验证码,通过身份验证的用户即可实现业务内容的上载, 上载接口由运营商维护。接收到维护人员上载的业务内容后,分布式文件系统 根据用户的需求及分布式文件系统的运营特点,将上载的业务内容生成文件块。 由于本发明分布式文件系统所面对的主要是点播业务, 一般为用户提供经典的 电影片段或歌曲及其片段,以供各种用户进行点播,因此,对于所上载的完整 的电影或歌曲,需按用户的需求或运营需求对业务内容进行分割,分割成一个 以上的文件块,再将所分割的文件块发布到分布式文件系统中的各业务节点上,供用户点播。业务内容分割可使用现有的分割软件来实现。如果维护人员所上 载的业务内容本身即是符合要求的文件块或上载业务内容之前已进行过文件分 割,则不再对其进行分割处理。
步骤102:将步骤101中所分割的文件块存储于至少一个业务节点中,未 存储所述文件块的所述业务节点中存储有与所述文件块对应的虛拟文件块,并 设置所述虛拟文件块的属性列表,所述属性列表包括虚拟标识信息、访问热度 值信息以及所述文件块的至少 一个访问地址信息。
步骤102中即实现文件块的发布,即将分布式文件系统中所有的文件块发 布于各业务节点上,以供用户点播。但是,所有的文件块并不能全部存储于各 业务节点上,这样将会导致分布式文件系统中各业务节点的存储空间要相当大, 将使分布式文件系统的成本较高,因此,本发明是将分布式文件系统中所有的 文件块分散存j诸到分布式文件系统中各业务节点中,以所有的业务节点分担文 件块的存储任务,但是,在提供文件块的目录时,却是分布式文件系统中所有 的文件块目录,即业务节点上存在虚拟文件块。虚拟文件块的含义是,所述文 件块并不没有存储在显示该虛拟文件块目录的业务节点上,而是存储在其他业 务节点上。在将文件块存储于业务节点上时,可以在对应的业务节点上设置所 述文件块的文件夹,将所述文件块存储于对应的文件夹中,而业务节点上的发 布的虚拟文件块与实际的文件块的名称、各种属性值如文件类型、大小及创建 时间等均相同,虚拟文件块面向用户的信息与实际的文件块是完全相同的,用 户并不知道哪些文件块未存储在接收了点播请求的业务节点上,这些信息是对 用户屏蔽的。对于分布式文件系统中的每一个文件块,至少存储于一个业务节 点上。
对于业务节点上的虚拟文件块,为其设置属性列表,所述属性列表宁至少 包括虚拟标识信息、访问热度值信息以及所述文件块的至少 一个访问地址信息, 虚拟标识用于标识文件块为虚拟文件块,访问热度值用于量化在设定的时间段 内用户点播所述文件块的次数,例如1小时内某文件块在其所在业务节点中的 点播次数,设定时间段内的点播次数越多,所述文件块的访问热度值就越高。请求后,根据该虚拟文件块属性列表中记载的实际文件块的存储地址,到对应 存储所述实际文件块的业务节点上读取该文件块,緩存到所点播虚拟文件块所 在的业务节点上,再将所緩存的文件块数据发送给所请求用户,向用户播放该 文件块的数据。这样,用户在向业务节点请求点播业务时,即使所请求的是虚 拟文件块,仍能得到所需的业务数据,并且,相应的业务节点将会更新虚拟文 件块属性列表中的访问热度值信息,即使其访问热度值加一。
图2为本发明分布式文件系统中业务节点的业务内容更新方法的流程图, 如图2所示,本发明分布式文件系统中业务节点的业务内容更新方法包括以下 步骤
步骤201:接收到文件块的点播请求后,业务节点判断所点播的文件块是 否为虛拟文件块,是时根据所述虚拟文件块的属性列表中的与所述虚拟文件块 对应的所述文件块的至少 一个访问地址信息读取所述文件块并响应所述点播请 求,同时,更新所述业务节点中所述虚拟文件块的属性列表中的访问热度值。
业务节点接收到文件块的点播请求后,判断所点播的文件块是否为虚拟文 件块,具体可通过查找所点播的文件块是否设置有属性列表来确定,若分布式 文件系统中对于虚拟文件块设置属性列表而非虚拟文件块不设置属性列表时, 设置属性列表的即为虚拟文件块。而如果虛拟文件块转换为实际文件块时,业 务节点仅清空属性列表或仅将属性列表中的对应信息如虚拟标识信息删除时, 通过判断虚拟文件块的属性列表中是否包括虛拟标识信息来确定是否为虚拟文 件块,包括虛拟标识信息的,即为虚拟文件块。如果所点播文件块是虚拟文件 块,则根据该虛拟文件块的属性列表中与所述虚拟文件块对应的所述文件块的 至少 一个访问地址信息读取所述文件块,将所读取的所述文件块的数据緩存于 所述业务节点上,并用所读取的所述文件块的緩存数据响应用户的点播请求, 向用户播放其所点#~的文件块,所述业务节点将所述虚拟文件块的属性列表中 的访问热度值的计数值加一。访问热度值是一个动态值,在每个设定计数周期 到来时,该访问热度值会被自动清零并重新计数,在用户请求点播所述虚拟文件块后,所述业务节点将其访问热度值的计数值加一。
步骤202:判断更新后的访问热度值是否达到设定阈值,达到时根据所述 文件块的至少一个访问地址信息将所述文件块下载到所述业务节点,并清除或 清空所述虚拟文件块的属性列表,或删除所述虚拟文件块的属性列表中的虛拟 标识信息。
在所述虛拟文件块的访问热度值更新后,所述业务节点判断该更新后的访 问热度值是否达到了设定阄值,如果达到了设定阈值,说明所述虚拟文件块在 所述业务节点上的点播频率还是比较高的,则根据所迷虚拟文件块的属性列表 中的至少 一个访问地址信息,将所述虚拟文件块对应的实际文件块下载到所述 业务节点上,以在用户再次点播时,直接将本地的文件块数据响应给所点播的 用户,以提高用户所点播业务的响应速度,提升业务的服务质量,文件块下载 完毕后,将所述业务节点上所述虚拟文件块的属性列表清空或直接删除,或者 仅删除所述虚拟文件块的属性列表中的虚拟标识信息,以宣示所述文件块不再 是虚拟文件块。所述业务节点设置所述虚拟文件块为非虛拟文件块的方式,与 分布式文件系统中定义虚拟文件块、非虚拟文件块的方式有关,判断所述文件 块是否为虛拟文件块,也与此有关。访问热度值的设定阈值是一个经验值,根 据实际系统而设定。
本领域^L术人员应当理解,图2所示的分布式文件系统中业务节点的业务 内容更新方法除自身构成^t支术方案外,还可结合图l所示的分布式文件系统中 业务节点的业务内容处理方法而构成技术方案,此时,在图l所示的步骤l01、
102之后包括图2所示的步骤201、 202。
图3为本发明分布式文件系统中业务节点的业务内容处理装置的组成结构 示意图,如图3所示,本发明分布式文件系统中业务节点的业务内容处理装置 包括上载单元30、文件块生成单元31、发布单元32和"i殳置单元33,其中,上 载单元30用于向分布式文件系统上载业务内容;上载单元30可通过上载接口 而实现,维护人员通过上载单元30可上载各种业务内容。文件块生成单元31 用于将通过上载单元30上载的所述业务内容生成文件块;即将所上载的业务内容按业务需求或用户需求等分割为一个以上的文件块,当所上载的业务内容符 合发布要求或上载之前已分割为文件块时,直接将所述业务内容作为文件块。
发布单元32用于将所述文件块存储于至少一个所迷业务节点中,未存储所述文 件块的所述业务节点中存储有与所述文件块对应的虚拟文件块;发布单元32 将文件块生成单元31所生成的文件块发布到分布式文件系统中各业务节点上, 各业务节点上的文件块的目录都是相同的,其中,未存储实际文件块的业务节 点上,该文件块被设置成虚拟文件块。业务节点上的发布的虚拟文件块与实际 的文件块的名称、各种属性值如文件类型、大小及创建时间等均相同。设置单 元33用于为所述虛拟文件块设置属性列表,所述属性列表包括虚拟标识信息、 访问热度值信息以及所述文件块的至少 一个访问地址信息。
本领域技术人员应当理解,本发明图3所示的分布式文件系统中业务节点 的业务内容处理装置是为实现图1所示的分布式文件系统中业务节点的业务内 容处理方法而设计的,图3所示装置中的各处理单元的实现功能可参照图1所 示的方法中的相关描述而理解,各单元的功能可通过运行于处理器上的程序而 实现,也可通过相应的逻辑电路而实现。
图4为本发明分布式文件系统中业务节点的业务内容更新装置的组成结构 示意图,如图4所示,本发明分布式文件系统中业务节点的业务内容更新装置 包括接收单元40、第一判断单元41、读取及响应单元42、更新单元43、第二 判断单元44和下载及清除单元45,其中,接收单元40用于接收文件块的点播 请求;所述点播请求来自于各种用户。第一判断单元41用于判断所述点播请求 所点播的文件块是否为虛拟文件块,是时触发读取及响应单元42;具体的,可 以根据所请求文件块是否包括属性列表来判断,或者依据所述文件块的属性列 表是否包括虚拟标识信息来判断,是时即为虚拟文件块。读取及响应单元42 用于根据所述虚拟文件块的属性列表中的与所述虛拟文件块对应的所述文件块 的至少 一个访问地址信息读取所述文件块并响应所述点播请求,同时触发更新 单元43。更新单元43用于更新所述虚拟文件块的属性列表中的访问热度值, 并触发第二判断单元44,这里更新所述虚拟文件块的属性列表中的访问热度值即将访问热度值的计数加一。第二判断单元44用于判断更新后的所述虚拟文件 块的属性列表中的访问热度值是否达到设定阈值,达到时触发下载及清除单元 45;访问热度值的阈值为经验值,不同的系统经验值不同。下载及清除单元45 用于根据所述文件块的至少一个访问地址信息将所述文件块下载到所述虚拟文 件块所在的所述业务节点,并清除或清空所述虚拟文件块的属性列表,或删除 所述虚拟文件块的属性列表中的虚拟标识信息。
本领域技术人员应当理解,本发明图4所示的分布式文件系统中业务节点 的业务内容更新装置是为实现图2所示的分布式文件系统中业务节点的业务内 容更新方法而设计的,图4所示装置中的各处理单元的实现功能可参照图2所 示的方法中的相关描述而理解,各单元的功能可通过运行于处理器上的程序而 实现,也可通过相应的逻辑电路而实现。
图4所示的分布式文件系统中业务节点的业务内容更新装置中还可包括图 3所示的分布式文件系统中业务节点的业务内容处理装置。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。
权利要求
1、一种分布式文件系统中业务节点的业务内容处理方法,其特征在于,包括接收到上载的业务内容后,分布式文件系统根据所述业务内容生成文件决,所述文件块存储于至少一个所述业务节点中,未存储所述文件块的所述业务节点中存储有与所述文件块对应的虚拟文件块,并设置所述虚拟文件块的属性列表,所述属性列表包括虚拟标识信息、访问热度值信息以及所述文件块的至少一个访问地址信息。
2、 根据权利要求1所述的方法,其特征在于,所述虛拟文件块与所述文件 块的名称、属性值相同。
3、 根据权利要求1所述的方法,其特征在于,所述分布式文件系统根据所 述业务内容生成文件块,具体为所述分布式文件系统将所述业务内容直接作为文件块,或将所述业务内容 分割成两个以上的业务内容块而作为文件块。
4、 一种分布式文件系统中业务节点的业务内容更新方法,其特征在于,包括接收到文件块的点播请求后,业务节点判断所点播的文件块是否为虚拟文 件块,是时根据所述虚拟文件块的属性列表中的与所述虚拟文件块对应的所述 文件块的至少一个访问地址信息读取所述文件块并响应所述点播请求,同时, 更新所述业务节点中所述虚拟文件块的属性列表中的访问热度值,并判断更新 后的访问热度值是否达到设定阈值,达到时根据所述文件块的至少一个访问地 址信息将所述文件块下载到所述业务节点,并清除或清空所述虚拟文件块的属 性列表,或删除所述虚拟文件块的属性列表中的虚拟标识信息。
5、 根据权利要求4所述的方法,其特征在于,所述业务节点判断所点播的 文件块是否为虚拟文件块,具体为根据所点播的文件块的标识查找所点播的文件块是否包括属性列表或判断所查找到的属性列表是否为非空,或判断所查找到的属性列表中是否包括虚拟 标识信息,是时所点播的文件块为虚拟文件块。
6、 根据权利要求4所述的方法,其特征在于,所述更新所述业务节点中所 述虚拟文件块的属性列表中的访问热度值,具体为使所述业务节点中所述虛 拟文件块的属性列表中的访问热度值加一。
7、 一种分布式文件系统中业务节点的业务内容处理装置,其特征在于,包括上载单元,用于向分布式文件系统上载业务内容;文件块生成单元,用于将通过所述上载单元上载的所述业务内容生成文件块;发布单元,用于将所述文件块存储于至少一个所述业务节点中,未存储所 述文件块的所述业务节点中存储有与所述文件块对应的虚拟文件块;以及设置单元,用于为所述虚拟文件块设置属性列表,所述属性列表包括虚拟 标识信息、访问热度值信息以及所述文件块的至少一个访问地址信息。
8、 根据权利要求7所述的装置,其特征在于,所述虚拟文件块与所述文件 块的名称、属性值相同。
9、 一种分布式文件系统中业务节点的业务内容更新装置,其特征在于,包括接收单元,用于接收文件块的点播请求;第一判断单元,用于判断所述点播请求所点播的文件块是否为虚拟文件块, 是时触发读取及响应单元;读取及响应单元,用于根据所述虚拟文件块的属性列表中的与所述虛拟文 件块对应的所述文件块的至少 一个访问地址信息读取所述文件块并响应所述点 播请求,同时触发更新单元;更新单元,用于更新所述虚拟文件块的属性列表中的访问热度值,并触发 第二判断单元;第二判断单元,用于判断更新后的所述虚拟文件块的属性列表中的访问热度值是否达到设定阈值,达到时触发下载及清除单元;以及下载及清除单元,用于根据所述文件块的至少一个访问地址信息将所述文件块下载到所述虛拟文件块所在的所述业务节点,并清除或清空所述虛拟文件块的属性列表,或删除所述虚拟文件块的属性列表中的虚拟标识信息。
10、根据权利要求9所述的装置,其特征在于,所述更新单元更新所述虛拟文件块的属性列表中的访问热度值,具体为使所述业务节点中所述虚拟文件块的属性列表中的访问热度值加一。
全文摘要
本发明公开了一种分布式文件系统中业务节点的业务内容处理方法接收到上载的业务内容后生成文件块,文件块存储于至少一个业务节点中,未存储文件块的业务节点中存储有与文件块对应的虚拟文件块,设置虚拟文件块的属性列表。本发明同时公开了一种业务内容更新方法接收到文件块的点播请求后,业务节点判断是否为虚拟文件块,是时根据虚拟文件块的属性列表中文件块的至少一个访问地址信息读取文件块并响应点播请求,更新虚拟文件块的热度值,并判断更新后的热度值是否达到阈值,达到时将文件块下载到业务节点,并清除或清空虚拟文件块的属性列表,或删除虚拟标识信息。本发明同时公开了一种实现前述方法的装置。本发明简单实用。
文档编号H04L29/08GK101527736SQ200910081758
公开日2009年9月9日 申请日期2009年4月9日 优先权日2009年4月9日
发明者夏舰波, 波 张, 杰 彭 申请人:中兴通讯股份有限公司