数据存储方法及装置与流程

文档序号:13481992阅读:223来源:国知局

本发明涉及通信技术领域,尤其涉及数据存储方法及装置。



背景技术:

随着互联网技术的飞跃发展,网络数据的数据量呈爆发式增长,互联网中的任一网络节点需要存储大量的网络数据,这对网络节点的存储性能提出了更高的需求。而传统的网络节点的存储空间有限,无法存储数据量呈爆发式增长的网络数据,因此,如何提高网络节点的存储性能是当前亟需解决的技术问题。



技术实现要素:

本发明实施例提供数据存储方法及装置,可提高网络节点的存储性能。

第一方面,本发明实施例提供一种数据存储方法,包括:

网络服务器将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据;

所述网络服务器基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识;

所述网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕。

可选的,网络服务器将需要传输的网络数据进行数据切片,得到网络单元数据集合,包括:

所述网络服务器获取所述微服务器集群所包含的微服务器数量;

所述网络服务器基于所述微服务器数量,对所述网络数据进行切片,得到所述网络单元数据集合。

可选的,网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,包括:

所述网络服务器获取所述微服务器集群所包含的各个微服务器当前的存储空间;

所述网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给存储空间较大的微服务器。

可选的,网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,包括:

所述网络服务器获取所述微服务器集群所包含的各个微服务器当前的cpu使用率;

所述网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给cpu使用率较低的微服务器。

可选的,所述网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,包括:

所述网络服务器获取所述微服务器集群所包含的各个微服务器当前的数据传输速率;

所述网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给数据传输速率较高的微服务器。

第二方面,本发明实施例提供一种数据存储装置,所述装置包括:

数据切片模块,用于将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据;

数据标识生成模块,用于基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识;

数据发送模块,用于将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕。

可选的,所述数据切片模块,具体用于:

获取所述微服务器集群所包含的微服务器数量;

基于所述微服务器数量,对所述网络数据进行切片,得到所述网络单元数据集合。

可选的,所述数据发送模块,具体用于:

获取所述微服务器集群所包含的各个微服务器当前的存储空间;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给存储空间较大的微服务器。

可选的,所述数据发送模块,具体用于:

获取所述微服务器集群所包含的各个微服务器当前的cpu使用率;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给cpu使用率较低的微服务器。

可选的,所述数据发送模块,具体用于:

获取所述微服务器集群所包含的各个微服务器当前的数据传输速率;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给数据传输速率较高的微服务器。

第三方面,本发明实施例提供了一种网络服务器,其特征在于,包括处理器、输入设备、输出设备和存储器,所述处理器、输入设备、输出设备和存储器相互连接,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如第一方面所述的方法。

第四方面,本发明实施例提供了一种计算机可读存储介质,其特征在于,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如第一方面所述的方法。

本发明实施例中,网络服务器将需要传输的网络数据进行数据切片,得到网络单元数据集合,网络单元数据集合包括至少一个网络单元数据;基于各个网络单元数据在网络数据中的位置,分别生成各个网络单元数据的数据标识;将网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至网络单元数据集合所包含的所有网络单元数据传输完毕,可提高网络节点的存储性能。

附图说明

为了更清楚地说明本发明实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的一种数据存储方法的流程示意图;

图2是本发明实施例提供的一种数据存储装置的结构示意图;

图3是本发明实施例提供的一种网络服务器的结构示意图;

图4是本发明实施例提供的一种数据存储系统的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参见图1,图1是本发明实施例提供的一种数据存储方法的流程示意图,如图1所示,包括以下步骤:

步骤101、网络服务器将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据。

可选的,网络服务器可以获取所述微服务器集群所包含的微服务器数量,基于所述微服务器数量,对所述网络数据进行切片,得到所述网络单元数据集合。

步骤102、所述网络服务器基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识。

步骤103、所述网络服务器将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕。

可选的,网络服务器可以获取所述微服务器集群所包含的各个微服务器当前的存储空间;将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给存储空间较大的微服务器。

可选的,网络服务器可以获取所述微服务器集群所包含的各个微服务器当前的cpu使用率;将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给cpu使用率较低的微服务器。

可选的,网络服务器可以获取所述微服务器集群所包含的各个微服务器当前的数据传输速率;将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给数据传输速率较高的微服务器。

本发明实施例中,网络服务器将需要传输的网络数据进行数据切片,得到网络单元数据集合,网络单元数据集合包括至少一个网络单元数据;基于各个网络单元数据在网络数据中的位置,分别生成各个网络单元数据的数据标识;将网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至网络单元数据集合所包含的所有网络单元数据传输完毕,可提高网络节点的存储性能。

请参见图2,图2是本发明实施例提供的一种数据存储装置的结构示意图,如图2所示,包括:

数据切片模块201,用于将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据;

数据标识生成模块202,用于基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识;

数据发送模块203,用于将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕。

可选的,所述数据切片模块201,具体用于:

获取所述微服务器集群所包含的微服务器数量;

基于所述微服务器数量,对所述网络数据进行切片,得到所述网络单元数据集合。

可选的,所述数据发送模块203,具体用于:

获取所述微服务器集群所包含的各个微服务器当前的存储空间;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给存储空间较大的微服务器。

可选的,所述数据发送模块203,具体用于:

获取所述微服务器集群所包含的各个微服务器当前的cpu使用率;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给cpu使用率较低的微服务器。

可选的,所述数据发送模块203,具体用于:

获取所述微服务器集群所包含的各个微服务器当前的数据传输速率;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给数据传输速率较高的微服务器。

本发明实施例中,数据切片模块201将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据;数据标识生成模块202基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识;数据发送模块203将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕,可提高网络节点的存储性能。

参见图3,图3是本发明实施例提供的另一种网络服务器的结构图。如图3所示,网络服务器包括:处理器301、存储器302、网络接口304和用户接口303。网络服务器中的各个组件通过总线系统305耦合在一起。总线系统305除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图3中将各种总线都标为总线系统305。

其中,用户接口303可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。

可以理解,本发明实施例中的存储器302可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-onlymemory,rom)、可编程只读存储器(programmablerom,prom)、可擦除可编程只读存储器(erasableprom,eprom)、电可擦除可编程只读存储器(electricallyeprom,eeprom)或闪存。易失性存储器可以是随机存取存储器(randomaccessmemory,ram),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的ram可用,例如静态随机存取存储器(staticram,sram)、动态随机存取存储器(dynamicram,dram)、同步动态随机存取存储器(synchronousdram,sdram)、双倍数据速率同步动态随机存取存储器(doubledataratesdram,ddrsdram)、增强型同步动态随机存取存储器(enhancedsdram,esdram)、同步连接动态随机存取存储器(synchlinkdram,sldram)和直接内存总线随机存取存储器(directrambusram,drram)。本文描述的系统和方法的存储器302旨在包括但不限于这些和任意其它适合类型的存储器。

在一些实施方式中,存储器302存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:操作系统3021和应用程序3022。

其中,操作系统3021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序3022,包含各种应用程序,例如媒体播放器(mediaplayer)、浏览器(browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序3022中。

在本发明实施例中,通过调用存储器302存储的程序或指令,具体的,可以是应用程序3022中存储的程序或指令,处理器301用于:

将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据;

基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕。

可选的,处理器301将需要传输的网络数据进行数据切片,得到网络单元数据集合,具体可以为:

获取所述微服务器集群所包含的微服务器数量;

基于所述微服务器数量,对所述网络数据进行切片,得到所述网络单元数据集合。

可选的,处理器301将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,具体可以为:

获取所述微服务器集群所包含的各个微服务器当前的存储空间;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给存储空间较大的微服务器。

可选的,处理器301将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,具体可以为:

获取所述微服务器集群所包含的各个微服务器当前的cpu使用率;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给cpu使用率较低的微服务器。

可选的,处理器301将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器,具体可以为:

获取所述微服务器集群所包含的各个微服务器当前的数据传输速率;

将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给数据传输速率较高的微服务器。

上述本发明实施例揭示的方法可以应用于处理器301中,或者由处理器301实现。处理器301可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器301中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器301可以是通用处理器、数字信号处理器(digitalsignalprocessor,dsp)、专用集成电路(applicationspecificintegratedcircuit,asic)、现成可编程门阵列(fieldprogrammablegatearray,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器302,处理器301读取存储器302中的信息,结合其硬件完成上述方法的步骤。

可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(applicationspecificintegratedcircuits,asic)、数字信号处理器(digitalsignalprocessing,dsp)、数字信号处理设备(dspdevice,dspd)、可编程逻辑设备(programmablelogicdevice,pld)、现场可编程门阵列(field-programmablegatearray,fpga)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。

对于软件实现,可通过执行本文所述功能的模块(例如过程、函数等)来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。

请参见图4,为本发明实施例提供的数据存储系统的示意性框图。本实施例中所描述的系统,具体的,如图4所示,本发明实施例的所述系统至少包括网络服务器401和微服务器402,其中:

网络服务器401将需要传输的网络数据进行数据切片,得到网络单元数据集合,所述网络单元数据集合包括至少一个网络单元数据;

所述网络服务器401基于各个所述网络单元数据在所述网络数据中的位置,分别生成各个所述网络单元数据的数据标识;

所述网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器402,直至所述网络单元数据集合所包含的所有网络单元数据传输完毕。

可选的,网络服务器401将需要传输的网络数据进行数据切片,得到网络单元数据集合,包括:

所述网络服务器401获取所述微服务器集群所包含的微服务器数量;

所述网络服务器401基于所述微服务器数量,对所述网络数据进行切片,得到所述网络单元数据集合。

可选的,网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器402,包括:

所述网络服务器401获取所述微服务器集群所包含的各个微服务器402当前的存储空间;

所述网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给存储空间较大的微服务器402。

可选的,网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器402,包括:

所述网络服务器401获取所述微服务器集群所包含的各个微服务器402当前的cpu使用率;

所述网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给cpu使用率较低的微服务器402。

可选的,所述网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给微服务器集群中的一个微服务器402,包括:

所述网络服务器401获取所述微服务器集群所包含的各个微服务器402当前的数据传输速率;

所述网络服务器401将所述网络单元数据集合中的至少一个网络单元数据及其数据标识发送给数据传输速率较高的微服务器402。

本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。

另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、rom、ram、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1