可扩展的存储器池的制作方法

根据本公开的实施例的一个或多个方面涉及计算系统，更具体地，涉及可扩展的存储器池。

背景技术：

1、计算系统可以运行对存储器有不同需求的各种应用。例如，一些应用可能需要相对少量的存储器，而其他应用可能需要更大量的存储器。作为另一个示例，一些应用可能对存储器有性能要求；例如，应用可能要求其使用的存储器的延迟(latency)不超过某个量。一些计算系统可能包括共享存储器池的多个主机。

2、本公开的各方面是与关于这一总体技术环境相关的。

技术实现思路

1、根据本公开的实施例，提供了一种系统，包括：第一存储器节点，包括第一存储器；第二存储器节点，包括第二存储器；以及连接到第一存储器节点和第二存储器节点的存储器节点交换结构，该存储器节点交换结构被配置为经由第一存储器节点提供以第一延迟对第一存储器的访问，并提供以大于第一延迟的第二延迟对第二存储器的访问。

2、在一些实施例中，该系统进一步包括：第三存储器节点，包括第三存储器，其中：存储器节点交换结构进一步连接到第三存储器节点，并且存储器节点交换结构进一步被配置为经由第一存储器节点提供以大于第二延迟的第三延迟对第三存储器的访问。

3、在一些实施例中，存储器节点交换结构形成包括第一维度和第二维度的超环面。

4、在一些实施例中，第一存储器节点是超环面的根存储器节点。

5、在一些实施例中，第二存储器节点与第一存储器节点在第一维度中相隔一跳。

6、在一些实施例中，第三存储器节点与第一存储器节点在第一维度中相隔一跳并且在第二维度中相隔一跳。

7、在一些实施例中，第二存储器节点通过计算高速链路(cxl)连接而连接到第一存储器节点。

8、在一些实施例中，第一存储器节点包括第一计算处理电路。

9、在一些实施例中，第一存储器节点被配置为经由远程直接内存访问(remotedirect memory access)来执行存储器操作。

10、在一些实施例中，第一计算处理电路是从由以下项组成的组中选择的电路：中央处理单元、图形处理单元、神经处理单元、张量处理单元、专用集成电路、现场可编程门阵列，及其组合。

11、在一些实施例中，第一存储器节点进一步包括与第一计算处理电路共同封装的第二计算处理电路。

12、在一些实施例中，第一存储器包括通过第一计算高速链路(cxl)连接而连接到第一计算处理电路的第一存储器模块。

13、在一些实施例中，第一存储器模块被配置为单个逻辑设备。

14、在一些实施例中，第一存储器模块被配置为多个逻辑设备。

15、在一些实施例中，第一存储器包括通过第二计算高速链路(cxl)连接而连接到第一计算处理电路的第二存储器模块。

16、在一些实施例中，第一存储器节点具有用于与主机进行连接的接口，该接口是计算高速链路(cxl)接口。

17、根据本公开的实施例，提供了一种系统，包括：第一存储器节点，包括第一存储器；第二存储器节点，包括第二存储器；以及连接到第一存储器节点和第二存储器节点的存储器节点交换结构，该存储器节点交换结构形成包括第一维度和第二维度的超环面，并且该存储器节点交换结构被配置为经由第一存储器节点提供以第一延迟对第一存储器的访问，并且提供以大于第一延迟的第二延迟对第二存储器的访问。

18、在一些实施例中，第一存储器节点是超环面的根节点。

19、在一些实施例中，第二存储器节点与第一存储器节点在第一维度中相隔一跳。

20、根据本公开的实施例，提供了一种系统，包括：第一存储器节点，其包括存储器和计算处理电路；以及连接到第一存储器节点的存储器节点交换结构，该存储器节点交换结构形成包括第一维度、第二维度和第三维度的超环面。

技术特征：

1.一种存储器池系统，包括：

2.根据权利要求1所述的系统，进一步包括：

3.根据权利要求2所述的系统，其中所述存储器节点交换结构形成包括第一维度和第二维度的超环面。

4.根据权利要求3所述的系统，其中所述第一存储器节点是所述超环面的根存储器节点。

5.根据权利要求4所述的系统，其中所述第二存储器节点与所述第一存储器节点在所述第一维度中相隔一跳。

6.根据权利要求5所述的系统，其中所述第三存储器节点与所述第一存储器节点在所述第一维度中相隔一跳，并且在所述第二维度中相隔一跳。

7.根据权利要求5所述的系统，其中所述第二存储器节点通过计算高速链路(cxl)连接而连接到所述第一存储器节点。

8.根据权利要求1所述的系统，其中所述第一存储器节点包括第一计算处理电路。

9.根据权利要求8所述的系统，其中所述第一存储器节点被配置为经由远程直接内存访问来执行存储器操作。

10.根据权利要求8所述的系统，其中所述第一计算处理电路是从由以下项组成的组中选择的电路：中央处理单元、图形处理单元、神经处理单元、张量处理单元、专用集成电路、现场可编程门阵列，及其组合。

11.根据权利要求8所述的系统，其中所述第一存储器节点进一步包括与所述第一计算处理电路共同封装的第二计算处理电路。

12.根据权利要求8所述的系统，其中所述第一存储器包括通过第一计算高速链路(cxl)连接而连接到所述第一计算处理电路的第一存储器模块。

13.根据权利要求12所述的系统，其中所述第一存储器模块被配置为单个逻辑设备。

14.根据权利要求12所述的系统，其中所述第一存储器模块被配置为多个逻辑设备。

15.根据权利要求12所述的系统，其中所述第一存储器包括通过第二计算高速链路(cxl)连接而连接到所述第一计算处理电路的第二存储器模块。

16.根据权利要求1所述的系统，其中所述第一存储器节点具有用于与主机进行连接的接口，所述接口是计算高速链路(cxl)接口。

17.一种存储器池系统，包括：

18.根据权利要求17所述的系统，其中所述第一存储器节点是所述超环面的根节点。

19.根据权利要求18所述的系统，其中所述第二存储器节点与所述第一存储器节点在所述第一维度中相隔一跳。

20.一种存储器池系统，包括：

技术总结
一种包括可扩展的存储器池的系统。在一些实施例中，该系统包括：第一存储器节点，包括第一存储器；第二存储器节点，包括第二存储器；以及连接到第一存储器节点和第二存储器节点的存储器节点交换结构，该存储器节点交换结构被配置为经由第一存储器节点提供以第一延迟对第一存储器进行的访问，并提供以大于第一延迟的第二延迟对第二存储器进行的访问。

技术研发人员：B·H·崔,D·K·卡迪亚拉,崔昌皓
受保护的技术使用者：三星电子株式会社
技术研发日：
技术公布日：2024/4/29