用于存储内机器学习操作的系统、方法以及装置与流程

根据本公开的实施例的一个或多个方面涉及机器学习，并且更具体地，涉及用于存储内推断的系统和方法。

背景技术：

1、机器学习对于各种分类和生成操作可以是有用的。大型机器学习模型中的推断操作可使用大量的数据和大量的处理资源。

2、本公开的方面与该总体技术环境相关。

技术实现思路

1、根据本公开的实施例，提供了一种系统，所述系统包括：第一持久性存储器；以及控制和推断电路，其中：第一持久性存储器通过宽带数据连接件连接到控制和推断电路；并且控制和推断电路被配置为执行算术运算。

2、在一些实施例中：控制和推断电路包括第一持久性存储器控制器；所述系统还包括：接口电路，第二持久性存储器，以及第二持久性存储器控制器，第二持久性存储器连接到第二持久性存储器控制器；控制和推断电路连接到接口电路；并且第二持久性存储器控制器连接到接口电路。

3、在一些实施例中，所述系统还包括：接口电路，其中：接口电路包括串行接口；并且控制和推断电路连接到接口电路。

4、在一些实施例中，所述系统还包括：接口电路；第二持久性存储器；以及第二持久性存储器控制器，其中：控制和推断电路包括第一持久性存储器控制器；接口电路包括串行接口；控制和推断电路连接到接口电路；并且第二持久性存储器连接到接口电路。

5、在一些实施例中，所述系统还包括：第二持久性存储器，以及第二持久性存储器控制器，其中：控制和推断电路包括第一持久性存储器控制器，第一持久性存储器包括闪存，第二持久性存储器包括闪存，第一持久性存储器控制器包括第一闪存控制器，并且第二持久性存储器控制器包括第二闪存控制器。

6、在一些实施例中，宽带数据连接件包括串行连接件。

7、在一些实施例中，所述系统还包括：第一接口电路，以及人工智能加速器，人工智能加速器包括人工智能处理电路和第二接口电路，其中：第一接口电路连接到第二接口电路，人工智能加速器被配置为在第一持久性存储器以及控制和推断电路的帮助下执行神经网络的推断操作。

8、在一些实施例中，所述系统还包括：第一接口电路，以及人工智能加速器，连接到第一接口电路,，其中：人工智能加速器被配置为在第一持久性存储器以及控制和推断电路的帮助下执行神经网络的推断操作；并且第一持久性存储器以及控制和推断电路被配置为执行从由修剪、稀疏化、压缩、量化和近似化组成的组选择的操作。

9、在一些实施例中，第一持久性存储器是第一半导体裸片的一部分；并且控制和推断电路是第二半导体裸片的一部分。

10、在一些实施例中，第一持久性存储器是第一半导体裸片的一部分；控制和推断电路是第二半导体裸片的一部分；并且第一半导体裸片和第二半导体裸片是裸片的堆叠件的一部分。

11、在一些实施例中，所述系统包括：随机存取存储器，其中：第一持久性存储器是第一半导体裸片的一部分；控制和推断电路是第二半导体裸片的一部分；随机存取存储器是第三半导体裸片的一部分；并且第一半导体裸片、第二半导体裸片和第三半导体裸片是裸片的堆叠件的一部分。

12、在一些实施例中，所述系统包括：随机存取存储器，其中：第一持久性存储器是第一半导体裸片的一部分；控制和推断电路是第二半导体裸片的一部分；随机存取存储器是第三半导体裸片的一部分；并且第一半导体裸片被堆叠在第二半导体裸片和第三半导体裸片上。

13、在一些实施例中，所述系统包括：随机存取存储器，其中：控制和推断电路包括：持久性存储器控制器；以及乘法累加电路，第一持久性存储器是第一半导体裸片的一部分；持久性存储器控制器是第二半导体裸片的一部分；乘积累加电路是第三半导体裸片的一部分；随机存取存储器是第四半导体裸片的一部分；并且第一半导体裸片被堆叠在第二半导体裸片、第三半导体裸片和第四半导体裸片上。

14、根据本公开的实施例，提供了一种方法，所述方法包括：执行神经网络的推断操作，执行的步骤包括：将权重从持久性存储器读取到随机存取存储器中；将权重乘以输入特征图的元素以形成第一乘积；以及基于第一乘积来计算激活，其中，将权重从持久性存储器读取到随机存取存储器中的步骤包括：通过宽带数据连接件将权重从持久性存储器读取到随机存取存储器中。

15、在一些实施例中，所述方法还包括：将激活存储在随机存取存储器中。

16、在一些实施例中：执行推断操作的步骤包括在系统中执行推断操作，所述系统包括：持久性存储器，以及控制和推断电路；控制和推断电路通过宽带数据连接件连接到持久性存储器；并且控制和推断电路包括：持久性存储器控制器；以及乘法累加电路。

17、根据本公开的实施例，提供了一种装置，所述装置包括：连接器；第一持久性存储器；以及控制和推断电路，其中：第一持久性存储器通过宽带数据连接件连接到控制和推断电路；并且连接器适合于将所述装置连接到移动计算装置。

18、在一些实施例中：控制和推断电路包括第一持久性存储器控制器；所述装置还包括：接口电路，第二持久性存储器，以及第二持久性存储器控制器，第二持久性存储器连接到第二持久性存储器控制器；控制和推断电路连接到接口电路；并且第二持久性存储器控制器连接到接口电路。

19、在一些实施例中：第一持久性存储器以及控制和推断电路被配置为：执行从由修剪、稀疏化、压缩、量化和近似化组成的组选择的操作。

20、在一些实施例中：第一持久性存储器是第一半导体裸片的一部分；并且控制和推断电路是第二半导体裸片的一部分。

技术特征：

1.一种用于存储内机器学习操作的系统，包括：

2.根据权利要求1所述的系统，其中：

3.根据权利要求1所述的系统，还包括：

4.根据权利要求1所述的系统，还包括：

5.根据权利要求1所述的系统，还包括：

6.根据权利要求1所述的系统，其中，宽带数据连接件包括串行连接件。

7.根据权利要求1所述的系统，还包括：

8.根据权利要求1所述的系统，还包括：

9.根据权利要求1所述的系统，其中：

10.根据权利要求1所述的系统，其中：

11.根据权利要求1所述的系统，还包括随机存取存储器，

12.根据权利要求1所述的系统，还包括随机存取存储器，

13.根据权利要求1所述的系统，包括：随机存取存储器，

14.一种用于存储内机器学习操作的方法，包括：

15.根据权利要求14所述的方法，还包括：将激活存储在随机存取存储器中。

16.根据权利要求14或15所述的方法，其中：

17.一种用于存储内机器学习操作的装置，包括：

18.根据权利要求17所述的装置，其中：

19.根据权利要求17所述的装置，其中：

20.根据权利要求17至19中的任一项所述的装置，其中：

技术总结
提供了一种用于存储内机器学习操作的系统、方法和装置。在一些实施例中，所述系统包括第一持久性存储器以及控制和推断电路。第一持久性存储器可通过宽带数据连接件连接到控制和推断电路，并且控制和推断电路可被配置为执行算术运算。

技术研发人员：金才润,崔尊喜,崔致好,斯里坎特·马拉
受保护的技术使用者：三星电子株式会社
技术研发日：
技术公布日：2025/2/20