本公开的领域总体涉及在用于高速并行数据处理(诸如神经网络)的电路中使用的存内计算(cim)阵列。
背景技术:
1、机器学习是可以用来改进处理设备中的一些应用的性能的人工智能(ai)的一个示例。神经网络是一种类型的处理器配置,其中应用可以通过基于历史信息来评估输入数据、接收关于评估准确性的反馈,并且相应地调整历史信息来进行学习。实现机器学习的神经网络的运算由节点的阵列执行,每个节点类似于大脑突触。每个节点执行乘法累加(mac)运算,其中输入集合中的每个输入在乘法运算中乘以权重数据,并且表示加权输入的乘积被相加在一起。每次评估可以包括数千个计算。基于反馈来修改初始权重数据,以增加应用的准确性。
2、图1是神经网络的被配置为执行mac运算的节点100的图示。节点100接收输入集合x0-xm,输入集合中的每个输入乘以权重值w0-wm中的对应的一个权重值。权重值w0-wm是基于来自先前计算的反馈,并且被更新,以随着时间改进关于特定类型的输入数据的计算的准确性。乘法的乘积p0-pm在累加函数∑中被累加(例如,相加),以生成总和sum,并且节点100生成作为总和sum的函数af(例如,激活函数)的输出out。
3、在存内计算(cim)阵列中,输入数据和权重数据可以各自由二进制数据的比特来表示。阵列的每个位单元包括乘法电路和用于存储权重数据的存储器位单元。cim位单元中两个一比特二进制数据值的乘法可以被实现为基于逻辑与的运算(例如,与(and)或与非(nand))或基于逻辑或的运算(例如,或(or)、或非(nor)或异或非(xnor))。图2是真值表,其图示了接收的输入x和输入w的乘法,以在cim位单元电路中产生xnor输出。输入x是激活输入,并且输入w是存储的权重数据。在处理电路中执行mac指令的cim阵列位单元电路改进了机器学习应用的性能,但占用了集成电路(ic)的较大面积。cim阵列中的cim位单元电路的布局确定了cim阵列占用的总面积和相应cim位单元电路的运算的一致性两者。
技术实现思路
1、本文公开的方面包括存内计算(cim)位单元电路,存内计算(cim)位单元电路各自被布置在cim位单元阵列电路中包括读取字线(rwl)电路的cim位单元电路布局的定向上。还公开了相关方法。示例性cim位单元阵列电路(“cim阵列电路”)包括用以执行乘法累加(mac)运算的示例性cim位单元电路。cim位单元电路包括存储器位单元电路,用于以真实和互补形式存储权重数据。cim位单元电路还包括真实传输门电路和互补传输门电路,以用于在乘积节点上生成权重数据和激活输入的乘积。在一个示例中,乘积是真实权重数据和激活输入的异或非(xnor)。cim位单元电路还包括rwl电路,rwl电路耦合到乘积节点和接地电压轨,以用于初始化乘积数据。cim位单元电路还包括多个栅极,该多个栅极在第一轴线方向上延伸,并且在与第一轴线方向正交的第二轴线方向上彼此分离。多个栅极包括在第二轴线方向上的连续栅极,并且连续栅极中的每个栅极耦合到存储器位单元电路、真实传输门电路、互补传输门电路和rwl电路中的至少一个电路。在cim阵列电路(其中个体cim位单元电路包括rwl电路,并且被布置在示例性cim位单元电路布局的定向上)中,相应cim位单元电路以增加的一致性操作,这改进了cim阵列电路的性能和可靠性。
2、在一个示例性方面,公开了一种cim位单元电路,cim位单元电路包括存储器位单元电路、真实传输门电路、互补传输门电路和rwl电路。存储器位单元电路包括耦合到供电电压轨和真实输出节点的真实上拉晶体管以及耦合到真实输出节点和接地电压轨的真实下拉晶体管。存储器位单元电路包括耦合到供电电压轨和互补输出节点的互补上拉晶体管以及耦合到互补输出节点和接地电压轨的互补下拉晶体管。真实传输门电路包括耦合到真实输出节点和乘积节点的第一真实晶体管以及耦合到真实输出节点和乘积节点的第二真实晶体管。互补传输门电路包括耦合到互补输出节点和乘积节点的第一互补晶体管以及耦合到互补输出节点和乘积节点的第二互补晶体管。rwl电路包括耦合到接地电压轨和乘积节点的rwl晶体管。cim位单元电路还包括多个栅极,多个栅极在第一轴线方向上延伸并且在与第一轴线方向正交的第二轴线方向上彼此分离,其中多个栅极包括在第二轴线方向上的连续栅极,连续栅极中的每个栅极耦合到存储器位单元电路、真实传输门电路、互补传输门电路和rwl电路中的至少一个电路。
3、在另一个示例性方面,公开了一种cim位单元电路,cim位单元电路包括半导体衬底、半导体衬底中的p型扩散区域和半导体衬底中的n型扩散区域。cim位单元电路包括存储器位单元电路、真实传输门电路、互补传输门电路和rwl晶体管。存储器位单元电路包括耦合到供电电压轨和真实输出节点的真实上拉晶体管以及耦合到真实输出节点和接地电压轨的真实下拉晶体管。存储器位单元电路包括耦合到供电电压轨和互补输出节点的互补上拉晶体管,以及耦合到互补输出节点和接地电压轨的互补下拉晶体管。真实传输门电路包括耦合到真实输出节点和乘积节点的第一真实晶体管以及耦合到真实输出节点和乘积节点的第二真实晶体管。互补传输门电路包括耦合到互补输出节点和乘积节点的第一互补晶体管以及耦合到互补输出节点和乘积节点的第二互补晶体管。rwl晶体管耦合到接地电压轨和乘积节点。真实下拉晶体管、互补下拉晶体管、第一真实晶体管、第一互补晶体管和rwl晶体管各自包括n型扩散区域的一部分。
4、在另一个示例性方面,公开了一种cim位单元阵列电路,cim位单元阵列电路包括半导体衬底和半导体衬底上的多个cim位单元电路。多个cim位单元电路中的每个cim位单元电路包括被布置在半导体衬底中的p型扩散区域和被布置在半导体衬底中的n型扩散区域。多个cim位单元电路中的每个cim位单元电路还包括存储器位单元电路、真实传输门电路、互补传输门电路、rwl电路和多个栅极。存储器位单元电路包括耦合到供电电压轨和真实输出节点的真实上拉晶体管以及耦合到真实输出节点和接地电压轨的真实下拉晶体管。存储器位单元电路包括耦合到供电电压轨和互补输出节点的互补上拉晶体管以及耦合到互补输出节点和接地电压轨的互补下拉晶体管。真实传输门电路包括耦合到真实输出节点和乘积节点的第一真实晶体管以及耦合到真实输出节点和乘积节点的第二真实晶体管。互补传输门电路包括耦合到互补输出节点和乘积节点的第一互补晶体管以及耦合到互补输出节点和乘积节点的第二互补晶体管。rwl电路包括耦合到接地电压轨和乘积节点的rwl晶体管。多个栅极在第一轴线方向上延伸,并且在与第一轴线方向正交的第二轴线方向上彼此分离,其中存储器位单元电路、真实传输门电路和互补传输门电路中的每个电路包括:被布置在p型扩散区域中的至少一个晶体管和被布置在n型扩散区域中的至少一个晶体管,并且多个栅极包括在第二轴线方向上的连续栅极,连续栅极中的每个栅极耦合到存储器位单元电路、真实传输门电路、互补传输门电路和rwl电路中的至少一个电路。
5、在另一个示例性方面,公开了一种在半导体衬底上制造包括多个cim位单元电路的cim位单元阵列电路的方法。方法包括在半导体衬底中形成p型扩散区域和n型扩散区域。方法包括形成存储器位单元电路,该存储器位单元电路包括耦合到供电电压轨和真实输出节点的真实上拉晶体管、耦合到真实输出节点和接地电压轨的真实下拉晶体管、耦合到供电电压轨和互补输出节点的互补上拉晶体管,以及耦合到互补输出节点和接地电压轨的互补下拉晶体管。方法包括形成真实传输门电路,该真实传输门电路包括耦合到真实输出节点和乘积节点的第一真实晶体管以及耦合到真实输出节点和乘积节点的第二真实晶体管。方法包括形成互补传输门电路,该互补传输门电路包括耦合到互补输出节点和乘积节点的第一互补晶体管以及耦合到互补输出节点和乘积节点的第二互补晶体管。方法包括形成包括耦合到接地电压轨和乘积节点的rwl晶体管的rwl电路,以及形成在第一轴线方向上延伸并且在与第一轴线方向正交的第二轴线方向上彼此分离的多个栅极,其中多个栅极包括在第二轴线方向上的连续栅极,并且连续栅极中的每个栅极耦合到存储器位单元电路、真实传输门电路、互补传输门电路和rwl电路中的至少一个电路。