基于图嵌入算法的召回方法、装置、电子设备及介质与流程

1.本技术中涉及数据处理技术，尤其是一种基于图嵌入算法的召回方法、装置、电子设备及介质。


背景技术：

2.当前，多模态检索问题已经吸引了大量学者的关注。由于在互联网中存在着大量的多媒体数据，如图像、文本、视频等等，也就因此对于一个目标的语义描述提供了多种多样的表达方式。
3.例如对于猫的描述形式可以包含：一段关于猫的描述的文字，一段猫的录制视频，一段猫叫声的录音，或者是一些关于猫的照片。而多模态检索问题就是针对这种多模态之间的交叉检索，即用图片去检索相关的文本，或者用文本去检索相关的图片。
4.然而，目前的单独基于图嵌入的召回方法只包含了物品的特征，而未对物品和用户的特征进行交叉，这也导致召回的准确率不高。


技术实现要素：

5.本技术实施例提供一种基于图嵌入算法的召回方法、装置、电子设备及介质。用以解决相关技术中存在的，图嵌入的召回方法只包含了物品的特征所导致的召回准确率不高的问题。
6.其中，根据本技术实施例的一个方面，提供的一种基于图嵌入算法的召回方法，包括：
7.获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，所述行为数据包括文本、视频以及图像的其中一种；
8.计算得到每个样本用户对应的所述至少一个item的embedding向量平均值，并将所述embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；
9.利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将所述注意力函数相似性得分输入到所述初始图嵌入模型的全连接层，得到每个样本用户的目标向量；
10.对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率。
11.可选地，在基于本技术上述方法的另一个实施例中，所述计算得到每个样本用户对应的所述至少一个item的embedding向量平均值，包括：
12.提取出所述行为数据中存在的用户行为数据，并利用所述用户行为数据构造每个item有向图；
13.通过随机游走算法从所述item有向图中生成item序列，并通过word2vec 方式对所述item序列进行训练，得到每个item的embedding向量；
14.对所述每个item的embedding向量进行相加取平均值，得到所述至少一个 item的embedding向量平均值。
15.可选地，在基于本技术上述方法的另一个实施例中，所述利用如下公式计算每两个输入特征之间的注意力函数相似性得分，包括：
[0016][0017][0018]
其中，m和n为任意两个输入特征的序号，e对应于输入特征，ψ
(h)
对应于两个输入特征之间的注意力函数相似性得分，m 对应于输入特征的总数量。
[0019]
可选地，在基于本技术上述方法的另一个实施例中，在所述计算每两个输入特征之间的注意力函数相似性得分之后，还包括：
[0020]
利用残差网络对所述注意力函数相似性得分进行优化，其中所述残差网络由下述公式得到：
[0021][0022]
其中，h对应于注意力函数相似性得分的数量，对应于最终的注意力函数相似性得分。
[0023]
可选地，在基于本技术上述方法的另一个实施例中，所述对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率，包括：
[0024]
利用如下公式确定每个item的向量：
[0025][0026]
其中，u表示一个样本用户的目标向量,c为对应样本用户的上下文信息， vi∈rn表示第i候选个item的向量；
[0027]
根据所述每个item的向量，确定每个item被用户选取的概率。
[0028]
可选地，在基于本技术上述方法的另一个实施例中，在所述对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率之后，还包括：
[0029]
当获取到待检测用户生成的行为数据时，利用所述行为数据更新所述初始图嵌入模型，并确定所述待检测用户对应的每个item被用户选取的概率；
[0030]
将其中概率最高的item作为所述待检测用户的召回向量。
[0031]
其中，根据本技术实施例的又一个方面，提供的一种基于图嵌入算法的召回装置，其特征在于，包括：
[0032]
获取模块，被配置为获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，所述行为数据包括文本、视频以及图像的其中一种；
[0033]
计算模块，被配置为计算得到每个样本用户对应的所述至少一个item的 embedding向量平均值，并将所述embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；
[0034]
生成模块，被配置为利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将所述注意力函数相似性得分输入到所述初始图嵌入模型的全连接层，得到每个样本用户的目标向量；
[0035]
确定模块，被配置为对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率。
[0036]
根据本技术实施例的又一个方面，提供的一种电子设备，包括：
[0037]
存储器，用于存储可执行指令；以及
[0038]
显示器，用于与所述存储器以执行所述可执行指令从而完成上述任一所述基于图嵌入算法的召回方法的操作。
[0039]
根据本技术实施例的还一个方面，提供的一种计算机可读存储介质，用于存储计算机可读取的指令，所述指令被执行时执行上述任一所述基于图嵌入算法的召回方法的操作。
[0040]
本技术中，可以获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，行为数据包括文本、视频以及图像的其中一种；计算得到每个样本用户对应的至少一个item的embedding向量平均值，并将embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将注意力函数相似性得分输入到初始图嵌入模型的全连接层，得到每个样本用户的目标向量；对每个样本用户的目标向量进行多分类任务训练，确定每个item 被用户选取的概率。通过应用本技术的技术方案，可以通过图嵌入技术生成每个item的向量，从而计算出各个item之间的注意力函数相似性得分以确定各个item之间的联系。另从而增强了特征之间的交叉处理能力。进而避免了相关技术中存在的，图嵌入的召回方法只包含了物品的特征所导致的召回准确率不高的问题。
[0041]
下面通过附图和实施例，对本技术的技术方案做进一步的详细描述。
附图说明
[0042]
构成说明书的一部分的附图描述了本技术的实施例，并且连同描述一起用于解释本技术的原理。
[0043]
参照附图，根据下面的详细描述，可以更加清楚地理解本技术，其中：
[0044]
图1为本技术提出的一种基于图嵌入算法的召回方法示意图；
[0045]
图2为本技术提出的一种应用于基于图嵌入算法的神经网络模型的图嵌入模型的架构图；
[0046]
图3为本技术提出的一种基于图嵌入算法的召回电子装置的结构示意图；
[0047]
图4为本技术提出的一种基于图嵌入算法的召回电子设备的结构示意图。
具体实施方式
[0048]
现在将参照附图来详细描述本技术的各种示例性实施例。应注意到：除非另外具
体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本技术的范围。
[0049]
同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
[0050]
以下对至少一个示例性实施例的描述实际上仅仅是说明性的，不作为对本技术及其应用或使用的任何限制。
[0051]
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。
[0052]
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
[0053]
另外，本技术各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本技术要求的保护范围之内。
[0054]
需要说明的是，本技术实施例中所有方向性指示(诸如上、下、左、右、前、后
……
)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等，如果该特定姿态发生改变时，则该方向性指示也相应地随之改变。
[0055]
下面结合图1-图2来描述根据本技术示例性实施方式的用于进行基于图嵌入算法的召回方法。需要注意的是，下述应用场景仅是为了便于理解本技术的精神和原理而示出，本技术的实施方式在此方面不受任何限制。相反，本技术的实施方式可以应用于适用的任何场景。
[0056]
本技术还提出一种基于图嵌入算法的召回方法、装置、电子设备及介质。
[0057]
图1示意性地示出了根据本技术实施方式的一种基于图嵌入算法的召回方法的流程示意图。如图1所示，该方法包括：
[0058]
s101,获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，行为数据包括文本、视频以及图像的其中一种。
[0059]
s102,计算得到每个样本用户对应的至少一个item的embedding向量平均值，并将embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型。
[0060]
s103,利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将注意力函数相似性得分输入到初始图嵌入模型的全连接层，得到每个样本用户的目标向量。
[0061]
s104,对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率。
[0062]
相关技术中，当前，多模态检索问题已经吸引了大量学者的关注。由于在互联网中存在着大量的多媒体数据，如图像、文本、视频等等，也就因此对于一个目标的语义描述提供了多种多样的表达方式。
[0063]
例如对于猫的描述形式可以包含：一段关于猫的描述的文字，一段猫的录制视频，一段猫叫声的录音，或者是一些关于猫的照片。而多模态检索问题就是针对这种多模态之间的交叉检索，即用图片去检索相关的文本，或者用文本去检索相关的图片。
[0064]
然而，目前的单独基于图嵌入的召回方法只包含了物品的特征，而未对物品和用户的特征进行交叉，这也导致召回的准确率不高。
[0065]
首先，本技术需要获取与至少一个样本用户关联的文本、视频以及图像的至少一个推荐物品item，并计算得到每个样本用户对应的所述至少一个item的 embedding向量平均值。
[0066]
其中，可以首先利用用户的行为数据构造出item的有向图。再通过随机游走的方式生成item序列，然后把item序列当成句子，以word2vec的方式进行训练，最终生成每个item的embedding向量，如下式所示：
[0067][0068]
进一步的，本技术需要通过用户行为日志表提取到用户观看过以及搜索过的行为数据中的item，并将这些item的embedding向量进行相加取平均，再联合用户信息作为在初始图嵌入模型的模型输入层的第一层输入(即将embedding 向量平均值以及对应样本用户的用户信息合并作为输入特征)。其中如图2所示的神经网络结构的初始图嵌入模型中的l1层，将输入特征记为向量e。
[0069]
更进一步的，对于初始图嵌入模型的特征交互层来说，本技术在得到各个特征的线性输入之后，即可以输入到初始图嵌入模型的l2层，本技术利用注意力机制技术来对不同的输入特征进行交叉处理。
[0070]
具体的，本技术还可以用key-value的方式来计算各个输入特征之间的交互，首先可以定义在某个注意力头中特征m和特征n(即第m个输入特征和第n 个输入特征)之间的联系如下公式所示：
[0071][0072][0073]
其中，公式ψ
(h)
表示特征m和特征n之间的相似性的注意力函数，可以理解的其为两个向量的内积。且将两个不在同一个空间的特征映射到同一个空间进行比较。进一步的，本技术需要联合所有的特征并通过来对特征m进行更新，公式如下：
[0074][0075]
需要说明的是，上述中的是特征m联合了其他所有特征在注意力头h下的输出，进一步的说，这个特征的输出包含了该特征和其他特征的所有关系，最后则需要将所有的注意力头都联合在一起，如下所示，其中h表示注意力头的数量：
[0076][0077]
还需要说明的是，为了使最终的效果表现的更好，本技术还可以引用残差网络对注意力函数相似性得分进行优化，公式如下：
[0078][0079]
最终，l2的输出为
[0080]
在进一步的，对于神经网络结构的初始图嵌入模型中的全连接层来说，本技术在将注意力函数相似性得分输入到初始图嵌入模型的全连接层之后，即可以得到每个样本用户的目标向量。
[0081]
最后，对于训练阶段来说，本技术对模型的训练阶段可以为一个多分类任务，对于第i个候选item的概率如公式所示
[0082][0083]
其中u表示一个用户的向量,c为用户的上下文信息，vi∈rn表示第i候选个item的向量,最后以交叉熵作为模型的损失函数。
[0084]
进一步的，将提前训练好的目标向量和物品向量进行保存，以使在后续当新用户(即待检测用户)有新的行为产生的时候，会通过神经网络对用户的目标向量进行更新，再通过最近邻的方法召回用户的向量。
[0085]
本技术中，可以获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，行为数据包括文本、视频以及图像的其中一种；计算得到每个样本用户对应的至少一个item的embedding向量平均值，并将embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将注意力函数相似性得分输入到初始图嵌入模型的全连接层，得到每个样本用户的目标向量；对每个样本用户的目标向量进行多分类任务训练，确定每个item 被用户选取的概率。通过应用本技术的技术方案，可以通过图嵌入技术生成每个item的向量，从而计算出各个item之间的注意力函数相似性得分以确定各个item之间的联系。另从而增强了特征之间的交叉处理能力。进而避免了相关技术中存在的，图嵌入的召回方法只包含了物品的特征所导致的召回准确率不高的问题。
[0086]
可选地，在基于本技术上述方法的另一个实施例中，所述计算得到每个样本用户对应的所述至少一个item的embedding向量平均值，包括：
[0087]
提取出所述行为数据中存在的用户行为数据，并利用所述用户行为数据构造每个item有向图；
[0088]
通过随机游走算法从所述item有向图中生成item序列，并通过word2vec 方式对所述item序列进行训练，得到每个item的embedding向量；
[0089]
对所述每个item的embedding向量进行相加取平均值，得到所述至少一个 item的embeddng向量平均值。
[0090]
可选地，在基于本技术上述方法的另一个实施例中，所述利用如下公式计算每两
个输入特征之间的注意力函数相似性得分，包括：
[0091][0092][0093]
其中，m和n为任意两个输入特征的序号，e对应于输入特征，ψ
(h)
对应于两个输入特征之间的注意力函数相似性得分，m 对应于输入特征的总数量。
[0094]
可选地，在基于本技术上述方法的另一个实施例中，在所述计算每两个输入特征之间的注意力函数相似性得分之后，还包括：
[0095]
利用残差网络对所述注意力函数相似性得分进行优化，其中所述残差网络由下述公式得到：
[0096][0097]
其中，h对应于注意力函数相似性得分的数量，对应于最终的注意力函数相似性得分。
[0098]
可选地，在基于本技术上述方法的另一个实施例中，所述对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率，包括：
[0099]
利用如下公式确定每个item的向量：
[0100][0101]
其中，u表示一个样本用户的目标向量,c为对应样本用户的上下文信息， vi∈rn表示第i候选个item的向量；
[0102]
根据所述每个item的向量，确定每个item被用户选取的概率。
[0103]
可选地，在基于本技术上述方法的另一个实施例中，在所述对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率之后，还包括：
[0104]
当获取到待检测用户生成的行为数据时，利用所述行为数据更新所述初始图嵌入模型，并确定所述待检测用户对应的每个item被用户选取的概率；
[0105]
将其中概率最高的item作为所述待检测用户的召回向量。
[0106]
通过应用本技术的技术方案，可以通过图嵌入技术生成每个item的向量，从而计算出各个item之间的注意力函数相似性得分以确定各个item之间的联系。另从而增强了特征之间的交叉处理能力。进而避免了相关技术中存在的，图嵌入的召回方法只包含了物品的特征所导致的召回准确率不高的问题。
[0107]
可选的，在本技术的另外一种实施方式中，如图3所示，本技术还提供一种基于图嵌入算法的召回装置。其中包括：
[0108]
获取模块201，被配置为获取与至少一个样本用户关联的行为数据的至少一个推
荐物品item，所述行为数据包括文本、视频以及图像的其中一种；
[0109]
计算模块202，被配置为计算得到每个样本用户对应的所述至少一个item 的embedding向量平均值，并将所述embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；
[0110]
生成模块203，被配置为利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将所述注意力函数相似性得分输入到所述初始图嵌入模型的全连接层，得到每个样本用户的目标向量；
[0111]
确定模块204，被配置为对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率。
[0112]
本技术中，可以获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，行为数据包括文本、视频以及图像的其中一种；计算得到每个样本用户对应的至少一个item的embedding向量平均值，并将embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将注意力函数相似性得分输入到初始图嵌入模型的全连接层，得到每个样本用户的目标向量；对每个样本用户的目标向量进行多分类任务训练，确定每个item 被用户选取的概率。通过应用本技术的技术方案，可以通过图嵌入技术生成每个item的向量，从而计算出各个item之间的注意力函数相似性得分以确定各个item之间的联系。另从而增强了特征之间的交叉处理能力。进而避免了相关技术中存在的，图嵌入的召回方法只包含了物品的特征所导致的召回准确率不高的问题。
[0113]
在本技术的另外一种实施方式中，获取模块201，被配置执行的步骤包括：
[0114]
提取出所述行为数据中存在的用户行为数据，并利用所述用户行为数据构造每个item有向图；
[0115]
通过随机游走算法从所述item有向图中生成item序列，并通过word2vec 方式对所述item序列进行训练，得到每个item的embedding向量；
[0116]
对所述每个item的embedding向量进行相加取平均值，得到所述至少一个 item的embedding向量平均值。
[0117]
在本技术的另外一种实施方式中，获取模块201，被配置执行的步骤包括：
[0118][0119][0120]
其中，m和n为任意两个输入特征的序号，e对应于输入特征，ψ
(h)
对应于两个输入特征之间的注意力函数相似性得分，m 对应于输入特征的总数量。
[0121]
在本技术的另外一种实施方式中，获取模块201，被配置执行的步骤包括：
[0122]
利用残差网络对所述注意力函数相似性得分进行优化，其中所述残差网络由下述公式得到：
[0123][0124]
其中，h对应于注意力函数相似性得分的数量，对应于最终的注意力函数相似性得分。
[0125]
在本技术的另外一种实施方式中，获取模块201，被配置执行的步骤包括：
[0126]
利用如下公式确定每个item的向量：
[0127][0128]
其中，u表示一个样本用户的目标向量,c为对应样本用户的上下文信息， vi∈rn表示第i候选个item的向量；
[0129]
根据所述每个item的向量，确定每个item被用户选取的概率。
[0130]
在本技术的另外一种实施方式中，获取模块201，被配置执行的步骤包括：
[0131]
当获取到待检测用户生成的行为数据时，利用所述行为数据更新所述初始图嵌入模型，并确定所述待检测用户对应的每个item被用户选取的概率；
[0132]
将其中概率最高的item作为所述待检测用户的召回向量。
[0133]
图4是根据一示例性实施例示出的一种电子设备的逻辑结构框图。例如，电子设备300可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
[0134]
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器，上述指令可由电子设备处理器执行以完成上述基于图嵌入算法的召回方法，该方法包括：获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，所述行为数据包括文本、视频以及图像的其中一种；计算得到每个样本用户对应的所述至少一个item的embedding向量平均值，并将所述embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将所述注意力函数相似性得分输入到所述初始图嵌入模型的全连接层，得到每个样本用户的目标向量；对每个样本用户的目标向量进行多分类任务训练，确定每个item被用户选取的概率。可选地，上述指令还可以由电子设备的处理器执行以完成上述示例性实施例中所涉及的其他步骤。例如，非临时性计算机可读存储介质可以是rom、随机存取存储器(ram)、 cd-rom、磁带、软盘和光数据存储设备等。
[0135]
在示例性实施例中，还提供了一种应用程序/计算机程序产品，包括一条或多条指令，该一条或多条指令可以由电子设备的处理器执行，以完成上述基于图嵌入算法的召回方法，该方法包括：获取与至少一个样本用户关联的行为数据的至少一个推荐物品item，所述行为数据包括文本、视频以及图像的其中一种；计算得到每个样本用户对应的所述至少一个item的embedding向量平均值，并将所述embedding向量平均值以及对应样本用户的用户信息合并作为输入特征输入到初始图嵌入模型；利用key-value算法，计算每两个输入特征之间的注意力函数相似性得分，并将所述注意力函数相似性得分输入到所述初始图嵌入模型的全连接层，得到每个样本用户的目标向量；对每个样本用户的目标向量进行多分类
任务训练，确定每个item被用户选取的概率。可选地，上述指令还可以由电子设备的处理器执行以完成上述示例性实施例中所涉及的其他步骤。本领域技术人员可以理解，示意图4仅仅是电子设备300的示例，并不构成对电子设备300的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如电子设备300还可以包括输入输出设备、网络接入设备、总线等。
[0136]
所称处理器302可以是中央处理单元(central processing unit，cpu)，还可以是其他通用处理器、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现场可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器302也可以是任何常规的处理器等，处理器302是电子设备300的控制中心，利用各种接口和线路连接整个电子设备300的各个部分。
[0137]
存储器301可用于存储计算机可读指令，处理器302通过运行或执行存储在存储器301内的计算机可读指令或模块，以及调用存储在存储器301内的数据，实现电子设备300的各种功能。存储器301可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据电子设备300 的使用所创建的数据等。此外，存储器301可以包括硬盘、内存、插接式硬盘，智能存储卡(smart media card，smc)，安全数字(secure digital，sd) 卡，闪存卡(flash card)、至少一个磁盘存储器件、闪存器件、只读存储器 (read-only memory，rom)、随机存取存储器(random access memory，ram) 或其他非易失性/易失性存储器件。
[0138]
电子设备300集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术实现上述实施例方法中的全部或部分流程，也可以通过计算机可读指令来指令相关的硬件来完成，的计算机可读指令可存储于一计算机可读存储介质中，该计算机可读指令在被处理器执行时，可实现上述各个方法实施例的步骤。
[0139]
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本技术的其它实施方案。本技术旨在涵盖本技术的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本技术的一般性原理并包括本技术未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本技术的真正范围和精神由下面的权利要求指出。
[0140]
应当理解的是，本技术并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本技术的范围仅由所附的权利要求来限制。