用于介入手术室护理的多功能可移动式放置架的制作方法

1.本技术涉及智能判断技术领域，且更为具体地，涉及一种用于介入手术室护理的多功能可移动式放置架。


背景技术：

2.手术工作中经常需要根据患者不同的病情在合适时进行适当的护理工作，现有的护理工作主要由手术作业中其余的辅助人员进行操作实现，在一些情况下占地面积不足和人员流动繁杂会导致助手无法进行良好的护理工作，不利于手术工作的正常进行。
3.针对上述技术问题，中国专利cn 112972186a公开了一种手术室可移动式多功能护理装置，其通过在手术床板支架的两侧滑动设置用于辅助悬挂护理设备的可调节机械臂，且其拓展板的底部均固定安装有固定框且每个固定框均配合安装有用于实现对应护理功能的护理组件。
4.在上述手术室可移动式多功能护理装置的运行中，虽然其能够减少手术台周围的人员流动的同时保证了良好的稳定护理效果，但因在护理组件归置时没有正确地被归置或者被错误地归置，导致在进行相应功能护理时，无法在对应的固定框内找到对应的护理组件，影响了护理的效果和稳定性。
5.因此，期待一种优化的多功能可移动式放置架。


技术实现要素：

6.为了解决上述技术问题，提出了本技术。本技术的实施例提供了一种用于介入手术室护理的多功能可移动式放置架，其通过作为特征提取器的卷积神经网络模型和非局部神经网络模型提取出待检测固定框内护理组件的检测图像的空间维度上的局部隐藏特征和全局关联特征，并基于局部和全局特征的融合特征来进行待检测固定框内护理组件的护理功能的标签分类；进一步，再以分类标签与护理功能的真实标签进行比较来生成待检测固定框内护理组件是否被正确地归置的提示信息，以此来进行固定框内护理组件是否被正确归置的判断。这样，可以提高对于固定框内护理组件是否被正确归置的判断结果的准确性，进而保证护理的效果和稳定性。
7.根据本技术的一个方面，提供了一种用于介入手术室护理的多功能可移动式放置架，其包括：
8.监控单元，用于获取由摄像头采集的待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签；
9.图像局部特征提取单元，用于将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图；
10.图像全局特征提取单元，用于将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图；
11.融合单元，用于融合所述局部检测特征图和所述全局检测特征图以得到分类特征
图；
12.分类单元，用于将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；以及
13.提示单元，用于基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。
14.在上述用于介入手术室护理的多功能可移动式放置架中，所述图像局部特征提取单元，进一步用于：使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行：对所述输入数据进行卷积处理以得到卷积特征图；对所述卷积特征图进行基于特征矩阵的均值池化以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述局部检测特征图，所述作为特征提取器的卷积神经网络模型的第一层的输入为所述检测图像。
15.在上述用于介入手术室护理的多功能可移动式放置架中，其特征在于，所述图像全局特征提取单元，包括：点卷积单元，用于将所述局部检测特征图分别输入所述非局部神经网络模型的第一点卷积层、第二点卷积层和第三点卷积层以得到第一特征图、第二特征图和第三特征图；第一融合单元，用于计算所述第一特征图和所述第二特征图的按位置加权和以得到中间融合特征图；归一化单元，用于将所述中间融合特征图输入softmax函数以对所述中间融合特征图中各个位置的特征值进行归一化以得到归一化中间融合特征图；第二融合单元，用于计算所述归一化中间融合特征图和所述第三特征图的按位置加权和以得到再融合特征图；全局感知单元，用于将所述再融合特征图通过嵌入高斯相似性函数以计算所述再融合特征图中各个位置的特征值间的相似性以得到全局感知特征图；通道数调整单元，用于将所述全局感知特征图通过所述非局部神经网络模型的第四点卷积层以得到通道调整全局感知特征图；以及，第三融合单元，用于计算所述通道调整全局感知特征图和所述局部检测特征图的按位置加权和以得到所述全局检测特征图。
16.在上述用于介入手术室护理的多功能可移动式放置架中，所述融合单元，进一步用于：以如下公式融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；其中，所述公式为：
17.fs＝λfa+βfg18.其中，fs表示所述分类特征图，fa表示所述局部检测特征图，fg表示所述全局检测特征图，“+”表示所述局部检测特征图和所述全局检测特征图相对应位置处的元素相加，λ和β表示用于控制所述局部检测特征图和所述全局检测特征图之间的平衡的加权参数。
19.在上述用于介入手术室护理的多功能可移动式放置架中，所述分类单元，进一步用于：使用所述分类器以如下公式对所述分类特征图进行处理以得到所述分类结果；其中，所述公式为：
20.o＝softmax{(wn,bn):
…
:(w1,b1)|project(f)｝，其中，ｗ1到wn为权重矩阵，b1到bn为偏置向量，project(f)为所述分类特征图投影为向量。
21.在上述用于介入手术室护理的多功能可移动式放置架中，还包括用于对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练的训练模块。
22.在上述用于介入手术室护理的多功能可移动式放置架中，所述训练模块，包括：训练数据获取单元，用于获取训练数据，所述训练数据包括训练检测图像，以及，所述待检测固定框内应放置的护理组件的真实护理功能标签；训练图像局部特征提取单元，用于将所述训练检测图像通过所述作为特征提取器的卷积神经网络模型以得到训练局部检测特征图；训练图像全局特征提取单元，用于将所述训练局部检测特征图通过所述非局部神经网络模型以得到训练全局检测特征图；训练融合单元，用于融合所述训练局部检测特征图和所述训练全局检测特征图以得到训练分类特征图；分类损失单元，用于将所述训练分类特征图通过所述分类器以得到分类损失函数值；内在化学习损失单元，用于基于所述训练局部检测特征图展开后得到的第一特征向量和所述训练全局检测特征图展开后得到的第二特征向量之间的距离计算序列对序列响应规则内在化学习损失函数值；以及，训练单元，用于计算所述分类损失函数值和所述序列对序列响应规则内在化学习损失函数值的加权和作为损失函数值来对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练。
23.在上述用于介入手术室护理的多功能可移动式放置架中，所述内在化学习损失单元，进一步用于：基于所述训练局部检测特征图展开后得到的第一特征向量和所述训练全局检测特征图展开后得到的第二特征向量之间的距离以如下公式计算所述序列对序列响应规则内在化学习损失函数值；其中，所述公式为：
[0024][0025][0026][0027]
其中，v1是所述局部检测特征图展开后得到的第一特征向量，v2是所述全局检测特征图展开后得到的第二特征向量，且w1和w2分别是所述分类器对于所述第一特征向量和所述第二特征向量的权重矩阵，relu(
·
)表示relu激活函数，sigmoid(
·
)表示sigmoid激活函数，表示矩阵相乘，d(
·
,
·
)表示两个向量之间的欧式距离。
[0028]
与现有技术相比，本技术提供的用于介入手术室护理的多功能可移动式放置架，其通过作为特征提取器的卷积神经网络模型和非局部神经网络模型提取出待检测固定框内护理组件的检测图像的空间维度上的局部隐藏特征和全局关联特征，并基于局部和全局特征的融合特征来进行待检测固定框内护理组件的护理功能的标签分类；进一步，再以分类标签与护理功能的真实标签进行比较来生成待检测固定框内护理组件是否被正确地归置的提示信息，以此来进行固定框内护理组件是否被正确归置的判断。这样，可以提高对于固定框内护理组件是否被正确归置的判断结果的准确性，进而保证护理的效果和稳定性。
附图说明
[0029]
通过结合附图对本技术实施例进行更详细的描述，本技术的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本技术实施例的进一步理解，并且构成说明书的一部分，与本技术实施例一起用于解释本技术，并不构成对本技术的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
[0030]
图1为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的应用
场景图。
[0031]
图2为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的框图。
[0032]
图3为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架中所述图像全局特征提取单元的框图。
[0033]
图4为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架中所述训练模块的框图。
[0034]
图5为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的使用方法的流程图。
[0035]
图6为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的使用方法的系统架构的示意图。
具体实施方式
[0036]
下面，将参考附图详细地描述根据本技术的示例实施例。显然，所描述的实施例仅仅是本技术的一部分实施例，而不是本技术的全部实施例，应理解，本技术不受这里描述的示例实施例的限制。
[0037]
场景概述
[0038]
如上所述，手术工作中经常需要根据患者不同的病情在合适时进行适当的护理工作，现有的护理工作主要由手术作业中其余的辅助人员进行操作实现，在一些情况下占地面积不足和人员流动繁杂会导致助手无法进行良好的护理工作，不利于手术工作的正常进行。
[0039]
针对上述技术问题，中国专利cn 112972186a公开了一种手术室可移动式多功能护理装置，其通过在手术床板支架的两侧滑动设置用于辅助悬挂护理设备的可调节机械臂，且其拓展板的底部均固定安装有固定框且每个固定框均配合安装有用于实现对应护理功能的护理组件。
[0040]
在上述手术室可移动式多功能护理装置的运行中，虽然其能够减少手术台周围的人员流动的同时保证了良好的稳定护理效果，但因在护理组件归置时没有正确地被归置或者被错误地归置，导致在进行相应功能护理时，无法在对应的固定框内找到对应的护理组件，影响了护理的效果和稳定性。因此，期待一种优化的多功能可移动式放置架，其能够对于固定框内护理组件是否被正确归置进行判断，以提高护理的效果和稳定性。
[0041]
目前，深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外，深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域，也展现出了接近甚至超越人类的水平。
[0042]
近年来，深度学习以及神经网络的发展为护理组件的正确归置判断提供了新的解决思路和方案。
[0043]
相应地，考虑到对于固定框内的护理组件进行正确归置判断可以通过摄像头采集的固定框内护理组件图像来生成护理功能的分类标签，进而通过与护理组件的真实护理功能标签的比较来进行护理组件是否被正确归置的判断。也就是说，对于固定框内护理组件是否被正确归置这本质上属于一个分类问题，在本技术的技术方案中，通过采用基于机器
视觉的人工智能技术，以提取出待检测固定框内护理组件的检测图像的空间维度上的局部隐藏特征和全局关联特征，并基于局部和全局特征的融合特征来进行待检测固定框内护理组件的护理功能的标签分类，以提高分类判断的精准度。进一步再以分类标签与护理功能的真实标签进行比较来生成所述待检测固定框内护理组件是否被正确地归置的提示信息，以此来进行护理组件是否被正确归置的判断。这样，能够在进行功能护理时在对应的固定框内可以找到相应的护理组件，以保证护理的效果和稳定性。
[0044]
具体地，在本技术的技术方案中，首先，通过摄像头采集待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签。接着，使用在图像的隐含特征提取方面具有优异表现的作为特征提取器的卷积神经网络模型来进行所述检测图像的局部隐含特征提取，以提取出所述检测图像的局部隐含关联特征在高维空间中的特征分布表示，即所述检测图像中关于所述待检测固定框内的护理组件的局部特征信息，从而得到局部检测特征图。
[0045]
应可以理解，考虑到由于卷积是典型的局部操作，而对于所述待检测固定框内的护理组件来说，所述护理组件的各个部分之间并非是孤立存在的，所述护理组件的各个部分的关联性产生前景目标。也就是说，所述待检测固定框内放置的护理组件的各个部分之间具有功能和位置的相关性，例如旋转功能部分和夹持功能部分通常需要相互配合使用。因此，在本技术的技术方案中，为了提取出所述待检测固定框内放置的护理组件的各个部分的关联性，使用非局部神经网络来进一步进行图像的特征提取。也就是，将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图。特别地，这里，所述非局部神经网络通过计算所述检测图像中的护理组件的各个局部特征之间的相似度捕获隐藏的依赖信息，进而建模上下文特征，使网络关注所述所述护理组件的各个部分的护理功能局部特征间的整体内容，进而在分类、检测任务中提升主干网络特征提取能力。这样，在进行护理组件的类型分类判断时，能够捕捉所述检测图像的空间维度上的全局特征有利于提高分类判断的精准度。
[0046]
然后，再融合所述局部检测特征图和所述全局检测特征图，以融合所述待检测固定框内护理组件的检测图像中的局部隐含特征和全局关联特征以得到分类特征图。进一步地，以所述分类特征图通过分类器中进行分类处理，从而得到所述待检测固定框内护理组件的护理功能标签。进而，基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。这样，能够对于固定框内护理组件是否被正确归置进行判断，以提高护理的效果和稳定性。
[0047]
特别地，在本技术的技术方案中，这里，对于所述局部检测特征图，其表达检测图像的局域语义关联特征，而对于所述全局检测特征图，其表达在局域语义关联基础上的全局语义关联特征，但是，无论局部语义关联特征还是全局语义关联特征的表达，其期望其对源图像语义的内在特征分布的表达趋于一致，从而提高所述局部检测特征图和所述全局检测特征图的融合效果。
[0048]
基于此，在本技术的技术方案中，进一步计算所述局部检测特征图和所述全局检测特征图之间的序列对序列响应规则内在化学习损失函数，具体表示为：
[0049][0050]
[0051][0052]
其中，v1是所述局部检测特征图展开后得到的第一特征向量，v2是所述全局检测特征图展开后得到的第二特征向量，且w1和w2分别是分类器对于v1和v2的权重矩阵。
[0053]
这里，所述序列对序列响应规则内在化学习损失函数可以通过分类器对于不同序列的权重矩阵的压榨-激励式通道注意力机制，来获取序列之间的加强的区分性能力。这样，通过以此损失函数训练网络，就可以实现所述局部检测特征图和所述全局检测特征图之间的具有更好区分性的因果关系特征(causality feature)的恢复，以对所述局部检测特征图和所述全局检测特征图的特征分布之间的原因-结果式响应规则进行内在化学习(internalizing learning)，以增强所述局部检测特征图和所述全局检测特征图对源图像语义的内在特征分布的表达的一致性，从而提高所述局部检测特征图和所述全局检测特征图的融合效果，提升所述分类特征图的分类结果的准确性。这样，能够对于固定框内护理组件是否被正确归置进行准确地判断，以确保在进行功能护理时在对应的固定框内可以找到相应的护理组件，进而保证护理的效果和稳定性。
[0054]
基于此，本技术提供了一种用于介入手术室护理的多功能可移动式放置架，其包括：监控单元，用于获取由摄像头采集的待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签；图像局部特征提取单元，用于将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图；图像全局特征提取单元，用于将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图；融合单元，用于融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；分类单元，用于将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；以及，提示单元，用于基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。
[0055]
图1为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的应用场景图。如图1所示，在该应用场景中，首先，通过摄像头(例如，图1中所示意的m)采集待检测固定框内护理组件的检测图像(例如，图1中所示意的c1)以及所述待检测固定框内应放置的护理组件的真实护理功能标签(例如，图1中所示意的c2)；然后，将获取的检测图像和真实护理功能标签输入至部署有用于介入手术室护理的多功能可移动式放置架的算法的服务器中(例如，图1中所示意的s)，其中，所述服务器能够使用用于介入手术室护理的多功能可移动式放置架的算法对所述检测图像进行处理，以生成分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；并且，基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。
[0056]
在介绍了本技术的基本原理之后，下面将参考附图来具体介绍本技术的各种非限制性实施例。
[0057]
示例性系统
[0058]
图2为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的框图。如图2所示，根据本技术实施例的用于介入手术室护理的多功能可移动式放置架100，包括：监控单元110，用于获取由摄像头采集的待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签；图像局部特征提取单元120，用于将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图；图像全
局特征提取单元130，用于将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图；融合单元140，用于融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；分类单元150，用于将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；以及，提示单元160，用于基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。
[0059]
具体地，在本技术实施例中，所述监控单元110，用于获取由摄像头采集的待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签。如前所述，手术工作中经常需要根据患者不同的病情在合适时进行适当的护理工作，现有的护理工作主要由手术作业中其余的辅助人员进行操作实现，在一些情况下占地面积不足和人员流动繁杂会导致助手无法进行良好的护理工作，不利于手术工作的正常进行。
[0060]
针对上述技术问题，中国专利cn 112972186a公开了一种手术室可移动式多功能护理装置，其通过在手术床板支架的两侧滑动设置用于辅助悬挂护理设备的可调节机械臂，且其拓展板的底部均固定安装有固定框且每个固定框均配合安装有用于实现对应护理功能的护理组件。
[0061]
在上述手术室可移动式多功能护理装置的运行中，虽然其能够减少手术台周围的人员流动的同时保证了良好的稳定护理效果，但因在护理组件归置时没有正确地被归置或者被错误地归置，导致在进行相应功能护理时，无法在对应的固定框内找到对应的护理组件，影响了护理的效果和稳定性。因此，期待一种优化的多功能可移动式放置架，其能够对于固定框内护理组件是否被正确归置进行判断，以提高护理的效果和稳定性。
[0062]
目前，深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、语音信号处理等领域。此外，深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域，也展现出了接近甚至超越人类的水平。
[0063]
近年来，深度学习以及神经网络的发展为护理组件的正确归置判断提供了新的解决思路和方案。
[0064]
相应地，考虑到对于固定框内的护理组件进行正确归置判断可以通过摄像头采集的固定框内护理组件图像来生成护理功能的分类标签，进而通过与护理组件的真实护理功能标签的比较来进行护理组件是否被正确归置的判断。也就是说，对于固定框内护理组件是否被正确归置这本质上属于一个分类问题，在本技术的技术方案中，通过采用基于机器视觉的人工智能技术，以提取出待检测固定框内护理组件的检测图像的空间维度上的局部隐藏特征和全局关联特征，并基于局部和全局特征的融合特征来进行待检测固定框内护理组件的护理功能的标签分类，以提高分类判断的精准度。进一步再以分类标签与护理功能的真实标签进行比较来生成所述待检测固定框内护理组件是否被正确地归置的提示信息，以此来进行护理组件是否被正确归置的判断。这样，能够在进行功能护理时在对应的固定框内可以找到相应的护理组件，以保证护理的效果和稳定性。
[0065]
具体地，在本技术的技术方案中，首先，通过摄像头采集待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签。应可以理解，在本技术的一具体示例中，所述摄像头的数量可以大于等于一个，即所述摄像头的数量
可以为多个，以从多个角度对所述待检测固定框内护理组件进行检测图像采集。
[0066]
具体地，在本技术实施例中，所述图像局部特征提取单元120，用于将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图。也就是，接着，使用在图像的隐含特征提取方面具有优异表现的作为特征提取器的卷积神经网络模型来进行所述检测图像的局部隐含特征提取，以提取出所述检测图像的局部隐含关联特征在高维空间中的特征分布表示，即所述检测图像中关于所述待检测固定框内的护理组件的局部特征信息，从而得到局部检测特征图。
[0067]
进一步地，在本技术实施例中，使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行：对所述输入数据进行卷积处理以得到卷积特征图；对所述卷积特征图进行基于特征矩阵的均值池化以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述局部检测特征图，所述作为特征提取器的卷积神经网络模型的第一层的输入为所述检测图像。
[0068]
通过所述作为特征提取器的卷积神经网络模型提取所述检测图像在高维空间中的局部隐含关联特征，以得到局部检测特征图。从而提高所述局部检测特征图生成分类结果的准确性。
[0069]
具体地，在本技术实施例中，所述图像全局特征提取单元130，用于将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图。应可以理解，考虑到由于卷积是典型的局部操作，而对于所述待检测固定框内的护理组件来说，所述护理组件的各个部分之间并非是孤立存在的，所述护理组件的各个部分的关联性产生前景目标。也就是说，所述待检测固定框内放置的护理组件的各个部分之间具有功能和位置的相关性，例如旋转功能部分和夹持功能部分通常需要相互配合使用。
[0070]
因此，在本技术的技术方案中，为了提取出所述待检测固定框内放置的护理组件的各个部分的关联性，使用非局部神经网络来进一步进行图像的特征提取。也就是，将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图。特别地，这里，所述非局部神经网络通过计算所述检测图像中的护理组件的各个局部特征之间的相似度捕获隐藏的依赖信息，进而建模上下文特征，使网络关注所述所述护理组件的各个部分的护理功能局部特征间的整体内容，进而在分类、检测任务中提升主干网络特征提取能力。这样，在进行护理组件的类型分类判断时，能够捕捉所述检测图像的空间维度上的全局特征有利于提高分类判断的精准度。
[0071]
更具体地，在本技术实施例中，图3为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架中所述图像全局特征提取单元的框图，如图3所示，所述图像全局特征提取单元，包括：点卷积单元210，用于将所述局部检测特征图分别输入所述非局部神经网络模型的第一点卷积层、第二点卷积层和第三点卷积层以得到第一特征图、第二特征图和第三特征图；第一融合单元220，用于计算所述第一特征图和所述第二特征图的按位置加权和以得到中间融合特征图；归一化单元230，用于将所述中间融合特征图输入softmax函数以对所述中间融合特征图中各个位置的特征值进行归一化以得到归一化中间融合特征图；第二融合单元240，用于计算所述归一化中间融合特征图和所述第三特征图的按位置加权和以得到再融合特征图；全局感知单元250，用于将所述再融合特征图通过嵌入高斯相似
性函数以计算所述再融合特征图中各个位置的特征值间的相似性以得到全局感知特征图；通道数调整单元260，用于将所述全局感知特征图通过所述非局部神经网络模型的第四点卷积层以得到通道调整全局感知特征图；以及，第三融合单元270，用于计算所述通道调整全局感知特征图和所述局部检测特征图的按位置加权和以得到所述全局检测特征图。
[0072]
应可以理解，将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图，以提取出所述待检测固定框内放置的护理组件的各个部分的全局关联性特征，这样，能够捕捉所述检测图像的空间维度上的全局特征，有利于提高分类判断的精准度。
[0073]
具体地，在本技术实施例中，所述融合单元140，用于融合所述局部检测特征图和所述全局检测特征图以得到分类特征图。然后，再融合所述局部检测特征图和所述全局检测特征图，以融合所述待检测固定框内护理组件的检测图像中的局部隐含特征和全局关联特征以得到分类特征图。
[0074]
进一步地，以如下公式融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；其中，所述公式为：
[0075]fs
＝λfa+βfg[0076]
其中，fs表示所述分类特征图，fa表示所述局部检测特征图，fg表示所述全局检测特征图，“+”表示所述局部检测特征图和所述全局检测特征图相对应位置处的元素相加，λ和β表示用于控制所述局部检测特征图和所述全局检测特征图之间的平衡的加权参数。
[0077]
这样，融合所述局部检测特征图和所述全局检测特征图以得到分类特征图，以提升所述分类特征图的分类结果的准确性，以提高护理的效果和稳定性。
[0078]
具体地，在本技术实施例中，所述分类单元150和所述提示单元160，用于将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；以及，用于基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。也就是，进一步地，以所述分类特征图通过分类器中进行分类处理，从而得到所述待检测固定框内护理组件的护理功能标签。进而，基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。这样，能够对于固定框内护理组件是否被正确归置进行判断，以提高护理的效果和稳定性。
[0079]
进一步地，使用所述分类器以如下公式对所述分类特征图进行处理以得到所述分类结果；其中，所述公式为：
[0080]
o＝softmax{(wn,bn):
…
:(w1,b1)|project(f)}，其中，w1到wn为权重矩阵，b1到bn为偏置向量，project(f)为所述分类特征图投影为向量。
[0081]
在本技术实施例中，所述用于介入手术室护理的多功能可移动式放置架还包括用于对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练的训练模块，图4为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架中所述训练模块的框图，如图4所示，所述训练模块300，包括：训练数据获取单元310，用于获取训练数据，所述训练数据包括训练检测图像，以及，所述待检测固定框内应放置的护理组件的真实护理功能标签；训练图像局部特征提取单元320，用于将所述训练检测图像通过所述作为特征提取器的卷积神经网络模型以得到训练局部检测特征图；训练图像全局特征提取单元330，用于将所述训练局部检测特征图通过所述非局部神经网络模型以得到
训练全局检测特征图；训练融合单元340，用于融合所述训练局部检测特征图和所述训练全局检测特征图以得到训练分类特征图；分类损失单元350，用于将所述训练分类特征图通过所述分类器以得到分类损失函数值；内在化学习损失单元360，用于基于所述训练局部检测特征图展开后得到的第一特征向量和所述训练全局检测特征图展开后得到的第二特征向量之间的距离计算序列对序列响应规则内在化学习损失函数值；以及，训练单元370，用于计算所述分类损失函数值和所述序列对序列响应规则内在化学习损失函数值的加权和作为损失函数值来对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练。
[0082]
特别地，在本技术的技术方案中，这里，对于所述局部检测特征图，其表达检测图像的局域语义关联特征，而对于所述全局检测特征图，其表达在局域语义关联基础上的全局语义关联特征，但是，无论局部语义关联特征还是全局语义关联特征的表达，其期望其对源图像语义的内在特征分布的表达趋于一致，从而提高所述局部检测特征图和所述全局检测特征图的融合效果。
[0083]
基于此，在本技术的技术方案中，进一步计算所述局部检测特征图和所述全局检测特征图之间的序列对序列响应规则内在化学习损失函数，也就是，基于所述训练局部检测特征图展开后得到的第一特征向量和所述训练全局检测特征图展开后得到的第二特征向量之间的距离以如下公式计算所述序列对序列响应规则内在化学习损失函数值；其中，所述公式为：
[0084][0085][0086][0087]
其中，v1是所述局部检测特征图展开后得到的第一特征向量，v2是所述全局检测特征图展开后得到的第二特征向量，且w1和w2分别是所述分类器对于所述第一特征向量和所述第二特征向量的权重矩阵，relu(
·
)表示relu激活函数，sigmoid(
·
)表示sigmoid激活函数，表示矩阵相乘，d(
·
,
·
)表示两个向量之间的欧式距离。
[0088]
这里，所述序列对序列响应规则内在化学习损失函数可以通过分类器对于不同序列的权重矩阵的压榨-激励式通道注意力机制，来获取序列之间的加强的区分性能力。这样，通过以此损失函数训练网络，就可以实现所述局部检测特征图和所述全局检测特征图之间的具有更好区分性的因果关系特征(causality feature)的恢复，以对所述局部检测特征图和所述全局检测特征图的特征分布之间的原因-结果式响应规则进行内在化学习(internalizing learning)，以增强所述局部检测特征图和所述全局检测特征图对源图像语义的内在特征分布的表达的一致性，从而提高所述局部检测特征图和所述全局检测特征图的融合效果，提升所述分类特征图的分类结果的准确性。这样，能够对于固定框内护理组件是否被正确归置进行准确地判断，以确保在进行功能护理时在对应的固定框内可以找到相应的护理组件，进而保证护理的效果和稳定性。
[0089]
综上，基于本技术实施例的用于介入手术室护理的多功能可移动式放置架100被阐明，其通过作为特征提取器的卷积神经网络模型和非局部神经网络模型提取出待检测固定框内护理组件的检测图像的空间维度上的局部隐藏特征和全局关联特征，并基于局部和
全局特征的融合特征来进行待检测固定框内护理组件的护理功能的标签分类；进一步，再以分类标签与护理功能的真实标签进行比较来生成待检测固定框内护理组件是否被正确地归置的提示信息，以此来进行固定框内护理组件是否被正确归置的判断。这样，可以提高对于固定框内护理组件是否被正确归置的判断结果的准确性，进而保证护理的效果和稳定性。
[0090]
示例性方法
[0091]
图5为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的使用方法的流程图。如图5所示，根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的使用方法，其包括：s110，获取由摄像头采集的待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签；s120，将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图；s130，将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图；s140，融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；s150，将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；以及，s160，基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。
[0092]
图6为根据本技术实施例的用于介入手术室护理的多功能可移动式放置架的使用方法的系统架构的示意图。如图6所示，在所述用于介入手术室护理的多功能可移动式放置架的使用方法的系统架构中，首先，获取由摄像头采集的待检测固定框内护理组件的检测图像以及所述待检测固定框内应放置的护理组件的真实护理功能标签；然后，将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图；接着，将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图；然后，融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；接着，将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签；以及，最后，基于所述分类结果与所述真实护理功能标签之间的比较，生成所述待检测固定框内护理组件是否被正确地归置的提示信息。
[0093]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，所述将所述检测图像通过作为特征提取器的卷积神经网络模型以得到局部检测特征图，进一步包括：使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行：对所述输入数据进行卷积处理以得到卷积特征图；对所述卷积特征图进行基于特征矩阵的均值池化以得到池化特征图；以及，对所述池化特征图进行非线性激活以得到激活特征图；其中，所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述局部检测特征图，所述作为特征提取器的卷积神经网络模型的第一层的输入为所述检测图像。
[0094]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，所述将所述局部检测特征图通过非局部神经网络模型以得到全局检测特征图，包括：将所述局部检测特征图分别输入所述非局部神经网络模型的第一点卷积层、第二点卷积层和第三点卷积层以得到第一特征图、第二特征图和第三特征图；计算所述第一特征图和所述第二特征图的按位置加权和以得到中间融合特征图；将所述中间融合特征图输入
softmax函数以对所述中间融合特征图中各个位置的特征值进行归一化以得到归一化中间融合特征图；计算所述归一化中间融合特征图和所述第三特征图的按位置加权和以得到再融合特征图；将所述再融合特征图通过嵌入高斯相似性函数以计算所述再融合特征图中各个位置的特征值间的相似性以得到全局感知特征图；将所述全局感知特征图通过所述非局部神经网络模型的第四点卷积层以得到通道调整全局感知特征图；以及，计算所述通道调整全局感知特征图和所述局部检测特征图的按位置加权和以得到所述全局检测特征图。
[0095]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，所述融合所述局部检测特征图和所述全局检测特征图以得到分类特征图，进一步包括：以如下公式融合所述局部检测特征图和所述全局检测特征图以得到分类特征图；其中，所述公式为：
[0096]fs
＝λfa+βfg[0097]
其中，fs表示所述分类特征图，fa表示所述局部检测特征图，fg表示所述全局检测特征图，“+”表示所述局部检测特征图和所述全局检测特征图相对应位置处的元素相加，λ和β表示用于控制所述局部检测特征图和所述全局检测特征图之间的平衡的加权参数。
[0098]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，所述将所述分类特征图通过分类器以得到分类结果，所述分类结果为待检测固定框内护理组件的护理功能标签，进一步包括：使用所述分类器以如下公式对所述分类特征图进行处理以得到所述分类结果；其中，所述公式为：o＝softmax{(wn,bn):
…
:(w1,b1)|project(f)}，其中，w1到wn为权重矩阵，b1到bn为偏置向量，project(f)为所述分类特征图投影为向量。
[0099]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，还包括：对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练。
[0100]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，所述对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练，包括：获取训练数据，所述训练数据包括训练检测图像，以及，所述待检测固定框内应放置的护理组件的真实护理功能标签；将所述训练检测图像通过所述作为特征提取器的卷积神经网络模型以得到训练局部检测特征图；将所述训练局部检测特征图通过所述非局部神经网络模型以得到训练全局检测特征图；融合所述训练局部检测特征图和所述训练全局检测特征图以得到训练分类特征图；将所述训练分类特征图通过所述分类器以得到分类损失函数值；基于所述训练局部检测特征图展开后得到的第一特征向量和所述训练全局检测特征图展开后得到的第二特征向量之间的距离计算序列对序列响应规则内在化学习损失函数值；以及，计算所述分类损失函数值和所述序列对序列响应规则内在化学习损失函数值的加权和作为损失函数值来对所述作为特征提取器的卷积神经网络模型、所述非局部神经网络模型和所述分类器进行训练。
[0101]
在一个具体示例中，在上述用于介入手术室护理的多功能可移动式放置架的使用方法中，所述基于所述训练局部检测特征图展开后得到的第一特征向量和所述训练全局检测特征图展开后得到的第二特征向量之间的距离计算序列对序列响应规则内在化学习损失函数值，进一步包括：基于所述训练局部检测特征图展开后得到的第一特征向量和所述
训练全局检测特征图展开后得到的第二特征向量之间的距离以如下公式计算所述序列对序列响应规则内在化学习损失函数值；其中，所述公式为：
[0102][0103][0104][0105]
其中，v1是所述局部检测特征图展开后得到的第一特征向量，v2是所述全局检测特征图展开后得到的第二特征向量，且w1和w2分别是所述分类器对于所述第一特征向量和所述第二特征向量的权重矩阵，relu(
·
)表示relu激活函数，sigmoid(
·
)表示sigmoid激活函数，表示矩阵相乘，d(
·
,
·
)表示两个向量之间的欧式距离。
[0106]
这里，本领域技术人员可以理解，上述用于介入手术室护理的多功能可移动式放置架的使用方法中的各个步骤的具体操作已经在上面参考图1到图4的用于介入手术室护理的多功能可移动式放置架的描述中得到了详细介绍，并因此，将省略其重复描述。
[0107]
以上结合具体实施例描述了本技术的基本原理，但是，需要指出的是，在本技术中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本技术的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本技术为必须采用上述具体的细节来实现。
[0108]
本技术中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
[0109]
还需要指出的是，在本技术的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本技术的等效方案。
[0110]
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本技术。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本技术的范围。因此，本技术不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
[0111]
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本技术的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。