技术特征:
1.一种基于深度学习的手语理解视觉手势识别方法,其特征在于,所述基于深度学习的手语理解视觉手势识别方法包括:获取待处理手势图像;将所述待处理手势图像输入至经过训练的卷积神经网络中进行处理;获取所述卷积神经网络输出的识别结果;所述卷积神经网络经过以下训练过程:获取第一数据集;所述第一数据集包括多个中文手语手势图像;对所述第一数据集中的各所述中文手语手势图像进行标记,确定各所述中文手语手势图像各自对应的标签;使用所述第一数据集以及对应的各所述标签,对所述卷积神经网络进行训练。2.根据权利要求1所述的基于深度学习的手语理解视觉手势识别方法,其特征在于,所述卷积神经网络包括依次连接的第一卷积层、第一最大池化层、第二卷积层、第三卷积层、第二最大池化层、第四卷积层、第三最大池化层、第一dropout层、第一全连接层、第二全连接层、第二dropout层和softmax层。3.根据权利要求1所述的基于深度学习的手语理解视觉手势识别方法,其特征在于,所述获取第一数据集,包括:获取包含拼写的中文手语手势图像以及包含孤立词的中文手语手势图像;以所述包含拼写的中文手语手势图像和所述包含孤立词的中文手语手势图像,组成所述第一数据集。4.根据权利要求1所述的基于深度学习的手语理解视觉手势识别方法,其特征在于,在使用所述第一数据集以及对应的各所述标签,对所述卷积神经网络进行训练之后,所述卷积神经网络还经过以下训练过程:获取第二数据集;所述第二数据集包括多个英文手语手势图像;对所述第二数据集中的各所述英文手语手势图像进行标记,确定各所述英文手语手势图像各自对应的标签;使用所述第二数据集以及对应的各所述标签,对所述卷积神经网络进行训练。5.根据权利要求1所述的基于深度学习的手语理解视觉手势识别方法,其特征在于,所述卷积神经网络还经过以下训练过程:获取第二数据集;所述第二数据集包括多个英文手语手势图像;对所述第二数据集中的各所述英文手语手势图像进行标记,确定各所述英文手语手势图像各自对应的标签;将所述第一数据集中的各中文手语手势图像以及所述第二数据集中的各英文手语手势图像,按顺序排列组合成第三数据集;所述第三数据集中,任意多个相邻的中文手语手势图像的个数不超过第一阈值,任意多个相邻的英文手语手势图像的个数不超过第二阈值;按照在所述第三数据集中的排列顺序,依次使用各所述中文手语手势图像和各所述英文手语手势图像以及对应的各所述标签,对所述卷积神经网络进行训练。6.根据权利要求4或5所述的基于深度学习的手语理解视觉手势识别方法,其特征在于,所述第二数据集为jochen-triesch数据集。7.根据权利要求1-5任一项所述的基于深度学习的手语理解视觉手势识别方法,其特
征在于,在使用所述第一数据集以及对应的各所述标签,对所述卷积神经网络进行训练之前,所述基于深度学习的手语理解视觉手势识别方法还包括:从所述第一数据集中的各所述中文手语手势图像中裁剪手势;将各所述中文手语手势图像下采样至相同大小。8.一种基于深度学习的手语理解视觉手势识别系统,其特征在于,所述基于深度学习的手语理解视觉手势识别系统包括:第一模块,用于获取待处理手势图像;第二模块,用于将所述待处理手势图像输入至经过训练的卷积神经网络中进行处理;第三模块,用于获取所述卷积神经网络输出的识别结果;所述卷积神经网络经过以下训练过程:获取第一数据集;所述第一数据集包括多个中文手语手势图像;对所述第一数据集中的各所述中文手语手势图像进行标记,确定各所述中文手语手势图像各自对应的标签;使用所述第一数据集以及对应的各所述标签,对所述卷积神经网络进行训练。9.一种计算机装置,其特征在于,包括存储器和处理器,所述存储器用于存储至少一个程序,所述处理器用于加载所述至少一个程序以执行权利要求1-7任一项所述的基于深度学习的手语理解视觉手势识别方法。10.一种存储介质,其中存储有处理器可执行的程序,其特征在于,所述处理器可执行的程序在由处理器执行时用于执行权利要求1-7任一项所述的基于深度学习的手语理解视觉手势识别方法。
技术总结
本发明公开了一种基于深度学习的手语理解视觉手势识别方法、系统、计算机装置及存储介质,包括将待处理手势图像输入至经过训练的卷积神经网络中进行处理,获取卷积神经网络输出的识别结果等步骤,其中卷积神经网络经过以下训练过程:使用包含多个中文手语手势图像的第一数据集以及对中文手语手势图像标记得到的标签,对卷积神经网络进行训练。本发明可以识别出待处理手势图像中的手势内容,从而实现对中文手语手势的识别,由于对中文手语手势的识别是通过图像处理的方式进行的,而在获取待处理手势图像时可以使用摄像机等设备进行,无需做手语者佩戴特定的传感设备,因此具有使用成本低以及使用便利等优点。本发明广泛应用于手势识别技术领域。手势识别技术领域。手势识别技术领域。
技术研发人员:杨继武
受保护的技术使用者:广州创一网络传媒有限公司
技术研发日:2022.05.13
技术公布日:2022/9/20