技术特征：
1.一种基于文字及图片的内容安全过滤方法，其特征在于，所述方法包括：获取待传输数据，所述待传输数据包括待核验文字信息和待核验图片信息；对待核验文字信息进行关键字核查，得到文字安全检测结果；对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。2.根据权利要求1所述的基于文字及图片的内容安全过滤方法，其特征在于，所述对待核验文字信息进行关键字核查，得到文字安全检测结果的步骤，具体包括：查询发送数据用户信息，获取与之对应的核验关键字；逐个调取核验关键字，并对待核验文字信息进行检索，得到检索结果；根据检索结果确定核验关键字出现的位置，确定过滤区间，生成文字安全检测结果。3.根据权利要求1所述的基于文字及图片的内容安全过滤方法，其特征在于，所述对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果的步骤，具体包括：对待核验图片信息进行图像识别，得到图像识别结果；根据图像识别结果查询图像内容数据库，得到图像内容转化数据；对图像内容转化数据进行关键字核查，以得到图片安全监测结果。4.根据权利要求1所述的基于文字及图片的内容安全过滤方法，其特征在于，所述获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理的步骤，具体包括：获取接收数据用户权限，根据接收数据用户权限对待核验文字信息和待核验图片信息进行内容筛选，得到权限筛选结果；根据文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行内容筛选，得到安全筛选结果；根据权限筛选结果和安全筛选结果对待核验文字信息和待核验图片信息中的相应位置进行屏蔽处理。5.根据权利要求4所述的基于文字及图片的内容安全过滤方法，其特征在于，进行屏蔽处理时，对文字部分以预设字符进行替换。6.根据权利要求4所述的基于文字及图片的内容安全过滤方法，其特征在于，进行屏蔽处理时，对图片部分进行模糊处理。7.一种基于文字及图片的内容安全过滤系统，其特征在于，所述系统包括：数据获取模块，用于获取待传输数据，所述待传输数据包括待核验文字信息和待核验图片信息；文字核验模块，用于对待核验文字信息进行关键字核查，得到文字安全检测结果；图片核验模块，用于对待核验图片信息进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；局部过滤模块，用于获取接收数据用户权限，根据接收数据用户权限、文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。
8.根据权利要求7所述的基于文字及图片的内容安全过滤系统，其特征在于，所述文字核验模块包括：数据查询单元，用于查询发送数据用户信息，获取与之对应的核验关键字；数据检索单元，用于逐个调取核验关键字，并对待核验文字信息进行检索，得到检索结果；关键字定位单元，用于根据检索结果确定核验关键字出现的位置，确定过滤区间，生成文字安全检测结果。9.根据权利要求7所述的基于文字及图片的内容安全过滤系统，其特征在于，所述图片核验模块包括：图像识别单元，用于对待核验图片信息进行图像识别，得到图像识别结果；内容转化单元，用于根据图像识别结果查询图像内容数据库，得到图像内容转化数据；关键字核验单元，用于对图像内容转化数据进行关键字核查，以得到图片安全监测结果。10.根据权利要求7所述的基于文字及图片的内容安全过滤系统，其特征在于，所述局部过滤模块包括：权限筛选单元，用于获取接收数据用户权限，根据接收数据用户权限对待核验文字信息和待核验图片信息进行内容筛选，得到权限筛选结果；安全筛选单元，用于根据文字安全检测结果和图片安全监测结果对待核验文字信息和待核验图片信息进行内容筛选，得到安全筛选结果；信息拼比单元，用于根据权限筛选结果和安全筛选结果对待核验文字信息和待核验图片信息中的相应位置进行屏蔽处理。
技术总结
本发明适用于数据处理技术领域，尤其涉及一种基于文字及图片的内容安全过滤方法及系统，所述方法包括：获取待传输数据；对待核验文字信息进行关键字核查，得到文字安全检测结果；进行图像识别，提取图像内容，进行图片内容核查，得到图片安全监测结果；获取接收数据用户权限，对待核验文字信息和待核验图片信息进行屏蔽处理，并发送。本发明通过对待核验文字信息进行文字核验，从而对文字内容进行检查，进而对图片进行内容识别，根据识别结果确定图片内容，从而完成对图片内容的核查，最终结合用户权限对待核验文字信息和待核验图片信息进行内容屏蔽，以保证数据传输的安全，避免出现信息泄漏的问题。现信息泄漏的问题。现信息泄漏的问题。
技术研发人员：计建
受保护的技术使用者：上海天擎天拓软件技术有限公司
技术研发日：2022.09.22
技术公布日：2023/1/2