生成可编辑流程图的方法、装置、电子设备和存储介质与流程

本公开涉及计算机技术领域，更具体地，涉及一种生成可编辑流程图的方法和一种生成可编辑流程图的系统。

背景技术：

随着计算机和互联网技术的快速发展，光学字符识别(opticalcharacterrecognition，ocr)技术开始广泛应用于将纸质文件转换为电子版文件。

ocr技术是指电子设备(例如扫描仪或数码相机)检查纸上打印的字符，通过检测暗、亮的模式确定其形状，然后用字符识别方法将形状翻译成计算机文字的过程。

但是现有ocr技术中都是基于特定场景的ocr识别，如银行卡信息识别，身份证信息识别、票据识别等。还没有识别流程图，并将流程图的图片转换为通用软件可编辑的流程图的的转换方法。

技术实现要素：

有鉴于此，本公开提供了一种生成可编辑流程图的方法和系统。

本公开的一个方面提供了一种生成可编辑流程图的方法，包括获取流程图图片；分别识别出所述流程图图片中的文本信息及图形框信息，其中，所述文本信息包括文本内容及文本坐标，所述图形框信息包括图形框内容及图形框坐标；根据所述文本坐标及所述图形框坐标对文本内容及图形框内容进行匹配，生成数据文件；将所述数据文件加载至应用程序中，以令该应用程序生成可编辑流程图。

可选地，根据所述文本坐标及图形框坐标对文本内容及图形框内容进行匹配，包括：若所述文本内容及图形框内容不匹配，则调整所述文本坐标和/或图形框坐标。

可选地，分别识别出所述流程图图片中的文本信息及图形框信息，还包括：将流程图图片分割为文本信息图片与图形框信息图片；识别所述文本信息图片，生成所述文本信息；识别并生成所述图形框信息。

可选地，将流程图图片分割为文本信息图片与图形框信息图片，包括：将所述流程图图片以预设尺寸网格化；依次根据每个网格内像素数量，判断所述网格所属类别；当所述像素数量大于预设阈值时，为所述文本信息网格；当所述像素数量小于预设阈值时，为所述图形框信息网格；组合文本信息网格形成成文本信息图片，组合图形框信息网格形成图形框信息图片。

可选地，识别所述文本信息图片，生成所述文本信息，包括：对文本信息图片进行预处理并生成文本坐标；识别并生成所述文本内容。

可选地，识别所述图形框信息图片，生成所述图形框信息，包括：对图形框信息图片进行预处理并生成图形框坐标；识别并生成所述图形框内容。

可选地，识别图形框，生成所述文本内容，包括：建立图形框模板；建立图形框识别模型；识别所述图形框，生成所述图形框内容。

可选地，将数据文件加载至应用程序中，包括：将所述数据文件编译成与所述应用程序相对应的应用程序文件；将该应用程序文件加载至应用程序中。

可选地，生成可编辑流程图的方法，还包括，在所述获取流程图图片之后，还包括：对所述流程图图片进行二值化及去噪处理。

本公开的另一个方面提供了一种生成可编辑流程图的系统，包括图片获取模块，用于获取流程图图片；图片识别模块，用于分别识别出所述流程图图片中的文本信息及图形框信息，其中，所述文本信息包括文本内容及文本坐标，所述图形框信息包括图形框内容及图形框坐标；位置匹配模块，用于根据所述文本坐标及所述图形框坐标对文本内容及图形框内容进行匹配，生成数据文件；文件转换模块，用于将所述数据文件加载至应用程序中，以令该应用程序生成可编辑流程图。

可选地，生成可编辑流程图的系统，还包括：图片预处理模块，用于对所述流程图图片进行二值化及去噪处理。

本公开的另一方面提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求上述中任一项所述的方法。

本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

本公开所提供的至少具有如下有益效果：

通过分别识别出流程图图片中的文本信息及图形框信息，可以提高识别的准确率。通过文本坐标与图形框坐标可以确定文本内容及图形框内容相对位置。通过将流程图图片转为数据文件可以使流程图图片转换为可在线编辑的流程图，并且通过将数据文件编译成与应用程序相对应的应用程序文件，可以使数据文件加载至如microsoftvisio、画图工具等通用流程图编辑应用程序，使得使用对象可以根据自己的习惯选择相应的应用程序在线编辑流程图。

附图说明

图1示意性示出了可以应用本公开的用于生成可编辑流程图的方法和装置的示例性系统架构；

图2示意性示出了根据本公开实施例的生成可编辑流程图的方法的流程图；

图3示意性示出了根据本公开实施例的识别出流程图图片中的文本信息及图形框信息的方法的流程图；

图4a示意性示出了根据本公开实施例识别文本信息的方法的流程图

图4b示意性示出了根据本公开实施例识别图形框信息的方法的流程图的流程图；

图5a示意性示出了根据本公开实施例一种文本坐标与图形框坐标不匹配的情况

图5b示意性示出了根据本公开实施例另一种文本坐标与图形框坐标不匹配的情况；

图6示意性示出了根据本公开实施例的生成可编辑流程图的装置的框图；以及

图7示意性示出了根据本公开实施例的适于实现生成可编辑流程图的装置的电子设备的框图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明进一步详细说明。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如，图片拍摄应用，图片处理应用、流程图绘制应用等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103图片储存与传输提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的流程图图片进行分析等处理，并将处理结果(例如根据用户所使用应用程序生成的相应用程序文件等)反馈给终端设备。

需要说明的是，本公开实施例所提供的生成可编辑流程图的方法一般可以由服务器105执行。相应地，本公开实施例所提供的生成可编辑流程图的系统一般可以设置于服务器105中。本公开实施例可编辑流程图的生成方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的生成可编辑流程图的装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者，本公开实施例所提供的生成可编辑流程图的方法也可以由终端设备101、102、或103执行，或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地，本公开实施例所提供的的生成可编辑流程图的装置也可以设置于终端设备101、102、或103中，或设置于不同于终端设备101、102、或103的其他终端设备中。

图2示意性示出了根据本公开实施例的一种可编辑流程图的生成方法如图2所示，该方法包括操作s210～s240。

操作s210，获取流程图图片。

根据本公开实施例，流程图图片可以是手绘的流程图图片，也可以是电子流程图的截图。

可以理解，本公开实施例对获取的流程图图片类型不做限制，除了上述举例的手绘的流程图图片，电子流程图的截图，还可以是其他类型的图片，本领域技术人员可根据实际应用情况具体选择。

根据本公开实施例，在获取流程图图片之后，还对所述流程图图片进行二值化、去噪处理。将图像进行二值化处理是为了将彩色图片转换为有0和1表示的像素矩阵形式，去除所需处理的流程图图片不必要的信息，降低后续处理的复杂度。将流程图图片二值化的方法可以是基于局部阈值二值化、全局阈值等方法。将流程图图片进行去噪处理是为了去除图像背景，消除采样过程的不稳定引起的流程图图片模糊。将流程图图片进行去噪处理的方法可以是中值滤波，均值滤波等方法。

可以理解，本公开实施例对所述流程图图片进行二值化及去噪处理的方法不做限制，除了上述举例的方法，还可以是其他类型的方法，本领域技术人员可根据实际应用情况具体选择。

操作s220，分别识别出流程图图片中的文本信息及图形框信息，其中，文本信息包括文本内容及文本坐标，图形框信息包括图形框内容及图形框坐标。

图3示意性示出了根据本公开实施例的识别出流程图图片中的文本信息及图形框信息的方法的流程图；

该方法包括s310～s330

操作s310，将流程图图片分割为文本信息图片与图形框信息图片；

将所述流程图图片以预设尺寸网格化。依次根据每个网格内像素数量，判断所述网格所属类别，当所述像素数量大于预设阈值时，为所述文本信息网格；当所述像素数量小于预设阈值时，为所述图形框信息网格。组合文本信息网格形成成文本信息图片，组合图形框信息网格形成图形框信息图片。

操作s320，识别文本信息图片，生成所述文本信息；

如图4a所示，通过本公开实施例，对文本信息区域进行处理包括：对文本信息图片进行预处理并生成文本坐标；识别并生成文本内容。

通过本公开实施例，对文本信息图片进行预处理并生成文本坐标，包括，对文本信息区域倾斜矫正，尺度归一化处理。例如，对于手绘流程图图片，其字符在抓拍照片时存在一定程度的倾斜，同时，书写过程中字符的大小也有所不同。在获取手写流程图的文本信息区域后，需要对文本信息区域进行倾斜矫正和尺度归一化处理，减少因字符倾斜以造成的识别误差，统一字符的尺寸，提高后续识别效率。

通过本公开实施例，对文本信息图片进行预处理并生成文本坐标，还包括，根据文本信息图片的水平投影与垂直投影切割文本，并确定文本坐标。例如，对文本信息图片进行水平投影，找到文字每一行的上界限和下界限，进行行切割。对切割出来的每一行，进行垂直投影，找到每一个字符的左右边界，进行单个字符的切割。通过每一段文本内容的水平投影确定此段文本内容的纵坐标。通过合并左右相邻字符的垂直投影坐标，生成此段文本内容的横坐标。

通过本公开实施例，字符识别是利用字符识别模型进行识别。字符识别模型可以是cnn模型、crnn模型和lstm+ctc模型。

可以理解，本公开实施例对字符识别的模型不做限制，除了上述提到的cnn模型、crnn模型和lstm+ctc模型，还可以是其他类型的模型，本领域技术人员可根据实际应用情况具体选择。

可以理解，本公开实施例的文本内容可以包括：文字、文字格式、文字大小等内容。

操作s330，对图形框信息图片进行预处理并生成图形框坐标。

如图4b所示，通过本公开实施例，对图形框区域处理包括：对图形框信息图片进行预处理并生成图形框坐标；识别并生成所述图形框内容。

根据本公开实施例，对图形框信息图片进行预处理并生成图形框坐标，包括，将图形框矫正为理想几何图形。例如，将不规则的曲线ab调整为规则线段a′b′，并调整线段端点a′与b′的坐标位置与相邻线段的端点重合，形成封闭几何图形。

根据本公开实施例对图形框信息图片进行预处理，还包括，将图形框切割是将为单独的图形框单元。分割方法可以为，通过图形框闭合性特征，区分出流程线；通过图形框的连通性，区分出单独的图形框单元。

根据本公开实施例，生成图形框坐标是图形框像素所在位置坐标。

根据本公开实施例，图形框识别包括：建立图形框模板，建立图形框识别模型，识别待检测的图形框。

根据本公开实施例，建立图形框模板，包括，基于至少一组测试图形框建立图形框模板。每一组图形框如图7所示，包含绘制流程图所需的所有基本图形框。例如，收集10个人所绘制的所有基本图形框，得到10组测试图形框，每一组测试图形框都包含绘制流程图所需的所有基本图形框，组成图形框模板。

根据本公开实施例，建立基于深度神经网络的图形框匹配模型，将图形框模板输入至深度神经网络图形框匹配模型中训练并评价。

根据本公开实施例，识别图形框是根据图形框与图形框模板内每一个图形框的相似度大小，确定图形框的类别。

可以理解，本公开实施例的图形框内容可以包括：图形类别、图形大小等内容。

s130根据文本坐标及图形框坐标对文本内容及图形框内容进行匹配，生成数据文件；

根据本公开实施例，根据文本坐标及图形框坐标对文本内容及图形框内容进行匹配，生成数据文件。若文本坐标及图形框坐标不匹配，则调整文本坐标和/或图形框坐标。例如，如图5a所示，当文本坐标纵坐标与图形框纵坐标重合，可以调整文本的纵坐标，降低文本的高度，使得文本所有坐标都处于图形框坐标的内部。图5b示意性示出了，当文本内容的横坐标集合中有一部分大于图形框纵坐标集合，则调整图形框右面横坐标，增大图形框区域，使得文本所有坐标都处于图形框坐标的内部。

s140将数据文件加载至应用程序中，以令该应用程序生成可编辑流程图。

在本公开实施例中，所述应用程序可以是microsoftvisio，画图工具等可在线编辑流程图的应用程序。

在本公开实施例中，需将将所述数据文件编译成与所述应用程序相对应的应用程序文件，将该应用程序文件加载至应用程序中。

本公开实施例所提供的转换方法是识别出文本内容和图形框内容，结合位置坐标，可正确识别如日常会议中的手绘流程图和文件截图中的流程图，并将其转换为可用通用软件编辑的电子版流程图，使人们的日常生活更加方便快捷。

图6示意性示出了根据本公开的实施例的生成可编辑流程图的系统的框图。

如图6所示，系统600包括图片获取模块610、图片预处理模块620、图片识别模块630、位置匹配模块840和文件转换模块650。

图片获取模块610：用于获取流程图图片。

图片预处理模块620：用于用于对所述流程图图片进行二值化及去噪处理。

图片识别模块630：用于分别识别出所述流程图图片中的文本信息及图形框信息，其中，所述文本信息包括文本内容及文本坐标，所述图形框信息包括图形框内容及图形框坐标；

位置匹配模块640：用于根据所述文本坐标及所述图形框坐标对文本内容及图形框内容进行匹配，生成数据文件；

文件转换模块650：用于将所述数据文件加载至应用程序中，以令该应用程序生成可编辑流程图。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，图片获取模块610、图片预处理模块620、图片识别模块630、位置匹配模块640和文件转换模块650中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，图片获取模块610、图片预处理模块620、图片识别模块630、位置匹配模块640和文件转换模块650中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，图片获取模块610、图片预处理模块620、图片识别模块630、位置匹配模块640和文件转换模块650中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

需要说明的是，本公开的实施例中生成可编辑流程图部分与本公开的实施例中生成可编辑流程图部分是相对应的，生成可编辑流程图的装置部分的描述具体参考生成可编辑流程图的方法部分，在此不再赘述。

图7示意性示出了根据本公开实施例的适于实现上文描述的方法的电子设备的框图。图7示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图7所示，根据本公开实施例的电子设备700包括处理器701，其可以根据存储在只读存储器(rom)702中的程序或者从存储部分708加载到随机访问存储器(ram)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如cpu)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(asic))，等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在ram703中，存储有系统700操作所需的各种程序和数据。处理器701、rom702以及ram603通过总线704彼此相连。处理器701通过执行rom602和/或ram603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除rom702和ram703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，系统700还可以包括输入/输出(i/o)接口705，输入/输出(i/o)接口705也连接至总线704。系统700还可以包括连接至i/o接口705的以下部件中的一项或多项：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至i/o接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的rom702和/或ram703和/或rom702和ram703以外的一个或多个存储器。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。