检测模型自动匹配部署系统及方法与流程

1.本发明涉及人工智能领域，特别是涉及一种检测模型自动匹配部署系统及方法。


背景技术：

2.随着时间的推移，光伏产品生产线上越来越多的缺陷种类实现ai检测识别，但由于各类模型的部署方案不同，工厂内算法服务器的类型也杂乱起来，有安装了不同款式商业显卡的服务器，有安装了openvino套件的cpu服务器，也有用于直接运行模型的普通cpu服务器。目前普遍存在无法自动的将检测模型准确下发到符合其运行要求的算法服务器上的问题。


技术实现要素：

3.本发明的目的在于，提供一种检测模型自动匹配部署系统及方法，用于解决现有技术中存在的无法自动的将检测模型准确下发到符合其运行要求的算法服务器上的问题。
4.为解决现有技术中的问题，第一方面，本发明提供一种检测模型自动匹配部署系统，所述检测模型匹配部署系统包括：算法服务器自动匹配系统及多个算法服务器；其中，
5.所述算法服务器自动匹配系统与多个所述目标算法服务器均信号连接，用于基于检测模型的运行要求选择匹配的算法服务器作为目标算法服务器，并向所述目标算法服务器自动下发所述检测模型文件；
6.所述目标算法服务器用于为所述检测模型文件对应的检测模型提供运行环境，并部署运行所述检测模型。
7.可选地，所述算法服务器自动匹配系统包括：
8.服务器信息列表，用于统计所有所述算法服务器的基础信息、硬件算力设备及软件运行条件；
9.模型部署规划模块，用于提供ui界面，用户在所述ui界面上选择需要部署的所述检测模型，并通过调整固定的选项进一步描述所述检测模型所需的运行环境；
10.节点选择器，与所述服务器信息列表及所述模型部署规划模块均信号连接，用于基于所述服务器信息列表及所述模型部署规划模块的部署规划选择匹配的算法服务器作为所述目标算法服务器；
11.模型下发模块，与所述节点选择器及所述目标算法服务器信号连接，用于将所述检测模型文件下发到所述目标算法服务器。
12.可选地，所述固定的选项包括是否使用显卡、显卡型号、cuda版本、是否使用openvino及openvino的版本。
13.可选地，所述算法服务器的基础信息包括：服务器检测模型自动匹配部署系统、ip地址及使用状态；所述硬件算力设备包括cpu型号、cpu数量、gpu型号和gpu数量；所述软件运行条件包括cuda版本及openvino版本。
14.可选地，所述模型下发模块将所述检测模型文件下发到所述目标算法服务器的同
时，还将模型部署任务消息下发至所述目标算法服务器。
15.可选地，所述目标算法服务器包括：
16.模型部署模块，所述模型部署模块与所述模型下发模块信号连接，用于下载所述检测模型文件，接收所述模型部署任务消息，并基于所述模型部署任务消息部署运行下载的所述检测模型。
17.第二方面，本发明还提供一种检测模型自动匹配部署方法，所述检测模型自动匹配部署方法基于如第一方面所述的检测模型自动匹配部署系统而执行，所述检测模型自动匹配部署方法包括：
18.所述算法服务器自动匹配系统基于检测模型的运行要求选择匹配的算法服务器作为目标算法服务器，并向所述目标算法服务器自动下发所述检测模型文件；
19.所述目标算法服务器为所述检测模型文件对应的检测模型提供运行环境，并部署运行所述检测模型。
20.如上所述，本发明的检测模型自动匹配部署系统及方法，具有以下有益效果：通过设置算法服务器自动匹配系统，算法服务器自动匹配系统会自动基于检测模型的运行要求选择匹配的算法服务器作为目标算法服务器，并向目标算法服务器自动下发检测模型文件；目标算法服务器为所述检测模型文件对应的检测模型提供运行环境，并部署运行所述检测模型；从而可以实现自动的将检测模型文件准确下发至符合其运行要求的算法服务器上。
附图说明
21.图1为本发明的检测模型自动匹配部署系统结构框图。
22.图2为本发明的检测模型自动匹配部署系统方法的流程图。
23.标号说明：
24.1、算法服务器自动匹配系统，10、服务器信息列表，11、模型部署规划模块，12、节点选择器，13、模型下发模块，2、目标算法服务器，20、模型部署模块。
具体实施方式
25.下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
26.以下描述中的优选实施例只作为举例，本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
27.本领域技术人员应理解的是，在本发明的揭露中，术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系，其仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此上述术语不能理解为对本发明的限制。
28.当前光伏行业因制造工艺问题，在批次生产的光伏产品(光伏电池片)中会随机性的存在着严重的产品缺陷，例如隐裂、虚焊、失效、断栅等。光伏行业现在识别缺陷通行的方案是通电使光伏板发光即el测试。el测试通过外部给晶硅组件施加正向偏置电压，促使电池片内部电子和空穴不断地复合发光，放出光子，再利用红外ccd相机捕捉到这些光子，通过计算机进行处理后以图像的形式显示出来。el测试图像的明暗度与电池片的少子寿命(或扩散长度)和电流密度成正比，当晶硅太阳电池内部存在缺陷时，其少子寿命分布的差异导致图像存在明暗差异，由此可以检测太阳能电池组件的内部缺陷。
29.一种完整的光伏el智能缺陷检测系统，系统工作流程从产线机台开始，机台上装有定制化的客户端程序，用于拍摄显示el照片以及配置缺陷检测项。客户端将需要检测的照片统一回传到mission hub中，由mission hub把检测任务下发给算法服务器，并整理好服务器给出的检测结果，然后写入数据库。基于此数据库，系统提供了mes(制造企业生产过程执行管理系统)。为了算法服务器中的ai模型能快速的更新迭代，系统也包含了ai模型训练平台。
30.为最大化的加快缺陷检测模型的处理速度，算法服务器中往往安装了独立显卡，用独立显卡来运行缺陷检测模型。实践中发现，ai模型做推理工作时所需runtime的版本与训练ai模型时使用的显卡的runtime必须兼容，否则将出现ai模型无法加载的情况。所以部署缺陷检测模型时，工程师会根据模型的运行环境要求，寻找匹配的算法服务器。
31.另一方面，由于市场上商用独立显卡的成本高昂，对于算力要求较低的缺陷检测模型，工程师会优先使用算法服务器的cpu核显来运行模型，如此这类算法服务器可不必安装商用独立显卡。但多数缺陷类型的检测模型在cpu核显上的运行速度十分缓慢，缺陷检测过程的耗时相比在独立显卡运行增加了10倍以上。工程师可以在算法服务器上使用英特尔openvino工具套件优化模型，而基于英特尔cpu，缺陷检测速度可以达到接近独立显卡的水平。这样部署此类缺陷模型也必须指定在已安装openvino工具套件的算法服务器上。
32.随着时间的推移，光伏产品生产线上越来越多的缺陷种类实现ai检测识别，但由于各类模型的部署方案不同，工厂内算法服务器的类型也杂乱起来，有安装了不同款式商业显卡的服务器，有安装了openvino套件的cpu服务器，也有用于直接运行模型的普通cpu服务器。如何更好的管理记录检测模型和其运行所需的条件的对应关系，如何在统一管理界面上准确的下发模型到符合其运行要求的算法服务器上，这些问题需要好的方案来解决。
33.el英文全称electro luminescence，即电致发光，也可以叫电子发光检测。通过利用晶体硅的电致发光原理，配合高分辨率的红外相机拍摄晶体硅的近红外图像，通过图像软件对获取成像图像进行分析处理从而对太阳能电池片、光伏组件等的缺陷判定。
34.实施例一
35.请参阅图1所示，本发明提供一种检测模型自动匹配部署系统，所述检测模型自动匹配部署系统包括：算法服务器自动匹配系统1及多个算法服务器；其中，
36.所述算法服务器自动匹配系统1与多个所述目标算法服务器2均信号连接，用于基于检测模型的运行要求选择匹配的算法服务器作为目标算法服务器2，并向所述目标算法服务器2自动下发检测模型文件；
37.所述目标算法服务器2用于为所述检测模型文件对应的检测模型提供运行环境，
并部署运行所述检测模型。
38.本发明的检测模型自动匹配部署系统，通过设置算法服务器自动匹配系统1，算法服务器自动匹配系统1会自动基于检测模型的运行要求选择匹配的算法服务器作为目标算法服务器2，并向目标算法服务器2自动下发检测模型文件；目标算法服务器2会为所述检测模型文件对应的检测模型提供运行环境，并部署运行所述检测模型；从而可以实现自动的将检测模型准确下发至符合其运行要求的算法服务器上。
39.作为示例，所述算法服务器自动匹配系统1可以包括：
40.服务器信息列表10，所述服务器信息列表10用于统计所有所述算法服务器的基础信息、硬件算力设备及软件运行条件；
41.模型部署规划模块11，所述模型部署规划模块11用于提供ui界面，用户在所述ui界面上选择需要部署的所述检测模型，并通过调整固定的选项进一步描述所述检测模型所需的运行环境；
42.节点选择器12，所述节点选择器12与所述服务器信息列表10及所述模型部署规划模块11均信号连接，用于基于所述服务器信息列表10及所述模型部署规划模块11的部署规划选择匹配的算法服务器作为所述目标算法服务器2；
43.模型下发模块13，所述模型下发模块13与所述节点选择器12及所述目标算法服务器2信号连接，用于将所述检测模型文件下发到所述目标算法服务器。
44.具体的，所述节点选择器12用于查询服务信息列表，将所述模型部署规划模块11的选项结果转化为数据库表的过滤条件，检索出符合模测模型要求的服务器列表。
45.在一示例中，取出服务器信息列表10中第一个值，即服务器的基础信息(服务器名称、ip地址)，传给模型下发模块13；同时在服务器信息列表10中将该服务器的使用状态调整为已占用。
46.作为示例，所述固定的选项可以包括是否使用显卡、显卡型号、cuda版本、是否使用openvino及openvino的版本。
47.作为示例，所述算法服务器的基础信息可以包括：服务器检测模型自动匹配部署系统、ip地址及使用状态；所述硬件算力设备包括cpu型号、cpu数量、gpu型号和gpu数量；所述软件运行条件包括cuda版本及openvino版本。
48.具体的，相关信息记录在关系型数据库，以服务器ip地址为id的表中，表格字段包括server_name、status、cpu_type、cpu_num、gpu_type、gpu_num、cuda_version、openvino_version等。以记录服务器gpu型号和数量为例，因为单台服务器中不会存在多种显卡类型，若服务器无独立显卡，则gpu_type、gpu_num字段都为null；若服务器具备独立显卡，则将显卡类型(如nvidiateslat4)记录到gpu_type字段中，将显卡数量记录到gpu_num字段中。
49.作为示例，所述模型下发模块13将所述检测模型文件下发到所述目标算法服务器2的同时，还将模型部署任务消息下发至所述目标算法服务器2。
50.作为示例，所述目标算法服务器2包括：
51.模型部署模块20，所述模型部署模块20与所述模型下发模块13信号连接，用于下载所述检测模型文件，接收所述模型部署任务消息，并基于所述模型部署任务消息部署运行下载的所述检测模型。
52.作为示例，上述各示例中，所述检测模型均可以为但不仅限于缺陷检测模型。
53.本发明的检测模型自动匹配部署系统具有如下有益效果：
54.(1)管理能力强：实现了工厂内所有算法服务器的调度和使用状态管理。
55.(2)自动化：实现了自动化下发部署光伏缺陷检测模型到目标算法服务器2。
56.(3)可扩展性强：新的算法服务器可直接在服务器信息列表中注册，注册完成即投入使用。
57.(4)便利性：相比于人工部署模型，该方案操作简单，大大减少了重复繁琐的人工操作，节约了宝贵的人力成本。
58.(5)专业性：针对研发的光伏el智能缺陷检测系统的特性，设计研发的专属于该系统的缺陷检测模型部署机制。
59.实施例二
60.请结合图1参阅图2，本实施例中还提供一种检测模型自动匹配部署方法，所述检测模型自动匹配部署方法基于如实施例一中的所述的检测模型自动匹配部署系统而执行，所述检测模型自动匹配部署方法包括：
61.s10：所述算法服务器自动匹配系统基于检测模型的运行要求选择匹配的算法服务器作为目标算法服务器，并向所述目标算法服务器自动下发所述检测模型文件；
62.s20：所述目标算法服务器为所述检测模型文件对应的检测模型提供运行环境，并部署运行所述检测模型。
63.对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
64.此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。