一种面向图神经网络的可视化管理系统

文档序号:32790602发布日期:2023-01-03 20:53阅读:43来源:国知局
一种面向图神经网络的可视化管理系统

1.本发明涉及图神经网络技术领域,尤其涉及一种面向图神经网络的可视化管理系统。


背景技术:

2.在现阶段的科研工作中存在大量的图结构数据,如:社交网络、交通网络、犯罪集团组织、蛋白质网络等,图数据更加贴近现实场景中网络拓扑结构关系,蕴含了更加丰富的信息。近年来,图神经网络(gnn)模型快速发展,其能够综合挖掘图数据的拓扑结构信息与节点自身属性信息,已经在金融反欺诈,社交网络,用户推荐,生物医药等多个领域有很多成功的应用实例。
3.图神经网络模型的训练过程一般为加载图结构数据集、构建图神经网络模型、图神经网络模型的训练、图神经网络模型日志的训练与分析调整图神经网络的参数从而训练出针对某个数据集最优图神经网络模型。现有技术缺少能够进行持久化存储和管理的方案,因此,亟需一种能够有效存储图数据以及管理图神经网络模型的管理系统,简化训练和评估流程。


技术实现要素:

4.本发明实施例提供了一种面向图神经网络的可视化管理系统,以消除或改善现有技术中存在的一个或更多个缺陷,解决现有技术中无法高效管理图数据集并调用图神经网络进行训练分析的问题。
5.本发明的技术方案如下:
6.一方面,本发明提供一种面向图神经网络的可视化管理系统,包括:
7.图数据集分析及可视化模块,用于获取用户上传的一个或多个图数据集并按照设定存储标准进行存储,生成图数据集信息表以及基于预设可视化库对各图数据集进行可视化展示;
8.模型结构搭建及训练模块,包括层内模块、层间模块和模型参数模块,用于组块化构建一种或多种图神经网络模型,以及调用指定的图数据集对指定的图神经网络模型进行训练并生成模型信息表;
9.日志管理模块,用于记载各图神经网络模型的上传、修改、删除、训练和调用日志,各日志记载相应操作后图神经网络模型的参数值,根据各日志生成日志信息表进行管理和可视化分析;
10.参数调优模块,用于对各图神经网络模型进行参数调优并生成调优信息表;
11.所述图数据集分析及可视化模块、所述模型结构搭建及训练模块、所述日志管理模块以及所述参数调优模块之间通过应用程序编程接口连接。
12.在一些实施例中,所述图数据集分析及可视化模块将各图数据集按照设定比例划分为训练集、测试集和验证集。
13.在一些实施例中,所述图数据集分析及可视化模块,还用于:采用networkx和dgl提取各图数据集的图结构特征信息并保存在mongodb数据库。
14.在一些实施例中,所述图数据集分析及可视化模块,还用于:采用echarts将各图数据集的图结构特征信息通过表格、节点度分布线状图和/或图部分节点连接力状图进行可视化展示。
15.在一些实施例中,所述图数据集分析及可视化模块,还用于:获取各图数据集的图结构特征信息对应表格、节点度分布线状图和/或图部分节点连接力状图的差异部分,并进行高亮显示。
16.在一些实施例中,所述模型结构搭建及训练模块用于对各图神经网络模型进行组件化管理,至少记录每个图神经网络的模型名称、与各图神经网络相关的图数据集、各图神经网络包含的模块信息、各图神经网络的参数和各图神经网络的训练结果指标;
17.其中,所述模块信息包括组成每个图神经网络的一个或多个子模块信息、各子模块之间的关联结构以及各子模块的默认值和参数范围。
18.在一些实施例中,所述模型结构搭建及训练模块,还用于:
19.接收用户对第一指定图神经网络模型的参数设置请求,并将所述用户的预设参数通过json共享文件进行存储和调用,以在所述预设参数的基础上对所述第一指定图神经网络模型进行训练。
20.在一些实施例中,所述日志管理模块,还用于:
21.获取用户针对第二指定图神经网络模型选择的一个或多个待分析参数项;
22.通过查找所述日志信息表和调优信息表,基于控制变量的方式查找所述第二指定图神经网络模型中各待分析参数项不一致而其余参数项一致的训练批次,获取相应训练批次的模型训练效果,以比对评价各待分析参数项对所述第二指定图神经网络模型训练效果的影响关系。
23.在一些实施例中,所述日志管理模块,还用于:
24.查询所述日志信息表以拆分每个日志中各参数默认参数值在数据库中的键值对信息;若所述日志中存在模型参数缺失,则根据相应的键值对信息调用默认参数值填入补齐,并更新日志;
25.以及,对所述日志信息表按照设定规则进行调优并可视化。
26.在一些实施例中,所述参数调优模块,还用于:根据所述调优信息表生成调优目标曲线进行可视化呈现。
27.本发明的有益效果至少是:
28.本发明所述面向图神经网络的可视化管理系统,通过图数据集分析及可视化模块规范图数据集的存储标准,并利用可视化库对图数据集进行可视化展示,对比图数据集差异。通过模型结构搭建及训练模块组件化构建图神经网络模型实现灵活调用、自定义、训练和分享,简化开发步骤通过日志管理模块记录对图神经网络模型的操作,记载训练后的模型参数并建立日志,通过日志进行规范化存储,并进行可视化地对比分析,在此基础上对模型进行参数调优并记录结果,随时调用优化后的模型参数。构建应用程序编程接口连接各模块,根据用户需求随时调用展示图数据集以及优化后图神经网络模型,实施训练任务或模型评估,提高了开发效率。
29.本发明的附加优点、目的,以及特征将在下面的描述中将部分地加以阐述,且将对于本领域普通技术人员在研究下文后部分地变得明显,或者可以根据本发明的实践而获知。本发明的目的和其它优点可以通过在书面说明及其权利要求书以及附图中具体指出的结构实现到并获得。
30.本领域技术人员将会理解的是,能够用本发明实现的目的和优点不限于以上具体所述,并且根据以下详细说明将更清楚地理解本发明能够实现的上述和其他目的。
附图说明
31.此处所说明的附图用来提供对本发明的进一步理解,构成本技术的一部分,并不构成对本发明的限定。在附图中:
32.图1为本发明一实施例所述面向图神经网络的可视化管理系统的结构示意图。
33.图2为本发明一实施例所述面向图神经网络的可视化管理系统的系统架构图。
34.图3为本发明一实施例所述面向图神经网络的可视化管理系统的系统技术流程图。
35.图4为本发明一实施例所述面向图神经网络的可视化管理系统中日志上传流程图。
36.图5为本发明一实施例所述面向图神经网络的可视化管理系统中日志管理模块的使用流程图。
37.图6为本发明一实施例所述面向图神经网络的可视化管理系统中参数调优模块的参数调优流程图。
具体实施方式
38.为使本发明的目的、技术方案和优点更加清楚明白,下面结合实施方式和附图,对本发明做进一步详细说明。在此,本发明的示意性实施方式及其说明用于解释本发明,但并不作为对本发明的限定。
39.在此,还需要说明的是,为了避免因不必要的细节而模糊了本发明,在附图中仅仅示出了与根据本发明的方案密切相关的结构和/或处理步骤,而省略了与本发明关系不大的其他细节。
40.应该强调,术语“包括/包含”在本文使用时指特征、要素、步骤或组件的存在,但并不排除一个或更多个其它特征、要素、步骤或组件的存在或附加。
41.在此,还需要说明的是,如果没有特殊说明,术语“连接”在本文不仅可以指直接连接,也可以表示存在中间物的间接连接。
42.现阶段,图结构数据集管理系统无法支持用户上传自定义的数据集,不支持两个数据集之间的对比。图神经网络模型的构建和训练,一般在专门的代码编写软件中编写搭建。图数据集分析、模型搭建、日志分析、自动参数调优等操作是分离开来处理的,用户需要去其他平台进行分析或编写代码实现功能,这样用户对图神经网络模型操作和训练过程并不连贯,无法将各个模块的协作起来帮助用户更好的进行研究。
43.并且现有的图神经网络训练平台,对用户模型训练缺乏日志管理,无法提供日志保存与日志管理服务,用户只能手动将日志文件保存下来,编写脚本去分析相关信息。现有
的深度学习日志可视化系统,只能在日志信息部署好之后对日志信息进行可视化,且只能针对单一模型的日志进行可视化,对于图神经网络模型结构与调优参数模块等没有进行区分,也不支持多模型日志之间的差异对比。
44.用户对图神经网络模型的日志分析之后,可能选择手动调整参数重新训练模型或选择特定参数进行模型的自动参数调优,现有的自动参数调优功能只能黑盒的进行参数调优,如果中间被打断之后只能重新开始而神经网络模型的调优时间又较长,这样的图神经网络模型自动参数调优即耗时且稳定性也很差。
45.所以现有技术的缺点可以总结为:
46.1)不支持自动化可视化用户自定义数据集的图结构特征,在日志可视化分析中不能可视化对比图数据集结构之间的差异。
47.2)现有技术仅支持用户将日志文件上传之后进行相关日志的参数结果可视化,不支持持续性的模型日志可视化,不能结构性地区分出模型、数据集、结构参数、训练参数等之间的差异,不支持对多个参数组合差异的筛选,如:对不同模型的多个参数作为一组,来对比不同的组合可能对模型训练产生的影响,现有的系统不支持对模型日志分组可视化功能。
48.3)现有系统中,用户在分析了日志参数影响之后并不能快速的进行相关模型的自动化参数调优,同时已有的深度神经网络模型的自动参数调优不能可视化监控,且调优速度较慢。
49.4)现有管理系统日志管理和模型训练两部分是分开的,两者之间的无法交互,使得用户在研究开发模型组合形成最优参数的过程效率低下,连贯性差。
50.因此,本发明提供一种面向图神经网络的可视化管理系统,如图1所示,包括:图数据集分析及可视化模块、模型结构搭建及训练模块、日志管理模块和参数调优模块,图数据集分析及可视化模块、模型结构搭建及训练模块、日志管理模块以及参数调优模块之间通过应用程序编程接口连接。
51.图数据集分析及可视化模块用于获取用户上传的一个或多个图数据集并按照设定存储标准进行存储,生成图数据集信息表以及基于预设可视化库对各图数据集进行可视化展示。
52.模型结构搭建及训练模块包括层内模块、层间模块和模型参数模块,用于组块化构建一种或多种图神经网络模型,以及调用指定的图数据集对指定的图神经网络模型进行训练并生成模型信息表。
53.日志管理模块用于记载各图神经网络模型的上传、修改、删除、训练和调用日志,各日志记载相应操作后图神经网络模型的参数值,根据各日志生成日志信息表进行管理和可视化分析。
54.参数调优模块用于对各图神经网络模型进行参数调优并生成调优信息表。
55.本实施例中,各模块所构成的系统架构,如图2所示,可以表述为5个层面,分别是:硬件层、持久化层、模型层、后端层和前端层。
56.其中,硬件层中,图数据集分析及可视化模块、模型结构搭建及训练模块、日志管理模块和参数调优模块可以采用计算机处理器或单片机等能够存储和执行计算机程序的电子设备,实际应用过程中,可以采用中央处理器(cpu),由于涉及到图神经网络模型的训
练,所以模型结构搭建及训练模块可以采用图形处理器(gpu)。
57.持久化层也即数据存储和管理层层面,本实施例中,可以基于使用nosql数据库如mongodb存储相关数据信息,具体的,存储图数据集分析及可视化模块生成的图数据集信息表,用于存储图数据集的结构特征信息;存储模型结构搭建及训练模块生成的模型信息表,用于存储模型的结构定义信息;存储日志管理模块的日志信息表,用于存储模型相关的训练日志信;存储参数调优模块生成的调优信息表,用于存储自动调优过程的信息。
58.在模型层可以基于已有的图神经网络开发技术库实现,如dgl(deep graph library)库、networkx或pytorch,包括图结构信息提取模块(即图数据集分析及可视化模块),图神经网络模型训练模块(即模型结构搭建及训练模块)以及自动参数调优工具(即参数调优模块)。图结构信息提取模块中,用户上传完数据集后通过dgl和networkx构建成图,自动提取图结构相关特征并存储到图数据信息表中。
59.图神经网络模型训练模块实现了常规的图卷积神经网络(gcn)、图注意力神经网络(gat)、graphsage等,此外对gnn设计空间进行模块化、组件化,划分为:层内模块(intra-layer module)、层间模块(inter-layer module)、模型参数模块(parameters)三部分,用户可以设计组合不同的子模块,并设置参数空间生成并训练新的图神经网络模型。
60.自动参数调优工具基于自动参数调优工具包如:hyperopt参数调优包结合系统实现的图神经网络模型启动图神经网络模型的自动参数调优并使用netstat实时监控调优进程将调优状态信息存储到调优信息表中。
61.在后端层,基于python的开放框架通过资源定位符配置了响应前端的路由,如django框架:利用视图函数(views)对资源定位符的路由定义相关函数返回响应的视图,利用模板设计前端html网页模板。
62.代码函数可以采用python中的pymongo灵活增删改查mongodb数据库中的数据。后端层可以通过json共享文件的形式实现相关参数的消息传递,用subprocess中的popen启动新的进程训练图神经网络模型并监控返回的进程号。前后端通过ajax进行数据的交互。
63.前端层可以使用html、bootstrap、javascript、jquery等完成界面的设计。使用了jupyter notebook和iframe将系统界面嵌入到了jupyter notebook的代码编写中,使用户灵活便利的使用系统。
64.前端层主要设计了七个界面:
65.第一,图数据集上传/结构可视化界面,用于适配图数据集分析及可视化模块,实现图数据集的增删改查、已提取的图数据集结构特征的可视化。
66.第二,图数据集对比界面,用于适配图数据集分析及可视化模块,实现对不同图数据集结构特征的差异的对比与相似度的计算。
67.第三,模型信息管理界面,用于适配模型结构搭建及训练模块,实现对图神经网络模型结构信息的定义与结构的管理。
68.第四,模型训练界面,用于适配模型结构搭建及训练模块,实现图神经网络模型快速组合与模型训练。
69.第五,日志信息管理分析界面,用于管理日志管理模块,持久化、规范化的存储模型训练日志信息,并支持快速筛选日志参数查询、日志分组、日志对比。
70.第六,自动调优监控界面,用于管理参数调优模块,支持启动自动参数调优并对调
优进行实时监控。
71.第七,jupyter notebook界面,用于自定义构建应用程序编程接口(api)接口,使用了iframe将系统嵌入到代码编写中,开放实现了图数据集训练接口、模型结构定义接口、模型训练与日志管理接口、自动调优接口,对应着用户研究图神经网络模型的常规流程。
72.下面基于图神经网络模型的开发流程对本实施例所述面向图神经网络的可视化管理系统进行说明,具体流程包括:图数据集分析及可视化

图神经网络模型结构定义训练

模型训练日志管理及可视化分析

模型自动参数调优及监控。上述构建的系统通过iframe将相关的api嵌入到jupyter notebook,在代码编写中直接调用对应的系统界面api。
73.本系统执行步骤包括:
74.第一步:图数据集图结构特征进行可视化,使得用户开发模型前能够可视化图数据结构特征,分析对比不同图数据结构特征的差异,同时也在日志可视化分析时能够可视化分析对比不同数据集图结构特征对日志的影响。
75.第二步:图神经网络模型结构的定义,既定义了用于训练的图神经网络模型,同时也可以定义针对相应图神经网络模型结构特征的日志管理结构。
76.第三步:日志可视化管理,以第二步模型结构定义为基础构建结构化管理日志,同时支持不同图神经网络模型的参数的对比,支持参数分组的功能对比。
77.第四步:自动参数调优,使得用户在分析完图神经网络模型参数后,快速进行自动参数调优,以日志管理功能为基础进行可视化的自动参数调优监控,并以预先存储和管理的历史调优信息表加速了自动参数调优过程。
78.以上四步通过在系统中嵌入了一个jupyter notebook,构建功能的快速接口,使得用户在图神经网络模型代码开发过程中方便快捷的调用相关功能,提高了与用户的交互性,提高了开发研究效率。
79.具体的,如图3所示,图数据集分析及可视化模块实现图数据集分析和可视化功能,系统的前端层支持用户上传图数据集,后端层将用户上传的数据集持久化、规范化存储到指定文件中并将路径规范化的管理起来,自动划分出训练集、测试集、验证集。具体的,图数据集分析及可视化模块将各图数据集按照设定比例划分为训练集、测试集和验证集。
80.图数据集分析及可视化模块基于networkx和dgl(deep graph library是一个在图上做深度学习的框架)将图数据集构建成图,提取各图数据集的图结构特征信息并保存到mongodb中的图数据信息表中。
81.图数据集分析及可视化模块还采用echarts将各图数据集的图结构特征信息通过表格、节点度分布线状图和/或图部分节点连接力状图进行可视化展示。自动对比两个图数据集的差异并在前端通过高亮标注显示出数据集特征之间的差异。
82.如图3所示,模型结构搭建及训练模块用于实现模型结构搭建与训练,系统的后端层可以基于dgl搭建了多种常规的图神经网络模型gcn、gat、graphsage等。综合分析图神经网络模型(gnn)模型结构空间,可以将gnn模型进行模块化、组件化,包括:层内模块、层间模块和模型参数模块三个主要模块,支持用户组合各模块生成多种gnn模型的变体,从而找到适合自己图数据集的gnn模型。在一些实施例中,模型结构搭建及训练模块用于对各图神经网络模型进行组件化管理,至少记录每个图神经网络的模型名称、与各图神经网络相关的
图数据集、各图神经网络包含的模块信息、各图神经网络的参数和各图神经网络的训练结果指标;其中,模块信息包括组成每个图神经网络的一个或多个子模块信息、各子模块之间的关联结构以及各子模块的默认值和参数范围。模型结构搭建及训练模块,还用于:接收用户对第一指定图神经网络模型的参数设置请求,并将用户的预设参数通过json共享文件进行存储和调用,以在预设参数的基础上对第一指定图神经网络模型进行训练。
83.模型结构搭建及训练模块构建模型信息表将模型相关的特征信息管理起来,该表将模型划分为:模型名称(modelname)、模型相关的图数据集(dataname)、模型子模块信息(modules,记录构成图神经网络模型的子模块信息,其中每个子模块包含了默认值和参数值范围)、参数信息(parameters,记录模型相关的参数,每个parameter包含了默认值和值范围),模型输出的训练结果指标(result),以及模型的可能包含一些其他的信息(others)。
84.模型结构搭建及训练模块通过模型信息表将任意模型结构化、规范化的管理起来。用户实现新的模型或者在已有模型中添加一个新的模块组件时,可以在前端系统提供模型定义与修改界面上传模型的模块定义,所述系统会自动将模型模块更新到模型信息表中管理起来,并同步到后续的日志管理功能与自动调优功能中。
85.在对gnn模型的训练过程中,所述系统在前端给出了这些gnn模块化的接口,用户可以直接在前端设置参数了直接启动一个自定义的gnn模型训练,系统会将前端出传入的参数通过json共享文件进行信息传递,通过subprocess根据接收的参数启动对应模型的训练,所述系统中模型训练产生的日志会自动保存到日志信息表中。
86.如图3所示,日志管理模块实施日志管理,在日志管理模块中实现对模型训练日志的持久化管理与可视化分析,主要包含日志上传、多模型日志关键字筛选可视化、日志分组和日志对比四个功能。所述系统基于模型信息表与日志信息表协同对模型的管理与分析,日志信息表中存储多图神经网络模型的日志,其中每条数据记载一条训练日志数据。
87.在一些实施例中,日志管理模块还用于:查询日志信息表以拆分每个日志中各参数默认参数值在数据库中的键值对信息;若日志中存在模型参数缺失,则根据相应的键值对信息调用默认参数值填入补齐,并更新日志;以及,对所述日志信息表按照设定规则进行调优并可视化。具体的,日志管理模块中,日志上传功能如图4所示,首先调用init方法连接数据库mongodb,连接数据库之后调用uploadlog方法上传字符串类型的日志信息,所述系统自动拆分出日志参数的键值对信息,根据每条日志中的modelname查询模型信息表中对应模型定义的参数,如果上传的日志中缺少某些参数信息,则自动填入默认的模型信息表中对应的默认参数值,如果不缺失则填入提取日志的对应参数值,最终将完整的模型日志信息存储到日志信息表中。这样每条日志与模型信息表中对应模型的参数是一一对应的,从而将日志规范化管理。所述系统同时开发了一个日志上传的工具包,用户在本地编译环境中训练自定义的模型时,可以在代码中调用工具包,将模型训练的日志实时的上传到日志信息表中。
88.所述系统实现了对日志信息进行可视化,如图5所示,首先通过模型信息表给出可以选择查看的模型列表,用户在前端层可以选择要查看的模型。用户如果选择了单个模型,系统将查询模型信息表中的对应模型参数信息并返回;如果选择多个模型,系统通过查询模型信息表对应模型的参数,作交集取出对应多个模型共有的参数并返回,可以包括
dataname、modules、parameters、results和others五组参数。
89.在返回用户选择的单个或多个模型的相关参数之后,用户在这些参数中选择想要查看的日志参数,系统根据用户选择的参数查询日志信息表中对应的训练日志,返回对应的查询参数的日志信息表进行可视化,使得用户可以精准、便捷的关注自己研究的日志参数内容,去除了冗余的信息。前端展示了用户查看模型的概要参数信息后,用户可点击某条日志直接进入查看该日志详细的信息。
90.在一些实施例中,日志管理模块还用于:获取用户针对第二指定图神经网络模型选择的一个或多个待分析参数项。通过查找日志信息表和调优信息表,基于控制变量的方式查找第二指定图神经网络模型中各待分析参数项不一致而其余参数项一致的训练批次,获取相应训练批次的模型训练效果,以比对评价各待分析参数项对第二指定图神经网络模型训练效果的影响关系。
91.具体的,所述系统支持用户选择参数对日志进行分组,用户选择了待分析参数后,所述系统会根据模型信息表中记载的模型参数与日志信息表中记载的训练得到的模型参数对日志分组,将除了待分析参数以外的其他参数的值完全相同的日志划分至相同组,并在前端层通过不同的颜色区分不同的组,实现快速查看某个或多个待分析参数变化时对模型结果的影响。用户选择多个日志进行对比,所述系统会跳转到日志对比界面,所述系统分析对比选中多个日志的差异,给出这几个日志中具体的参数的差异及每条日志数据的具体信息,并将差异的参数值进行高亮现实,用户可以点击查看日志结果与最优日志结果的模型参数之间的差异。
92.如图3所示,参数调优模块用于对图神经网络模型的参数进行自动调优,在hyperopt工具包基础上设计开发了图神经网络模型的自动参数调优功能,如图6所示,模型信息表中某个模型的参数分为两类:调优参数与默认参数。调优参数为需要调优算法进行调优的参数,用户可以自定义参数调优范围;默认参数为不需要调优参数,参数值支持用户自定义一个参数值也可以直接使用模型信息表中默认的参数值。
93.用户启动参数调优功能时,会对该次调优过程生成一个调优日志保存到表中,所述系统会将调优进程记录下来并进行监控进程是否在运行。调优时,所述系统会根据从每个调优参数的调优范围中选择一个值结合默认参数生成一个模型参数组合,启动一个模型的训练,所述系统在启动模型训练前会从日志信息表中查看是否有已经训练完成的模型日志,如果有直接调用该日志的结果信息,来实现加速调优,否则启动该参数组合的模型进行训练保存日志结果。
94.自动参数的调优过程中每次模型调优的训练日志都会存储起来并在前端界面进行可视化,用户可以在随时查看每次调优训练过程产生调优目标曲线及相关的模型参数日志的详细信息。
95.进一步的,本实施例还通过内嵌jupyter notebook开发api,在系统界面中嵌入jupyter notebook编译界面,并且通过iframe实现了三个接口界面:数据集接口界面、模型结构定义接口界面,以及日志管理与自动参数调优接口界面。用户在编译实现自定义模型时,可以在jupyter notebook代码编写时调用接口,其中,数据集接口用于可视化数据集上传查看图数据结构特征;模型结构定义接口用于可视化定义网络模型结构,启动模型训练;模型训练与日志管理用于在模型训练中可视化分析历史模型训练日志;自动参数调优接口
用于自动参数调优实现最优参数组合模型。最终实现了边写代码边对图神经网络模型与日志可视化的管理与分析。
96.在一些实施例中,参数调优模块还用于:根据调优信息表生成调优目标曲线进行可视化呈现。
97.本发明构建了图结构数据结构可视化、图神经模型模块组合训练,实时多模型多日志管理与高效分析对比的一体化、接口化的系统平台。相对于以往的图神经网络模型的开发时单一地进行模型开发与训练,将图数据可视化、模型训练日志管理、模型调优结合到了图神经网络模型开发中,为用户提供了一个平台并实现了便利化的接口,使得用户开发过程中快速的调用每个模块的功能,提高了开发效率。
98.通过面向图神经网络模型的多模型训练日志分析,对图神经网络模型实现了结构化的管理,将模型通过系统设计的结构化模块表示出来。基于模型结构化管理基础上实现了对模型训练日志实现了规范化持久化的管理。支持多种模型日志的管理,快速比较多种模型特定模块的训练日志结果之间的异同,实现可视化分析对比,为用户模型分析与开发提供了便利。
99.结合了模型结构化管理与日志结构化管理,实现了自动调优的实现监控与可视化监控,通过查询历史日志加速了调优过程。解决了以往深度神经网络模型自动参数调优过程不可监控与速度慢的缺点。
100.综上所述,本发明所述面向图神经网络的可视化管理系统,通过图数据集分析及可视化模块规范图数据集的存储标准,并利用可视化库对图数据集进行可视化展示,对比图数据集差异。通过模型结构搭建及训练模块组件化构建图神经网络模型实现灵活调用、自定义、训练和分享,简化开发步骤通过日志管理模块记录对图神经网络模型的操作,记载训练后的模型参数并建立日志,通过日志进行规范化存储,并进行可视化地对比分析,在此基础上对模型进行参数调优并记录结果,随时调用优化后的模型参数。构建应用程序编程接口连接各模块,根据用户需求随时调用展示图数据集以及优化后图神经网络模型,实施训练任务或模型评估,提高了开发效率。
101.本领域普通技术人员应该可以明白,结合本文中所公开的实施方式描述的各示例性的组成部分、系统和方法,能够以硬件、软件或者二者的结合来实现。具体究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(asic)、适当的固件、插件、功能卡等等。当以软件方式实现时,本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、rom、闪存、可擦除rom(erom)、软盘、cd-rom、光盘、硬盘、光纤介质、射频(rf)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
102.还需要说明的是,本发明中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或系统。但是,本发明不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
103.本发明中,针对一个实施方式描述和/或例示的特征,可以在一个或更多个其它实施方式中以相同方式或以类似方式使用,和/或与其他实施方式的特征相结合或代替其他实施方式的特征。
104.以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明实施例可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1