一种支持模型动态发布的系统

文档序号:41017747发布日期:2025-02-21 19:24阅读:8来源:国知局
一种支持模型动态发布的系统

本发明涉及智能模型发布领域。


背景技术:

1、随着信息技术的迅猛发展,工业互联网等新兴应用场景层出不穷,这些场景对数据的精准感知能力以及实时响应等方面提出了更高的要求。同时,近年来人工智能领域取得了显著进步,智能模型在边缘端部署也逐渐成为了业界关注的焦点,越来越多的应用场景需要使用智能模型。模型发布作为连接智能模型开发与使用者的关键环节,其效率和灵活性直接影响了模型的竞争力。

2、现有模型发布技术考虑了不同目标部署系统的类型差异,一定程度上简化了模型发布流程,然而现有发布技术只考虑了模型的单次发布,缺乏动态调整的能力,这意味着在系统模型确定之后,任何变动都需要经过繁琐的重新发布过程,不仅耗时费力,还可能引入新的风险。此外,现有技术在发布过程中缺乏智能化的支持,往往依赖于人工操作,流程繁琐、灵活性差,容易出现人为错误,且难以保证发布的一致性和可追溯性,面对大规模的系统和复杂的依赖关系时人工操作往往效率低下,难以满足快速迭代和实时响应的需求。


技术实现思路

1、为了解决智能模型发布流程繁琐、灵活性差的问题,本发明提出了一种支持模型动态发布的系统,该系统能够自动完成模型的验证、发布和更新过程,实现了模型发布的实时性和安全性,能够提高模型发布和部署效率,促进模型快速迭代。

2、本发明技术方案:

3、一种支持模型动态发布的系统,系统位于云端,包括六个功能模块:模型上线模块、模型仓库、模型商店、模型交易模块、模型更新模块、模型监控模块,模型上线模块的输出连接模型仓库的输入,模型仓库的输出连接模型商店和模型更新模块的输入,模型商店的输出连接模型交易模块的输入,模型交易模块与模型仓库连接,模型更新模块的输出连接模型上线模块的输入,模型交易模块、模型更新模块、模型监控模块与边缘端的使用者集群连接,模型监控模块的输入连接所有模块的输出;

4、所述模型上线模块用于模型的上传、测试和发布;

5、所述模型仓库用于存储和管理模型上线模块中模型开发者上传的模型文件及其元数据,支持版本控制、标签管理、搜索查询功能,模型仓库中以容器镜像的形式存储模型及其基础信息;

6、所述模型商店以列表形式展示模型仓库中已发布的模型及其基础信息,通过模型交易模块向模型使用者提供模型订阅和部署服务;

7、所述模型交易模块用于进行模型的交易;

8、所述模型更新模块处理模型更新;

9、所述模型监控模块在系统的全生命周期中实时监控模型及整个模型发布系统的运行状态。

10、本发明提出了一种支持模型动态发布的系统,该系统能自动化地完成模型的验证、发布和更新过程,实现了模型发布的实时性和安全性,能够提高模型发布和部署效率、促进模型快速迭代及增强系统可使用性。

11、本发明具有如下优点和有益效果:

12、(1)本发明支持各种类型模型的动态发布,当模型调整时系统能够实时响应完成发布的更新,简化了发布流程,提高了系统的实时性;

13、(2)本发明使用kubernetes、ci/cd等技术实现模型的自动化发布,开发者只需要专注于模型的开发而不需要关注模型发布的具体流程,降低了开发难度,提高了模型发布效率。



技术特征:

1.一种支持模型动态发布的系统,其特征在于,系统位于云端,包括六个功能模块:模型上线模块、模型仓库、模型商店、模型交易模块、模型更新模块、模型监控模块,模型上线模块的输出连接模型仓库的输入,模型仓库的输出连接模型商店和模型更新模块的输入,模型商店的输出连接模型交易模块的输入,模型交易模块与模型仓库连接,模型更新模块的输出连接模型上线模块的输入,模型交易模块、模型更新模块、模型监控模块与边缘端的使用者集群连接,模型监控模块的输入连接所有模块的输出;

2.如权利要求1所述的一种支持模型动态发布的系统,其特征在于,

3.如权利要求2所述的一种支持模型动态发布的系统,其特征在于,系统中主要包含系统管理员、模型开发者、模型使用者三种用户;其中,

4.如权利要求2所述的一种支持模型动态发布的系统,其特征在于,所述模型上线模块中,模型的上传、测试和发布具体包括如下步骤:

5.如权利要求2所述的一种支持模型动态发布的系统,其特征在于,所述模型交易模块中,模型的交易包括如下步骤:

6.如权利要求2所述的一种支持模型动态发布的系统,其特征在于,所述模型更新模块中,模型更新具体包括如下步骤:

7.如权利要求2所述的一种支持模型动态发布的系统,其特征在于,模型监控模块在系统的全生命周期中实时监控模型及整个模型发布系统的运行状态,模型的监控具体包括如下步骤:


技术总结
本发明提出了一种支持模型动态发布的系统,系统位于云端,包括六个功能模块:模型上线模块、模型仓库、模型商店、模型交易模块、模型更新模块、模型监控模块,模型上线模块的输出连接模型仓库的输入,模型仓库的输出连接模型商店和模型更新模块的输入,模型商店的输出连接模型交易模块的输入,模型交易模块与模型仓库连接,模型更新模块的输出连接模型上线模块的输入,模型交易模块、模型更新模块、模型监控模块与边缘端的使用者集群连接,模型监控模块的输入连接所有模块的输出。该系统能自动化地完成模型的验证、发布和更新过程,实现了模型发布的实时性和安全性,能够提高模型发布和部署效率、促进模型快速迭代及增强系统可使用性。

技术研发人员:柳先辉,胡逸寒,赵卫东
受保护的技术使用者:同济大学
技术研发日:
技术公布日:2025/2/20
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1