本技术提出了一种支持模型动态发布的系统,系统位于云端,包括六个功能模块:模型上线模块、模型仓库、模型商店、模型交易模块、模型更新模块、模型监控模块,模型上线模块的输出连接模型仓库的输入,模型仓库的输出连接模型商店和模型更新模块的输入,模型商店的输出连接模型交易模块的输入,模型交易模块与模型仓库连接,模型更新模块的输出连接模型上线模块的输入,模型交易模块、模型更新模块、模型监控模块与边缘端的使用者集群连接,模型监控模块的输入连接所有模块的输出。该系统能自动化地完成模型的验证、发布和更新过程,实现了模型发布的实时性和安全性,能够提高模型发布和部署效率、促进模型快速迭代及增强系统可使用性。
背景技术
随着信息技术的迅猛发展,工业互联网等新兴应用场景层出不穷,这些场景对数据的精准感知能力以及实时响应等方面提出了更高的要求。同时,近年来人工智能领域取得了显著进步,智能模型在边缘端部署也逐渐成为了业界关注的焦点,越来越多的应用场景需要使用智能模型。模型发布作为连接智能模型开发与使用者的关键环节,其效率和灵活性直接影响了模型的竞争力。
现有模型发布技术考虑了不同目标部署系统的类型差异,一定程度上简化了模型发布流程,然而现有发布技术只考虑了模型的单次发布,缺乏动态调整的能力,这意味着在系统模型确定之后,任何变动都需要经过繁琐的重新发布过程,不仅耗时费力,还可能引入新的风险。此外,现有技术在发布过程中缺乏智能化的支持,往往依赖于人工操作,流程繁琐、灵活性差,容易出现人为错误,且难以保证发布的一致性和可追溯性,面对大规模的系统和复杂的依赖关系时人工操作往往效率低下,难以满足快速迭代和实时响应的需求。
实现思路