技术编号:38586372
提示:您尚未登录,请点 登 陆 后下载,如果您还没有账户请点 注 册 ,登陆完成后,请刷新本页查看技术详细信息。本申请涉及模型转换推理,特别是涉及一种模型优化方法、模型优化装置以及计算机存储介质。背景技术、深度学习技术实际应用,涉及到神经网络模型部署,模型部署主要分为两个阶段,模型转换与模型推理。模型转换指将训练的模型转换到目标平台的模型格式,目的是对模型进行优化,通过图优化、最优算子选择等方式提升推理性能。模型推理指运行时库通过加载转换后模型,在指定设备上按照模型进行计算的过程,推理性能与算子优化情况强相关。、目前已有的推理算子优化主要是基于优化工程师针对算子的进行通用编码,需要考虑大量算子入参,针...
注意:该技术已申请专利,请尊重研发人员的辛勤研发付出,在未取得专利权人授权前,仅供技术研究参考不得用于商业用途。
该专利适合技术人员进行技术研发参考以及查看自身技术是否侵权,增加技术思路,做技术知识储备,不适合论文引用。
请注意,此类技术没有源代码,用于学习研究技术思路。