一种面向视频监控的目标检测模型量化精度损失建模方法与流程

本发明涉及电数字数据处理领域，更确切地说，它涉及一种面向视频监控的目标检测模型量化精度损失建模方法。

背景技术：

1、在过去的几年里，目标检测模型的准确性有了显著的提高，而这通常是通过过度参数化的模型来实现的，即模型的参数量和计算量也明显增大。因此，在部署目标检测模型时面临着这样一个问题，即如何在资源有限的边缘设备上进行低能耗和高精度的实时推理任务。

2、量化将神经网络模型的权值、激活值等从高精度浮点数转换成低精度浮点数或整数，其关键在于如何将一组连续的实数映射到一个固定的离散数集上，并且在最小化该离散数集所需的比特数的同时尽量减少计算准确性的下降。模型量化能够有效地减少模型的计算量、权值文件大小等，便于将模型部署至资源受限的环境中。

3、量化的基本原理是在定点和浮点数据中间构建一个数据映射关系，致使其以较小的精度损失代价得到了较好的收益。现有的先进量化方法包括混合精度量化、硬件感知量化、蒸馏辅助量化、极端量化等。然而，目前的模型量化方法存在精度损失大、鲁棒性差等问题，其根本原因在于量化过程中产生计算精度损失的机理不清。

技术实现思路

1、本发明的目的是克服现有技术中的不足，提供了面向视频监控的目标检测模型量化精度损失建模方法，针对目标检测模型量化过程中产生计算精度损失机理不清的问题，本方案采用量化前与量化后的模型输出的信号量化噪声比(signal-to-quantization-noise ratio,sqnr)作为模型量化精度损失的度量标准，并且创新性地采用基于信号量化噪声比度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒。

2、第一方面，提供了面向视频监控的目标检测模型量化精度损失建模方法的方法，包括：

3、步骤1、获取量化前目标检测模型w和量化后目标检测模型w′，将一组测试数据x分别输入到所述量化前目标检测模型w和所述量化后目标检测模型w′进行前向运算，得到量化前模型输出y，量化后模型输出y′；

4、步骤2、计算量化前与量化后模型输出的信号量化噪声比sqnr(y,y′)；

5、步骤3、根据所述信号量化噪声比sqnr(y,y′)进行反向传播，计算量化前模型梯度；

6、步骤4、计算所述量化前模型梯度的绝对值并对其进行归一化得到将绘制成热力图，并定位量化误差产生的参数位置。

7、作为优选，步骤1中，所述量化前目标检测模型为yolox目标检测模型。

8、作为优选，步骤2中，信号量化噪声比sqnr(y,y′)的计算公式为：

9、

10、其中，ynoise为量化对模型输出产生的噪声。

11、作为优选，步骤3中，量化前模型梯度的计算公式为：

12、

13、作为优选，步骤4中，的计算公式为：

14、

15、第二方面，提供了一种面向视频监控的目标检测模型量化精度损失建模装置，用于执行第一方面任一所述的面向视频监控的目标检测模型量化精度损失建模方法，包括：

16、获取模块，用于获取量化前目标检测模型w和量化后目标检测模型w′，将一组测试数据x分别输入到所述量化前目标检测模型w和所述量化后目标检测模型w′进行前向运算，得到量化前模型输出y，量化后模型输出y′；

17、第一计算模块，用于计算量化前与量化后模型输出的信号量化噪声比sqnr(y,y′)；

18、第二计算模块，用于根据所述信号量化噪声比sqnr(y,y′)进行反向传播，计算量化前模型梯度

19、第三计算模块，用于计算所述量化前模型梯度的绝对值并对其进行归一化得到将绘制成热力图，并定位量化误差产生的参数位置。

20、第三方面，提供了一种计算机存储介质，所述计算机存储介质内存储有计算机程序；所述计算机程序在计算机上运行时，使得计算机执行第一方面任一所述的面向视频监控的目标检测模型量化精度损失建模方法。

21、本发明的有益效果是：本发明针对量化过程中产生计算精度损失机理不清的问题，基于度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒，为目标检测模型量化方法的提供判断依据，在目标检测模型量化方法的改进方面有广阔的应用前景。

技术特征：

1.一种面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，包括：

2.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤1中，所述量化前目标检测模型为yolox目标检测模型。

3.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤2中，信号量化噪声比sqnr(y,y′)的计算公式为：

4.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤3中，量化前模型梯度的计算公式为：

5.根据权利要求1所述的面向视频监控的目标检测模型量化精度损失建模方法，其特征在于，步骤4中，的计算公式为：

6.一种面向视频监控的目标检测模型量化精度损失建模装置，其特征在于，用于执行权利要求1至5任一所述的面向视频监控的目标检测模型量化精度损失建模方法，包括：

7.一种计算机存储介质，其特征在于，所述计算机存储介质内存储有计算机程序；所述计算机程序在计算机上运行时，使得计算机执行权利要求1至5任一所述的面向视频监控的目标检测模型量化精度损失建模方法。

技术总结
本发明涉及一种面向视频监控的目标检测模型量化精度损失建模方法，采用量化前与量化后的模型输出的信号量化噪声比作为模型量化精度损失的度量标准，并且创新性地采用基于信号量化噪声比度量误差的反向传播技术，细粒度定位误差产生的参数位置，解释量化误差的主要发生位置和对分类面的影响程度，打破量化模型的内部黑盒。本发明的有益效果是：本发明可细粒度定位量化误差产生的参数位置，为目标检测模型量化方法的提供判断依据，在目标检测模型量化方法的改进方面有广阔的应用前景。

技术研发人员：王豆,郭鼎,郭庆,姜志锋,傅骏伟,张震伟,王健,闻杰,俞荣栋,孟瑜玮
受保护的技术使用者：浙江浙能数字科技有限公司
技术研发日：
技术公布日：2024/1/13