一种基于单任务的多算法快速切换处理方法与流程

本发明属于人工智能，尤其涉及一种基于单任务的多算法快速切换处理方法。

背景技术：

1、在舰载无人机工作任务中，无人机飞行的不同阶段(如起飞、巡航、警戒、作战、着舰)需要执行决策类、感知类等不同的人工智能算法，工作中这些算法(特别是警戒、作战阶段)需要快速切换，减少因切换过程带来的飞行姿态失控、作战目标丢失等意外情况。在人工智能技术领域，存在对输入数据需要进行不同算法处理的情况，如采用不同网络结构运行风格迁移算法得到不同关注点的结果，也存在对输入数据连续进行不同算法的执行过程，如输入数据经过目标检测减小数据量后进行分类任务。以上过程可以提炼为单任务多算法的连续推理过程，通常处理思路是将多算法拆分，逐一处理，这样在高算力平台下存在算力资源的浪费、因算法切换带来额外的时间开销，因此需要多算法预先分配资源、算法间的快速切换。

技术实现思路

1、为解决背景技术中存在的上述技术问题，本发明提供一种基于单任务的多算法快速切换处理方法，实现了算法切换时仅需要少量配置寄存器时间，达到快速切换的目的。

2、本发明的技术解决方案是：一种基于单任务的多算法快速切换处理方法，其特殊之处在于：该方法包括以下步骤：

3、1)根据算法数据量的大小划分存储空间；

4、2)准备各算法所需数据；

5、3)运算资源分配；

6、4)配置算法1～n执行所需寄存器；

7、5)查询运算资源是否空闲；

8、6)如空闲则配置算法使能寄存器并等待算法推理；

9、7)如忙则按调度算法等待资源空闲；

10、8)待推理完成，运算资源释放后，再次查询闲忙状态进行算法推理。

11、进一步的，步骤1)中对存储器空间按照所需执行算法进行划分，分别为每个算法分配存储空间，以上空间划分不能有所重叠，而且要满足运算资源对地址对齐的要求。

12、进一步的，存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。

13、进一步的，步骤2)中提前准备执行任务各算法所需的数据，含输入数据、运算数据；这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。

14、进一步的，步骤3)中计算核的资源有限，为最大化利用计算资源减少资源冲突，需要对运算资源合理分配。

15、进一步的，步骤4)中按照运算资源分配，预先配置各算法执行所需寄存器，即输入数据基地址、参数数据基地址、配置数据基地址、临时数据基地址、输出数据基地址；其中配置数据基地址汇总了算法执行需要的所有寄存器信息，如当前层的输入维度、参数维度、输出维度、计算参数、内部储存基地址。

16、进一步的，步骤5)中判断运算资源的状态，保证执行算法所需的资源足够且不冲突。

17、进一步的，步骤6)中确认运算资源足够后执行算法。

18、进一步的，步骤7)中当运算资源冲突时，按照调度规则对算法进行排队，等待运算资源空闲。

19、进一步的，步骤8)中算法推理完成后释放运算资源，仅通过配置算法使能寄存器实现算法快速切换目的。

20、本发明的优点是：本发明提供的一种多算法切换方法。通过资源预处理以及用空间换时间的思路来避免数据准备时间开销，通过配置文件首地址避免配置大量工作所需寄存器，通过配置使能寄存器达到算法快速切换的目的。

技术特征：

1.一种基于单任务的多算法快速切换处理方法，其特征在于：该方法包括以下步骤：

2.根据权利要求1所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤1)中对存储器空间按照所需执行算法进行划分，分别为每个算法分配存储空间，以上空间划分不能有所重叠，而且要满足运算资源对地址对齐的要求。

3.根据权利要求2所述的基于单任务的多算法快速切换处理方法，其特征在于：所述存储空间包括输入数据存储空间、运算数据存储空间、临时数据存储空间、输出数据存储空间。

4.根据权利要求3所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤2)中提前准备执行任务各算法所需的数据，含输入数据、运算数据；这些数据需要通过一定手段(dma)储存到步骤1)所划分的存储空间中。

5.根据权利要求4所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤3)中计算核的资源有限，为最大化利用计算资源减少资源冲突，需要对运算资源合理分配。

6.根据权利要求5所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤4)中按照运算资源分配，预先配置各算法执行所需寄存器，即输入数据基地址、参数数据基地址、配置数据基地址、临时数据基地址、输出数据基地址；其中配置数据基地址汇总了算法执行需要的所有寄存器信息，如当前层的输入维度、参数维度、输出维度、计算参数、内部储存基地址。

7.根据权利要求6所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤5)中判断运算资源的状态，保证执行算法所需的资源足够且不冲突。

8.根据权利要求7所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤6)中确认运算资源足够后执行算法。

9.根据权利要求8所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤7)中当运算资源冲突时，按照调度规则对算法进行排队，等待运算资源空闲。

10.根据权利要求9所述的基于单任务的多算法快速切换处理方法，其特征在于：所述步骤8)中算法推理完成后释放运算资源，仅通过配置算法使能寄存器实现算法快速切换目的。

技术总结
本发明属于人工智能技术领域，尤其涉及一种基于单任务的多算法快速切换处理方法，包括如下步骤：1)根据算法数据量的大小划分存储空间；2)准备各算法所需数据；3)运算资源分配；4)配置算法1～n执行所需寄存器；5)查询运算资源是否空闲；6)如空闲则配置算法使能寄存器并等待算法推理；7)如忙则按调度规则等待资源空闲；8)待推理完成，运算资源释放后，再次查询闲忙状态进行算法推理。本发明通过将算法推理所需的准备工作提前，降低算法切换的开销。此外为了进一步减少寄存器的数量，将寄存器值通过文件输入，这样大量寄存器的配置将缩短为配置文件首地址，进一步提高算法切换速率。

技术研发人员：郭蒙,李玉杰,郭亮,王世中,任星宇,高浪
受保护的技术使用者：西安翔腾微电子科技有限公司
技术研发日：
技术公布日：2024/4/17