优化神经网络模型中原始维度算子的装置和方法与流程

文档序号:24195406发布日期:2021-03-09 16:47阅读:来源:国知局

技术特征:
1.一种优化神经网络模型中原始维度算子的方法,包括:遍历所述神经网络模型,以:识别所述神经网络模型的关键节点;在所述关键节点处置入成对维度算子;结合所述成对维度算子其中之一与所述原始维度算子;以及基于结合后的所述神经网络模型进行推理。2.根据权利要求1所述的方法,其中所述关键节点为输入节点及输出节点其中之一;如所述关键节点为所述输入节点,所述置入步骤在所述输入节点后置入成对维度算子;如所述关键节点为输出节点,所述置入步骤在所述输出节点前置入成对维度算子。3.根据权利要求1所述的方法,其中所述关键节点为合并节点及分支节点其中之一,所述置入步骤在所述关键节点前后分别置入成对维度算子。4.根据权利要求2或3所述的方法,其中所述神经网络模型包括中间算子群,所述中间算子群介于所述成对维度算子与所述原始维度算子间,所述方法还包括:判断所述中间算子群是否对维度敏感;以及如否,判断所述成对维度算子其中之一与所述原始维度算子是否为成对维度算子:如是,所述结合步骤自所述神经网络模型中移除所述成对维度算子其中之一与所述原始维度算子;以及如否,所述结合步骤合并所述成对维度算子其中之一与所述原始维度算子,以形成合并维度算子。5.根据权利要求4所述的方法,还包括:将所述成对维度算子其中之一与所述原始维度算子的其中之一替换成所述合并维度算子;以及移除所述成对维度算子其中之一与所述原始维度算子中的另一个。6.根据权利要求4所述的方法,其中所述中间算子群包括至少一个中间算子,所述判断步骤包括:遍历所有中间算子,判断所述中间算子是否为对特定维度计算的算子;以及如否,互换所述成对维度算子其中之一与所述中间算子的顺序。7.根据权利要求6所述的方法,其中如所述中间算子为对特定维度计算的算子,则根据所述特定维度转换所述成对维度算子其中之一的维度。8.根据权利要求1所述的方法,其中所述维度算子为转置算子及变形算子。9.一种优化神经网络模型中原始维度算子的处理装置,包括:识别模块,用以识别所述神经网络模型的关键节点;置入模块,用以在所述关键节点处置入成对维度算子;以及结合模块,用以结合所述成对维度算子其中之一与所述原始维度算子。10.根据权利要求9所述的处理装置,其中所述关键节点为输入节点及输出节点其中之一;如所述关键节点为所述输入节点,所述置入模块在所述输入节点后置入成对维度算子;如所述关键节点为输出节点,所述置入模块在所述输出节点前置入成对维度算子。11.根据权利要求9所述的处理装置,其中所述关键节点为合并节点及分支节点其中之一,所述置入模块在所述关键节点前后分别置入成对维度算子。
12.根据权利要求10或11所述的处理装置,其中所述神经网络模型包括中间算子群,所述中间算子群介于所述成对维度算子与所述原始维度算子间,所述处理装置还包括:判断模块,用以:判断所述中间算子群是否对维度敏感;以及如否,判断所述成对维度算子其中之一与所述原始维度算子是否为成对维度算子;如是,所述结合模块自所述神经网络模型中移除所述成对维度算子其中之一与所述原始维度算子;以及如否,所述结合模块合并所述成对维度算子其中之一与所述原始维度算子,以形成合并维度算子。13.根据权利要求12所述的处理装置,其中,结合模块还用以:将所述成对维度算子其中之一与所述原始维度算子的其中之一替换成所述合并维度算子;以及移除所述成对维度算子其中之一与所述原始维度算子中的另一个。14.根据权利要求13所述的处理装置,其中所述中间算子群包括至少一个中间算子,所述判断模块用以遍历所有中间算子,判断所述中间算子是否为对特定维度计算的算子;如否,所述结合模块互换所述成对维度算子其中之一与所述中间算子的顺序。15.根据权利要求14所述的处理装置,其中如所述中间算子为对特定维度计算的算子,则所述结合模块根据所述特定维度转换所述成对维度算子其中之一的维度。16.根据权利要求9所述的处理装置,其中所述维度算子为转置算子及变形算子。
当前第2页1 2 3 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1