基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法

本发明涉及的是一种无线通信领域的技术，具体是一种基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法。

背景技术：

1、现有改进型信道估计方法基于深度学习技术实现，包括模型驱动和数据驱动。模型驱动的方法根据模型来构建深度神经网络，通常是用神经网络来模拟传统算法的迭代过程。深度学习网络只需要学习迭代算法所需的参数，来实现快速高效的信道估计。但是，这类方法受到所模拟的传统算法的性能限制。作为对比，数据驱动的方法从大量的信道传输数据中训练出用于信道估计的深度神经网络，不受传统算法的限制，可以实现很高的信道估计精度。但是，在不断趋近信道估计的最佳性能的同时，神经网络的规模也在极速增大，会导致非常高的计算复杂度，带来低效率和不适用于实际部署的问题。

技术实现思路

1、本发明针对现有基于深度卷积神经网络的太赫兹超大规模信道估计方法所采用的深度卷积神经网络规模非常大，结构冗余，存在着低效率和不适用于实际部署的问题，提出一种基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，通过基于剪枝卷积神经网络的信道估计算法，使用剪枝算法删除卷积神经网络中冗余的连接，极大压缩神经网络的规模，提高信道估计的效率，同时保证信道估计的高精度。

2、本发明是通过以下技术方案实现的：

3、本发明涉及一种基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，在离线阶段利用近似消息传递压缩感知算法(amp)处理信道数据，得到初始的信道预测，再将其输入卷积神经网络(dcnn)进行训练；再对训练后的卷积神经网络进行剪枝操作后保留网络参数不变的前提下，将初始的信道预测输入神经网络的同时，以真实的信道作为标签重新训练；在在线阶段采用训练后的卷积神经网络进行毫米波和太赫兹信道估计。

4、技术效果

5、本发明通过将近似消息传递压缩感知算法和卷积神经网络相结合，同时使用剪枝算法删除深度卷积网络中多余的卷积核和特征图，与现有技术相比，本发明能够在保证信道预测精度的情况下，节省神经网络的计算和存储开销，解决神经网络规模非常大，结构冗余，存在着低效率和不适用于实际部署的问题。

技术特征：

1.一种基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征在于，在离线阶段利用近似消息传递压缩感知算法(amp)处理信道数据，得到初始的信道预测，再将其输入卷积神经网络(dcnn)进行训练；再对训练后的卷积神经网络进行剪枝操作后保留网络参数不变的前提下，将初始的信道预测输入神经网络的同时，以真实的信道作为标签重新训练；在在线阶段采用训练后的卷积神经网络进行毫米波和太赫兹信道估计。

2.根据权利要求1所述的基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征是，所述的初始的信道预测，通过以下方式得到：

3.根据权利要求1所述的基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征是，所述的卷积神经网络包含12个卷积层，卷积核数目除最后一个卷积层为2外其余均为64，卷积层之间均有激活函数和标准化层相连，该卷积神经网络将输入的作为一个2维的图片，2个维度分别代表数据的实部和虚部，输出的和维度相同。

4.根据权利要求1或3所述的基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征是，所述的卷积层中均包含relu激活函数以增强神经网络的非线性表达能力；

5.根据权利要求4所述的基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征是，所述的卷积神经网络，其训练时采用的衡量信道恢复精度的指标为归一化均方差其中：h为真实的信道矩阵，为通过amp-dcnn预测方法得到的信道矩阵，所采取的范数为弗罗贝尼乌斯范数(frobenius norm)，

6.根据权利要求1所述的基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征是，所述的剪枝操作是指：对训练后的卷积神经网络进行剪枝操作，以得到轻量优化信道估计网络，以显著减少所需的内存和运算资源，具体包括：确定待剪除比例p以及标准化层的比例系数阈值，剪枝过程中，删去卷积神经网络的特征图连接的比例系数小于标准化层的比例系数阈值。

7.根据权利要求1所述的基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，其特征是，所述的重新训练是指：对剪枝后的卷积神经网络在初始的信道预测上以真实的信道作为标签进行重新训练，最终得到轻量级的神经网络。

技术总结
一种基于剪枝卷积神经网络的毫米波和太赫兹信道估计方法，在离线阶段利用近似消息传递压缩感知算法(AMP)处理信道数据，得到初始的信道预测，再将其输入卷积神经网络(DCNN)进行训练；再对训练后的卷积神经网络进行剪枝操作后保留网络参数不变的前提下，将初始的信道预测输入神经网络的同时，以真实的信道作为标签重新训练；在在线阶段采用训练后的卷积神经网络进行毫米波和太赫兹信道估计。本发明通过基于剪枝卷积神经网络的信道估计算法，使用剪枝算法删除卷积神经网络中冗余的连接，极大压缩神经网络的规模，提高信道估计的效率，同时保证信道估计的高精度。

技术研发人员：韩充,胡正东,陈宇航
受保护的技术使用者：上海交通大学
技术研发日：
技术公布日：2024/1/13