文献名称：《Deep Learning Based OFDM Channel Estimation Using Frequency-Time Division and Attention Mechanism》
文献地址：https://ieeexplore.ieee.org/document/9682149

一、解决的问题

提出了一种频率-时间分割网络(FreqTimeNet)来提高基于深度学习(DL)的OFDM信道估计的性能。利用信噪比信息的注意机制，提出了一种基于注意的频率时间网(AttenFreqTimeNet)。构建了一个混合信道模型，包括低速非视距信道、高速非视距信道、低速视距信道和高速视距信道。这种混合训练数据可以减少DL中泛化问题的影响。

二、解决的思路与方法

1. 5G OFDM系统

对于一个 OFDM 无线通信系统，时域资源的最小单位为1个OFDM符号，频域内资源的最小单位为1个子载波。资源元素 （RE） 占用一个 OFDM 符号和一个子载波，被标记为最小时频资源。

5G OFDM系统中的导频格式：

在频域中，一个资源块 （RB） 中有 12 个子载波，一个时隙中有 14 个 OFDM 符号。导频在一个 RB 和一个时隙中占据 6 个子载波和 2 个 OFDM 符号。

2. 现有的算法ChannelNet和ReEsNet的体系结构

ChannelNet 和 ReEsNet 的架构：

（1）ChannelNet是两个神经网络的组合。第一个神经网络是 SRCNN，用于将大小为 $N_{p,t}\times N_{p,f}\times 2$ 的低分辨率图像转换为大小为 $N_t\times N_f\times 2$ 的高分辨率图像。第二个神经网络是 DnCNN，它用于降噪，不会改变图像的大小。SRCNN 的最后一层一般只使用一个大小为 5 × 5 的滤波器，输出为 $N_t\times N_f\times 1$。而在这篇文章中部署了两个大小为 5 × 5 的过滤器来提高性能。

（2）ReEsNet基于残差学习，用于求解极深度深度学习网络中的梯度消失问题和梯度爆炸问题。在一个具有 16 个大小为 $3\times 3\times 2$ 的滤波器的卷积层之后，大小为 $N_{p,t}\times N_{p,f}\times 2$ 的输入将转换为大小为 $N_{p,t}\times N_{p,f}\times 16$ 的特征图。在 4 个 ResBlock 和 1 个卷积层之后，特征图的大小保持不变。转置卷积用于上采样。上采样后，特征图的大小增加到 $N_t\times N_f\times 16$。最终输出是在另一个卷积层之后获得的。

3. 提出的算法FreqTimeNet

基于分频-分时方法，以较低的复杂度实现相似性能。

• 第一步：对信道资源进行时频划分，在每个OFDM符号上，根据导频子载波分别恢复所有子载波的信道系数。
• 第二步：在频域内对信道资源进行划分，在每个少量子载波上，根据导频的OFDM符号分别恢复所有OFDM符号的信道系数。

利用这种频时分法的原理，提出了用于OFDM信道估计的FreqTimeNet。输入的大小为 $N_{p,t}\times N_{p,f}\times 2$。在时分模块中，输入分为$N_{p,t}$ 个部分，每个部分的大小为$1\times N_{p,f}\times 2$。每个部分被重塑为一个向量，然后通过其中一个频率块，这是一个小型的全连接 （FC） 网络，其中一个隐藏层具有 $N_{p,f}\times 3$ 个神经元。频率块的输出被重塑为 $1\times N_f\times 2$ 特征图，并在时间维度上组合为一个 $N_{p,t}\times N_f\times 2$ 特征图。下面将$N_{p,t}\times N_f\times 2$特征图划分为 $Nf/L$ 多个部分，每个部分的大小为$N_{p,t}\times L\times 2$。然后每个部分被重塑成一个向量，然后通过其中一个时间块，这是一个小型的全连接网络，有一个隐藏层，有 $N_{p,t}\times L\times 2$ 个神经元。频率模块的输出被重新调整为 $N_t\times L\times 2$ 特征图。组合所有特征图后，可以得到大小为 $N_t\times N_f\times 2$ 的最终输出。整流线性单元 （ReLu） 用作 FC 网络的激活函数。

FreqTimeNet的架构：

所有频率块都可以使用相同的参数，并且所有时间块也可以共享参数，这可以大大减少参数的数量。这里在频率块和时间块中都使用了简单的全连接网络，可以通过使用卷积神经网络 （CNN） 进一步优化。

4. 提出的算法AttenFreqTimeNet

引入注意机制，将信噪比加入到FreqTimeNet中，如图所示，在每个频率块后增加一个注意块，用于注意不同信噪比下的不同特征，一个频率块的输出为$F^G$，大小为$1\times N_f\times 2$。注意块包括三个部分：

• 上下文提取Context Exaction：
  上下文信息 $\mathbf{I}$ 包括两部分。第一部分是信噪比相关信息，第二部分是$F^G$特征提取的输出。本文通过一个简单的FC网络获取信噪比相关信息，该网络的输入为信噪比的线性值，隐含层有50个神经元，输出层有10个神经元。采用线性法进行特征提取，然后直接将$F^G$作为上下文信息I的一部分。
• 因子预测Factor Prediction：
  利用因子预测神经网络求出不同信噪比下的标度因子$S$。这里使用了一个具有两个FC层的简单神经网络。第一个FC层具有$1\times N_f$的ReLu神经元。第二层FC层有$1\times N_f\times 2$个Sigmoid神经元，可以将输出范围限制为(0,1)，比ReLu性能更好。
• 特征再校准Feature Recalibration：
  重新标定的特征图$F^A$是由$F^G$与比例因子$S$的逐元素乘积得到的，不同信噪比的影响已经包含在$F^A$中。

AttenFreqTimeNet的架构：

注意力块的架构：

三、解决的效果和结论

1. 参数配置

• OFDM信号：频域有$N_f=96$个子载波，时域有$N_t=14$个OFDM符号。这相当于频域的8个RBs，因为在一个RB中有12个子载波，在时域中有一个时隙。
• 导频模式：如图1所示，导频数量为96。
• 信道模型：链路电平模拟器遵循3GPP抽头延迟线(TDL)模型。
• 数据集：训练集：验证集：测试集：90000：10000：10000。（每个SNR包括2000个测试样本）
• 模型参数：总 epoch 数为 100，小批量大小为 128，优化器为 Adam，默认设置为 Keras。
• 评价指标：DL网络输出与实际信道信息之间的均方误差(MSE)。
• 性能比较：超参数$L=12$，即每个时间块处理12个子载波，在频域为1RB；ReEsNet1使用原超参数；ReEsNet2除最后一个卷积层外，每个卷积层包括32个滤波器，ResBlocks数量为6个。

2. 实验结果

• 混合信道模型下DL网络的性能：
  
  当MSE为$2\times 10^{-3}$时，FreqTimeNet比ReEsNet 2获得约4dB的信噪比增益，比ChannelNet和ReEsNet 1获得更多的增益。随着信噪比的增加，FreqTimeNet的优势逐渐减弱，这意味着在高信噪比下，FreqTimeNet的泛化性能需要进一步提高。由于AttenFreqTimeNet使用了注意块来提高不同信噪比下的性能，因此AttenFreqTimeNet在不同信噪比下的优势是稳定的。

• TDL-C模型的DL网络性能，时延扩展100ns，速度3km/h、50Km/h：
  

• TDL-D模型的DL网络性能，时延扩展30ns，速度3km/h、50Km/h：
  
  这证明在不同的信道条件下，AttenFreqTimeNet的MSE性能几乎是最好的。

• 复杂度分析：
  ①　FreqTimeNet的复杂度远低于ChannelNet，高于ReEsNet 1，与ReEsNet 2相似。考虑到FreqTimeNet良好的MSE性能，该复杂度是可以接受的。
  ②　AttenFreqTimeNet的复杂度比FreqTimeNet高，因为注意块带来了额外的计算。