汽车雷达多径环境下的幽灵目标检测方法研究

在对接收测量的快时间执行 FFT 后，我们在给定的被测延迟单元中考虑 $K_0$ 个直接路径和 $K_1$ 对一阶路径，将观测 $\mathbf{y}(l) \in \mathbb{C}^{M_R \times 1}$ 建模为：

$$ \begin{aligned} \mathbf{y}(l) &= \sum_{k=1}^{K_0} \alpha_k e^{j2\pi f_d(l-1)} \mathbf{a}R(\theta_k)\mathbf{a}T^T(\theta_k)\mathbf{x}(l) \ &+ \sum{k=1}^{K_1} \beta{k,1} e^{j2\pi f_d(l-1)} \mathbf{a}R(\phi_k)\mathbf{a}T^T(\vartheta_k)\mathbf{x}(l) \ &+ \sum{k=1}^{K_1} \beta{k,2} e^{j2\pi f_d(l-1)} \mathbf{a}_R(\vartheta_k)\mathbf{a}_T^T(\phi_k)\mathbf{x}(l) + \mathbf{w}(l) \end{aligned} $$

其中：

• $\alpha_k$、$\beta_{k,1}$ 和 $\beta_{k,2}$ 分别表示第 $k$ 个直接路径（$k = 1, 2, \ldots, K_0$）和第 $k$ 对一阶路径（$k = 1, 2, \ldots, K_1$）的复振幅
• $\theta_k$ 表示第 $k$ 个直接路径的 DOD，等于 DOA
• $\vartheta_k$ 和 $\phi_k$ 表示第 $k$ 对一阶路径的 DOD 和 DOA，其中 $\vartheta_k \neq \phi_k$
• $f_d$ 是归一化多普勒频率
• $\mathbf{a}_T(\cdot) \in \mathbb{C}^{M_T \times 1}$ 和 $\mathbf{a}_R(\cdot) \in \mathbb{C}^{M_R \times 1}$ 是导向矢量

导向矢量具体定义为：

$$ \mathbf{a}T(\theta) = \frac{1}{\sqrt{M_T}}\left[e^{j2\pi d{T,1}\sin(\theta)/\lambda}, e^{j2\pi d_{T,2}\sin(\theta)/\lambda}, \ldots, e^{j2\pi d_{T,M_T}\sin(\theta)/\lambda}\right]^T $$

$$ \mathbf{a}R(\phi) = \frac{1}{\sqrt{M_R}}\left[e^{j2\pi d{R,1}\sin(\phi)/\lambda}, e^{j2\pi d_{R,2}\sin(\phi)/\lambda}, \ldots, e^{j2\pi d_{R,M_R}\sin(\phi)/\lambda}\right]^T $$

其中 $\theta$ 和 $\phi$ 分别表示 $\mathbf{a}T(\cdot)$ 和 $\mathbf{a}R(\cdot)$ 的角度，$\lambda$ 表示波长，$d{T,m}$ 和 $d{R,n}$ 表示第 $m$ 个 TX 元素和第 $n$ 个 RX 元素相对于参考阵列元素的相对距离。

定义 $\mathbf{P}(f_d) = \text{diag}(1, e^{j2\pi f_d}, \cdots, e^{j2\pi f_d(L-1)})$，接收数据矩阵为：

$$ \mathbf{Y} = \sum_{k=1}^{K_0} \alpha_k \mathbf{a}R(\theta_k)\mathbf{a}T^T(\theta_k)\mathbf{X}\mathbf{P}(f_d) + \sum{k=1}^{K_1} \beta{k,1} \mathbf{a}R(\phi_k)\mathbf{a}T^T(\vartheta_k)\mathbf{X}\mathbf{P}(f_d) + \sum{k=1}^{K_1} \beta{k,2} \mathbf{a}_R(\vartheta_k)\mathbf{a}_T^T(\phi_k)\mathbf{X}\mathbf{P}(f_d) + \mathbf{W} $$

经过匹配滤波 $\mathbf{Z} = \mathbf{Y}(\mathbf{X}\mathbf{P}(f_d))^H$ 并向量化后，虚拟 MIMO 阵列信号的一般模型为：

$$ \mathbf{z} = (\mathbf{R}x \otimes \mathbf{I}{M_R})\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\boldsymbol{\beta} + \mathbf{r} $$

其中 $\mathbf{R}_x = \mathbf{X}^*\mathbf{X}^T$，$\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi}) = \mathbf{A}_T(\boldsymbol{\Theta}) \circ \mathbf{A}_R(\boldsymbol{\Phi})$ 表示响应矩阵。

3. 多径检测

3.1 GLRT 检测器

在前一节概述的一般设置中，幽灵检测相当于解决一个耦合的检测 - 估计问题，其中我们必须区分复合假设 $H_0$（观测仅包含来自未知不同方向的未知数量 $K_0$ 个直接路径）与复合替代假设 $H_1$（观测还包含未知数量 $K_1$ 个一阶路径，每个由未知角度对表征）。

假设首先矩阵已知，我们需要解决复合二元假设检验：

$$ \begin{cases} H_0: \mathbf{z} = (\mathbf{R}x \otimes \mathbf{I}{M_R})\mathbf{A}(\boldsymbol{\Theta}_0)\boldsymbol{\alpha} + \mathbf{r} \ H_1: \mathbf{z} = (\mathbf{R}x \otimes \mathbf{I}{M_R})\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\boldsymbol{\beta} + \mathbf{r} \end{cases} $$

其中 $\boldsymbol{\alpha} \in \mathbb{C}^{K_0 \times 1}$ 和 $\boldsymbol{\beta} \in \mathbb{C}^{(K_0+2K_1) \times 1}$ 是未知参数。

由于 $\mathbb{E}(\mathbf{r}\mathbf{r}^H) = \sigma^2\mathbf{R}x \otimes \mathbf{I}{M_R}$，我们有 $\mathbf{r} \sim \mathcal{CN}(0, \sigma^2\boldsymbol{\Sigma}_x)$，其中 $\boldsymbol{\Sigma}_x = \mathbf{R}x \otimes \mathbf{I}{M_R}$。通过噪声白化变换，测试变为：

$$ \begin{cases} H_0: \bar{\mathbf{z}} \sim \mathcal{CN}(\boldsymbol{\Sigma}_x^{1/2}\mathbf{A}(\boldsymbol{\Theta}0)\boldsymbol{\alpha}, \sigma^2\mathbf{I}{M_T M_R}) \ H_1: \bar{\mathbf{z}} \sim \mathcal{CN}(\boldsymbol{\Sigma}x^{1/2}\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\boldsymbol{\beta}, \sigma^2\mathbf{I}{M_T M_R}) \end{cases} $$

其中 $\bar{\mathbf{z}} = \boldsymbol{\Sigma}_x^{-1/2}\mathbf{z}$。GLRT 为：

$$ T_{GLRT} = \frac{|\mathbf{P}(\boldsymbol{\Theta}_0)\bar{\mathbf{z}}|^2}{|\mathbf{P}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\bar{\mathbf{z}}|^2} \underset{H_0}{\overset{H_1}{\gtrless}} \lambda_G $$

其中 $\mathbf{P}(\boldsymbol{\Theta}_0)$ 和 $\mathbf{P}(\boldsymbol{\Theta}, \boldsymbol{\Phi})$ 是相应的正交投影矩阵。

3.2 性能界限和波形优化

图 2 描述：图 2 显示了虚警概率 $P_{fa}$ 与检测阈值 $\lambda_G$ 的关系，针对 $M_T M_R = 48$ 的不同 $(K_0, K_1)$ 值。可以观察到，随着 $K_1$ 增加，给定阈值下的虚警概率降低，这是因为假设之间的可区分性增加。

在 $H_0$ 下，测试统计量比率 $X$ 具有 Fisher-Snedecor 分布，密度为：

$$ f_{X|H_0}(x) = \frac{1}{B(2K_1; m)} x^{2K_1-1}(1 + x)^{-(m+2K_1)} $$

其中 $m = M_T M_R - K_0 - 2K_1$，$B(a;b)$ 表示参数为 $a$ 和 $b$ 的贝塔函数。

虚警概率和检测概率的闭式表达式为：

$$ P_{fa} = 1 - \frac{1}{B(2K_1; m)} \sum_{i=0}^{m-1} (-1)^i \binom{m-1}{i} \frac{2K_1 + i}{(1 - 1/\lambda_G)^{2K_1+i}} $$

$$ P_d = 1 - \frac{1}{B(2K_1; m)} \sum_{i=0}^{m-1} (-1)^i \binom{m-1}{i} \frac{2K_1 + i}{\left(\frac{\lambda_G - 1}{\lambda_G + \rho_1}\right)^{2K_1+i}} $$

其中 $\rho_1$ 是一个适合的品质因数，定义为：

$$ \rho_1 = \frac{\sigma_\beta^2}{2K_1\sigma^2} \text{Tr}\left(\mathbf{E}^H\boldsymbol{\Sigma}_x^{1/2}\mathbf{P}_0\boldsymbol{\Sigma}_x^{1/2}\mathbf{E}\right) $$

图 3 描述：图 3 展示了检测概率 $P_d$ 与 $\sigma_\beta^2/\sigma^2$ 的关系，比较了正交波形和优化波形的性能。可以看到，通过波形优化可以显著提高检测性能，特别是在低 SNR 条件下。

波形优化问题可以形式化为以下凸优化问题：

$$ \begin{align} \max_{\mathbf{R}_x, \boldsymbol{\Pi}} \quad & \text{Tr}\left(\mathbf{E}^H(\mathbf{R}x \otimes \mathbf{I}{M_R})\mathbf{E} - \boldsymbol{\Pi}\right) \ \text{s.t.} \quad & [\mathbf{R}x]{m,m} = 1, \quad m = 1, 2, \cdots, M_T \ & \boldsymbol{\Lambda} \succeq 0 \ & |\mathbf{R}x - \mathbf{I}{M_T}|^2 \leq \mu \ & \mathbf{R}_x \succeq 0 \end{align} $$

这是一个半定规划（SDP）问题，可以通过凸优化方法有效求解。

4. 多径角度估计

由于测试 (13) 不可实现（矩阵 $\mathbf{A}(\boldsymbol{\Theta}_0)$ 和 $\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})$ 未知），我们需要开发估计这些矩阵的方法。

4.1 $H_0$ 假设下的估计器

图 4 描述：图 4 比较了 Gauss-Newton (GN) 和 Levenberg-Marquardt (LM) 方法在优化过程中的收敛行为。图 4(a) 显示了 DOD 和 DOA 角度差异较大时（$(-1.9°, -13.2°)$），两种方法都表现出相似的收敛行为。图 4(b) 显示了角度差异较小时（$(-1.9°, -3.2°)$），GN 方法面临收敛挑战，而 LM 方法通过正则化项解决了这个问题并展现出更强的鲁棒性。

我们提出一种迭代过程来解决角度估计问题。定义 $\mathbf{r}^{(t)}$ 为第 $t$ 次迭代中的残差，初始化为 $\mathbf{r}^{(0)} = \bar{\mathbf{z}}$。直接路径角度集合初始化为空集，即 $\boldsymbol{\Theta}_0^{(0)} = \emptyset$ 且 $\hat{K}_0^{(0)} = 0$。

在第 $t$ 次迭代中，我们插入一条路径到集合中，$\hat{K}_0^{(t)} = \hat{K}_0^{(t-1)} + 1$。通过评估以下式子最小化残差的 2-范数：

$$ \hat{\theta}^{(t)} = \arg\max_{\theta^{(t)} \in {\tilde{\theta}_1, \tilde{\theta}_2, \cdots, \tilde{\theta}_G}} \left|(\mathbf{r}^{(t-1)})^H \bar{\mathbf{a}}(\theta^{(t)})\right| $$

并更新角度矩阵为 $\boldsymbol{\Theta}_0^{(t,0)} = [(\boldsymbol{\Theta}_0^{(t-1)})^T, \hat{\theta}^{(t)}]^T$。

随后通过 Gauss-Newton (GN) 迭代来增强此估计的准确性：

$$ \boldsymbol{\Theta}_0^{(t,i+1)} = \boldsymbol{\Theta}_0^{(t,i)} - (\mathbf{H}_0^{(t,i)})^{-1}\mathbf{g}_0^{(t,i)} $$

其中梯度 $\mathbf{g}_0^{(t,i)}$ 和 Hessian 矩阵 $\mathbf{H}_0^{(t,i)}$ 的表达式在附录 A 中给出。

4.2 $H_1$ 假设下的估计器

在 $H_1$ 下，算法是前一个算法的扩展，现在必须估计直接路径和一阶路径的角度。为了减少直接路径和一阶路径之间的干扰，我们分别在直接路径和一阶路径上实现估计过程。

搜索额外一阶路径对的粗略估计通过在两个均匀 $G$ 维网格上搜索获得：

$$ (\hat{\vartheta}^{(t)}, \hat{\phi}^{(t)}) = \arg\max_{\substack{\vartheta^{(t)} \in \Xi_t \ \phi^{(t)} \in \Xi_r \ \vartheta^{(t)} < \phi^{(t)}}} \left[|(\mathbf{r}^{(t-1)})^H(\mathbf{a}_T(\vartheta^{(t)}) \circ \mathbf{a}_R(\phi^{(t)}))| + |(\mathbf{r}^{(t-1)})^H(\mathbf{a}_T(\phi^{(t)}) \circ \mathbf{a}_R(\vartheta^{(t)}))|\right] $$

由于在 $H_1$ 假设下直接和一阶路径的混合，当 DOD 和 DOA 之间的差异不大时，GN 方法可能由于 Hessian 中的秩缺陷而导致不稳定的估计。因此，我们采用 LM 方法来更新角度估计：

$$ \mathbf{h}^{(t,i)} = -\left(\mathbf{H}^{(t,i)} + \mu^{(t,i)}\mathbf{I}_{\hat{K}^{(t)}}\right)^{-1}\mathbf{g}^{(t,i)} $$

其中 $\mu^{(t,i)}$ 是阻尼参数，通过增益比控制：

$$ \varrho^{(t,i)} = \frac{\bar{F}(\bar{\boldsymbol{\Theta}}^{(t,i)}) - \bar{F}(\bar{\boldsymbol{\Theta}}^{(t,i)} + \mathbf{h}^{(t,i)})}{\frac{1}{2}(\mathbf{h}^{(t,i)})^H(\mu^{(t,i)}\mathbf{h}^{(t,i)} - \mathbf{g}^{(t,i)})} $$

5. 仿真和实验结果

5.1 仿真设置

图 5 描述：图 5 展示了 MIMO 雷达天线的实际和虚拟布局。图 5(a) 显示了均匀线性阵列（ULA）配置，其中发射和接收天线均匀间隔半波长。图 5(b) 显示了稀疏线性阵列（SLA）配置，其中天线不均匀间隔以增加孔径但会引入栅瓣。虚拟阵列（蓝色圆圈）由发射和接收阵列的卷积形成。

仿真参数设置如下：

• 雷达工作频率为 79 GHz，载波波长 $\lambda = 3.8$ mm
• 发射元素数量 $M_T = 6$，接收元素 $M_R = 8$
• 首先使用如图 5(a) 所示的均匀线性阵列（ULA）进行仿真
• 通过保持 $M_T$ 和 $M_R$ 恒定，我们确保检测性能的一致上界，并随后验证图 5(b) 所示 SLA 的性能
• 噪声根据方差 $\sigma^2 = 1$ 的高斯分布随机生成
• 路径幅度根据 $\boldsymbol{\beta} \sim \mathcal{CN}(0, \sigma_\beta^2\mathbf{I}{2K_1})$，$\boldsymbol{\alpha} \sim \mathcal{CN}(0, \sigma\alpha^2\mathbf{I}_{K_0})$ 生成
• 通过以 2°步长离散化角度空间 $[-90°, 90°]$ 获得网格

5.2 估计性能

图 6 描述：图 6 显示了不同算法在 ULA 和 SLA 配置下的 RMSE 性能。图 6(a) 和 6(b) 显示了 ULA 中直接路径（RMSE₀）和一阶路径（RMSE₁）的估计误差。图 6(c) 和 6(d) 显示了 SLA 的相应结果。在所有情况下，所提出的 CSCD 方法都优于基于网格的 OMP、IAA 和 LASSO 方法，特别是在高 SNR 条件下，这归因于连续域优化避免了网格失配问题。

我们评估所提出算法的角度估计均方根误差（RMSE）。注意算法返回一组估计，对应于真实路径或错误路径，如果没有接近其方向的估计，则无法检测到路径。因此，我们参考基于正确路径估计的 RMSE。具体地，一阶路径和直接路径的 RMSE 计算为：

$$ \text{RMSE}1 = \sqrt{\frac{1}{M_C} \sum{m=1}^{M_C} \frac{1}{2|\Omega_1^m|} \sum_{j \in \Omega_1^m} \left[(\vartheta_j^{(m)} - \hat{\vartheta}_j^{(m)})^2 + (\phi_j^{(m)} - \hat{\phi}_j^{(m)})^2\right]} $$

$$ \text{RMSE}0 = \sqrt{\frac{1}{M_C} \sum{m=1}^{M_C} \frac{1}{|\Omega_0^m|} \sum_{j \in \Omega_0^m} (\theta_j^{(m)} - \hat{\theta}_j^{(m)})^2} $$

其中 $M_C$ 是运行次数，$\Omega_1^m$ 和 $\Omega_0^m$ 是第 $m$ 次仿真中识别的一阶路径和直接路径的索引集。

5.3 检测性能

图 7 描述：图 7 比较了 $H_0$ 场景中 $\mathbf{a}(\theta), \mathbf{a}(\psi)$ 的相关性（图 7a）和 $H_1$ 场景中 $\mathbf{a}_T(\vartheta) \circ \mathbf{a}_R(\phi), \mathbf{a}(\psi)$ 的相关性（图 7b）。ULA 显示了更清晰的主瓣和较低的旁瓣，而 SLA 虽然具有更窄的波束宽度但旁瓣更高，这解释了 SLA 配置中性能下降的原因。

图 8 描述：图 8 展示了 ULA 和 SLA 配置下不同 $(K_1, K_0)$ 组合的检测概率 $P_d$ 与 $\sigma_\beta^2/\sigma^2$ 的关系。图 8(a) 和 8(b) 显示了 ULA 的结果，其中 GLRT-CSCD 的性能接近理论上界。图 8(c) 和 8(d) 显示了 SLA 的结果，其中由于较高的旁瓣，性能差距更大。在所有情况下，所提出的 GLRT-CSCD 都优于 GLRT-OMP、GLRT-LASSO 和 GLRT-IAA。

图 9 描述：图 9 比较了不同 $M_T M_R$ 值下的检测性能。随着系统自由度的增加（从 $M_T M_R = 12$ 到 48），检测性能提高，但收益逐渐递减。这表明对于给定的 $(K_0, K_1)$ 值，存在一个最优的天线配置超过该配置后性能改善有限。

5.4 实验结果

图 10 描述：图 10 展示了实验场景。图 10(a) 是实验环境的照片，显示了被混凝土墙包围的道路，这创建了多径传播的理想条件。图 10(b) 显示了雷达点云，蓝色椭圆标记了由一阶路径引起的幽灵目标。

图 11 描述：图 11 展示了使用不同方法检测和消除幽灵目标的结果。图 11(a)-(c) 分别显示了 GLRT-OMP、GLRT-LASSO 和 GLRT-IAA 的结果，这些方法未能成功移除所有幽灵目标，并且错误地移除了一些静止目标的直接路径。图 11(d) 显示了所提出的 GLRT-CSCD 方法有效地消除了所有幽灵目标，同时保留了静止目标的直接路径。

我们使用实验数据评估所提出检测器的目标检测性能。数据由毫米波 $f_0 = 77$ GHz MIMO 雷达获得，其中 $M_T = 8$ 个发射天线和 $M_R = 16$ 个接收天线，均匀间隔。发射侧间距为 4.5λ，接收侧间距为 4λ。

6. 结论

本文研究了汽车雷达在多径存在下的幽灵目标检测。间接路径的存在被建模为二元复合假设检验，提出了 GLRT 检测器来确定延迟 - 多普勒单元中是否存在间接路径。如果单元包含间接路径，可以移除幽灵目标并保留所需的直接路径。基于完美角度估计下 GLRT 检测性能的理论分析，我们推导了一种凸波形优化方法，可以增强检测性能。考虑到直接和间接路径角度均未知的实际场景，我们提出了一种稀疏增强的 CS 方法来估计连续域中的角度参数。仿真结果表明，所提出的算法优于现有的基于网格的估计器，从而导致更好的检测性能。提出的检测器的虚警率可以控制，ULA 情况下的检测性能接近理论界限。最后，实验结果证明了所提出方法的有效性。

附录

附录 A：$H_0$ 下梯度和 Hessian 矩阵的推导

为了清晰起见，我们在以下一些推导中省略函数的上标 $(t,i)$ 和输入变量，即 $F = F(\boldsymbol{\Theta}_0^{(t,i)})$ 和 $\bar{\mathbf{A}}_0 = \bar{\mathbf{A}}(\boldsymbol{\Theta}_0^{(t,i)})$。

定义 $F = \mathbf{f}^H\mathbf{f}$，其中 $\mathbf{f} = \bar{\mathbf{z}} - \bar{\mathbf{A}}\bar{\mathbf{A}}^\dagger\bar{\mathbf{z}}$，$F$ 相对于 $\boldsymbol{\Theta}_0 \in \mathbb{R}^{K_0 \times 1}$ 的梯度可以计算为：

$$ \mathbf{g}0 = \left[\frac{\partial F}{\partial \theta_1}, \frac{\partial F}{\partial \theta_2}, \ldots, \frac{\partial F}{\partial \theta{K_0}}\right]^T $$

其中第 $q$ 个元素 $[\mathbf{g}_0]_q$ 给出为 $\frac{\partial F}{\partial \theta_q} = 2\text{Re}\left(\left(\frac{\partial \mathbf{f}}{\partial \theta_q}\right)^H \mathbf{f}\right)$。

根据 [49] 中的推导，我们得到：

$$ [\mathbf{g}_0]_q = -2\text{Re}{\text{Tr}{\bar{\mathbf{A}}_0^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_0 \bar{\mathbf{A}}_q}} $$

其中 $\bar{\mathbf{A}}_q = \frac{\partial \bar{\mathbf{A}}_0}{\partial \theta_q} = [0, 0, \ldots, \frac{\partial \bar{\mathbf{a}}}{\partial \theta_q}, \ldots, 0]$，其中 $\frac{\partial \bar{\mathbf{a}}}{\partial \theta_q} = \frac{\partial \bar{\mathbf{a}}(\theta_q)}{\partial \theta_q}$。

Hessian 矩阵 $\mathbf{H}_0$ 表示 $F$ 相对于 $\boldsymbol{\Theta}_0$ 的近似二阶偏导数。在此矩阵中，第 $(q,p)$ 元素表示为 $[\mathbf{H}0]{q,p} = 2\text{Re}\left{\left(\frac{\partial \mathbf{f}}{\partial \theta_q}\right)^H \frac{\partial \mathbf{f}}{\partial \theta_p}\right}$ 并且可以计算为：

$$ [\mathbf{H}0]{q,p} = 2\text{Re}{\text{Tr}{\bar{\mathbf{A}}_p\bar{\mathbf{A}}_0^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H(\bar{\mathbf{A}}_0^\dagger)^H \bar{\mathbf{A}}_q^H \mathbf{P}_0}} + 2\text{Re}{\text{Tr}{\bar{\mathbf{A}}_p^H \mathbf{P}_0 \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_0 \bar{\mathbf{A}}_q \bar{\mathbf{A}}_0^\dagger(\bar{\mathbf{A}}_0^\dagger)^H}} $$

定义偏导矩阵 $\mathbf{D}0 = \left[\frac{\partial \bar{\mathbf{a}}}{\partial \theta_1}, \frac{\partial \bar{\mathbf{a}}}{\partial \theta_2}, \ldots, \frac{\partial \bar{\mathbf{a}}}{\partial \theta{K_0}}\right]$，则 $\mathbf{g}_0$ 和 $\mathbf{H}_0$ 的矩阵形式可以给出为式 (28) 和 (29)。

附录 B：$H_1$ 下梯度和 Hessian 矩阵的推导

为了清晰起见，我们在以下推导中省略上标和函数的输入变量，即 $\bar{F} = \bar{F}(\bar{\boldsymbol{\Theta}}^{(t,i)})$ 和 $\bar{\mathbf{A}} = \bar{\mathbf{A}}(\bar{\boldsymbol{\Theta}}^{(t,i)}, \bar{\boldsymbol{\Phi}}^{(t,i)})$。在下文中，我们推导 $\mathbf{g}T$ 和 $\mathbf{H}{TT}$ 的矩阵表达式，$\mathbf{g}R$、$\mathbf{g}0$、$\mathbf{H}{TR}$、$\mathbf{H}{RR}$、$\mathbf{H}{RT}$、$\mathbf{H}{0T}$、$\mathbf{H}{T0}$、$\mathbf{H}{R0}$、$\mathbf{H}{0R}$、$\mathbf{H}{00}$ 的推导遵循类似的论证，为简洁起见省略。

类似于式 (40)，我们知道 $\mathbf{g}_T$ 的第 $q$ 个元素可以给出为：

$$ [\mathbf{g}_T]_q = -2\text{Re}{\text{Tr}{\bar{\mathbf{A}}^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_1 \bar{\mathbf{A}}_q'}} = -2\text{Re}{\text{Tr}{\boldsymbol{\Gamma}\bar{\mathbf{A}}_q'}} $$

其中 $\boldsymbol{\Gamma} = \bar{\mathbf{A}}^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_1 \in \mathbb{C}^{(2K_1+K_0) \times M_T M_R}$，$\bar{\mathbf{A}}_q' = \frac{\partial \bar{\mathbf{A}}}{\partial \vartheta_q} = [0, 0, \ldots, \frac{\partial \mathbf{a}_1}{\partial \vartheta_q}, \ldots, 0, \ldots, \frac{\partial \mathbf{a}_2}{\partial \vartheta_q}, \ldots, 0]$，其中：

$$ \frac{\partial \mathbf{a}_1}{\partial \vartheta_q} = \boldsymbol{\Sigma}_x^{1/2} \frac{\partial \mathbf{a}_T(\vartheta_q) \otimes \mathbf{a}_R(\phi_q)}{\partial \vartheta_q} $$

$$ \frac{\partial \mathbf{a}_2}{\partial \vartheta_q} = \boldsymbol{\Sigma}_x^{1/2} \frac{\partial \mathbf{a}_T(\phi_q) \otimes \mathbf{a}_R(\vartheta_q)}{\partial \vartheta_q} $$

我们将矩阵 $\boldsymbol{\Gamma}$ 划分为三个子矩阵，表示为 $\boldsymbol{\Gamma} = [\boldsymbol{\Gamma}_1, \boldsymbol{\Gamma}_2, \boldsymbol{\Gamma}_0]$，其中 $\boldsymbol{\Gamma}_1, \boldsymbol{\Gamma}_2 \in \mathbb{C}^{K_1 \times M_T M_R}$，$\boldsymbol{\Gamma}_0 \in \mathbb{C}^{K_0 \times M_T M_R}$。则式 (42) 可以重写为：

$$ [\mathbf{g}_T]_q = -2\text{Re}\left{\boldsymbol{\Gamma}_1^{(q)} \left(\frac{\partial \mathbf{a}_1}{\partial \vartheta_q}\right)^T + \boldsymbol{\Gamma}_2^{(q)} \left(\frac{\partial \mathbf{a}_2}{\partial \vartheta_q}\right)^T\right} $$

其中 $\boldsymbol{\Gamma}_1^{(q)}$ 和 $\boldsymbol{\Gamma}_2^{(q)}$ 分别表示 $\boldsymbol{\Gamma}_1$ 和 $\boldsymbol{\Gamma}_2$ 的第 $q$ 行。定义两个偏导矩阵：

$$ \mathbf{D}_{T1} = \left[\frac{\partial \mathbf{a}_1}{\partial \vartheta_1}, \frac{\partial \mathbf{a}_1}{\partial \vartheta_2}, \ldots, \frac{\partial \mathbf{a}1}{\partial \vartheta{K_1}}\right] $$

$$ \mathbf{D}_{T2} = \left[\frac{\partial \mathbf{a}_2}{\partial \vartheta_1}, \frac{\partial \mathbf{a}_2}{\partial \vartheta_2}, \ldots, \frac{\partial \mathbf{a}2}{\partial \vartheta{K_1}}\right] $$

我们可以得到 $\mathbf{g}_T$ 的矩阵形式：

$$ \mathbf{g}_T = -2\text{Re}{\text{diag}{\boldsymbol{\Gamma}1\mathbf{D}{T1} + \boldsymbol{\Gamma}2\mathbf{D}{T2}}} $$

类似地，定义 $\mathbf{D}{R1}$、$\mathbf{D}{R2}$ 和 $\mathbf{D}_0$，得到：

$$ \mathbf{g}_R = -2\text{Re}{\text{diag}{\boldsymbol{\Gamma}1\mathbf{D}{R1} + \boldsymbol{\Gamma}2\mathbf{D}{R2}}} $$

$$ \mathbf{g}_0 = -2\text{Re}{\text{diag}{\boldsymbol{\Gamma}_0\mathbf{D}_0}} $$

Hessian 矩阵 $\mathbf{H}_{TT}$ 表示相对于 $\boldsymbol{\Theta}_1$ 的二阶偏导数，其中第 $(q,p)$ 元素为：

$$ [\mathbf{H}{TT}]{q,p} = 2\text{Re}{\text{Tr}{\bar{\mathbf{A}}_p' \bar{\mathbf{A}}^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H (\bar{\mathbf{A}}^\dagger)^H (\bar{\mathbf{A}}_q')^H \mathbf{P}_1}} + 2\text{Re}{\text{Tr}{(\bar{\mathbf{A}}_p')^H \mathbf{P}_1 \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_1 \bar{\mathbf{A}}_q' \bar{\mathbf{A}}^\dagger (\bar{\mathbf{A}}^\dagger)^H}} $$

经过详细推导，我们可以得到各个 Hessian 块的矩阵形式（式 50-58）。这些表达式涉及矩阵 $\mathbf{S}$ 和 $\mathbf{C}$ 的分块形式以及偏导矩阵 $\mathbf{D}_T$、$\mathbf{D}_R$ 和 $\mathbf{D}_0$ 的各种组合。