汽车雷达在多径存在下的幽灵目标检测——论文阅读

汽车雷达在多径存在下的幽灵目标检测

D. Sharif, S. Murtala and G. S. Choi, “A Survey of Automotive Radar Misalignment Detection Techniques,” in IEEE Access, vol. 13, pp. 123314-123324, 2025, doi: 10.1109/ACCESS.2025.3584454.

摘要

共置多输入多输出（MIMO）技术已被广泛应用于汽车雷达系统，因为它能够以相对较少的发射和接收天线数量提供精确的角度估计。由于视距目标的发射方向（DOD）和到达方向（DOA）重合，MIMO信号处理允许形成更大的虚拟阵列用于角度查找。然而，多径反射是一个主要的限制因素，雷达信号可能从障碍物反弹，创建DOD不等于DOA的回波。因此，在具有多个散射体的复杂场景中，目标的直接路径可能被其他物体的间接路径破坏，导致不准确的角度估计或产生幽灵目标。

本文将多径反射引起的幽灵存在检测作为一个复合假设决策问题：H0H_0H0​假设观测仅包含共享相同（未知）DOD和DOA的未知数量直接路径；H1H_1H1​假设观测还包含DOD和DOA不重合的未知数量间接路径。我们采用广义似然比检验（GLRT）哲学来确定检测器结构，提供理论检测性能的闭式表达式，以及改善检测性能的凸波形优化方法。在实际场景中，GLRT哲学的未知参数被精心设计的估计器替代。直接路径和多径的角度通过稀疏增强的压缩感知（CS）方法与Levenberg-Marquardt（LM）优化进行估计，以在连续域中估计角度参数。

1. 引言

近年来，对更安全驾驶的需求导致了汽车雷达的显著需求增长。共置MIMO技术已被证明能够有效地以相对较少的天线数量提供精确的物体角度估计，使其在汽车行业中广受欢迎。

共置MIMO系统的一个主要挑战是多径反射，其中目标回波通过多条路径到达接收器，包括直接和间接路径。直接路径涉及信号从雷达传输到目标，然后直接反射回雷达，而间接路径可能在反射器之间多次反弹。通常，由于不同的传播延迟，距离门控可以消除我们试图检测的目标的间接路径。然而，某些间接路径的信号DOD不等于DOA，因此共置MIMO的假设不成立。结果是，在多目标场景中，意图目标的直接路径可能被其他物体的间接路径破坏，应用经典角度查找算法可能导致角度估计精度下降和检测到幽灵目标。

为了检测幽灵目标，一些研究者利用延迟-多普勒域中检测的几何关系。具体来说，R. Feng等人采用霍夫变换来探索多径检测的线性关系。F. Ross等人通过分析移动目标的多普勒分布来检测幽灵目标。这些方法在幽灵目标速度显著时可能有效，有效利用多普勒信息可以帮助从多径中提取几何信息进行识别。值得注意的是，文献[15]的作者提出了一种通过波形设计抑制幽灵的新方法，该方法有效地以高精度控制不同延迟-多普勒单元的响应。

2. 信号模型和问题形式化

最先进的汽车雷达通常采用调频连续波（FMCW）序列来实现高分辨率的目标距离和径向速度估计，并采用共置MIMO技术来合成大的虚拟阵列以进行精确的角度估计。我们考虑一个共置MIMO雷达系统，具有MTM_TMT​个发射天线发射同样多的编码序列和MRM_RMR​个接收天线。在接收端，每个天线的信号经过通常的处理以提取每个发射天线的贡献，并合成具有MTMRM_T M_RMT​MR​个元素的MIMO通道。然后通过沿快时间和慢时间的快速傅里叶变换（FFT）处理该信号，以获得回波的延迟-多普勒轮廓。最后，可以构建检测目标的虚拟阵列响应以估计目标的方向。

2.1 多径场景可视化

图1描述：图1展示了多径场景的可视化。图1(a)显示了直接路径，其中雷达信号直接传输到位于位置A的目标并直接反射回来，发射和到达角度相等。图1(b)显示了一对一阶路径，其中信号在到达目标之前或从目标返回时在位于点B的反射器处反弹一次，导致DOD和DOA不相等。

多径场景可以可视化为雷达发射信号从目标和反射器反弹。如图1所示，目标位于位置A，反射器位于点B，雷达接收的信号可以采取不同的路径：

• 直接路径：雷达和目标之间的最短路径，直接路径的发射和到达角度等于目标角度，如图1(a)所示。
• 一阶路径：间接路径涉及在发射或到达途中在反射器处的单次反弹，导致比直接路径更长的延迟。如图1(b)所示，一阶路径的DOD不等于相应的DOA。
• 高阶路径：间接路径在回波到达接收器之前涉及更多反弹。然而，由于目标和反射器处散射引起的衰减，高阶路径通常很弱，可以忽略。

2.2 信号模型

考虑一个FMCW MIMO雷达，从每个发射天线传输LLL个脉冲，并采用慢时编码作为复用方法。令x(l)=[x1(l),x2(l),⋯ ,xMT(l)]T\mathbf{x}(l) = [x_1(l), x_2(l), \cdots, x_{M_T}(l)]^Tx(l)=[x1​(l),x2​(l),⋯,xMT​​(l)]T为第lll个时期MTM_TMT​个发射天线传输的码矢量，传输码矩阵可以表示为X=[x(1),x(2),⋯ ,x(L)]∈CMT×L\mathbf{X} = [\mathbf{x}(1), \mathbf{x}(2), \cdots, \mathbf{x}(L)] \in \mathbb{C}^{M_T \times L}X=[x(1),x(2),⋯,x(L)]∈CMT​×L。

在对接收测量的快时间执行FFT后，我们在给定的被测延迟单元中考虑K0K_0K0​个直接路径和K1K_1K1​对一阶路径，将观测y(l)∈CMR×1\mathbf{y}(l) \in \mathbb{C}^{M_R \times 1}y(l)∈CMR​×1建模为：

y(l)=∑k=1K0αkej2πfd(l−1)aR(θk)aTT(θk)x(l)\mathbf{y}(l) = \sum_{k=1}^{K_0} \alpha_k e^{j2\pi f_d(l-1)} \mathbf{a}_R(\theta_k)\mathbf{a}_T^T(\theta_k)\mathbf{x}(l)y(l)=k=1∑K0​​αk​ej2πfd​(l−1)aR​(θk​)aTT​(θk​)x(l)
+∑k=1K1βk,1ej2πfd(l−1)aR(ϕk)aTT(ϑk)x(l)+ \sum_{k=1}^{K_1} \beta_{k,1} e^{j2\pi f_d(l-1)} \mathbf{a}_R(\phi_k)\mathbf{a}_T^T(\vartheta_k)\mathbf{x}(l)+k=1∑K1​​βk,1​ej2πfd​(l−1)aR​(ϕk​)aTT​(ϑk​)x(l)
+∑k=1K1βk,2ej2πfd(l−1)aR(ϑk)aTT(ϕk)x(l)+w(l)+ \sum_{k=1}^{K_1} \beta_{k,2} e^{j2\pi f_d(l-1)} \mathbf{a}_R(\vartheta_k)\mathbf{a}_T^T(\phi_k)\mathbf{x}(l) + \mathbf{w}(l)+k=1∑K1​​βk,2​ej2πfd​(l−1)aR​(ϑk​)aTT​(ϕk​)x(l)+w(l)

其中：

• αk\alpha_kαk​、βk,1\beta_{k,1}βk,1​和βk,2\beta_{k,2}βk,2​分别表示第kkk个直接路径（k=1,2,…,K0k = 1, 2, \ldots, K_0k=1,2,…,K0​）和第kkk对一阶路径（k=1,2,…,K1k = 1, 2, \ldots, K_1k=1,2,…,K1​）的复振幅
• θk\theta_kθk​表示第kkk个直接路径的DOD，等于DOA
• ϑk\vartheta_kϑk​和ϕk\phi_kϕk​表示第kkk对一阶路径的DOD和DOA，其中ϑk≠ϕk\vartheta_k \neq \phi_kϑk​=ϕk​
• fdf_dfd​是归一化多普勒频率
• aT(⋅)∈CMT×1\mathbf{a}_T(\cdot) \in \mathbb{C}^{M_T \times 1}aT​(⋅)∈CMT​×1和aR(⋅)∈CMR×1\mathbf{a}_R(\cdot) \in \mathbb{C}^{M_R \times 1}aR​(⋅)∈CMR​×1是导向矢量

导向矢量具体定义为：

aT(θ)=1MT[ej2πdT,1sin⁡(θ)/λ,ej2πdT,2sin⁡(θ)/λ,…,ej2πdT,MTsin⁡(θ)/λ]T\mathbf{a}_T(\theta) = \frac{1}{\sqrt{M_T}}\left[e^{j2\pi d_{T,1}\sin(\theta)/\lambda}, e^{j2\pi d_{T,2}\sin(\theta)/\lambda}, \ldots, e^{j2\pi d_{T,M_T}\sin(\theta)/\lambda}\right]^TaT​(θ)=MT​​1​[ej2πdT,1​sin(θ)/λ,ej2πdT,2​sin(θ)/λ,…,ej2πdT,MT​​sin(θ)/λ]T

aR(ϕ)=1MR[ej2πdR,1sin⁡(ϕ)/λ,ej2πdR,2sin⁡(ϕ)/λ,…,ej2πdR,MRsin⁡(ϕ)/λ]T\mathbf{a}_R(\phi) = \frac{1}{\sqrt{M_R}}\left[e^{j2\pi d_{R,1}\sin(\phi)/\lambda}, e^{j2\pi d_{R,2}\sin(\phi)/\lambda}, \ldots, e^{j2\pi d_{R,M_R}\sin(\phi)/\lambda}\right]^TaR​(ϕ)=MR​​1​[ej2πdR,1​sin(ϕ)/λ,ej2πdR,2​sin(ϕ)/λ,…,ej2πdR,MR​​sin(ϕ)/λ]T

其中θ\thetaθ和ϕ\phiϕ分别表示aT(⋅)\mathbf{a}_T(\cdot)aT​(⋅)和aR(⋅)\mathbf{a}_R(\cdot)aR​(⋅)的角度，λ\lambdaλ表示波长，dT,md_{T,m}dT,m​和dR,nd_{R,n}dR,n​表示第mmm个TX元素和第nnn个RX元素相对于参考阵列元素的相对距离。

定义P(fd)=diag([1,ej2πfd,⋯ ,ej2πfd(L−1)])\mathbf{P}(f_d) = \text{diag}([1, e^{j2\pi f_d}, \cdots, e^{j2\pi f_d(L-1)}])P(fd​)=diag([1,ej2πfd​,⋯,ej2πfd​(L−1)])，接收数据矩阵为：

Y=∑k=1K0αkaR(θk)aTT(θk)XP(fd)+∑k=1K1βk,1aR(ϕk)aTT(ϑk)XP(fd)\mathbf{Y} = \sum_{k=1}^{K_0} \alpha_k \mathbf{a}_R(\theta_k)\mathbf{a}_T^T(\theta_k)\mathbf{X}\mathbf{P}(f_d) + \sum_{k=1}^{K_1} \beta_{k,1} \mathbf{a}_R(\phi_k)\mathbf{a}_T^T(\vartheta_k)\mathbf{X}\mathbf{P}(f_d)Y=k=1∑K0​​αk​aR​(θk​)aTT​(θk​)XP(fd​)+k=1∑K1​​βk,1​aR​(ϕk​)aTT​(ϑk​)XP(fd​)
+∑k=1K1βk,2aR(ϑk)aTT(ϕk)XP(fd)+W+ \sum_{k=1}^{K_1} \beta_{k,2} \mathbf{a}_R(\vartheta_k)\mathbf{a}_T^T(\phi_k)\mathbf{X}\mathbf{P}(f_d) + \mathbf{W}+k=1∑K1​​βk,2​aR​(ϑk​)aTT​(ϕk​)XP(fd​)+W

经过匹配滤波Z=Y(XP(fd))H\mathbf{Z} = \mathbf{Y}(\mathbf{X}\mathbf{P}(f_d))^HZ=Y(XP(fd​))H并向量化后，虚拟MIMO阵列信号的一般模型为：

z=(Rx⊗IMR)A(Θ,Φ)β+r\mathbf{z} = (\mathbf{R}_x \otimes \mathbf{I}_{M_R})\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\boldsymbol{\beta} + \mathbf{r}z=(Rx​⊗IMR​​)A(Θ,Φ)β+r

其中Rx=X∗XT\mathbf{R}_x = \mathbf{X}^*\mathbf{X}^TRx​=X∗XT，A(Θ,Φ)=AT(Θ)∘AR(Φ)\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi}) = \mathbf{A}_T(\boldsymbol{\Theta}) \circ \mathbf{A}_R(\boldsymbol{\Phi})A(Θ,Φ)=AT​(Θ)∘AR​(Φ)表示响应矩阵。

3. 多径检测

3.1 GLRT检测器

在前一节概述的一般设置中，幽灵检测相当于解决一个耦合的检测-估计问题，其中我们必须区分复合假设H0H_0H0​（观测仅包含来自未知不同方向的未知数量K0K_0K0​个直接路径）与复合替代假设H1H_1H1​（观测还包含未知数量K1K_1K1​个一阶路径，每个由未知角度对表征）。

假设首先矩阵已知，我们需要解决复合二元假设检验：

{H0:z=(Rx⊗IMR)A(Θ0)α+rH1:z=(Rx⊗IMR)A(Θ,Φ)β+r\begin{cases} H_0: \mathbf{z} = (\mathbf{R}_x \otimes \mathbf{I}_{M_R})\mathbf{A}(\boldsymbol{\Theta}_0)\boldsymbol{\alpha} + \mathbf{r} \\ H_1: \mathbf{z} = (\mathbf{R}_x \otimes \mathbf{I}_{M_R})\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\boldsymbol{\beta} + \mathbf{r} \end{cases}{H0​:z=(Rx​⊗IMR​​)A(Θ0​)α+rH1​:z=(Rx​⊗IMR​​)A(Θ,Φ)β+r​

其中α∈CK0×1\boldsymbol{\alpha} \in \mathbb{C}^{K_0 \times 1}α∈CK0​×1和β∈C(K0+2K1)×1\boldsymbol{\beta} \in \mathbb{C}^{(K_0+2K_1) \times 1}β∈C(K0​+2K1​)×1是未知参数。

由于E(rrH)=σ2Rx⊗IMR\mathbb{E}(\mathbf{r}\mathbf{r}^H) = \sigma^2\mathbf{R}_x \otimes \mathbf{I}_{M_R}E(rrH)=σ2Rx​⊗IMR​​，我们有r∼CN(0,σ2Σx)\mathbf{r} \sim \mathcal{CN}(0, \sigma^2\boldsymbol{\Sigma}_x)r∼CN(0,σ2Σx​)，其中Σx=Rx⊗IMR\boldsymbol{\Sigma}_x = \mathbf{R}_x \otimes \mathbf{I}_{M_R}Σx​=Rx​⊗IMR​​。通过噪声白化变换，测试变为：

{H0:zˉ∼CN(Σx1/2A(Θ0)α,σ2IMTMR)H1:zˉ∼CN(Σx1/2A(Θ,Φ)β,σ2IMTMR)\begin{cases} H_0: \bar{\mathbf{z}} \sim \mathcal{CN}(\boldsymbol{\Sigma}_x^{1/2}\mathbf{A}(\boldsymbol{\Theta}_0)\boldsymbol{\alpha}, \sigma^2\mathbf{I}_{M_T M_R}) \\ H_1: \bar{\mathbf{z}} \sim \mathcal{CN}(\boldsymbol{\Sigma}_x^{1/2}\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\boldsymbol{\beta}, \sigma^2\mathbf{I}_{M_T M_R}) \end{cases}{H0​:zˉ∼CN(Σx1/2​A(Θ0​)α,σ2IMT​MR​​)H1​:zˉ∼CN(Σx1/2​A(Θ,Φ)β,σ2IMT​MR​​)​

其中zˉ=Σx−1/2z\bar{\mathbf{z}} = \boldsymbol{\Sigma}_x^{-1/2}\mathbf{z}zˉ=Σx−1/2​z。GLRT为：

TGLRT=∥P(Θ0)zˉ∥2∥P(Θ,Φ)zˉ∥2≷H1H0λGT_{GLRT} = \frac{\|\mathbf{P}(\boldsymbol{\Theta}_0)\bar{\mathbf{z}}\|^2}{\|\mathbf{P}(\boldsymbol{\Theta}, \boldsymbol{\Phi})\bar{\mathbf{z}}\|^2} \underset{H_0}{\overset{H_1}{\gtrless}} \lambda_GTGLRT​=∥P(Θ,Φ)zˉ∥2∥P(Θ0​)zˉ∥2​H0​≷H1​​​λG​

其中P(Θ0)\mathbf{P}(\boldsymbol{\Theta}_0)P(Θ0​)和P(Θ,Φ)\mathbf{P}(\boldsymbol{\Theta}, \boldsymbol{\Phi})P(Θ,Φ)是相应的正交投影矩阵。

3.2 性能界限和波形优化

图2描述：图2显示了虚警概率PfaP_{fa}Pfa​与检测阈值λG\lambda_GλG​的关系，针对MTMR=48M_T M_R = 48MT​MR​=48的不同(K0,K1)(K_0, K_1)(K0​,K1​)值。可以观察到，随着K1K_1K1​增加，给定阈值下的虚警概率降低，这是因为假设之间的可区分性增加。

在H0H_0H0​下，测试统计量比率XXX具有Fisher-Snedecor分布，密度为：

fX∣H0(x)=1B(2K1;m)x2K1−1(1+x)−(m+2K1)f_{X|H_0}(x) = \frac{1}{B(2K_1; m)} x^{2K_1-1}(1 + x)^{-(m+2K_1)}fX∣H0​​(x)=B(2K1​;m)1​x2K1​−1(1+x)−(m+2K1​)

其中m=MTMR−K0−2K1m = M_T M_R - K_0 - 2K_1m=MT​MR​−K0​−2K1​，B(a;b)B(a; b)B(a;b)表示参数为aaa和bbb的贝塔函数。

虚警概率和检测概率的闭式表达式为：

Pfa=1−1B(2K1;m)∑i=0m−1(−1)i(m−1i)2K1+i(1−1/λG)2K1+iP_{fa} = 1 - \frac{1}{B(2K_1; m)} \sum_{i=0}^{m-1} (-1)^i \binom{m-1}{i} \frac{2K_1 + i}{(1 - 1/\lambda_G)^{2K_1+i}}Pfa​=1−B(2K1​;m)1​i=0∑m−1​(−1)i(im−1​)(1−1/λG​)2K1​+i2K1​+i​

Pd=1−1B(2K1;m)∑i=0m−1(−1)i(m−1i)2K1+i(λG−1λG+ρ1)2K1+iP_d = 1 - \frac{1}{B(2K_1; m)} \sum_{i=0}^{m-1} (-1)^i \binom{m-1}{i} \frac{2K_1 + i}{\left(\frac{\lambda_G - 1}{\lambda_G + \rho_1}\right)^{2K_1+i}}Pd​=1−B(2K1​;m)1​i=0∑m−1​(−1)i(im−1​)(λG​+ρ1​λG​−1​)2K1​+i2K1​+i​

其中ρ1\rho_1ρ1​是一个适合的品质因数，定义为：

ρ1=σβ22K1σ2Tr(EHΣx1/2P0Σx1/2E)\rho_1 = \frac{\sigma_\beta^2}{2K_1\sigma^2} \text{Tr}\left(\mathbf{E}^H\boldsymbol{\Sigma}_x^{1/2}\mathbf{P}_0\boldsymbol{\Sigma}_x^{1/2}\mathbf{E}\right)ρ1​=2K1​σ2σβ2​​Tr(EHΣx1/2​P0​Σx1/2​E)

图3描述：图3展示了检测概率PdP_dPd​与σβ2/σ2\sigma_\beta^2/\sigma^2σβ2​/σ2的关系，比较了正交波形和优化波形的性能。可以看到，通过波形优化可以显著提高检测性能，特别是在低SNR条件下。

波形优化问题可以形式化为以下凸优化问题：

max⁡Rx,ΠTr(EH(Rx⊗IMR)E−Π)s.t.[Rx]m,m=1,m=1,2,⋯ ,MTΛ⪰0∥Rx−IMT∥2≤μRx⪰0\begin{align} \max_{\mathbf{R}_x, \boldsymbol{\Pi}} \quad & \text{Tr}\left(\mathbf{E}^H(\mathbf{R}_x \otimes \mathbf{I}_{M_R})\mathbf{E} - \boldsymbol{\Pi}\right) \\ \text{s.t.} \quad & [\mathbf{R}_x]_{m,m} = 1, \quad m = 1, 2, \cdots, M_T \\ & \boldsymbol{\Lambda} \succeq 0 \\ & \|\mathbf{R}_x - \mathbf{I}_{M_T}\|^2 \leq \mu \\ & \mathbf{R}_x \succeq 0 \end{align}Rx​,Πmax​s.t.​Tr(EH(Rx​⊗IMR​​)E−Π)[Rx​]m,m​=1,m=1,2,⋯,MT​Λ⪰0∥Rx​−IMT​​∥2≤μRx​⪰0​​

这是一个半定规划（SDP）问题，可以通过凸优化方法有效求解。

4. 多径角度估计

由于测试(13)不可实现（矩阵A(Θ0)\mathbf{A}(\boldsymbol{\Theta}_0)A(Θ0​)和A(Θ,Φ)\mathbf{A}(\boldsymbol{\Theta}, \boldsymbol{\Phi})A(Θ,Φ)未知），我们需要开发估计这些矩阵的方法。

4.1 H0H_0H0​假设下的估计器

图4描述：图4比较了Gauss-Newton (GN)和Levenberg-Marquardt (LM)方法在优化过程中的收敛行为。图4(a)显示了DOD和DOA角度差异较大时（(−1.9°,−13.2°)(-1.9°, -13.2°)(−1.9°,−13.2°)），两种方法都表现出相似的收敛行为。图4(b)显示了角度差异较小时（(−1.9°,−3.2°)(-1.9°, -3.2°)(−1.9°,−3.2°)），GN方法面临收敛挑战，而LM方法通过正则化项解决了这个问题并展现出更强的鲁棒性。

我们提出一种迭代过程来解决角度估计问题。定义r(t)\mathbf{r}^{(t)}r(t)为第ttt次迭代中的残差，初始化为r(0)=zˉ\mathbf{r}^{(0)} = \bar{\mathbf{z}}r(0)=zˉ。直接路径角度集合初始化为空集，即Θ0(0)=∅\boldsymbol{\Theta}_0^{(0)} = \emptysetΘ0(0)​=∅且K^0(0)=0\hat{K}_0^{(0)} = 0K^0(0)​=0。

在第ttt次迭代中，我们插入一条路径到集合中，K^0(t)=K^0(t−1)+1\hat{K}_0^{(t)} = \hat{K}_0^{(t-1)} + 1K^0(t)​=K^0(t−1)​+1。通过评估以下式子最小化残差的2-范数：

θ^(t)=arg⁡max⁡θ(t)∈{θ~1,θ~2,⋯ ,θ~G}∣(r(t−1))Haˉ(θ(t))∣\hat{\theta}^{(t)} = \arg\max_{\theta^{(t)} \in \{\tilde{\theta}_1, \tilde{\theta}_2, \cdots, \tilde{\theta}_G\}} \left|(\mathbf{r}^{(t-1)})^H \bar{\mathbf{a}}(\theta^{(t)})\right|θ^(t)=argθ(t)∈{θ~1​,θ~2​,⋯,θ~G​}max​​(r(t−1))Haˉ(θ(t))​

并更新角度矩阵为Θ0(t,0)=[(Θ0(t−1))T,θ^(t)]T\boldsymbol{\Theta}_0^{(t,0)} = [(\boldsymbol{\Theta}_0^{(t-1)})^T, \hat{\theta}^{(t)}]^TΘ0(t,0)​=[(Θ0(t−1)​)T,θ^(t)]T。

随后通过Gauss-Newton (GN)迭代来增强此估计的准确性：

Θ0(t,i+1)=Θ0(t,i)−(H0(t,i))−1g0(t,i)\boldsymbol{\Theta}_0^{(t,i+1)} = \boldsymbol{\Theta}_0^{(t,i)} - (\mathbf{H}_0^{(t,i)})^{-1}\mathbf{g}_0^{(t,i)}Θ0(t,i+1)​=Θ0(t,i)​−(H0(t,i)​)−1g0(t,i)​

其中梯度g0(t,i)\mathbf{g}_0^{(t,i)}g0(t,i)​和Hessian矩阵H0(t,i)\mathbf{H}_0^{(t,i)}H0(t,i)​的表达式在附录A中给出。

4.2 H1H_1H1​假设下的估计器

在H1H_1H1​下，算法是前一个算法的扩展，现在必须估计直接路径和一阶路径的角度。为了减少直接路径和一阶路径之间的干扰，我们分别在直接路径和一阶路径上实现估计过程。

搜索额外一阶路径对的粗略估计通过在两个均匀GGG维网格上搜索获得：

(ϑ^(t),ϕ^(t))=arg⁡max⁡ϑ(t)∈Ξtϕ(t)∈Ξrϑ(t)<ϕ(t)[∣(r(t−1))H(aT(ϑ(t))∘aR(ϕ(t)))∣+∣(r(t−1))H(aT(ϕ(t))∘aR(ϑ(t)))∣](\hat{\vartheta}^{(t)}, \hat{\phi}^{(t)}) = \arg\max_{\substack{\vartheta^{(t)} \in \Xi_t \\ \phi^{(t)} \in \Xi_r \\ \vartheta^{(t)} < \phi^{(t)}}} \left[|(\mathbf{r}^{(t-1)})^H(\mathbf{a}_T(\vartheta^{(t)}) \circ \mathbf{a}_R(\phi^{(t)}))| + |(\mathbf{r}^{(t-1)})^H(\mathbf{a}_T(\phi^{(t)}) \circ \mathbf{a}_R(\vartheta^{(t)}))|\right](ϑ^(t),ϕ^​(t))=argϑ(t)∈Ξt​ϕ(t)∈Ξr​ϑ(t)<ϕ(t)​max​[∣(r(t−1))H(aT​(ϑ(t))∘aR​(ϕ(t)))∣+∣(r(t−1))H(aT​(ϕ(t))∘aR​(ϑ(t)))∣]

由于在H1H_1H1​假设下直接和一阶路径的混合，当DOD和DOA之间的差异不大时，GN方法可能由于Hessian中的秩缺陷而导致不稳定的估计。因此，我们采用LM方法来更新角度估计：

h(t,i)=−(H(t,i)+μ(t,i)IK^(t))−1g(t,i)\mathbf{h}^{(t,i)} = -\left(\mathbf{H}^{(t,i)} + \mu^{(t,i)}\mathbf{I}_{\hat{K}^{(t)}}\right)^{-1}\mathbf{g}^{(t,i)}h(t,i)=−(H(t,i)+μ(t,i)IK^(t)​)−1g(t,i)

其中μ(t,i)\mu^{(t,i)}μ(t,i)是阻尼参数，通过增益比控制：

ϱ(t,i)=Fˉ(Θˉ(t,i))−Fˉ(Θˉ(t,i)+h(t,i))12(h(t,i))H(μ(t,i)h(t,i)−g(t,i))\varrho^{(t,i)} = \frac{\bar{F}(\bar{\boldsymbol{\Theta}}^{(t,i)}) - \bar{F}(\bar{\boldsymbol{\Theta}}^{(t,i)} + \mathbf{h}^{(t,i)})}{\frac{1}{2}(\mathbf{h}^{(t,i)})^H(\mu^{(t,i)}\mathbf{h}^{(t,i)} - \mathbf{g}^{(t,i)})}ϱ(t,i)=21​(h(t,i))H(μ(t,i)h(t,i)−g(t,i))Fˉ(Θˉ(t,i))−Fˉ(Θˉ(t,i)+h(t,i))​

5. 仿真和实验结果

5.1 仿真设置

图5描述：图5展示了MIMO雷达天线的实际和虚拟布局。图5(a)显示了均匀线性阵列（ULA）配置，其中发射和接收天线均匀间隔半波长。图5(b)显示了稀疏线性阵列（SLA）配置，其中天线不均匀间隔以增加孔径但会引入栅瓣。虚拟阵列（蓝色圆圈）由发射和接收阵列的卷积形成。

仿真参数设置如下：

• 雷达工作频率为79 GHz，载波波长λ=3.8\lambda = 3.8λ=3.8 mm
• 发射元素数量MT=6M_T = 6MT​=6，接收元素MR=8M_R = 8MR​=8
• 首先使用如图5(a)所示的均匀线性阵列（ULA）进行仿真
• 通过保持MTM_TMT​和MRM_RMR​恒定，我们确保检测性能的一致上界，并随后验证图5(b)所示SLA的性能
• 噪声根据方差σ2=1\sigma^2 = 1σ2=1的高斯分布随机生成
• 路径幅度根据β∼CN(0,σβ2I2K1)\boldsymbol{\beta} \sim \mathcal{CN}(0, \sigma_\beta^2\mathbf{I}_{2K_1})β∼CN(0,σβ2​I2K1​​)，α∼CN(0,σα2IK0)\boldsymbol{\alpha} \sim \mathcal{CN}(0, \sigma_\alpha^2\mathbf{I}_{K_0})α∼CN(0,σα2​IK0​​)生成
• 通过以2°2°2°步长离散化角度空间[−90°,90°][-90°, 90°][−90°,90°]获得网格

5.2 估计性能

图6描述：图6显示了不同算法在ULA和SLA配置下的RMSE性能。图6(a)和6(b)显示了ULA中直接路径（RMSE₀）和一阶路径（RMSE₁）的估计误差。图6©和6(d)显示了SLA的相应结果。在所有情况下，所提出的CSCD方法都优于基于网格的OMP、IAA和LASSO方法，特别是在高SNR条件下，这归因于连续域优化避免了网格失配问题。

我们评估所提出算法的角度估计均方根误差（RMSE）。注意算法返回一组估计，对应于真实路径或错误路径，如果没有接近其方向的估计，则无法检测到路径。因此，我们参考基于正确路径估计的RMSE。具体地，一阶路径和直接路径的RMSE计算为：

RMSE1=1MC∑m=1MC12∣Ω1m∣∑j∈Ω1m[(ϑj(m)−ϑ^j(m))2+(ϕj(m)−ϕ^j(m))2]\text{RMSE}_1 = \sqrt{\frac{1}{M_C} \sum_{m=1}^{M_C} \frac{1}{2|\Omega_1^m|} \sum_{j \in \Omega_1^m} \left[(\vartheta_j^{(m)} - \hat{\vartheta}_j^{(m)})^2 + (\phi_j^{(m)} - \hat{\phi}_j^{(m)})^2\right]}RMSE1​=MC​1​m=1∑MC​​2∣Ω1m​∣1​j∈Ω1m​∑​[(ϑj(m)​−ϑ^j(m)​)2+(ϕj(m)​−ϕ^​j(m)​)2]​

RMSE0=1MC∑m=1MC1∣Ω0m∣∑j∈Ω0m(θj(m)−θ^j(m))2\text{RMSE}_0 = \sqrt{\frac{1}{M_C} \sum_{m=1}^{M_C} \frac{1}{|\Omega_0^m|} \sum_{j \in \Omega_0^m} (\theta_j^{(m)} - \hat{\theta}_j^{(m)})^2}RMSE0​=MC​1​m=1∑MC​​∣Ω0m​∣1​j∈Ω0m​∑​(θj(m)​−θ^j(m)​)2​

其中MCM_CMC​是运行次数，Ω1m\Omega_1^mΩ1m​和Ω0m\Omega_0^mΩ0m​是第mmm次仿真中识别的一阶路径和直接路径的索引集。

5.3 检测性能

图7描述：图7比较了H0H_0H0​场景中a(θ),a(ψ)\mathbf{a}(\theta), \mathbf{a}(\psi)a(θ),a(ψ)的相关性（图7a）和H1H_1H1​场景中aT(ϑ)∘aR(ϕ),a(ψ)\mathbf{a}_T(\vartheta) \circ \mathbf{a}_R(\phi), \mathbf{a}(\psi)aT​(ϑ)∘aR​(ϕ),a(ψ)的相关性（图7b）。ULA显示了更清晰的主瓣和较低的旁瓣，而SLA虽然具有更窄的波束宽度但旁瓣更高，这解释了SLA配置中性能下降的原因。

图8描述：图8展示了ULA和SLA配置下不同(K1,K0)(K_1, K_0)(K1​,K0​)组合的检测概率PdP_dPd​与σβ2/σ2\sigma_\beta^2/\sigma^2σβ2​/σ2的关系。图8(a)和8(b)显示了ULA的结果，其中GLRT-CSCD的性能接近理论上界。图8©和8(d)显示了SLA的结果，其中由于较高的旁瓣，性能差距更大。在所有情况下，所提出的GLRT-CSCD都优于GLRT-OMP、GLRT-LASSO和GLRT-IAA。

图9描述：图9比较了不同MTMRM_T M_RMT​MR​值下的检测性能。随着系统自由度的增加（从MTMR=12M_T M_R = 12MT​MR​=12到48），检测性能提高，但收益逐渐递减。这表明对于给定的(K0,K1)(K_0, K_1)(K0​,K1​)值，存在一个最优的天线配置超过该配置后性能改善有限。

5.4 实验结果

图10描述：图10展示了实验场景。图10(a)是实验环境的照片，显示了被混凝土墙包围的道路，这创建了多径传播的理想条件。图10(b)显示了雷达点云，蓝色椭圆标记了由一阶路径引起的幽灵目标。

图11描述：图11展示了使用不同方法检测和消除幽灵目标的结果。图11(a)-©分别显示了GLRT-OMP、GLRT-LASSO和GLRT-IAA的结果，这些方法未能成功移除所有幽灵目标，并且错误地移除了一些静止目标的直接路径。图11(d)显示了所提出的GLRT-CSCD方法有效地消除了所有幽灵目标，同时保留了静止目标的直接路径。

我们使用实验数据评估所提出检测器的目标检测性能。数据由毫米波f0=77f_0 = 77f0​=77 GHz MIMO雷达获得，其中MT=8M_T = 8MT​=8个发射天线和MR=16M_R = 16MR​=16个接收天线，均匀间隔。发射侧间距为4.5λ4.5\lambda4.5λ，接收侧间距为4λ4\lambda4λ。

6. 结论

本文研究了汽车雷达在多径存在下的幽灵目标检测。间接路径的存在被建模为二元复合假设检验，提出了GLRT检测器来确定延迟-多普勒单元中是否存在间接路径。如果单元包含间接路径，可以移除幽灵目标并保留所需的直接路径。基于完美角度估计下GLRT检测性能的理论分析，我们推导了一种凸波形优化方法，可以增强检测性能。考虑到直接和间接路径角度均未知的实际场景，我们提出了一种稀疏增强的CS方法来估计连续域中的角度参数。仿真结果表明，所提出的算法优于现有的基于网格的估计器，从而导致更好的检测性能。提出的检测器的虚警率可以控制，ULA情况下的检测性能接近理论界限。最后，实验结果证明了所提出方法的有效性。

附录

附录A：H0H_0H0​下梯度和Hessian矩阵的推导

为了清晰起见，我们在以下一些推导中省略函数的上标(t,i)(t,i)(t,i)和输入变量，即F=F(Θ0(t,i))F = F(\boldsymbol{\Theta}_0^{(t,i)})F=F(Θ0(t,i)​)和Aˉ0=Aˉ(Θ0(t,i))\bar{\mathbf{A}}_0 = \bar{\mathbf{A}}(\boldsymbol{\Theta}_0^{(t,i)})Aˉ0​=Aˉ(Θ0(t,i)​)。

定义F=fHfF = \mathbf{f}^H\mathbf{f}F=fHf，其中f=zˉ−AˉAˉ†zˉ\mathbf{f} = \bar{\mathbf{z}} - \bar{\mathbf{A}}\bar{\mathbf{A}}^\dagger\bar{\mathbf{z}}f=zˉ−AˉAˉ†zˉ，FFF相对于Θ0∈RK0×1\boldsymbol{\Theta}_0 \in \mathbb{R}^{K_0 \times 1}Θ0​∈RK0​×1的梯度可以计算为：

g0=[∂F∂θ1,∂F∂θ2,…,∂F∂θK0]T\mathbf{g}_0 = \left[\frac{\partial F}{\partial \theta_1}, \frac{\partial F}{\partial \theta_2}, \ldots, \frac{\partial F}{\partial \theta_{K_0}}\right]^Tg0​=[∂θ1​∂F​,∂θ2​∂F​,…,∂θK0​​∂F​]T

其中第qqq个元素[g0]q[\mathbf{g}_0]_q[g0​]q​给出为∂F∂θq=2Re((∂f∂θq)Hf)\frac{\partial F}{\partial \theta_q} = 2\text{Re}\left(\left(\frac{\partial \mathbf{f}}{\partial \theta_q}\right)^H \mathbf{f}\right)∂θq​∂F​=2Re((∂θq​∂f​)Hf)。

根据[49]中的推导，我们得到：

[g0]q=−2Re{Tr{Aˉ0†zˉzˉHP0Aˉq}}[\mathbf{g}_0]_q = -2\text{Re}\{\text{Tr}\{\bar{\mathbf{A}}_0^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_0 \bar{\mathbf{A}}_q\}\}[g0​]q​=−2Re{Tr{Aˉ0†​zˉzˉHP0​Aˉq​}}

其中Aˉq=∂Aˉ0∂θq=[0,0,…,∂aˉ∂θq,…,0]\bar{\mathbf{A}}_q = \frac{\partial \bar{\mathbf{A}}_0}{\partial \theta_q} = [0, 0, \ldots, \frac{\partial \bar{\mathbf{a}}}{\partial \theta_q}, \ldots, 0]Aˉq​=∂θq​∂Aˉ0​​=[0,0,…,∂θq​∂aˉ​,…,0]，其中∂aˉ∂θq=∂aˉ(θq)∂θq\frac{\partial \bar{\mathbf{a}}}{\partial \theta_q} = \frac{\partial \bar{\mathbf{a}}(\theta_q)}{\partial \theta_q}∂θq​∂aˉ​=∂θq​∂aˉ(θq​)​。

Hessian矩阵H0\mathbf{H}_0H0​表示FFF相对于Θ0\boldsymbol{\Theta}_0Θ0​的近似二阶偏导数。在此矩阵中，第(q,p)(q,p)(q,p)元素表示为[H0]q,p=2Re{(∂f∂θq)H∂f∂θp}[\mathbf{H}_0]_{q,p} = 2\text{Re}\left\{\left(\frac{\partial \mathbf{f}}{\partial \theta_q}\right)^H \frac{\partial \mathbf{f}}{\partial \theta_p}\right\}[H0​]q,p​=2Re{(∂θq​∂f​)H∂θp​∂f​}并且可以计算为：

[H0]q,p=2Re{Tr{AˉpAˉ0†zˉzˉH(Aˉ0†)HAˉqHP0}}[\mathbf{H}_0]_{q,p} = 2\text{Re}\{\text{Tr}\{\bar{\mathbf{A}}_p\bar{\mathbf{A}}_0^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H(\bar{\mathbf{A}}_0^\dagger)^H \bar{\mathbf{A}}_q^H \mathbf{P}_0\}\}[H0​]q,p​=2Re{Tr{Aˉp​Aˉ0†​zˉzˉH(Aˉ0†​)HAˉqH​P0​}}
+2Re{Tr{AˉpHP0zˉzˉHP0AˉqAˉ0†(Aˉ0†)H}}+ 2\text{Re}\{\text{Tr}\{\bar{\mathbf{A}}_p^H \mathbf{P}_0 \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_0 \bar{\mathbf{A}}_q \bar{\mathbf{A}}_0^\dagger(\bar{\mathbf{A}}_0^\dagger)^H\}\}+2Re{Tr{AˉpH​P0​zˉzˉHP0​Aˉq​Aˉ0†​(Aˉ0†​)H}}

定义偏导矩阵D0=[∂aˉ∂θ1,∂aˉ∂θ2,…,∂aˉ∂θK0]\mathbf{D}_0 = \left[\frac{\partial \bar{\mathbf{a}}}{\partial \theta_1}, \frac{\partial \bar{\mathbf{a}}}{\partial \theta_2}, \ldots, \frac{\partial \bar{\mathbf{a}}}{\partial \theta_{K_0}}\right]D0​=[∂θ1​∂aˉ​,∂θ2​∂aˉ​,…,∂θK0​​∂aˉ​]，则g0\mathbf{g}_0g0​和H0\mathbf{H}_0H0​的矩阵形式可以给出为式(28)和(29)。

附录B：H1H_1H1​下梯度和Hessian矩阵的推导

为了清晰起见，我们在以下推导中省略上标和函数的输入变量，即Fˉ=Fˉ(Θˉ(t,i))\bar{F} = \bar{F}(\bar{\boldsymbol{\Theta}}^{(t,i)})Fˉ=Fˉ(Θˉ(t,i))和Aˉ=Aˉ(Θˉ(t,i),Φˉ(t,i))\bar{\mathbf{A}} = \bar{\mathbf{A}}(\bar{\boldsymbol{\Theta}}^{(t,i)}, \bar{\boldsymbol{\Phi}}^{(t,i)})Aˉ=Aˉ(Θˉ(t,i),Φˉ(t,i))。在下文中，我们推导gT\mathbf{g}_TgT​和HTT\mathbf{H}_{TT}HTT​的矩阵表达式，gR\mathbf{g}_RgR​、g0\mathbf{g}_0g0​、HTR\mathbf{H}_{TR}HTR​、HRR\mathbf{H}_{RR}HRR​、HRT\mathbf{H}_{RT}HRT​、H0T\mathbf{H}_{0T}H0T​、HT0\mathbf{H}_{T0}HT0​、HR0\mathbf{H}_{R0}HR0​、H0R\mathbf{H}_{0R}H0R​、H00\mathbf{H}_{00}H00​的推导遵循类似的论证，为简洁起见省略。

类似于式(40)，我们知道gT\mathbf{g}_TgT​的第qqq个元素可以给出为：

[gT]q=−2Re{Tr{Aˉ†zˉzˉHP1Aˉq′}}[\mathbf{g}_T]_q = -2\text{Re}\{\text{Tr}\{\bar{\mathbf{A}}^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_1 \bar{\mathbf{A}}_q'\}\}[gT​]q​=−2Re{Tr{Aˉ†zˉzˉHP1​Aˉq′​}}
=−2Re{Tr{ΓAˉq′}}= -2\text{Re}\{\text{Tr}\{\boldsymbol{\Gamma}\bar{\mathbf{A}}_q'\}\}=−2Re{Tr{ΓAˉq′​}}

其中Γ=Aˉ†zˉzˉHP1∈C(2K1+K0)×MTMR\boldsymbol{\Gamma} = \bar{\mathbf{A}}^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_1 \in \mathbb{C}^{(2K_1+K_0) \times M_T M_R}Γ=Aˉ†zˉzˉHP1​∈C(2K1​+K0​)×MT​MR​，Aˉq′=∂Aˉ∂ϑq=[0,0,…,∂a1∂ϑq,…,0,…,∂a2∂ϑq,…,0]\bar{\mathbf{A}}_q' = \frac{\partial \bar{\mathbf{A}}}{\partial \vartheta_q} = [0, 0, \ldots, \frac{\partial \mathbf{a}_1}{\partial \vartheta_q}, \ldots, 0, \ldots, \frac{\partial \mathbf{a}_2}{\partial \vartheta_q}, \ldots, 0]Aˉq′​=∂ϑq​∂Aˉ​=[0,0,…,∂ϑq​∂a1​​,…,0,…,∂ϑq​∂a2​​,…,0]，其中：

∂a1∂ϑq=Σx1/2∂aT(ϑq)⊗aR(ϕq)∂ϑq\frac{\partial \mathbf{a}_1}{\partial \vartheta_q} = \boldsymbol{\Sigma}_x^{1/2} \frac{\partial \mathbf{a}_T(\vartheta_q) \otimes \mathbf{a}_R(\phi_q)}{\partial \vartheta_q}∂ϑq​∂a1​​=Σx1/2​∂ϑq​∂aT​(ϑq​)⊗aR​(ϕq​)​

∂a2∂ϑq=Σx1/2∂aT(ϕq)⊗aR(ϑq)∂ϑq\frac{\partial \mathbf{a}_2}{\partial \vartheta_q} = \boldsymbol{\Sigma}_x^{1/2} \frac{\partial \mathbf{a}_T(\phi_q) \otimes \mathbf{a}_R(\vartheta_q)}{\partial \vartheta_q}∂ϑq​∂a2​​=Σx1/2​∂ϑq​∂aT​(ϕq​)⊗aR​(ϑq​)​

我们将矩阵Γ\boldsymbol{\Gamma}Γ划分为三个子矩阵，表示为Γ=[Γ1,Γ2,Γ0]\boldsymbol{\Gamma} = [\boldsymbol{\Gamma}_1, \boldsymbol{\Gamma}_2, \boldsymbol{\Gamma}_0]Γ=[Γ1​,Γ2​,Γ0​]，其中Γ1,Γ2∈CK1×MTMR\boldsymbol{\Gamma}_1, \boldsymbol{\Gamma}_2 \in \mathbb{C}^{K_1 \times M_T M_R}Γ1​,Γ2​∈CK1​×MT​MR​，Γ0∈CK0×MTMR\boldsymbol{\Gamma}_0 \in \mathbb{C}^{K_0 \times M_T M_R}Γ0​∈CK0​×MT​MR​。则式(42)可以重写为：

[gT]q=−2Re{Γ1(q)(∂a1∂ϑq)T+Γ2(q)(∂a2∂ϑq)T}[\mathbf{g}_T]_q = -2\text{Re}\left\{\boldsymbol{\Gamma}_1^{(q)} \left(\frac{\partial \mathbf{a}_1}{\partial \vartheta_q}\right)^T + \boldsymbol{\Gamma}_2^{(q)} \left(\frac{\partial \mathbf{a}_2}{\partial \vartheta_q}\right)^T\right\}[gT​]q​=−2Re{Γ1(q)​(∂ϑq​∂a1​​)T+Γ2(q)​(∂ϑq​∂a2​​)T}

其中Γ1(q)\boldsymbol{\Gamma}_1^{(q)}Γ1(q)​和Γ2(q)\boldsymbol{\Gamma}_2^{(q)}Γ2(q)​分别表示Γ1\boldsymbol{\Gamma}_1Γ1​和Γ2\boldsymbol{\Gamma}_2Γ2​的第qqq行。定义两个偏导矩阵：

DT1=[∂a1∂ϑ1,∂a1∂ϑ2,…,∂a1∂ϑK1]\mathbf{D}_{T1} = \left[\frac{\partial \mathbf{a}_1}{\partial \vartheta_1}, \frac{\partial \mathbf{a}_1}{\partial \vartheta_2}, \ldots, \frac{\partial \mathbf{a}_1}{\partial \vartheta_{K_1}}\right]DT1​=[∂ϑ1​∂a1​​,∂ϑ2​∂a1​​,…,∂ϑK1​​∂a1​​]

DT2=[∂a2∂ϑ1,∂a2∂ϑ2,…,∂a2∂ϑK1]\mathbf{D}_{T2} = \left[\frac{\partial \mathbf{a}_2}{\partial \vartheta_1}, \frac{\partial \mathbf{a}_2}{\partial \vartheta_2}, \ldots, \frac{\partial \mathbf{a}_2}{\partial \vartheta_{K_1}}\right]DT2​=[∂ϑ1​∂a2​​,∂ϑ2​∂a2​​,…,∂ϑK1​​∂a2​​]

我们可以得到gT\mathbf{g}_TgT​的矩阵形式：

gT=−2Re{diag{Γ1DT1+Γ2DT2}}\mathbf{g}_T = -2\text{Re}\{\text{diag}\{\boldsymbol{\Gamma}_1\mathbf{D}_{T1} + \boldsymbol{\Gamma}_2\mathbf{D}_{T2}\}\}gT​=−2Re{diag{Γ1​DT1​+Γ2​DT2​}}

类似地，定义DR1\mathbf{D}_{R1}DR1​、DR2\mathbf{D}_{R2}DR2​和D0\mathbf{D}_0D0​，得到：

gR=−2Re{diag{Γ1DR1+Γ2DR2}}\mathbf{g}_R = -2\text{Re}\{\text{diag}\{\boldsymbol{\Gamma}_1\mathbf{D}_{R1} + \boldsymbol{\Gamma}_2\mathbf{D}_{R2}\}\}gR​=−2Re{diag{Γ1​DR1​+Γ2​DR2​}}

g0=−2Re{diag{Γ0D0}}\mathbf{g}_0 = -2\text{Re}\{\text{diag}\{\boldsymbol{\Gamma}_0\mathbf{D}_0\}\}g0​=−2Re{diag{Γ0​D0​}}

Hessian矩阵HTT\mathbf{H}_{TT}HTT​表示相对于Θ1\boldsymbol{\Theta}_1Θ1​的二阶偏导数，其中第(q,p)(q,p)(q,p)元素为：

[HTT]q,p=2Re{Tr{Aˉp′Aˉ†zˉzˉH(Aˉ†)H(Aˉq′)HP1}}[\mathbf{H}_{TT}]_{q,p} = 2\text{Re}\{\text{Tr}\{\bar{\mathbf{A}}_p' \bar{\mathbf{A}}^\dagger \bar{\mathbf{z}}\bar{\mathbf{z}}^H (\bar{\mathbf{A}}^\dagger)^H (\bar{\mathbf{A}}_q')^H \mathbf{P}_1\}\}[HTT​]q,p​=2Re{Tr{Aˉp′​Aˉ†zˉzˉH(Aˉ†)H(Aˉq′​)HP1​}}
+2Re{Tr{(Aˉp′)HP1zˉzˉHP1Aˉq′Aˉ†(Aˉ†)H}}+ 2\text{Re}\{\text{Tr}\{(\bar{\mathbf{A}}_p')^H \mathbf{P}_1 \bar{\mathbf{z}}\bar{\mathbf{z}}^H \mathbf{P}_1 \bar{\mathbf{A}}_q' \bar{\mathbf{A}}^\dagger (\bar{\mathbf{A}}^\dagger)^H\}\}+2Re{Tr{(Aˉp′​)HP1​zˉzˉHP1​Aˉq′​Aˉ†(Aˉ†)H}}

经过详细推导，我们可以得到各个Hessian块的矩阵形式（式50-58）。这些表达式涉及矩阵S\mathbf{S}S和C\mathbf{C}C的分块形式以及偏导矩阵DT\mathbf{D}_TDT​、DR\mathbf{D}_RDR​和D0\mathbf{D}_0D0​的各种组合。