欢迎访问 生活随笔!

生活随笔

当前位置: 首页 > 编程资源 > 编程问答 >内容正文

编程问答

复随机变量及高斯熵的概念

发布时间:2025/4/5 编程问答 25 豆豆
生活随笔 收集整理的这篇文章主要介绍了 复随机变量及高斯熵的概念 小编觉得挺不错的,现在分享给大家,帮大家做个参考.

文章目录

  • 复随机变量
    • 复随机信号
    • 复随机变量的二阶统计特性
  • 圆系数和高斯熵
    • 圆系数
    • 高斯熵

复随机变量

复随机信号

复随机信号x\bf{x}x的概率分布函数pdf为:
px(x)=px(xr+jxi)p_x({\bf{x}}) = p_x(x_r+jx_i) px(x)=px(xr+jxi)
对函数求其期望值有g:N→CNg:N{\rightarrow}{C^N}g:NCN,其中复随机信号bfxbf{x}bfx的取值在定义域NNN中。
E(g(x))=E(Re[g(x)])+jE(Im[g(x)])E(g({\bf{x}})) = E(Re[g({\bf{x}})]) + jE(Im[g({\bf{x}})]) E(g(x))=E(Re[g(x)])+jE(Im[g(x)])
一般假设其均值为零。

复随机变量的二阶统计特性

考虑复随机变量x=xr+jxi{\bf{x}}=x_r+jx_ix=xr+jxi的二阶统计特性。简化表示使用两个实数表示xR=[xrT,xiT]Tx_R=[x_r^T,x_i^T]^TxR=[xrT,xiT]T。故其信号的协方差矩阵可以表示为:
CxRxR=E{xRxRT}=[CxrxrCxrxiCxrxiTCxixi]C_{x_{R}x_{R}}=E\left \{x_Rx_R^T \right \}=\begin{bmatrix} C_{x_{r}x_{r}} &C_{x_{r}x_{i}} \\ C_{x_{r}x_{i}}^T & C_{x_{i}x_{i}} \end{bmatrix} CxRxR=E{xRxRT}=[CxrxrCxrxiTCxrxiCxixi]
对于其增强协方差矩阵
Caug=E{xxH}=UNCxRxRUNH=[CxxC~xxC~xx∗Cxx∗]=CaugHC_{aug}=E\left\{ \bm{x} \bm{x}^H\right\}=\bf{U}_NC_{x_{R}x_{R}}\bf{U}_N^H=\begin{bmatrix} C_{xx}&\tilde{C}_{xx} \\ \tilde{C}_{xx}^* & {C}_{xx}^* \end{bmatrix}=C_{aug}^H Caug=E{xxH}=UNCxRxRUNH=[CxxC~xxC~xxCxx]=CaugH
其中Hermit矩阵有
Cxx=E{xxH}=Cxrxr+Cxixi+j(CxrxiT−Cxixi)=CxxHC_{xx}=E\left\{ \bm{x} \bm{x}^H\right\}=C_{x_rx_r}+C_{x_ix_i}+j(C_{x_rx_i}^T-C_{x_ix_i})=C_{xx}^H Cxx=E{xxH}=Cxrxr+Cxixi+j(CxrxiTCxixi)=CxxH
C~xx=E{xxT}=Cxrxr−Cxrxi+j(CxixiT−Cxixi)=C~xxT\tilde{C}_{xx}=E\left\{ \bm{x} \bm{x}^T\right\}=C_{x_rx_r}-C_{x_rx_i}+j(C_{x_ix_i}^T-C_{x_ix_i})=\tilde{C}_{xx}^T C~xx=E{xxT}=CxrxrCxrxi+j(CxixiTCxixi)=C~xxT
C~xx\tilde{C}_{xx}C~xx为伪协方差矩阵,当其为零时,其复信号称为不失真信号,反之为失真信号。
可以得到复信号xxx为不失真信号的充分必要条件为复信号的实部xrx_rxr和虚部xix_ixi的协方差矩阵和伪协方差矩阵均满足Cxrxr=CxixiC_{x_rx_r}=C_{x_ix_i}Cxrxr=CxixiCxrxi=−CxrxiTC_{x_rx_i}=-C_{x_rx_i}^TCxrxi=CxrxiT
则当其复信号为不失真信号时,其hermit协方差矩阵为
Cxx=2Cxrxr−2jCxrxi=2Cxixi+2jCxrxiTC_{xx}=2C_{x_rx_r}-2jC_{x_rx_i}=2C_{x_ix_i}+2jC_{x_rx_i}^T Cxx=2Cxrxr2jCxrxi=2Cxixi+2jCxrxiT
同时其如果是一个标量信号时,其信号的方差是虚部方差和实部方差的两倍:
σx2=2σxr2=2σxi2\sigma_x^2=2\sigma_{x_r}^2=2\sigma_{x_i}^2 σx2=2σxr2=2σxi2
当一个复随机变量的概率分布的旋转不变的,则称其为圆的。
可以得到只有当复高斯随机信号xxx为非失真函数且均值为0时其才为圆信号。

圆系数和高斯熵

圆系数

描述圆信号的圆的程度,圆度系数。
近似的求解复信号的非圆度系数和圆度系数:
ρ=E{x2}E{∣x2∣}\rho = \frac{E\left\{x^2\right\}}{E\left\{\left | x^2\right |\right\}} ρ=E{x2}E{x2}
满足非圆系数0<ρ<10<\rho<10<ρ<1
当其为圆信号时,E{x2}=0E\left\{x^2\right\}=0E{x2}=0。当非圆程度越高,其E{x2}E\left\{x^2\right\}E{x2}的值就越接近于E{∣x2∣}E\left\{\left | x^2\right |\right\}E{x2}的值,非圆系数越接近于1。

高斯熵

根据香农的信息论,信息熵是描述一个信息的信息量大小和信息的不确定性之间的关系。同样地假设一个离散随机变量xxx,其概率密度函数为f(x)f(x)f(x),根据信息论其自信息量为I(x)=−log⁡f(x)I(x)=-\log{f(x)}I(x)=logf(x),其平均信息量为:
H(x)=−∫f(x)log⁡f(x)dxH(x) = -\int{f(x)\log{f(x)}dx} H(x)=f(x)logf(x)dx
其中H(x)H(x)H(x)被称为随机变量的熵。
对于复随机信号,可以根据上述的定义得到一个含增强协方差矩阵的熵:
H(X)=12log⁡[(πe)2Ndet⁡Caug]H(X)=\frac{1}{2}\log{[(\pi e)^{2N}\det{C_{aug}}]} H(X)=21log[(πe)2NdetCaug]
其中,det⁡Caug=det⁡2Cxxdet⁡(1−KKH)=det⁡2Cxx∏n=1N(1−kn2)\det{C_{aug}}=\det^2{C_{xx}}\det{(1-KK^H)}=\det^2{C_{xx}}{\prod_{n=1}^{N}}(1-k_n^2)detCaug=det2Cxxdet(1KKH)=det2Cxxn=1N(1kn2)

对于一个非圆的复高斯随机信号的熵可以改写为如下公式:
Hnoncir=12log⁡[(πe)2Ndet⁡Caug]=log⁡[(πe)2Ndet⁡Cxx]+12log⁡∏n=1N(1−kn2)H_{noncir}=\frac{1}{2}\log{[(\pi e)^{2N}\det{C_{aug}}]}=\log{[(\pi e)^{2N}\det{C_{xx}}]}+\frac{1}{2}\log{{\prod_{n=1}^{N}}(1-k_n^2)} Hnoncir=21log[(πe)2NdetCaug]=log[(πe)2NdetCxx]+21logn=1N(1kn2)
当复随机信号为圆时,其熵最大。
为了计算的方便和使用,给出另外一个高斯熵的定义方法

  • 高斯熵的定义2:假设复随机信号为x=xR+jxI{\bf{x}}=x_R+jx_Ix=xR+jxI,可以得到其熵的定义为:
    H(x)≜H(x,x∗)=−E{log⁡p(x,x∗)}H(x)\triangleq H(x,x^*)=-E\left\{\log{p(x,x^*)} \right\} H(x)H(x,x)=E{logp(x,x)}
    将其视为两个独立的随机变量,可以得到其概率密度函数
    p(x)=p(x,x∗)=1πdet⁡Πexp(−[xx∗]HΠ−1[xx∗]/2)p(x)=p(x,x^*)=\frac{1}{\pi \sqrt{\det{\Pi} } }exp(-\begin{bmatrix}x\\x^*\end{bmatrix}^H\Pi^{-1}\begin{bmatrix}x\\x^*\end{bmatrix}/2) p(x)=p(x,x)=πdetΠ1exp([xx]HΠ1[xx]/2)
    Π=[E{∣x2∣}E{x2}E{(x2)∗}E{∣x2∣}]\Pi = \begin{bmatrix}E\left\{\left | x^2\right |\right\} &E\left\{x^2\right\}\\ E\left\{(x^2)^*\right\}&E\left\{\left | x^2\right |\right\} \end{bmatrix} Π=[E{x2}E{(x2)}E{x2}E{x2}]
    其中Π\PiΠ[x,x∗]T[x,x^*]^T[x,x]T的协方差。将上述两式结合可以得到高斯熵的定义:
    H(x)≜H(x,x∗)=−E{log⁡p(x,x∗)}=1+log⁡(π)+12[E2{∣x2∣}−∣E{x2}∣2]H(x)\triangleq H(x,x^*)=-E\left\{\log{p(x,x^*)} \right\} \\ =1+\log{(\pi)}+\frac{1}{2}[E^2\left\{\left | x^2\right |\right\} -\left |E\left\{x^2\right\}\right |^2] H(x)H(x,x)=E{logp(x,x)}=1+log(π)+21[E2{x2}E{x2}2]

总结

以上是生活随笔为你收集整理的复随机变量及高斯熵的概念的全部内容,希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错,欢迎将生活随笔推荐给好友。