假定（X Y Z)是一个多维高斯分布 并且X→Y→Z组成一个马尔可夫链 X和Y Y和Z的相关系数分别为ρ1和ρ2 求I（X；Z)。
多维,假定,系数
已帮助 人
假定(X，Y，Z)是一个多维高斯分布，并且X→Y→Z组成一个马尔可夫链，X和Y、Y和Z的相关系数分别为ρ1和ρ2，求I(X；Z)。
热搜：x理论和y理论的主要观点
-
首先，不失一般性我们假设X、Y和Z的均值为0，因为这样假设不会影响平均互信息以及给定Y后X和Z的相互独立的关系。同样我们假设X、Y和Z的方差为1(这可能会影响微分熵的结果但不会影响平均互信息)，记I为X和Z的协方差矩阵，因此
I(X；Z)=h(X)+h(Z)-h(XZ)
因为给定Y后X和Z相互独立，所以
ρxz=E[XZ]=E[E(XZ|Y)]=E[E(X|Y)·E(Z|Y)]
=E[ρ1Y·ρ2Y]
=ρ1ρ2
因此I(X；Z) =ρ1ρ2