4.5差熵的性质差熵的两条基本性质:1.差熵可为负值2.条件差熵小于无条件差熵4.5.2条件差熵小于无条件差熵设无条件差熵为RdxpxpxhX2222))log(()(条件差熵为RRxdxdxpxpxxXhX21122112)/)log(()/(4.5.2条件差熵小于无条件差熵设无条件差熵为RdxpxpxhX2222))log(()(条件差熵为RRxdxdxpxpxxXhX21122112)/)log(()/(条件差熵小于无条件差熵设无条件差熵为:条件差熵为:0)()(log))((log)/()()(log)/()()log(...
4.2N维连续随机变量的差熵N维连续随机变量的差熵对于N维连续平稳信源,它由N个取值连续的随机变量为X1,X2,..,.XN来表示,由这些随机变量组成一个随机矢量X=X1X2...XN,常称之为N维连续随机变量,注意到这里的每一个Xi(i=1,2,....,N)就是在4.1节中介绍的一维连续随机变量。N维连续随机变量的差熵设N维连续随机变量的概率密度函数为𝒑(𝒙)=𝒑(𝒙𝟏𝒙𝟐⋯𝒙𝑵),其中𝒙𝒊∈𝑿𝒊(𝒊=𝟏,𝟐,⋯,𝑵),并且满足归一化条件12121N...