求信息通信领域大神~关于信息熵在贝叶斯框架中的应用
根据信息熵的性质和贝叶斯公式，有如下推论：
H(Y|X)=H(X|Y)+H(Y)-H(X)
当X为data的时候，H(X|Y)是否有意义啊，怎样计算呢？因为信息熵不是表示随机变量的不确定性，这里X已经是确定的值了
返回小木虫查看更多
今日热帖
猜你喜欢
板块导航
- 网络生活
- 资源共享
- 化学化工
- 专业学科
- 科研生活
- 生物医药
- 材料
- 计算模拟
- 学术交流
- 出国留学
- 注册执考
24小时热帖
换一批
- 下载小木虫APP
- 与700万科研达人随时交流
-
二维码
-
IOS
-
安卓
京公网安备 11010802022153号
随机信号？
就是当X不是随机变量时，而是X=Xi（Xi为观测到的数据），这个等式仍然成立么
，
就这个问题而言，还是有意义的。
你写出的公式中，对于X，虽然只是一些数据，但是还是满足一定的离散分布的，也就是说X是一个离散变量。对于Y，应该也有一个相应的离散分布。
而且熵的定义就是关于分布的。
当你确定你做的东西是一个x_i的时候就没什么意义了，因为你有所有的数据，你知道y_i之后相应的x_{i}就知道了，不存在任何不确定性