24小时热门版块排行榜    

CyRhmU.jpeg
查看: 705  |  回复: 3

qq1007883286

金虫 (小有名气)

[求助] 求信息通信领域大神~关于信息熵在贝叶斯框架中的应用已有1人参与

根据信息熵的性质和贝叶斯公式,有如下推论:
H(Y|X)=H(X|Y)+H(Y)-H(X)
当X为data的时候,H(X|Y)是否有意义啊,怎样计算呢?因为信息熵不是表示随机变量的不确定性,这里X已经是确定的值了
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

我也不吃亏

新虫 (正式写手)

2楼2016-12-20 17:50:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qq1007883286

金虫 (小有名气)

引用回帖:
2楼: Originally posted by 我也不吃亏 at 2016-12-20 17:50:17
随机信号?

就是当X不是随机变量时,而是X=Xi(Xi为观测到的数据),这个等式仍然成立么?
3楼2016-12-20 18:52:02
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

syddesk

木虫 (正式写手)

【答案】应助回帖

感谢参与,应助指数 +1
就这个问题而言,还是有意义的。
你写出的公式中,对于X,虽然只是一些数据,但是还是满足一定的离散分布的,也就是说X是一个离散变量。对于Y,应该也有一个相应的离散分布。
而且熵的定义就是关于分布的。
当你确定你做的东西是一个x_i的时候就没什么意义了,因为你有所有的数据,你知道y_i之后相应的x_{i}就知道了,不存在任何不确定性
4楼2016-12-20 20:07:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 学员DqqZQC 的主题更新
信息提示
请填处理意见