查看: 505  |  回复: 3
【悬赏金币】回答本帖问题,作者qq1007883286将赠送您 100 个金币

qq1007883286

金虫 (小有名气)

[求助] 求信息通信领域大神~关于信息熵在贝叶斯框架中的应用已有1人参与

根据信息熵的性质和贝叶斯公式,有如下推论:
H(Y|X)=H(X|Y)+H(Y)-H(X)
当X为data的时候,H(X|Y)是否有意义啊,怎样计算呢?因为信息熵不是表示随机变量的不确定性,这里X已经是确定的值了
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

我也不吃亏

新虫 (正式写手)

2楼2016-12-20 17:50:17
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

qq1007883286

金虫 (小有名气)

引用回帖:
2楼: Originally posted by 我也不吃亏 at 2016-12-20 17:50:17
随机信号?

就是当X不是随机变量时,而是X=Xi(Xi为观测到的数据),这个等式仍然成立么?
3楼2016-12-20 18:52:02
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

syddesk

木虫 (正式写手)

【答案】应助回帖

感谢参与,应助指数 +1
就这个问题而言,还是有意义的。
你写出的公式中,对于X,虽然只是一些数据,但是还是满足一定的离散分布的,也就是说X是一个离散变量。对于Y,应该也有一个相应的离散分布。
而且熵的定义就是关于分布的。
当你确定你做的东西是一个x_i的时候就没什么意义了,因为你有所有的数据,你知道y_i之后相应的x_{i}就知道了,不存在任何不确定性
4楼2016-12-20 20:07:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 qq1007883286 的主题更新
不应助 确定回帖应助 (注意:应助才可能被奖励,但不允许灌水,必须填写15个字符以上)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[有机交流] 跑板能跑开,过柱过不纯怎么办 +7 小胡在努力 2024-06-18 9/450 2024-06-20 23:04 by if今年的吧
[论文投稿] Pattern Recognition期刊,二审审稿邀请发出一个月了,但有一个审稿人一直未接受审稿 5+3 PLVS_VLTRA 2024-06-19 5/250 2024-06-20 22:54 by holypower
[基金申请] 江苏省333人才工程 出校后被刷的概率大不大? +4 maxbirdzhang 2024-06-19 4/200 2024-06-20 22:38 by sunss
[找工作] 初始合伙人来啦!(生物试剂耗材标准品) +16 欢快的小科研人 2024-06-15 27/1350 2024-06-20 22:19 by zzw1992127
[基金申请] 刚刚收到科研之友邮件 +23 olivermiaoer 2024-06-19 32/1600 2024-06-20 22:17 by andywei1028
[硕博家园] 关于硕博连读的一些疑问? +9 Lwenter 2024-06-14 11/550 2024-06-20 21:20 by rhhua11111
[论文投稿] 求机械类四区sci推荐 5+4 迷茫小旷 2024-06-14 7/350 2024-06-20 17:42 by 不一样烟火12345
[基金申请] 青年基金会评专家到底是怎么会评的呀?主审专家是不是一般不会改动系统按函评给的顺序 5+4 他山攻玉之石 2024-06-18 18/900 2024-06-20 16:33 by 他山攻玉之石
[找工作] 高校两个offer选择 +15 cowox2021 2024-06-18 16/800 2024-06-20 15:24 by ase123456
[考博] 这个博士要读吗 +15 Sea Breeze 2024-06-16 29/1450 2024-06-20 14:30 by Sea Breeze
[海外博后] 墨尔本大学博后offer要不要接 +3 kyxblmm 2024-06-18 3/150 2024-06-19 22:39 by blake1111
[基金申请] 博后基金刷到的BUG,图片来的更直观 +15 carolloo 2024-06-17 16/800 2024-06-19 09:42 by msjy
[教师之家] 请问事业编制和年薪制冲突吗? +12 ZHONGWU_U 2024-06-14 12/600 2024-06-18 19:31 by fangyl2005
[论文投稿] 投稿求助 10+3 2022_灵魂工程师 2024-06-16 8/400 2024-06-18 12:12 by 投必得科研顾问
[高分子] 烧瓶内合成聚酯 +3 大帝国乐 2024-06-17 7/350 2024-06-18 11:10 by 大帝国乐
[有机交流] 求教最后一步问题出在哪 20+3 苏州浩恒 2024-06-15 4/200 2024-06-18 08:33 by like_2005
[论文投稿] 二审返修送审10天了,原来一审的3个审稿人只有2个接受了审稿,会邀请新审稿人么? 50+3 huanpo116 2024-06-15 5/250 2024-06-16 10:27 by bobvan
[基金申请] 博士后创新人才支持计划公示 +9 aishida144 2024-06-14 15/750 2024-06-16 09:52 by msjy
[论文投稿] 投稿被一个审稿人恶意评审了怎么样? +5 1chen 2024-06-14 7/350 2024-06-15 23:15 by xy66xy
[基金申请] 博后基金,以往的结果点不开,怎么回事呢?最后一次机会了,两次都没中前面。 +7 kyukitu 2024-06-14 13/650 2024-06-15 06:46 by 我是王小帅
信息提示
请填处理意见