24小时热门版块排行榜

返回列表

当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖

小阿信6000

新虫 (初入文坛)

应助: 0 (幼儿园)
金币: 5
帖子: 3
在线: 1.3小时
虫号: 2595506
注册: 2013-08-13
专业: 工程管理

[求助] 请问粗糙集条件信息熵和互信息怎么计算？有公式，不知道我理解是否正确

求教粗糙集中信息熵和条件信息熵的计算。看了相关论文，但我始终计算不对，不知道是不是我理解有误，请大家帮我看看，多谢！
现在定义是这样的：
有一个决策系统，U为论域，C为条件属性，D为决策属性。P、Q是C的子集，设P、Q在U上导出的划分分别为X、Y，其中：X={X1，X2，...，Xn}；Y={Y1，Y2，...，Ym}。则P、Q在由U的子集组成的代数上的概率分布为：
p(Xi) =| Xi |/| U |，i =1，2，...，n；
p(Yj) =| Yj |/| U |，j =1，2，...，m。其中符号|E|表示集合E里的元素数量。
那么属性集合P的熵H( P) 和属性集合P相对于属性集合Q的条件熵H( Q|P ) 见下图：

式子里log的底我当它是默认为10的。
现在，我在一篇论文里看到一个例子，具体决策表我就不写了，一共21组数据，它按决策属性D和条件属性C的划分如图：

它算出来的互信息 I(C; D)=0.5143
我理解的 I(C; D)=H(D)-H(D|C)，然后我算的H(D)=-((11/21)*LOG10(11/21)+(8/21)*LOG10(8/21)+(2/21)*LOG10(2/21))=0.404，然后我理解的H(D|C)算出来等于0，所以我的I(C; D)算出来就等于0.404，我不明白它的H(D)和H(D|C)应该是怎么算的。
请大家帮忙帮我看看吧，H(D)和H(D|C)应该是怎么算的？求指导，不甚感激！

回复此楼