24小时热门版块排行榜    

查看: 802  |  回复: 10
当前主题已经存档。
当前只显示满足指定条件的回帖,点击这里查看本话题的所有回帖

xylai

铜虫 (小有名气)

[交流] 【讨论】 熵的概念

熵是由德国物理学家克劳修斯提出来的。
后来这个概念在其他学科很快发展起来。
在信息学,有香浓熵,在量子力学,有von 熵。

我想问,在信息学,香浓熵是 /sum pi log_pi   ,这个log是以2为底的,但是有些地方定义其他熵,确以e(自然单位)为底。我不知,不同的底,到时什么怎么来确分的,为什么不同?
谢谢!
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

怀念蔡元培

★ ★ ★
zt970831(金币+3,VIP+0):感谢您的帮助
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与熵联系起来了.
9楼2008-07-03 11:17:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
查看全部 11 个回答

yalefield

金虫 (文坛精英)

老汉一枚

用什么做底无所谓.
2楼2008-06-22 09:46:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lm_nudt

铁杆木虫 (著名写手)

老汉说得有理

应该只是数值上的差别,参与具体运算时肯定会不一样的。
3楼2008-06-22 10:58:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

元小雪

木虫 (职业作家)

熵就是混乱度的意思!
无聊的博士
4楼2008-06-22 11:07:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
普通表情 高级回复 (可上传附件)
信息提示
请填处理意见