24小时热门版块排行榜    

查看: 1059  |  回复: 10
当前主题已经存档。

xylai

铜虫 (小有名气)

[交流] 【讨论】 熵的概念

熵是由德国物理学家克劳修斯提出来的。
后来这个概念在其他学科很快发展起来。
在信息学,有香浓熵,在量子力学,有von 熵。

我想问,在信息学,香浓熵是 /sum pi log_pi   ,这个log是以2为底的,但是有些地方定义其他熵,确以e(自然单位)为底。我不知,不同的底,到时什么怎么来确分的,为什么不同?
谢谢!
回复此楼
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚

用什么做底无所谓.
2楼2008-06-22 09:46:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lm_nudt

铁杆木虫 (著名写手)

老汉说得有理

应该只是数值上的差别,参与具体运算时肯定会不一样的。
3楼2008-06-22 10:58:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

元小雪

木虫 (职业作家)

熵就是混乱度的意思!
无聊的博士
4楼2008-06-22 11:07:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xylai

铜虫 (小有名气)

我觉得不一样。
在量子信息里头,有一章介绍香浓熵,它里头提到,熵就是用来度量这个系统所要花费的平均bit数,这个数,就是用2为底,计算得到的结果。
5楼2008-06-22 15:02:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

heinstein

金虫 (小有名气)

平衡函数f(h3)的表观状态之一!!!!
6楼2008-07-02 19:15:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chonglai

木虫 (正式写手)

混乱度,无序程度的量值,神奇啊
困难,说明你在走上坡路;轻松,说明你在走下坡路~
7楼2008-07-02 20:06:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyapple518

银虫 (小有名气)

★ ★
musi429(金币+2,VIP+0):多谢交流~
在可能性足够多的时候,
用什么做对数的底并不重要,或者说是完全相同的,LZ可以选取任意一个整数为底
因为在这么大的相空间(无穷大)内,只要趋势相同(都是对数)那就是一样的。
LZ可以比较一下香浓的公式和玻尔兹曼的公式
或者看一下康托的无穷大理论:整数的数目和偶数的数目都是一样的
就能理解了
谁能用手心量海水 谁能用天平称山岭
8楼2008-07-03 09:38:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

怀念蔡元培

★ ★ ★
zt970831(金币+3,VIP+0):感谢您的帮助
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与熵联系起来了.
9楼2008-07-03 11:17:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyapple518

银虫 (小有名气)

引用回帖:
Originally posted by 怀念蔡元培 at 2008-7-3 11:17:
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与 ...

THIS COMMENT IS SOMETHING WRONG
谁能用手心量海水 谁能用天平称山岭
10楼2008-07-03 15:01:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xylai 的主题更新
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[博后之家] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-02 06:39 by xzcv0Tehd8lQ
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-02 06:20 by xzcv0Tehd8lQ
[硕博家园] 售SCI一区T0P文章,我:8.O55.1.O.54,科目全,可十急 +4 xvJS1BYDxvBS 2026-10-31 8/400 2026-11-02 06:13 by xzcv0Tehd8lQ
[基金申请] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +4 1uaZt2kAZj2S 2026-10-30 17/850 2026-11-02 05:50 by xzcv0Tehd8lQ
[考研] 售SCI一区T0P文章,我:8.O.55.1.O.54,科目齐全,可+急 +4 1uaZt2kAZj2S 2026-10-30 21/1050 2026-11-02 05:41 by xzcv0Tehd8lQ
[博后之家] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +4 1uaZt2kAZj2S 2026-10-30 18/900 2026-11-02 05:37 by xzcv0Tehd8lQ
[论文投稿] 售SCI一区T0P文章,我:8O.55.1.O.5.4,科目齐全,可+急 +3 hKe7U1kad5Sg 2026-10-31 5/250 2026-11-02 03:39 by xzcv0Tehd8lQ
[考博] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 hKe7U1kad5Sg 2026-10-31 9/450 2026-11-02 03:26 by xzcv0Tehd8lQ
[基金申请] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +7 X5bHxOULxFqb 2026-10-30 24/1200 2026-11-02 02:39 by xzcv0Tehd8lQ
[博后之家] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 5/250 2026-11-01 22:24 by xzcv0Tehd8lQ
[基金申请] 售SCI一区T0P文章,我:8O.55.1.O.54,科目全,可伽急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-01 22:11 by xzcv0Tehd8lQ
[考博] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +5 1uaZt2kAZj2S 2026-10-31 7/350 2026-11-01 21:45 by xzcv0Tehd8lQ
[找工作] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 1uaZt2kAZj2S 2026-10-30 11/550 2026-11-01 21:35 by xzcv0Tehd8lQ
[教师之家] 售SCI-T0P文章,我:8O.5.5.1.O.54,科目齐全,可+急 +6 X5bHxOULxFqb 2026-10-30 16/800 2026-11-01 21:19 by xzcv0Tehd8lQ
[考研] 售一区SCI文章T0P,我:8O.551.O54,科目全,可十急 +3 hKe7U1kad5Sg 2026-10-31 6/300 2026-11-01 19:50 by xzcv0Tehd8lQ
[公派出国] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 1uaZt2kAZj2S 2026-10-30 15/750 2026-11-01 16:52 by BCdvBAEpt3zm
[找工作] 售SCI一区文章,我:8.O.55.1.O.54,科目齐全,可伽急 +4 1uaZt2kAZj2S 2026-10-31 8/400 2026-11-01 14:48 by BCdvBAEpt3zm
[考研] 售SCI一区T0P文章,我:8.O.55.1.O54,科目全,可伽急 +4 1uaZt2kAZj2S 2026-10-31 8/400 2026-11-01 12:38 by BCdvBAEpt3zm
[考博] 售SCI文章,我:8O5.5.1.O.54,科目齐全,可+急 +3 1uaZt2kAZj2S 2026-10-30 10/500 2026-11-01 12:27 by BCdvBAEpt3zm
[硕博家园] 售SCI一区T0P文章,我:8.O.55.1.O.5.4,科目全,可+急 +4 1uaZt2kAZj2S 2026-10-30 17/850 2026-11-01 12:24 by BCdvBAEpt3zm
信息提示
请填处理意见