24小时热门版块排行榜    

北京石油化工学院2026年研究生招生接收调剂公告
查看: 828  |  回复: 10
当前主题已经存档。

xylai

铜虫 (小有名气)

[交流] 【讨论】 熵的概念

熵是由德国物理学家克劳修斯提出来的。
后来这个概念在其他学科很快发展起来。
在信息学,有香浓熵,在量子力学,有von 熵。

我想问,在信息学,香浓熵是 /sum pi log_pi   ,这个log是以2为底的,但是有些地方定义其他熵,确以e(自然单位)为底。我不知,不同的底,到时什么怎么来确分的,为什么不同?
谢谢!
回复此楼

» 猜你喜欢

已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚

用什么做底无所谓.
2楼2008-06-22 09:46:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lm_nudt

铁杆木虫 (著名写手)

老汉说得有理

应该只是数值上的差别,参与具体运算时肯定会不一样的。
3楼2008-06-22 10:58:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

元小雪

木虫 (职业作家)

熵就是混乱度的意思!
无聊的博士
4楼2008-06-22 11:07:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xylai

铜虫 (小有名气)

我觉得不一样。
在量子信息里头,有一章介绍香浓熵,它里头提到,熵就是用来度量这个系统所要花费的平均bit数,这个数,就是用2为底,计算得到的结果。
5楼2008-06-22 15:02:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

heinstein

金虫 (小有名气)

平衡函数f(h3)的表观状态之一!!!!
6楼2008-07-02 19:15:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chonglai

木虫 (正式写手)

混乱度,无序程度的量值,神奇啊
困难,说明你在走上坡路;轻松,说明你在走下坡路~
7楼2008-07-02 20:06:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyapple518

银虫 (小有名气)

★ ★
musi429(金币+2,VIP+0):多谢交流~
在可能性足够多的时候,
用什么做对数的底并不重要,或者说是完全相同的,LZ可以选取任意一个整数为底
因为在这么大的相空间(无穷大)内,只要趋势相同(都是对数)那就是一样的。
LZ可以比较一下香浓的公式和玻尔兹曼的公式
或者看一下康托的无穷大理论:整数的数目和偶数的数目都是一样的
就能理解了
谁能用手心量海水 谁能用天平称山岭
8楼2008-07-03 09:38:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

怀念蔡元培

★ ★ ★
zt970831(金币+3,VIP+0):感谢您的帮助
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与熵联系起来了.
9楼2008-07-03 11:17:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyapple518

银虫 (小有名气)

引用回帖:
Originally posted by 怀念蔡元培 at 2008-7-3 11:17:
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与 ...

THIS COMMENT IS SOMETHING WRONG
谁能用手心量海水 谁能用天平称山岭
10楼2008-07-03 15:01:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xylai 的主题更新
普通表情 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 344材料与化工调剂 +9 调剂上岸玘 2026-04-03 9/450 2026-04-04 23:10 by happyddm
[考研] 288求调剂,一志愿华南理工大学071005 +4 ioodiiij 2026-04-04 4/200 2026-04-04 22:49 by barlinike
[考研] 考研调剂 +5 四川王涛 2026-04-04 5/250 2026-04-04 22:18 by 啵啵啵0119
[考研] 340求调剂 +4 jhx777 2026-03-29 4/200 2026-04-04 20:08 by 无际的草原
[考研] 359求调剂 +7 hhhhaaaa$ 2026-04-04 7/350 2026-04-04 18:49 by imissbao
[考研] 285求调剂 +4 AZMK 2026-04-04 5/250 2026-04-04 16:45 by cql1109
[考研] 复试调剂 +6 范根培 2026-04-04 6/300 2026-04-04 14:27 by 土木硕士招生
[考研] 土木304求调剂 +4 兔突突突, 2026-03-31 4/200 2026-04-04 13:34 by 1753564080
[考研] 335求调剂 +7 沈清璃 2026-04-03 7/350 2026-04-03 18:55 by lijunpoly
[考研] 085501一志愿天工大,机械专硕求调剂,跨材料 +3 33上 2026-04-03 3/150 2026-04-03 14:08 by 1753564080
[考研] 0705理学294求调剂 +3 成果成果cg5 2026-04-03 3/150 2026-04-03 14:04 by simons1972
[考研] 一志愿华东理工大学,080500学硕,317分,求调剂 +13 s1145 2026-03-31 15/750 2026-04-03 11:44 by msi123
[考研] 301求调剂 +4 细胞相关蛋白 2026-04-02 8/400 2026-04-02 16:30 by 271179835
[考研] 321求调剂 一志愿 浙江工业大学生物医药 +5 嘿嘿HC 2026-04-01 6/300 2026-04-02 15:23 by sophie2180
[考研] 初试301,代码085701环境工程,本硕一致,四六级已过,有二区一作,共发表5篇论文 +6 axibli 2026-04-01 6/300 2026-04-02 13:42 by Ecowxq666!
[考研] 279求调剂 +6 学而思兮知 2026-04-01 6/300 2026-04-02 09:16 by vgtyfty
[考研] 285求调剂 +11 AZMK 2026-04-01 11/550 2026-04-01 22:40 by peike
[考研] 食品学硕362求调剂 +3 xuanxianxian 2026-04-01 3/150 2026-04-01 21:05 by 啊李999
[考研] 358求调剂 +3 王向阳花 2026-03-31 3/150 2026-04-01 09:56 by zzchen2000
[考研] 求调剂 +7 青春裁为三截 2026-03-29 7/350 2026-03-30 13:14 by laoshidan
信息提示
请填处理意见