应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

小木虫论坛-学术科研互动平台 » 专业学科区 » 物理 » 理论物理&天文 » 【讨论】 熵的概念
北京石油化工学院2026年研究生招生接收调剂公告
111/2返回列表12下一页
查看: 827  |  回复: 10
只看楼主 @他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

xylai

铜虫 (小有名气)

[交流] 【讨论】 熵的概念

熵是由德国物理学家克劳修斯提出来的。
后来这个概念在其他学科很快发展起来。
在信息学，有香浓熵，在量子力学，有von 熵。

我想问，在信息学，香浓熵是 /sum pi log_pi   ，这个log是以2为底的，但是有些地方定义其他熵，确以e（自然单位）为底。我不知，不同的底，到时什么怎么来确分的，为什么不同？
谢谢！
回复此楼

» 猜你喜欢
1楼 2008-06-22 09:45:47
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚
用什么做底无所谓.
赞一下 回复此楼
2楼2008-06-22 09:46:31
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lm_nudt

铁杆木虫 (著名写手)

老汉说得有理

应该只是数值上的差别，参与具体运算时肯定会不一样的。
赞一下 回复此楼
3楼2008-06-22 10:58:19
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

元小雪

木虫 (职业作家)
熵就是混乱度的意思!
赞一下 回复此楼
无聊的博士
4楼2008-06-22 11:07:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

xylai

铜虫 (小有名气)
我觉得不一样。
在量子信息里头，有一章介绍香浓熵，它里头提到，熵就是用来度量这个系统所要花费的平均bit数，这个数，就是用2为底，计算得到的结果。
赞一下 回复此楼
5楼2008-06-22 15:02:41
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

heinstein

金虫 (小有名气)
平衡函数f（h3）的表观状态之一！！！！
赞一下 回复此楼
6楼2008-07-02 19:15:00
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

chonglai

木虫 (正式写手)
混乱度，无序程度的量值，神奇啊
赞一下 回复此楼
困难，说明你在走上坡路；轻松，说明你在走下坡路~
7楼2008-07-02 20:06:33
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyapple518

银虫 (小有名气)
★ ★
musi429(金币+2,VIP+0):多谢交流~
在可能性足够多的时候，
用什么做对数的底并不重要，或者说是完全相同的，LZ可以选取任意一个整数为底
因为在这么大的相空间（无穷大）内，只要趋势相同（都是对数）那就是一样的。
LZ可以比较一下香浓的公式和玻尔兹曼的公式
或者看一下康托的无穷大理论：整数的数目和偶数的数目都是一样的
就能理解了
赞一下(10人) 回复此楼
谁能用手心量海水 谁能用天平称山岭
8楼2008-07-03 09:38:01
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

怀念蔡元培

★ ★ ★
zt970831(金币+3,VIP+0):感谢您的帮助
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与熵联系起来了.
赞一下(10人) 回复此楼
9楼2008-07-03 11:17:09
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

flyapple518

银虫 (小有名气)
引用回帖:
Originally posted by 怀念蔡元培 at 2008-7-3 11:17:
信息概念本身的定义是:其中包含了多少不确定性.如果有人对你说了一则消息,你全知道了,对你来说就没什么意义,信息量就是零;如果这一消息其中的不确定性很大,那其中蕴含的信息量很大.
正是从不确定性的角度,信息与 ...

THIS COMMENT IS SOMETHING WRONG
赞一下 回复此楼
谁能用手心量海水 谁能用天平称山岭
10楼2008-07-03 15:01:39
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 xylai 的主题更新
111/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复 (可上传附件)
最具人气热帖推荐 [查看全部] 作者 回/看 最后发表
[考研] 324求调剂 +13 想上学求调 2026-04-02 13/650 2026-04-04 19:28 by 蓝云思雨
[考研] 301求调剂 +17 骆驼男人 2026-04-02 17/850 2026-04-04 19:10 by dongzh2009
[考研] 359求调剂 +7 hhhhaaaa$ 2026-04-04 7/350 2026-04-04 18:49 by imissbao
[考研] 工科求调剂 +11 11ggg 2026-04-03 11/550 2026-04-04 18:34 by imissbao
[考研] 一志愿华中农业大学0710（A）初试329分 求调剂 +3 一名26考研生 2026-04-04 3/150 2026-04-04 17:10 by dongzh2009
[考研] 本科211 分数293请求调剂 +3 莲菜就是藕吧 2026-04-01 3/150 2026-04-04 16:40 by 蓝云思雨
[考研] 293分求调剂，外语为俄语 +6 加一一九 2026-03-31 6/300 2026-04-04 14:57 by 聪明的大松鼠
[考研] 320分人工智能调剂 +6 振—TZ 2026-04-03 6/300 2026-04-04 01:05 by Dream007008
[考研] 311求调剂 +11 勇敢的小吴 2026-04-02 11/550 2026-04-03 21:46 by qlm5820
[考研] 材料科学与工程339求调剂 +12 hyz0119 2026-03-31 13/650 2026-04-03 18:33 by ls刘帅
[考研] 一志愿陕西师范大学生物学317分 +5 1563日。 2026-04-02 5/250 2026-04-03 06:58 by ilovexiaobin
[考研] 318求调剂，计算材料方向 +10 吸喵有害笙命 2026-04-01 11/550 2026-04-02 16:29 by oooqiao
[考研] 农学考研求调剂 +3 dkdkxm 2026-04-01 3/150 2026-04-02 16:04 by wangjagri
[考研] 307分求调剂 +14 (o~o) 2026-03-31 15/750 2026-04-01 20:43 by longlotian
[考研] 085410人工智能 初试316分 求调剂 +3 残星拂曙 2026-03-31 3/150 2026-04-01 11:09 by 小熊raider
[考研] 085601英二数二求调剂 总分325 +4 余航航 2026-03-31 4/200 2026-03-31 17:38 by 唐沐儿
[考研] 一志愿浙江大学工科动力工程370,数一121,专业课135，现在能去哪里 +3 080700调剂 2026-03-30 4/200 2026-03-31 12:00 by KLMY666
[考研] 南京大学化学调剂 +11 景随风 2026-03-29 16/800 2026-03-31 10:14 by herarysara
[考研] 吉大生物学326分求调剂 +3 sunnyupup 2026-03-31 3/150 2026-03-31 09:28 by longlotian
[考研] 材料专硕 085600求调剂 +7 BBQ233 2026-03-30 7/350 2026-03-30 17:44 by oooqiao
信息提示
关闭
请填处理意见
关闭