shannon entropy已经是类比起来很接近的了。问ai，当初为啥叫entropy：
"You should call it entropy, for two reasons. In the first place your uncertainty function has been used in statistical mechanics under that name, so it already has a name. In the second place, and more important, no one knows what entropy really is, so in a debate you will always have the advantage."
原因二，把我笑死啦
Shannon entropy 之所以也叫“熵”，不是因为通信系统真的有温度，而是因为它在数学形式和概念结构上都与热力学熵高度相似。
信息熵定义为：
H(X)=-\sum_i p_i\log p_i
热力学中的 Gibbs 熵则写成：
S=-k_B\sum_i p_i\ln p_i
两者几乎只差一个常数 和对数底数。
直观上：
结果越确定，信息熵越低。
可能结果越多、分布越均匀，信息熵越高。
熵衡量的是：在知道结果之前，系统还剩多少不确定性。
例如抛硬币：
若正面概率是 100%，结果完全可预测，。
若正反各 50%，不确定性最大， bit。
“熵”这个名字据说源于 Shannon 与冯·诺依曼的交流。冯·诺依曼建议 Shannon 使用 entropy，一方面因为其公式与统计力学熵相同；另一方面，当时人们对热力学熵本身也不容易直观解释，因此在争论中反而有优势。这个故事广泛流传，但具体措辞可能带有后人的润色。
更深一层看，二者并不只是“长得像”。
热力学熵是在问：
一个宏观状态背后，对应多少种不可分辨的微观状态？
信息熵是在问：
在观察结果之前，有多少种可能消息，以及我缺少多少关于结果的信息？
如果所有微观状态等概率，Shannon 熵变成：
H=\log W
而 Boltzmann 熵是：
S=k_B\ln W
所以可以把热力学熵理解为一种带有物理单位的 Shannon 信息熵。二者的共同核心是：
\boxed{\text{熵衡量可能性空间的规模，或观察者对具体状态的不确定性}}
但要注意，信息熵不等于日常语言中的“混乱”。严格地说，它衡量的是概率分布的不确定性、平均信息量或编码所需的最低平均长度。热力学熵则还受到能量、体积、粒子数等物理约束。
香农熵完全可以不用？
这是何等弱智的话啊。
这东西在数字化领域的重要性。香农熵（Shannon Entropy）是信息论的核心，用于量化系统的不确定性或信息量。它不仅定义了信息的本质，更为数据压缩、通信传输、机器学习以及复杂系统分析提供了不可或缺的数学基础。
其他的社会热力学概念会越来越多。原因很清楚。个各种领域都在数字化。
香农熵（信息熵）在社会学中的应用，标志着社会学研究从“机械隐喻”转向了“复杂系统动态学”。它说明社会科学借用自然科学概念已成为必然趋势，借此可实现对社会结构、群体分化及文化演进的量化表达。
枫林晓1 写了： 今天, 14:55香农熵完全可以不用？
这是何等弱智的话啊。
这东西在数字化领域的重要性。香农熵（Shannon Entropy）是信息论的核心，用于量化系统的不确定性或信息量。它不仅定义了信息的本质，更为数据压缩、通信传输、机器学习以及复杂系统分析提供了不可或缺的数学基础。
其他的社会热力学概念会越来越多。原因很清楚。个各种领域都在数字化。
二楼没说清楚。应该是说，如果 Shannon 不叫它 entropy，而是叫别的 (比如直接叫 uncertainty)，应该不怎么影响它的应用。
用熵这个字。有必要性的。这是世界本质。
不是本质，而是用熵这个字可以搞的神神叨叨的，在辩论的过程中占据上风，就是你现在做的
辩论啥啊。我一个在说社会热力学。没邀请辩论啊。
熵是必然要讨论的社会学热力学化。
而热力学化是数字化最可能的科学辅助工具。而数字化是社会学的必然方向。