INFORMATION & COMMUNICATION

离散信息熵

衡量随机信源每次输出的平均不确定性。

H(X)=−∑xp(x)log⁡2p(x)H(X)=-\sum_x p(x)\log_2p(x)

符号、变量与单位

p(x):概率;H:bit;约定 0 log 0=0。

适用条件与边界

离散分布;连续微分熵与此定义不同且可为负。

公式源码

以下为可复制的 LaTeX 表达式。

H(X)=-\sum_x p(x)\log_2p(x)

参考与延伸学习

MIT OpenCourseWare · Information Theory ↗

按模型定义与假设整理。工程、研究和临床使用前请核对实际条件与原始文献。

entropy信息熵

这些知识如何走进高端产品

相关科学人物与方法贡献

同学科公式

前往免费科学工具库 ↗