离散信息熵
衡量随机信源每次输出的平均不确定性。
符号、变量与单位
p(x):概率;H:bit;约定 0 log 0=0。
适用条件与边界
离散分布;连续微分熵与此定义不同且可为负。
公式源码
以下为可复制的 LaTeX 表达式。
H(X)=-\sum_x p(x)\log_2p(x)
参考与延伸学习
MIT OpenCourseWare · Information Theory ↗按模型定义与假设整理。工程、研究和临床使用前请核对实际条件与原始文献。
entropy信息熵
衡量随机信源每次输出的平均不确定性。
p(x):概率;H:bit;约定 0 log 0=0。
离散分布;连续微分熵与此定义不同且可为负。
以下为可复制的 LaTeX 表达式。
H(X)=-\sum_x p(x)\log_2p(x)
按模型定义与假设整理。工程、研究和临床使用前请核对实际条件与原始文献。