比特 = 阴阳 | 信息 = 消除不确定性

随机比特逐渐组织为有序图案——信息获取即熵减

领域 04

信息论

香农熵就是不确定性的度量——信息=消除不确定性=阴阳从混沌到有序

概述

1948年,克劳德·香农发表《通信的数学理论》,创立了信息论。这篇论文的核心思想惊人地简洁:信息是'不确定性的消除'。一个系统的香农熵越高,其不确定性越大,包含的'信息量'(更准确地说,信息承载潜力)也越大。

这个思想与太极图的哲学核心有着深刻的同构。太极图中,阴阳从无极(混沌、无差别、最大熵状态)中分化出来,形成可辨识的结构——这正是'不确定性消除'的过程。信息论中的比特(bit)是最基本的信息单位——它回答一个'是/否'问题——而这一元二元选择与阴阳的二元逻辑完全对应。

更引人深思的是,香农熵的数学公式与玻尔兹曼熵(热力学中的熵)具有相同的形式,暗示着信息与物理世界的深层统一。物理学家约翰·惠勒提出'It from Bit'(万物源于比特)的假说——宇宙的基本构成可能不是物质或能量,而是信息。麦克斯韦妖——一个经典的'思想实验'——如果拥有信息(知道分子速度),就可以打破热力学第二定律;但信息本身是有熵代价的(Landauer原理)。信息、熵、不确定性——这些概念构成了一幅与太极图阴阳消长惊人一致的宇宙图景。

太极关联

01

1比特=一个阴阳选择 → 阴阳二元是信息的最小单位

02

无极→太极(从混沌到有序)→ 熵减=信息获取

03

阴阳消长→ 信息在编码与传输中的动态变化

04

阴阳平衡→ 最优编码的信息密度(最短描述长度)

关键实例

香农熵公式 H = -Σ p(x) log p(x)

这个优雅的公式量化了不确定性。当所有事件等概率时熵最大(完全混乱——无极状态),当一个事件确定发生时熵为零(完全确定——信息已完全获取)。这与'无极而太极'——从混沌到有序的哲学叙事完全一致。

麦克斯韦妖与信息物理

麦克斯韦想象一个'妖'能观察分子速度并选择性地开关隔板门,从而不消耗能量就将热分子和冷分子分开——似乎打破了热力学第二定律。但1961年,Landauer证明擦除1比特信息至少消耗kT·ln2的能量——信息是物理的,与熵等价。阴阳变化中的'有'与'无'在此获得了物理学上的精确意义。

视觉对比

太极

阴阳未分的混沌(无极)→ 信息最贫乏/熵最大

科学

最大熵态——系统完全随机,无法预测,信息量为零

太极

阴阳分明、各居其位 → 信息清晰/熵最小

科学

低熵态——结构明确,可预测,已获取信息(不确定性已被消除)

可视化对照

阴阳爻线 ↔ 比特 0/1

阳 (—)1阴 (--)0

阳爻(—) = 1,阴爻(--) = 0。阴阳二元是一切信息编码的原子。

信息 = 消除不确定性(熵减)

随机比特逐渐组织为有序图案——每获得1 bit信息,不确定性就减少一半。阴阳之分是最原始的信息提取。

道 → 信息源

10一生二

'道生一,一生二'——道是阴阳未分的整体,1 bit是第一次信息提取,从混沌中建立了第一个区别。

知识测验

3
01

信息论中,比特(bit)的0/1二元对应太极中的什么?

02

信息和不确定性之间是什么关系?

03

在阴阳-信息论的视角下,'道'最接近什么概念?

参考资料

  1. 01A Mathematical Theory of Communication — Shannon (1948)[paper]
  2. 02Information is Physical — Rolf Landauer (1991)[paper]
  3. 03It from Bit — John Archibald Wheeler[wikipedia]