驚きの量で世界を測る

エントロピーと驚きの関係、日常の出来事を情報量で理解する。

  • #entropy
  • #surprise
  • #information content
  • #daily events

「驚いた!」

陸が部室に飛び込んできた。

「何が?」由紀が聞いた。

「自販機で当たりが出た!」

葵が興味深そうに顔を上げた。「確率はどれくらい?」

「知らない。でも、すごく驚いた」

「その驚きが、情報量だ」葵が言った。

「え?」

由紀がノートを開いた。「驚きと情報量の関係ですか?」

「そう。稀な出来事ほど、情報量が多い」

陸が座った。「どういうこと?」

葵が説明した。「『太陽が昇った』と言っても、驚かないでしょ?」

「当たり前だから」

「そう。情報量はほぼゼロ。でも『太陽が西から昇った』なら?」

「すごく驚く!」

「それが高情報量だ」

由紀が理解した。「意外性が情報量を決める」

Professor S.が部室に入ってきた。「良い議論だ」

「教授、驚きと情報量について教えてください」

教授が頷いた。「情報量は、事象の確率の対数に反比例する」

「数式で言うと?」葵が補足した。「I(x) = -log P(x)」

「確率Pが小さいほど、情報量Iは大きい」

陸が考えた。「じゃあ、完全に予測できることは、情報量ゼロ?」

「そう。確率1の事象は、情報を運ばない」

由紀が例を考えた。「毎日学校に来るのは、情報量少ない」

「でも、突然休んだら?」

「情報量が高い。みんな『なぜ?』と思う」

教授が続けた。「エントロピーは、平均的な驚きだ」

「平均的な驚き?」

「あらゆる事象が起こりうる状況で、期待される情報量」

葵が図を描いた。「コイン投げ: 表50%、裏50% 平均情報量 = 1ビット」

「でも、偏ったコインなら?」

「表90%、裏10%なら、平均情報量は減る」

陸が理解した。「予測しやすいと、驚きが少ない」

「そう。エントロピーは不確実性の尺度」

由紀が質問した。「じゃあ、人生のエントロピーは?」

教授が微笑んだ。「面白い問い。人によって違う」

「どう違うんですか?」

「予測可能な生活を送る人は、低エントロピー。毎日が驚きの人は、高エントロピー」

陸が笑った。「俺は高エントロピーかも」

「でも、どちらが良いとは言えない」教授が補足した。

「低エントロピーは安定。高エントロピーは刺激的」

由紀がメモした。「選択の問題」

葵が別の視点を提示した。「でも、本当の驚きは、モデルの外から来る」

「モデルの外?」

「予想の範囲外。『そんなこと考えてもみなかった』という事象」

教授が頷いた。「それが最も高い情報量を持つ」

「新しい知識、新しい視点。それらは、世界観を変える」

陸が真剣になった。「情報理論を学んだのも、予想外だった」

「高情報量の経験だ」葵が認めた。

由紀が笑った。「最初は『情報理論クラブ?何それ』って思いました」

「でも、今は?」

「世界の見方が変わった」

教授が立ち去り際に言った。「それが学びの本質。驚きを通じて、成長する」

「高情報量の経験が、人を変える」

三人は静かに考えた。日常の中の驚き。小さな意外性。

それらを測る尺度が、情報量。

陸が言った。「じゃあ、明日は何ビットの驚きがあるかな」

「分からない。だから面白い」葵が答えた。

由紀がまとめた。「驚きの量で世界を測る:

  1. 稀な事象は高情報量
  2. エントロピーは平均的驚き
  3. 人生の豊かさは驚きの総量
  4. 学びは高情報量の経験」

窓の外で、夕日が沈む。予想通りの出来事。情報量はゼロ。

でも、その美しさは、測れない。

情報理論は万能じゃない。でも、世界を測る一つの物差しだった。