「今までのエントロピーは、離散的でしたよね」
由紀が葵に確認した。
「そう。サイコロ、コイン、有限個の選択肢」
「でも、現実は連続的ですよね。時間も、距離も」
葵が興味深そうに微笑んだ。「微分エントロピーの話をしようか」
「微分エントロピー？」
「連続確率分布のエントロピー。h(X) = -∫ f(x) log f(x) dx」
葵はノートに式を書いた。
「総和の代わりに積分を使う」
「でも」由紀が考えた。「連続だと、無限の選択肢があるんですよね？」
「鋭い。だから、微分エントロピーは負になることもある」
「エントロピーが負？」
「離散エントロピーは常に非負だけど、微分エントロピーは違う」
葵は例を出した。
「一様分布U(0,1)の微分エントロピーは0だ」
「ゼロですか」
「でも、U(0,0.5)なら-1になる」
由紀が混乱した。「なぜ負に？」
「微分エントロピーは、絶対的な量じゃなく、相対的な量なんだ」
ミラがノートを見せた。
「Differential entropy is not invariant under coordinate transformation」
「座標変換で変わる」葵が説明した。「だから、単位を変えるだけで値が変わる」
「不思議ですね」
「でも、エントロピーの差や相互情報量は、座標変換で不変だ」
葵は別の式を書いた。
「I(X;Y) = h(X) + h(Y) - h(X,Y)」
「この形は離散と同じ」
由紀が質問した。「じゃあ、現実世界は本当に連続なんですか？」
「哲学的だね」葵が考え込んだ。「量子力学では、プランク長という最小単位がある」
「じゃあ、究極的には離散？」
「かもしれない。でも、多くの現象では連続として扱う方が便利だ」
ミラが別の観点を提示した。
「Precision is limited by measurement」
「測定の精度には限界がある」葵が続けた。「だから、連続分布も、実際は有限精度の離散分布として扱われる」
「量子化ですか」
「そう。アナログ信号をデジタル化する過程だ」
葵は図を描いた。滑らかな曲線と、階段状の近似。
「サンプリングと量子化で、連続を離散に変換する」
由紀が理解した。「でも、情報は失われますよね」
「そこが重要。量子化誤差が生じる」
「どれくらい失われるんですか？」
「ビット数で決まる。nビットなら、2^n段階の精度」
ミラが計算を示した。
「8 bits = 256 levels. 16 bits = 65536 levels」
「音楽CDは16ビット」葵が例を出した。「人間の耳には十分な精度だ」
由紀が別の疑問を持った。「じゃあ、無限精度の測定は不可能？」
「理論的にも実用的にも不可能」葵が答えた。「ハイゼンベルグの不確定性原理がある」
「不確定性原理？」
「位置と運動量を同時に正確に測れない、という量子力学の原理」
「エントロピーと関係あるんですか？」
「深く関係してる。不確定性は、情報の限界を示す」
ミラが静かに言った。「Universe has fundamental entropy」
「宇宙そのものが、根本的なエントロピーを持つ」葵が翻訳した。
由紀が窓の外を見た。
「連続に見える世界も、本当は離散かもしれない」
「あるいは、離散に見える世界も、本当は連続かもしれない」
「どちらが真実なんでしょう」
葵が微笑んだ。「それは、まだ誰も知らない」
「でも、どちらでモデル化するかは選べる」
「そう。問題に応じて、適切な抽象化を選ぶ。それが科学だ」
ミラが最後に書いた。
「Entropy bridges discrete and continuous」
「エントロピーは、離散と連続を繋ぐ」由紀が読み上げた。
「美しい総括だ」葵が言った。「ミラは、いつも核心を突く」
夕暮れが近づいていた。連続と離散、有限と無限。
世界は複雑だけど、エントロピーという概念で理解できる。今日も、彼らは少し賢くなった。