ジョイント・エントロピーと共有する未来

二人で見る世界は、一人で見る世界の単純な和ではない。そこに相関がある。

  • #joint entropy
  • #correlation
  • #mutual information
  • #shared experience

「葵先輩と一緒にいると、世界が違って見えます」

由紀が静かに言った。

葵は驚いて由紀を見た。「急にどうしたの?」

「いえ、ジョイント・エントロピーのことを考えてて」

「H(X,Y)?」

「はい。二つの変数を一緒に見た時のエントロピー」

葵がノートを開いた。「H(X,Y) ≤ H(X) + H(Y)」

「等号は、XとYが独立な時だけ」

「相関があると、不等号になる」由紀が続けた。

「そう。相関があると、合計エントロピーが減る」

「なぜですか?」

「片方を知ることで、もう片方の予測ができるから」

葵は例を出した。

「天気と気温。独立じゃない。晴れれば、暖かい可能性が高い」

「だから、両方を知っても、それぞれ個別に知るより情報量は少ない」

由紀が理解した。「重複があるんですね」

「まさに。その重複が、相互情報量I(X;Y)だ」

「I(X;Y) = H(X) + H(Y) - H(X,Y)」

葵は図を描いた。二つの円が重なるベン図。

「重なり部分が、共有する情報」

由紀が窓の外を見た。

「先輩と私も、相関があるんでしょうか」

葵が少し赤くなった。「どういう意味?」

「一緒にいる時間が長いと、考え方が似てくる」

「それは相関が増えてるってことだね」

「H(由紀,葵) < H(由紀) + H(葵)」

葵が笑った。「数式で表現するんだ」

「でも、それって良いことですか?」由紀が心配そうに聞いた。

「どういうこと?」

「相関が強すぎると、個性が失われる気がして」

葵が真剣に考えた。

「鋭い指摘だ。H(X|Y) = H(X,Y) - H(Y)」

「条件付きエントロピー。Yを知った後のXの不確実性」

「相関が完璧だと、H(X|Y) = 0」

「片方を知れば、もう片方も完全に分かる」

由紀が不安そうに言った。「それって、もう一人はいらない、ってこと?」

「いや、違う」葵が優しく言った。

「完全な相関は、理論上の極限だ。現実には、常に独立な部分が残る」

「独立な部分?」

「君は君の経験があり、私は私の経験がある」

「完全に同じになることは、ありえない」

由紀が少し安心した。「じゃあ、適度な相関が理想?」

「そう思う。I(X;Y)が高すぎず、低すぎず」

「お互いを理解できるけど、独立性も保つ」

葵がまとめた。「ジョイント・エントロピーが示すのは、二人で見る世界は単純な和じゃない、ということ」

「相互作用がある」

「そう。お互いが影響し合う」

由紀がノートに書いた。「H(X,Y) < H(X) + H(Y)。一緒にいることで、不確実性が減る」

「でも、ゼロにはならない」

「そこが美しい」葵が言った。

「完全に予測可能なら、一緒にいる意味がない」

「驚きがあるから、面白い」

由紀が微笑んだ。「先輩は、いつも驚きをくれます」

「君もだよ」

二人は静かに座っていた。

「ジョイント・エントロピー」由紀が呟いた。「共有する未来の数学」

「未来も、相関してるかもね」葵が言った。

「一緒にいると、未来の選択肢が変わる」

「H(未来_由紀, 未来_葵)」

「それは、まだ未定義だ」葵が笑った。

「でも、測定できる日が来るかもしれない」

由紀が頷いた。「その時まで、一緒に学び続けたいです」

「ジョイント・エントロピーを最適化しながら」

「適度な相関と、適度な独立性」

夕日が部室を照らした。

二人の未来は、まだ高エントロピーだ。でも、少しずつ相関が増えていく。

それが、関係を育むということかもしれない。

今日も、彼らのジョイント・エントロピーは、新しい値を記録した。