「ぷるむるクイズ☆2: tail-to-tail で話が違う!?」の解答編

下巻で一番大切な一文は p73 の「グラフはリンクが存在しないことをもって分布のクラスの性質に関する情報を表現する」やねんって儂が言わんかったら誰が言うてくれるねん! という使命感に思わず燃えてしまう PRML 第8章「グラフィカルモデル」(半分嘘)。
大事なことはしっかりきちんと書いてはあるんだけどいささか伝わりにくい、というのは PRML 8 章の全編にわたって共通しちゃっている。


実は「ぷるむるクイズ」第2問は、そんな「伝わりにくい大事なこと」の1つから出題していた。


問題本文は上のリンクを参照してもらうとして、以下解答編。

      • -

ぷるむるクイズ☆2: tail-to-tail で話が違う!? - Mi manca qualche giovedi`? の解答


「グラフも間違っていないし、計算もあっていると思うんだけど、どうして独立になるんだろう……」


ラプラスくんの愚痴を聞いて、フィッシャーくんはやれやれと首を振りました。


「確かにグラフも計算も正しいよ。けれど、もっと根本的なところを間違っているね。
最初の「 tail-to-tail は観測されてないときには非独立」。これが完全にアウト。
ちゃんと PRML を読んでごらん。tail-to-tail で真ん中を観測していなかったら「非独立になる」なんて一言も書いていないから。
書かれているのは『条件付き独立性が「一般には」成立しない』だ。p86 の上の方ね。
つまり、グラフィカルモデルでわかるのは「独立と言えるか、言えないか」だけなんだ」


フリーズしたラプラスくんの表情を見て、フィッシャーくんは考え考え付け加えた。


「例えば……そうだな、変数 c を「3 で割ったあまり」から「4 で割ったあまり」に替えれば、希望通り b と c が非独立な例になるよ。
君の例は、6 の約数で互いに素な 2 と 3 を選んだために、たまたま独立性が生まれてしまったんだ。
こういう「構造によらない独立性」はグラフィカルモデルだけでは読み取ることができないということ。わかった?」

      • -


PRML で『(条件付き)独立性が「一般には」成立しない』とされているのは、このパターンもあわせて全部で3つある。

  • tail-to-tail で真ん中を非観測時に、両側の変数の独立性は一般に成立しない
  • head-to-tail で真ん中を非観測時に、両側の変数の独立性は一般に成立しない
  • head-to-head で真ん中を観測時に、両側の変数の独立性は一般に成立しない


PRML では、式をゴニョゴニョいじったあげく「これは因数分解できない」という意味不明な論理をもって「一般に成立しない」ことを示しているつもりになっているが、数学の答案でこれをやったら 0 点だ。「一般に成立しない」を示したいなら、例を1つ上げるのが正解。
head-to-head の「観測時に非独立になる例」は PRML の中でもあげられているので(良い例であるとはお世辞にも言えないけどねw)、tail-to-tail や head-to-tail の「非独立になる例」も自分で作ってみると、理解の助けになって大変おすすめ。
さらに逆の「独立になる例」も作ってみたら完璧。こちらはちょっと工夫しないと作れないことがわかって、「一般には」に込められているニュアンスも実感できるだろう。