因果ベイズネットとdo演算子

矢印が「原因」を意味するとき

これまで、ベイズネットの矢印はひとつの意味しか持っていませんでした。「情報を伝える」という意味です。矢印 $A \to B$ は、両者が確率的に結びついていることを示し、第9章ではグラフの形から、どの確率変数がどの確率変数を説明するかを読み取る方法を学びました。しかし、矢印は因果関係については何も主張していませんでした。フォーク構造 $A \leftarrow B \to C$ では、$A$ と $C$ はどちらかがもう一方の原因でなくても依存関係を持ちます。

この章では、矢印が原因を意味すると主張した場合に何が変わるかを問います。その答えは、統計学全体の中で最も重要なアイデアのひとつです。それは、見ることとすることの違いです。

Chibanyは健康診断のためにキャンパスの医療センターを訪れています。

医師：「ところで、歯が黄色い人は肺がんの発症率が高いんですよ。」

Chibany：「へえ。じゃあ、歯を白くペイントすれば、リスクを下げられますか？」

医師： (笑いながら) 「そういうことじゃないんですよ。」

でも、なぜそうじゃないのでしょうか？Chibanyはベイズネットを描くことができます。黄色い歯と肺がんは本当に統計的に関連しています。$P(\text{がん} \mid \text{黄色い歯})$ は実際に $P(\text{がん})$ より高いのです。では、なぜ一方に働きかけてももう一方を変えられないのでしょうか？その答えがこの章の全てです。

同じ統計、三つの異なるストーリー

これが、因果関係を難しくする落とし穴です。「黄色い歯と肺がんが偶然より高い頻度で同時に起こる」というひとつの観察は、三つの全く異なる因果構造と矛盾しません。

graph LR
    subgraph Story1["1. 歯ががんを引き起こす"]
        T1(("黄色い<br/>歯")) --> C1(("がん"))
    end
    subgraph Story2["2. がんが歯を引き起こす"]
        C2(("がん")) --> T2(("黄色い<br/>歯"))
    end
    subgraph Story3["3. 共通原因（真実）"]
        S3(("喫煙")) --> T3(("黄色い<br/>歯"))
        S3 --> C3(("がん"))
    end
    classDef node fill:none,stroke:#9bbcff,stroke-width:2px,color:#fff
    class T1,C1,T2,C2,S3,T3,C3 node

ストーリー1は、歯を白くすれば助けになると言います。真実であるストーリー3は、それが役に立たないと言います。喫煙が歯を黄ばませかつがんを引き起こすため、歯は単なる指標であり、真の原因とともに現れる症状に過ぎません。歯を白くすることは、原因に触れずに指標をペイントして隠すことになります。

ここに重要な事実があります。これら三つのグラフは観察だけでは区別できません。 それらはまったく同じ相関関係を予測します。人々の歯と肺をいくら観察しても、どのストーリーが真実かを判別できません（これは第8章で指摘した構造学習の難しさであり、因果の主張がデータ以上のものを必要とする理由です）。決着をつけるには、見るだけでなく、何かする必要があります。

なぜ観察では区別できないか：因数分解が一致する

これは根拠のない話ではなく、第8章のマルコフ因数分解から直接導かれます。$T$ を黄色い歯、$C$ をがんとします。各グラフは、各ノードの積（各ノードをその親で条件付けたもの）になります。

• ストーリー1、$T \to C$： $ P(T, C) = P(T) P(C \mid T).$
• ストーリー2、$C \to T$： $ P(T, C) = P(C) P(T \mid C).$

では、これら二つは異なる分布でしょうか？違います。どちらも同じ同時分布を書く二通りの方法に過ぎません。条件付き確率の定義から、$P(T) P(C \mid T)$ と $P(C) P(T \mid C)$ は両方とも $P(T, C)$ と等しいからです（これはチェーン則を二通りの順序で適用したものです）。矢印の向きを逆にしても、分布は少しも変わりません。因数分解の順序を入れ替えただけです。そして、二変数上でどちらかのグラフが主張できる唯一の独立性の主張は「$T \perp C$」ですが、どちらもそれを主張しません（両者の間の矢印は依存関係を意味します）。つまり、ストーリー1と2は全ての観測可能な確率について同じ主張をします。同じ同時分布、同じ周辺分布、同じ相関、同じ（空の）独立性の集合です。

全く同じ条件付き独立性の集合をエンコードする二つのグラフはマルコフ同値と呼ばれ、それらの独立性を共有する全グラフの集合はマルコフ同値類と呼ばれます（この用語を用語集に追加します）。ストーリー1と2は同じ類に属しており、常に同時分布しか見られない観察は、どちらの矢印の向きが真実かに対して盲目です。データには文字通り答えが含まれていません。

ストーリー3、共通原因については？ これは三つの確率変数（$S$ = 喫煙、$T$、$C$）を扱い、次のように因数分解されます。

このフォーク構造は独立性の主張をします。$T \perp C \mid S$（喫煙しているかどうかがわかれば、歯とがんは独立です。両者の相関は全て喫煙を通じていました）。つまり、書かれた通りではストーリー1と2とはマルコフ同値ではありません。しかし落とし穴があります。$S$ は決して観察されないのです。喫煙を周辺化する（歯と肺しか見られない観察者がしなければならないように、足し合わせて消す）と、残るのは $T$ と $C$ の単純な依存関係です。

これは $T$ と $C$ が相関している分布であり、ストーリー1と2が生み出すものと全く同じ観測パターンです。 つまり、三つ全てが同じ歯とがんの相関を再現します。ストーリー1と2はマルコフ同値だから、ストーリー3は隠れた共通原因が同じ周辺的依存関係を生み出すからです。観察はその相関しか見えず、三つの異なるメカニズムがそれを描き出せます。

グラフ手術としての介入

「することの」とは、正式にはどういう意味でしょうか？Chibanyが実際に歯を白くするとします。彼らは手を伸ばして、上流の何かに関係なく、意志の行為として歯の色の変数を「白」に設定します。喫煙がそれを決めたのではなく、Chibanyの財布が決めたのです。

その行為は、歯の変数をその通常の原因から切り離します。グラフの観点では、確率変数 $X$ に介入することは、$X$ に向かう全ての矢印を削除します。あなたがそれを上書きしたので、親はもはや何の発言権もありません。グラフの他の部分は全く変わりません。

graph TD
    subgraph Before["観察（見る）"]
        S1(("喫煙")) --> T1(("歯"))
        S1 --> C1(("がん"))
    end
    subgraph After["介入：do(歯 = 白)"]
        S2(("喫煙")) --> C2(("がん"))
        T2["歯 = 白<br/>（手で設定）"]
    end
    classDef node fill:none,stroke:#9bbcff,stroke-width:2px,color:#fff
    classDef fixed fill:#cfd6e6,stroke:#9bbcff,stroke-width:2px,color:#111
    class S1,T1,C1,S2,C2 node
    class T2 fixed

左側は自然なネットワークです。喫煙が歯とがんの両方を引き起こします。右側は $do(\text{歯} = \text{白})$ の後です。喫煙から歯への矢印が切られています。介入された変数は、手で設定されており、もはや自由な確率変数ではないことを示すために、丸ではなく四角として描かれています。喫煙についての情報を持ちません。重要なのは、喫煙→がんの矢印がそのままであることです。この操作には名前と記法があります。Pearlのdo演算子、$do(X = x)$ と記述します。

$P(Y \mid X)$ vs. $P(Y \mid do(X))$：数値

喫煙/歯/がんのネットワークを具体的にして、両方の量を計算してみましょう。構造は上記のフォーク（共通原因）です。

歯とがんは喫煙を条件とすると条件付き独立であることに注意してください。両者の間に矢印はなく、共通の親があるだけです。両者の間のあらゆる関連は、完全に交絡因子の仕業です。

観察：$P(\text{がん} \mid \text{黄色い歯})$。 黄色い歯を見ると喫煙の可能性が高まり（ベイズの定理：$P(\text{喫煙} \mid \text{黄色}) = \frac{0.8 \times 0.3}{0.8 \times 0.3 + 0.2 \times 0.7} \approx 0.63$）、喫煙者はがんになりやすいです。したがって、

黄色い歯は本当の警告サインです。がんリスクは約$9.8\%$で、$5.2\%$ のベースレートより高いです。

介入：$P(\text{がん} \mid do(\text{黄色い歯}))$。 今度は歯を黄色にペイントします（または白くします。同じ論理です）。do演算子が喫煙→歯の矢印を切るので、歯の色は喫煙について何も教えてくれません。がんは依然として喫煙にのみ依存し、それはベースレートのまま変化しません。したがって答えは単純な周辺分布に崩れます。

「同じ」質問から二つの異なる答え。 黄色い歯を観察する：$9.8\%$。歯を黄色に設定する：$5.2\%$ — ちょうどベースレートであり、変化なし。Chibanyの歯を白くしても彼らのがんリスクには何も影響しません。歯は決して原因ではなかったからです。医師は正しかったのです。

Pearlの因果のはしご

Judea Pearlはこれらの区別を、因果のはしごの三段に整理しています。それぞれが前の段よりも厳密に多くのものを必要とします。

1. 関連 — $P(Y \mid X)$。見ること。 「$X$ を観察することは $Y$ について何を教えてくれるか？」第8章から第9章の全ては、ここに属していました。
2. 介入 — $P(Y \mid do(X))$。すること。 「$X$ をある値にした場合、$Y$ はどうなるか？」この章。
3. 反事実 — $P(Y_{x} \mid X = x', Y = y')$。想像すること。 「実際に起きたことを踏まえて、$X$ が異なっていたら何が起きていたか？」

私たちは1段目と2段目に留まります。3段目 — 反事実、後悔と責任の論理（「もし治療されていたら患者は生存していたか？」）— はさらに多くの構造を必要とし、後の課程のトピックです。

認知科学の余談：ブリケット検出器

人間はこのはしごのどこに位置するのでしょうか？驚くほど高く、しかも早い段階から。古典的な実験で、GopnikとSobelは幼い子どもたちに「ブリケット検出器」を与えました。これは、特定のブロック（「ブリケット」）を置くと光るボックスです。どのブロックがそれを起動させるかを観察し、そして重要なことに介入すること（自分でブロックを置いたり取り除いたりする）によって、3歳という幼い子どもたちがどのブロックがブリケットかを推論し、それを観察だけでなく介入を伴うベイズネット学習に一致する方法で行うことを示しました。つまり、幼児はすでに2段目に登っているのです。（Gopnik & Sobel, 2000；より広いプログラムはGopnik et al., 2004にレビューされています。）因果推論は後期に現れる脆弱な能力ではなく、心の構造の中核的な部分のように見えます。

GenJAX実装

do演算子は美しくシンプルな実装を持ちます。二つの生成関数を書くのです。観察用のものは全てのノードを通常通り親からサンプリングします。介入用のものは介入されたノードの親を削除し、それを固定として扱います。二つからのモンテカルロ推定値を比較することで、見ることとすることのギャップが具体的になります。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48

import jax
import jax.numpy as jnp
import jax.random as jr
from genjax import gen, flip, ChoiceMap

# Shared CPT numbers for the smoking / teeth / cancer network.
P_SMOKE = 0.3
P_YELLOW_SMOKE, P_YELLOW_NOSMOKE = 0.8, 0.2
P_CANCER_SMOKE, P_CANCER_NOSMOKE = 0.15, 0.01

@gen
def observational():
    """The natural network: smoking causes both teeth and cancer."""
    smoking = flip(P_SMOKE) @ "smoking"
    teeth = flip(jnp.where(smoking, P_YELLOW_SMOKE, P_YELLOW_NOSMOKE)) @ "teeth"
    cancer = flip(jnp.where(smoking, P_CANCER_SMOKE, P_CANCER_NOSMOKE)) @ "cancer"
    return cancer

@gen
def intervened_yellow():
    """do(teeth = yellow): teeth is set by hand, so its arrow from smoking is
    CUT — we simply don't sample it from smoking anymore. Because nothing
    downstream of teeth depends on it (cancer's only parent is smoking), the
    value we'd set teeth to is irrelevant to cancer — so we just leave it out
    and sample the rest of the graph forward. No conditioning needed."""
    smoking = flip(P_SMOKE) @ "smoking"
    # teeth would go here, but the intervention removes it from the graph.
    cancer = flip(jnp.where(smoking, P_CANCER_SMOKE, P_CANCER_NOSMOKE)) @ "cancer"
    return cancer

N = 60000

# OBSERVE yellow teeth: condition the observational model on teeth = yellow.
obs = ChoiceMap.d({"teeth": 1})
keys = jr.split(jr.key(0), N)
def observe_one(k):
    trace, log_weight = observational.generate(k, obs, ())
    return trace.get_choices()["cancer"].astype(float), log_weight
cancer_obs, log_w = jax.vmap(observe_one)(keys)
w = jnp.exp(log_w - jnp.max(log_w)); w = w / jnp.sum(w)
p_see = jnp.sum(cancer_obs * w)

# DO yellow teeth: just sample the intervened model forward (no conditioning).
cancer_do = jax.vmap(lambda k: intervened_yellow.simulate(k, ()).get_retval())(keys)
p_do = jnp.mean(cancer_do.astype(float))

print(f"P(cancer | teeth = yellow)      = {float(p_see):.3f}   (observe — confounded)")
print(f"P(cancer | do(teeth = yellow))  = {float(p_do):.3f}   (intervene — base rate)")

出力：

P(cancer | teeth = yellow)      = 0.098   (observe — confounded)
P(cancer | do(teeth = yellow))  = 0.052   (intervene — base rate)

このコードは抽象的なアイデアを具体的にします。二つのモデルの唯一の違いは、intervened_yellow が teeth の行を削除していることです。その一つの削除 — 歯を喫煙から切り離すこと — がグラフ手術であり、答えを $9.8\%$ から $5.2\%$ のベースレートに変えます。白くすることは何もしません。医師は正しかったのです。そして、二つのモデルの5行の違いの中に、その理由が正確に見えます。

演習

付属のノートブックでこれらをインタラクティブに解説しています：

📓 Colabで開く：10_causal_bayes_nets.ipynb

このチュートリアルシリーズへの多大なるご支援に、JPPCAに特別な感謝を申し上げます。

参考文献

• Gopnik, A., & Sobel, D. M. (2000). Detecting blickets: How young children use information about novel causal powers in categorization and induction. Child Development, 71(5), 1205–1222. https://doi.org/10.1111/1467-8624.00224
• Gopnik, A., Glymour, C., Sobel, D. M., Schulz, L. E., Kushnir, T., & Danks, D. (2004). A theory of causal learning in children: Causal maps and Bayes nets. Psychological Review, 111(1), 3–32. https://doi.org/10.1037/0033-295X.111.1.3
• Pearl, J. (2009). Causality: Models, reasoning, and inference (2nd ed.). Cambridge University Press.
• Pearl, J., & Mackenzie, D. (2018). The book of why: The new science of cause and effect. Basic Books.