連鎖・ランダムウォーク・サンプリング :: 確率と確率的計算のチュートリアル（機械翻訳）

マルコフ連鎖：未来は過去を忘れる

Thu, 02 Jul 2026 00:00:00 +0000

昨日だけを覚える習慣第8章では、すでに知っていることをグラフとして描く方法を学びました。変数をノード、「依存する」という関係を矢印で表し、マルコフ因数分解によって結合分布を図から直接読み取ることができました。そのマルコフという言葉が、今度は新しい形で登場します。これまでのグラフはスナップショットでした。固定された変数の集合を一度に扱うものでした。この章では、あらゆる物語がいつか必要とする一つの要素を加えます。時間です。 Chibanyのランチに新しいひねりを加えましょう。最初の章では、学生がChibanyに弁当を持参し、中身を推測しようとしました。今回は学生が毎日二つの弁当を持ってきます。一つはとんかつ、もう一つはハンバーガーで、Chibanyはどちらを食べるかを選びます。隠れた中身を推測するのではなく、実際の日々の選択の連続を観察できるようになります。 T, T, H, T, T, T, H, T, … そして、この選択には習慣があります。Chibanyはとんかつが大好きなので、とんかつの日の後は大抵また食べたくなります。ただし、時々気分が変わることもあります。そしてハンバーガーの日の後は、ほぼ必ずとんかつに戻ります。 Chibanyのラボメートのジャマルがコーヒー片手に近づいてきます。ジャマル：「Chibanyが昨日とんかつを食べたと教えたら、今日を予測できる？」 Chibany：「たぶんまたとんかつかな——だいたい繰り返すから。」ジャマル：「なるほど。では——先週の火曜日に何を食べたかも知っていると、役に立つ？」 Chibany：(少し間を置いて)「……いや。昨日のことがわかれば、先週の火曜日は何も追加しない。」別のラボメートのアリッサが顔を上げます。アリッサ：「今、とても有名な仮定を説明したわよ。」 Chibanyの直感——今日を予測するには昨日だけわかれば十分——がこの章のすべてです。それに名前をつけましょう。時刻$t$における状態を$X_t$と書きます。これは$t$日目に真であることを表します。Chibanyの場合、$X_t$は二つの値のどちらかで、$X_t \in \{\text{T}, \text{H}\}$（とんかつまたはハンバーガー）です。命名：マルコフ性 Chibanyの直感には名前があります。未来が現在を与えられた条件のもとで過去から独立しているとき、そのプロセスはマルコフ性を持つと言います。 $$P(X_{t+1} \mid X_t, X_{t-1}, \dots, X_0) = P(X_{t+1} \mid X_t).$$左から右に読んでください。ゼロ日目まで遡る全履歴を与えられたときの明日の状態の確率は、今日だけを与えられたときの明日の状態の確率と等しい。今日（$X_t$）がわかれば、それ以外の歴史——先週の火曜日、先月——は明日について何も加えません。この性質を持つ状態の系列をマルコフ連鎖と呼びます。これは第8章と同じ独立性の考え方を、単に時刻でインデックス付けしたものです。あそこでは矢印$A \to B$が「$B$は$A$に依存する」を意味していました。ここでは依存性が時間の矢に沿って走ります。$X_{t} \to X_{t+1}$、そして一歩だけです。明日の親はちょうど一つ——今日だけです。「未来は過去を忘れる」とはどういうことか歴史が起きなかったということではありません。歴史はその痕跡のすべてを現在に残しているのです。先週の火曜日がChibanyの気分や習慣や残り物に何をしたにせよ——それはすでに昨日食べたものの中に吸収されています。現在は過去の完全な要約であり、未来を予測する目的においては。それが一文でのマルコフ性です。同じ連鎖の二つの顔マルコフ連鎖には二つの顔があり、どちらも同じ対象を異なる方法で描いたものです。図。各移動の確率をラベル付きの矢印で示す、二つの状態： graph LR T(("T
tonkatsu")) -->|0.65| T T -->|0.35| H(("H
hamburger")) H -->|0.82| T H -->|0.18| H classDef node fill:none,stroke:#9bbcff,stroke-width:2px,color:#fff class T,H node linkStyle default stroke:#9bbcff,stroke-width:2px,color:#fff Tのループ（0.65）は「とんかつの後は65%の確率でとんかつに留まる」を意味します。矢印T → H（0.35）は時々の気分転換です。HからTへの矢印は強い0.82——ハンバーガーはほとんど繰り返されません。

ネットワーク上のランダムウォーク

Thu, 02 Jul 2026 00:00:00 +0000

状態がつながっているとき第13章では、マルコフ連鎖は抽象的なものでした。いくつかの状態と、それらの間を移動する方法を示す遷移行列があるだけでした。Chibany の状態は T と H で、3状態の例では単に「1、2、3」でした。では、状態とその遷移はどこから来るのでしょうか？非常に多くの場合、物事がどのようにつながっているかの図、つまりネットワークから来ます。 Chibany はまたスケッチをしています。 Alyssa: 「その図は何？地下鉄の路線図みたい。」 Chibany: 「これは動物だよ。関係していると思う2匹の動物の間に線を引いたんだ——犬とハムスター、ライオンとトラ、そんな感じ。猫はほとんど全部とつながることになった。」 Jamal: 「じゃあ、ハムスターから始めてランダムにつながった動物をたどり続けたら、どこで一番多くの時間を過ごすことになる？」 Chibany: 「うさぎのところだよ、明らかに。」 Alyssa: 「Chibany、図にうさぎはいないよ。」 Chibany: 「……そうだね。じゃあ、行きたいところにはいられない——線が連れていくところにしかいられない。ふーん。これはマルコフ連鎖だよね。動物が状態になるんだ。」これはまさにマルコフ連鎖です——しかも非常に自然な形のもの。この章では、第13章の機構を使って、状態をネットワークのノードにし、遷移はネットワークの配線から直接取り出します。その成果は驚くほどシンプルな結果であり、Googleを構築したアルゴリズムへの直接の道筋でもあります。グラフとは何か？グラフ（またはネットワーク——両方の言葉を同じ意味で使います）は $G = (V, E)$ と書かれます。ノード $V$（頂点とも呼ばれる）の集合と、それらを結ぶ辺 $E$（接続）の集合から成ります。定義はそれだけです。柔軟性はノードと辺が意味することにあります。辺は無向（相互リンク、「犬とハムスターは関係している」のような）にも有向（一方向、ページAからページBへのウェブリンクのような）にもなりえます。辺は重みなし（存在するかどうか）にも重み付き（各辺に強度や距離が付く）にもなりえます。あなたはすでに第8章でグラフに出会っています。ベイズネットは有向グラフです——そこでは辺 $A \to B$ は「$B$ は $A$ に依存する」を意味していました。この章のグラフは、辺をより緩い意味で使います。「関係している／つながっている」。同じ数学的対象でも、矢印の読み方が異なります。一つの抽象化、多くのネットワークグラフが一章を割く価値があるのは、一つの対象が膨大な範囲のシステムをモデル化できるからです——変わるのはノードと辺の意味だけです：ネットワークノード辺意味ネットワーク（認知）概念・単語「関連している」ウェブウェブページハイパーリンク（有向）ソーシャルネットワーク人々友人関係・フォロー道路地図交差点道路（距離で重み付け）脳ニューロンシナプス私たちが使い続ける例は小さな意味ネットワークです——概念をノード、連想を辺として——なぜなら次章でそれが人間の記憶の理論につながるからです。

記憶探索としてのランダムウォーク

Thu, 02 Jul 2026 00:00:00 +0000

頭の中の歩行前の2章では一つの機械を構築した——マルコフ連鎖（第13章）、そしてネットワーク上のランダムウォーク（第14章）。本章では、この機械はカードデッキやウェブページのモデルであるだけでなく、あなた自身のモデルでもあると主張する。具体的には、あなたが自分の記憶をどのように探索するかについてだ。今すぐ試してみよう。Chibanyのクラスがやったように。30秒間、できるだけ多くの動物を声に出して挙げてみよう。どうぞ。終わった？それらが出てきた順序を見てみよう。ほぼ確実に、バースト（群れ）で現れたはずだ——ペットのかたまり（犬、猫、ハムスター）、次に間があって、大きな動物のかたまり（ライオン、トラ、シマウマ、キリン）、そして例えば農場の動物に切り替わる。人はランダムな順序で動物を挙げるのではなく、カテゴリーごとのランで、その間に間隔を挟んで出てくる。これが意味流暢性課題であり、そのクラスタリングと切り替えのパターンは80年にわたり記録されてきた（Bousfield & Sedgewick, 1944; Troyer, Moscovitch & Winocur, 1997）。 Chibany：「私のリストもまさにそうなった——ペットが3つ続いて、間があって、それから動物園の動物がどっさり。なぜ？」 Alyssa：「そしてなぜその動物たちが、その順序で出てきたの？それが本当の問いよ。」本章の主張は、Abbott、Austerweil、Griffiths（2012）によるものだ：あなたの意味記憶はネットワークであり、想起はその上のランダムウォークである。あなたが作るリストは、ウォークが訪れたノードの系列だ。クラスターとは、関連する概念の密に接続されたコミュニティの中でウォークが漂っている状態であり、切り替えとは、ウォークが別のコミュニティへ橋渡し辺を渡る瞬間だ——第14章で Cat が橋を渡ったのとまったく同じだ。特別な「探索戦略」は不要で、ネットワークの構造と単純なウォークだけで、バースト状の切り替え行動が自然に生じる。構造・プロセス・行動この説明の形について少し立ち止まる価値がある。というのも、コース全体を貫く同じ三つの部分からなる形をしているからだ：構造——意味ネットワーク。どの概念がどれと繋がっているか。重要なのは、これが別のデータ（単語連想規範：何千人もの人に「医者と聞いて何を思い浮かべますか？」と尋ね、看護師、病院、病気への辺を引く）から推定されており、説明しようとしている流暢性課題にフィットされているのではないということだ。プロセス——ランダムウォーク。記憶のない、無方向の、一度に一ステップの動き。常に同じマルコフ連鎖だ。行動——流暢性リスト。どの動物が、どの順序で、どの間隔を挟んで現れるか。この賭けは、構造＋プロセスが行動を共同で予測するというものだ——そして実際にそうなる、想起専用の機構を付け加えることなく。これは強く反証可能な主張であり、単なる話ではなくこれを意味ある研究にしているものだ。 graph LR Pet1["犬"] --- Pet2["猫"] Pet1 --- Pet3["ハムスター"] Pet2 --- Pet3 Pet2 --- Bridge["トラ"] Bridge --- Afr1["ライオン"] Afr1 --- Afr2["シマウマ"] Afr1 --- Afr3["キリン"] Afr2 --- Afr3 classDef node fill:none,stroke:#9bbcff,stroke-width:2px,color:#fff classDef bridge fill:#9bbcff,stroke:#9bbcff,stroke-width:2px,color:#111 class Pet1,Pet2,Pet3,Afr1,Afr2,Afr3 node class Bridge bridge linkStyle default stroke:#9bbcff,stroke-width:2px,color:#fff ペットの三角形の中をうろうろするウォーカーはペットのバーストを生み出し、大型動物に到達するには橋（トラ）を渡らなければならない。すると今度はそちらの方をうろうろする。クラスター、切り替え、クラスター——第14章のウォークが Cat の方に何度も引き寄せられたのと同じように、ネットワークの配線から直接生じる。

モンテカルロ法：サンプリングによる推定

Thu, 02 Jul 2026 00:00:00 +0000

合計できない問いこの3章にわたって、マルコフ連鎖を動かし、どこに落ち着くかを見てきた。第15章では約束を残して終わった：分布について学ぶために連鎖を走らせるという考え方には名前がある——モンテカルロ——そしてこれから先の章でそれをツールとして磨き上げる、と。本章がその出発点だ。動機となる問いを示そう。Chibanyは一学期を通じて毎日2つの弁当を食べており、その重さは日々変わる——軽いおにぎりセットの日もあれば、重いカツ丼の日もある。Jamalは気になっている。 Jamal：「今学期の弁当1つの平均重量ってどのくらい？」 Chibany：「全部の弁当の重量を足して、個数で割らないといけないね。」 Alyssa：「でもリストがないでしょう。仮に重量が滑らかな分布に従っていたとしても、積分——ありとあらゆる重量に対して、重量×確率を合計——しないといけない。それはものすごく大変な計算だよ。」 Alyssaが問題の核心を突いている。Jamalが求めているのは期待値であり、それを厳密に計算するにはすべての可能性について和（または積分）を取る必要がある。弁当の場合は可能性が多すぎるし、第12章のベイズ事後分布に至っては、積分に閉じた形の解が存在しない——まさにあの章で重点サンプリングを「粗削りなツール」と表現した理由だ。リストも積分も不要な抜け道がある。**サンプリングして、平均する。**これがモンテカルロ法の全てであり、本章ではサイコロを一振りすることから始めて、手計算では絶対に求められない確率を推定できるほど鋭いツールへと磨き上げていく。モンテカルロ推定量まず、求めたいものを確認しよう。分布 $P$ から確率変数 $X$ が引かれるとき、関数 $f$ の期待値とは、長期的な平均値のことだ。連続の場合は積分になる： $$\mathbb{E}_P[f(X)] = \int f(x) p(x) dx,$$これは「各 $x$ がどれだけ起こりやすいかで重み付けして $f(x)$ を合計せよ」という意味だ。（第1章で離散の和として $\mathbb{E}$ を学んだ；これは同じ考え方で、和が積分になったものだ。）通常この積分は計算できない。しかし推定はできる。$P$ から独立に $n$ 個のサンプル $x_1, \dots, x_n$ を引き、$f$ の平均を取ればよい： $$\hat\mu_n = \frac{1}{n}\sum_{i=1}^{n} f(x_i), \qquad x_i \sim P.$$$\hat\mu_n$ のハットは「サンプルから推定された」という意味だ。これがモンテカルロ推定量であり、これが機能する理由は、あなたがすでに「十分長く走らせれば」と言うたびに非公式に使ってきた法則にある：大数の法則は $n$ が大きくなるにつれて $\hat\mu_n$ が真の $\mathbb{E}_P[f(X)]$ に収束することを保証する。どのくらいの速さで？誤差は $1/\sqrt{n}$ のように縮小する：誤差を半分にするには4倍のサンプルが必要だ。遅く聞こえるかもしれないが、驚くべき性質がある——$1/\sqrt{n}$ の収束率は $x$ が何次元に存在するかに左右されない。手計算の積分は次元が増えるにつれて指数関数的に難しくなるが、モンテカルロ法はそうではない。この次元への無関心さが、現代統計学の主力手法になった理由だ。最もシンプルな期待値——公正なサイコロの平均の目、真の値は $\tfrac{1+2+3+4+5+6}{6} = 3.5$——での収束を観察してみよう。 1 2 3 4 5 6 7 8 9 10 11 12 import jax import jax.numpy as jnp import jax.random as jr def die_estimate(key, n): rolls = jr.randint(key, (n,), 1, 7) # n uniform draws from {1, ..., 6} return jnp.mean(rolls.astype(float)) # the Monte Carlo average key = jr.key(0) for n in [10, 100, 1000, 100000]: est = die_estimate(jr.fold_in(key, n), n) print(f"n = {n:6d}: estimate of E[die] = {float(est):.3f}") 出力：

パーティクルフィルタリング：昨日の事後分布は今日の事前分布

Thu, 02 Jul 2026 00:00:00 +0000

この章の位置づけ（および課題についての注記）第16章では、サンプルの集合から固定された量（平均弁当、裾確率）を推定しました。しかしデータは1つずつ到着することが多く、推定したい対象は変化します。この章では、そのストリーミングのケースに重点サンプリングを適応させます。モンテカルロ課題には必要ありませんが、第16章のモンテカルロと第18章のマルコフ連鎖モンテカルロをつなぐ自然な橋となります。そして、サンプリングが心がリアルタイムで変化する世界を追跡する方法のモデルとなるのはここです。 Chibanyの廊下を追いかける ChibanyはラボへとつながるC長い廊下を歩いており、Jamalは自席に座りながら、数秒ごとにおおよその距離を返すドア上の雑音センサーを使ってどこにいるかを把握しようとしています。 Jamal：「ピング値がばらばらです。一つは1.3メートル、次は1.8、そして3.4へと飛ぶ。どれか1つを信頼することはできません。」 Alyssa：「信頼する必要はありません。センサーが知らない2つのことを知っています：Chibanyは前方に一定のペースで歩き続けており、各ピングは真の位置に少しノイズが加わったものです。両方を使いましょう。」 Jamal：「つまり、ピングのたびに推定を更新して、少し前の推定が次の出発点になると？」 Alyssa：「そのとおり。昨日の答えが今日の問いです。」 Alyssaが説明したのは逐次推論であり、そのためのツールは移動する目標の後ろをはい進む重み付きモンテカルロサンプルの群れです。まずパーツを整理し、それを構築しましょう。 1つずつ到着するデータ「雑音センサー」をモデルに変えるには2つの要素が必要です。それらは状態空間モデルの標準的な道具立てです——ノイズを通じてのみ観測される隠れた変化するものです。隠れ状態 $x_t$ — 実際に知りたいもの（時刻$t$におけるChibanyの真の位置）。直接観測することはできません。運動モデル $p(x_t \mid x_{t-1})$ — 状態がどのように変化するか。ここでは、Chibanyはティックごとに約1メートル前進し、少しのぶれがあります：$x_t = x_{t-1} + 1 + \text{noise}$。観測モデル $p(z_t \mid x_t)$ — 雑音のある読み取り値$z_t$が真の状態とどのように関係するか。ここでは、ピングは真の位置にセンサーノイズを加えたものです：$z_t \sim \mathcal{N}(x_t, \sigma_{\text{obs}}^2)$。どちらのモデルも選択です——世界について我々が立てる仮定です。これらを前提として、目標はこれまでのすべてのピングを条件とした現在の状態の事後分布 $p(x_t \mid z_1, \dots, z_t)$ です。これをストリーム上で扱いやすくする鍵となるのが再帰です： $$p(x_t \mid z_1, \dots, z_t) \propto p(z_t \mid x_t) \underbrace{p(x_t \mid z_1, \dots, z_{t-1})}_{\text{昨日から予測}}。$$右から左に読んでください。昨日の事後分布を取り、運動モデルを通じて前進させ、Chibanyが今どこにいるかを予測します——その予測が今日の事前分布です。次に、各可能性が今日のピングをどれだけうまく説明するか、尤度 $p(z_t \mid x_t)$ で重み付けします。その積が（定数倍を除いて）今日の事後分布です。昨日の事後分布は今日の事前分布——この一文がアルゴリズム全体です。逐次重点サンプリングその事後分布を閉じた形式で書き下すことはできませんが、第16章ではできないときの対処法を学びました：分布をサンプルの雲で表現し、重み付けし直すことです。ここでは雲はパーティクルの集合です——$M$個の隠れ状態の候補値であり、Chibanyがどこにいるかに関するちょっとした推測のそれぞれです——そして重点サンプリングをティックごとに1回適用します。その繰り返しのストリーミング重点サンプリングは逐次重点サンプリング（SIS）と呼ばれ、もう1つのステップを加えるとパーティクルフィルタになります。

マルコフ連鎖モンテカルロ：目標分布に収束する連鎖の設計

Thu, 02 Jul 2026 00:00:00 +0000

第13章を逆に読む第13章では、遷移行列 $P$（Chibanyのトンカツ/ハンバーガーの習慣）があらかじめ与えられ、「定常分布 $\pi$ は何か？」という問いに答えました。べき乗反復（連鎖をそのまま回す）と固有値1に対応する固有ベクトルという2つの方法で同じ70/30という答えが得られました。先に連鎖があり、そこから分布 $\pi$ が導出されたのです。本章では、この矢印を逆転させます。 Jamal：「先週は連鎖から始めて、それがどこに落ち着くかを調べました。でも推論の場面では逆の問題があります。ほしい分布はわかっている——事後分布です——ただそこからサンプリングできないんです。」 Alyssa：「つまり映画を逆再生したいわけね。『連鎖が与えられたから $\pi$ を求める』ではなく、『ほしい $\pi$ が与えられたから、それに収束する連鎖を設計してほしい』ということ。」 Jamal：「それってできるんですか？オーダーメイドで連鎖を作って、その定常分布が自分で指定した目標になるように？」 Alyssa：「できるわ。しかもレシピは思ったより短い。」これが**マルコフ連鎖モンテカルロ（MCMC）**です。目標分布 $\pi$——典型的には評価できてもサンプリングはできないベイズ事後分布——が与えられたとき、定常分布がちょうど $\pi$ になるマルコフ連鎖を構築するのです。その連鎖を回し、最初の部分を捨てると、訪問した状態が $\pi$ からのサンプルになります。第13章で学んだ定常分布の定義的な性質、$\pi P = \pi$（1ステップ適用しても $\pi$ は変わらない）を思い出してください。MCMCは、自分の $\pi$ を不動点として持つ $P$ を構築する技術です。レシピは2つあり、両方を学びます。 Metropolis–Hastings法最初のレシピで必要なのは、目標分布を（定数倍まで）評価する能力と、小さな移動を提案する能力だけです。これがMetropolis–Hastings（MH）法であり、1ステップあたりたった2つの操作しかありません。連鎖が現在状態 $x$ にあるとします。提案：提案分布 $Q(x' \mid x)$——通常は小さなランダムな摂動、$x' = x + \text{ガウスノイズ}$——から次候補 $x'$ を抽出します。採択または棄却：採択比 $$A = \min\left(1, \frac{P(x')}{P(x)}\right)$$ を計算し、確率 $A$ で $x'$ に移動します。そうでなければ $x$ に留まり（$x$ を再び記録します）。 graph LR A["現在の状態 x"] --> B["x' ~ Q(x'|x) を提案"] B --> C{"u < min(1, P(x')/P(x)) ?"} C -->|採択| D["x' に移動"] C -->|棄却| E["x に留まる"] D --> F["状態を記録"] E --> F F --> A classDef node fill:none,stroke:#9bbcff,stroke-width:2px,color:#fff class A,B,C,D,E,F node linkStyle default stroke:#9bbcff,stroke-width:2px,color:#fff 直感は「探索するが、高い場所を好む」というものです。$x'$ が $x$ より高確率であれば（$P(x') > P(x)$）、比は1を超え、$A = 1$ となり、常に上り坂の移動をします。$x'$ が低確率であれば、確率——高さの比——に応じてときどきだけ移動します。つまり連鎖はあちこちをさまよいますが、$P$ が大きい場所で多くの時間を過ごします。これは $P$ からのサンプルの振る舞いそのものです。ルールが動く3つのスナップショット：

心をサンプリングする：人とKemp階層モデル

Thu, 02 Jul 2026 00:00:00 +0000

この章と課題についての注意この章では完全な手法、すなわち階層モデルに対するGibbs＋Metropolisサンプラーの実装を教えます。ただし、異なるアプリケーション（Chibanyが弁当屋を評価する例）を用い、モンテカルロ課題とは異なるデータおよび異なる導出に基づいています。これは意図的な設計です。この章を読み終えればそのようなサンプラーを構築できるようになり、課題では問題の新しいバリアントに取り組みます。そうすることで、答えをそのままコピーするのではなく、スキルを実際に使うことになります。課題がこの章では扱わない内容に踏み込む箇所は、その都度明示します。人間が受理ステップになるとき第18章では、Metropolis–Hastingsをひとつの操作として構築しました。変化を提案し、新しい状態と古い状態を比較する確率でそれを受理するというものです。ここで、奇妙で美しい問いが生まれます。 Alyssa:「微妙に異なる2つのアニメ動物を見せて、『どちらが猫らしいですか？』と聞きます。相手が一方を選ぶ。次にそれを少し調整してまた聞く。相手はまた選ぶ。彼らはステップごとに何をしているのか？」 Jamal:「変化を提案して、よりネコらしく見えればそれを受理している……それはMetropolisの受理ステップです。人間が受理ステップなんです。」 Alyssa:「そして、各選択肢が自分の『猫』のイメージにどれだけ合うかに比例して受理するなら、選択の系列はマルコフ連鎖です。その定常分布は何でしょう？」学習者が自分自身の事後分布 $P(h \mid \text{data})$ に比例する確率で提案を受理するならば、第18章の論理により、仮説 $h$ 上の連鎖はその事後分布を定常分布として収束します。そしてこれを測定ツールにする捩りがあります。データなしで「どちらが猫らしいか」だけを使って手続きを実行すると、事後分布がそのままその人の事前分布になります。つまり、誰かの頭の中にある「猫」という概念の形そのものです。連鎖は誰かの頭の中にあるアイデアの形に収束します。MCMCを実行することで、人の事前分布を読み出すことができます。これがマルコフ連鎖モンテカルロ with People（Sanborn & Griffiths, 2007）です。アニメ動物（比率が数値で表現された棒人間風のキリン、馬、猫、犬）に適用すると、各カテゴリの精神的プロトタイプを人々の選択の定常分布として回復し、回復された空間で4つのカテゴリがきれいに分離します。前章のサンプラーを人に向けると、認知のための測定器になるのです。この章の残りでは、同じ機構を異なるターゲットに向けます。人の事前分布ではなく、第12章が設定したが粗く近似するしかなかった階層モデルの事後分布です。今ではそれを鋭くサンプリングできます。弁当屋階層モデルのサンプラー Chibanyは弁当屋を評価してきました。各店舗 $i$ について、$n_i$ 回の訪問のうち $k_i$ 回のとんかつ評価が良かった記録があります。各店舗には固有の真のとんかつ品質率 $\theta_i$ があります。しかし、店舗は無関係ではありません。すべて同じ都市にあり、Chibanyは集団パターン—典型的な品質とその周囲の典型的なばらつき—があり、店舗はそこから引かれていると考えています。これは第12章の2段階ベータ・二項分布階層モデルそのものです。 $$\theta_i \sim \text{Beta}(a, b), \qquad k_i \sim \text{Binomial}(n_i, \theta_i),$$ここで集団事前分布 $(a, b)$ は全店舗から共に学習される（第12章の超仮説のアイデア——事前分布は仮定ではなく獲得される）。第12章では重点サンプリングでこれを推定し、「粗いツール」と呼びました。事前分布が提案として不適切なためノイズが多かったのです。今度は代わりにMCMCで事後分布をサンプリングします。モデル全体を図で示します。再パラメータ化。自然なベータパラメータ $(a, b)$ はサンプラーにとって扱いにくいです。スケールが大きく異なる場合があり（例えば $a = 2$、$b = 30$）、2つの異なる概念が絡み合っています。そこで、それらを分離するペアに切り替えます。 $\varphi = \dfrac{a}{a+b} \in (0, 1)$ ——集団の平均品質（集団が中心を置く場所）、 $\kappa = a + b > 0$ ——集中度（店舗がその平均の周りにどれだけ密集しているか：大きな $\kappa$ = 店舗が全て似ている、小さな $\kappa$ = 店舗がバラバラ）。集中度が自動的に正に保たれ、対称的なランダムウォークステップが適切に動作するよう、$\ell = \log \kappa$ でさらに一段階下でサンプリングします。3つの数——$(\varphi, \ell)$ と各店舗の $\theta_i$——同じモデルですが、今やそれぞれのつまみが一つのクリーンなものを意味します。