⚠️ このページは機械翻訳されています
この日本語訳は機械翻訳によるもので、誤りや不自然な表現が含まれている場合があります。正確な内容については英語版をご参照ください。
This page was machine-translated and may contain errors. Please refer to the English version for accuracy.
誤りを見つけられた場合は、joseph.austerweil@gmail.com までご連絡いただくか、GitHub リポジトリにプルリクエストをお送りください。
ベイズ的汎化
ベイズ的汎化
少数の例から概念をどのように学ぶのでしょうか?ある隠れたルールに当てはまる3つの数を見たとき、あるいは金色のシールが貼られたいくつかのお弁当を見たとき、人はどういうわけか他のどのものがそのルールに当てはまるかを知っています。本章では、あなたがすでに知っているベイズの定理が、一つの転換を行うだけで人間の汎化モデルになることを示します:仮説は集合である、という転換です。
自分で試してみよう
付属のノートブックでは、数のゲームとサイズ原理をインタラクティブに構築できます:
📓 Colab で開く: 07_generalization.ipynb
唯一の新しいアイデアは、推論の対象となる未知量がもはや数値(平均 $\mu$)や二値的事実(タクシーは青いか?)ではなく、集合——ある性質を共有するものを定めるルール——だということです。それ以外のすべて(ベイズの定理、事後分布、予測分布)はすでに手元にある道具です。
本章は長いため、4つのパートに分かれています。順番に進んでください:
4つのパート
- セットアップとフレームワーク — 金色のシールの話、「どの事象か?」から「どの集合か?」へのキーとなる転換、目標となるシェパードの法則、そしてフレームワークの命名(仮説空間、事前分布、尤度、事後分布;メンバーシップ行列)。
- 数のゲームとサイズ原理 — 事後分布による加重投票としての汎化;弱いサンプリングと強いサンプリング;サイズ原理;そしてテネンバウムの数のゲーム(1つの例で段階的な汎化が生まれ、3つの例でルールに収束する)。
- 連続的概念とシェパードの法則 — 矩形ゲーム:無限に多くの区間仮説に対して同じフレームワークを適用すると、シェパードの汎化の指数法則がモデルから自然に導かれる。
- ノーフリーランチとまとめ — 何も仮定しない学習者は何も学べない理由、すなわち事前分布が不可避であること;章のまとめ;練習問題;そして参考文献。
graph LR
P1[1. セットアップとフレームワーク] --> P2[2. 数のゲームとサイズ原理]
P2 --> P3[3. 連続的概念とシェパードの法則]
P3 --> P4[4. ノーフリーランチとまとめ]
classDef part fill:#2c7fb8,stroke:#333,stroke-width:2px,color:#fff
class P1,P2,P3,P4 part一文で表す転換
本章における仮説とはルールであり、ルールとは集合です——そのルールが「その性質を持つ」と言うものの集合です。「仮説は集合である」を心に留めておけば、残りはすべてそこから導かれます。