ベイズの定理 -- 新しい証拠で判断を更新する

ベイズの定理は確率的推論の基盤です。事前信念 + 新しい証拠 → 更新後の信念。


概念の解説

事前確率 P(H)
証拠を見る前の信念
×
尤度 P(E|H)
証拠の確からしさ
→
事後確率 P(H|E)
更新後の信念
\[ P(H|E) = \frac{P(E|H) \cdot P(H)}{P(E)} \]

P(E) は正規化因子です:\( P(E) = P(E|H)P(H) + P(E|\text{not }H)P(\text{not }H) \)。

核心となる考え方:新しいデータで私たちの判断を継続的に更新する。これはすべてのベイズ手法の基本パターンです。


日常生活の例

病気検査の偽陽性の罠

ある病気の有病率は0.1%、検査精度は99%。あなたが陽性と判定された場合、実際に病気である確率は約9%しかありません。

なぜ? 病気が極めて稀だからです。偽陽性(健康な人の1%が誤診される)の絶対数は、真陽性をはるかに上回ります。

ベイズの定理はこの直感に反する結論を明らかにします:事前確率が極めて低い場合、検査が非常に正確でも、陽性結果は高い確率で誤報です。。


Python ハンズオン

実例

# 病気検査のベイズ解析
P_H = 0.001           # 事前確率:有病率 0.1%
P_E_given_H = 0.99    # 感度 99%
P_E_given_notH = 0.01 # 偽陽性率 1%

P_E = P_E_given_H * P_H + P_E_given_notH * (1 - P_H)
P_H_given_E = P_E_given_H * P_H / P_E

print("=== サンプル 病気検査 ===")
print(f"事前の有病率: {P_H:.1%}")
print(f"陽性判定後の実際の病気確率: {P_H_given_E:.1%}")
print(f"結論:極めて低い基本確率では、偽陽性が真陽性をはるかに上回る")

出力:

=== サンプル 疾病检测 ===
先验患病率: 0.1%
检测阳性后,实际患病概率: 9.0%
结论:极低基础概率下,假阳性远超真阳性

AI における応用シーン

ナイーブベイズ分類器

特徴間は条件付き独立であると仮定し、ベイズの定理を用いて事後確率 P(カテゴリ|特徴) を計算し、事後確率が最大のカテゴリを選びます。テキスト分類(スパムメールフィルタ、感情分析)では驚くほど良い結果が得られます——「ナイーブ」な独立性の仮定は実際には成り立たないことが多いですが、分類精度は依然として非常に高いです。

ハイパーパラメータ調整のためのベイズ最適化

学習率や層数などのハイパーパラメータを選ぶ際、毎回のトレーニングに時間がかかります。ベイズ最適化はガウス過程を事前分布として使い、評価済みのハイパーパラメータの組み合わせ(証拠)に基づいて事後分布を更新し、次に有望なハイパーパラメータのセットを賢く選択します。グリッドサーチやランダムサーチよりもはるかに効率的です。

変分オートエンコーダ(VAE)

VAEのエンコーダーは潜在分布の平均 μ と分散 σ² を出力し、KLダイバージェンスを用いてこの分布が標準正規事前分布 N(0,1) に近づくように制約します。ここでの「事前→事後」の枠組みがベイズの定理です。事前分布は N(0,1)、尤度はデコーダーの再構成誤差から得られ、事後分布はエンコーダーが出力する分布です。


その他の拡張