ベイズの定理 -- 新しい証拠で判断を更新する
ベイズの定理は確率的推論の基盤です。事前信念 + 新しい証拠 → 更新後の信念。
概念の解説
P(E) は正規化因子です:\( P(E) = P(E|H)P(H) + P(E|\text{not }H)P(\text{not }H) \)。
核心となる考え方:新しいデータで私たちの判断を継続的に更新する。これはすべてのベイズ手法の基本パターンです。
日常生活の例
病気検査の偽陽性の罠
ある病気の有病率は0.1%、検査精度は99%。あなたが陽性と判定された場合、実際に病気である確率は約9%しかありません。
なぜ? 病気が極めて稀だからです。偽陽性(健康な人の1%が誤診される)の絶対数は、真陽性をはるかに上回ります。
ベイズの定理はこの直感に反する結論を明らかにします:事前確率が極めて低い場合、検査が非常に正確でも、陽性結果は高い確率で誤報です。。
Python ハンズオン
実例
P_H = 0.001 # 事前確率:有病率 0.1%
P_E_given_H = 0.99 # 感度 99%
P_E_given_notH = 0.01 # 偽陽性率 1%
P_E = P_E_given_H * P_H + P_E_given_notH * (1 - P_H)
P_H_given_E = P_E_given_H * P_H / P_E
print("=== サンプル 病気検査 ===")
print(f"事前の有病率: {P_H:.1%}")
print(f"陽性判定後の実際の病気確率: {P_H_given_E:.1%}")
print(f"結論:極めて低い基本確率では、偽陽性が真陽性をはるかに上回る")
出力:
=== サンプル 疾病检测 === 先验患病率: 0.1% 检测阳性后,实际患病概率: 9.0% 结论:极低基础概率下,假阳性远超真阳性
AI における応用シーン
ナイーブベイズ分類器
特徴間は条件付き独立であると仮定し、ベイズの定理を用いて事後確率 P(カテゴリ|特徴) を計算し、事後確率が最大のカテゴリを選びます。テキスト分類(スパムメールフィルタ、感情分析)では驚くほど良い結果が得られます——「ナイーブ」な独立性の仮定は実際には成り立たないことが多いですが、分類精度は依然として非常に高いです。
ハイパーパラメータ調整のためのベイズ最適化
学習率や層数などのハイパーパラメータを選ぶ際、毎回のトレーニングに時間がかかります。ベイズ最適化はガウス過程を事前分布として使い、評価済みのハイパーパラメータの組み合わせ(証拠)に基づいて事後分布を更新し、次に有望なハイパーパラメータのセットを賢く選択します。グリッドサーチやランダムサーチよりもはるかに効率的です。
変分オートエンコーダ(VAE)
VAEのエンコーダーは潜在分布の平均 μ と分散 σ² を出力し、KLダイバージェンスを用いてこの分布が標準正規事前分布 N(0,1) に近づくように制約します。ここでの「事前→事後」の枠組みがベイズの定理です。事前分布は N(0,1)、尤度はデコーダーの再構成誤差から得られ、事後分布はエンコーダーが出力する分布です。
その他の拡張