論理と集合論の基礎
前の章では、代数、関数、幾何を紹介しましたが、いずれも「数」と「図形」を扱ってきました。
本章では、より根本的なものを扱います:「条件」をどう記述するか(論理)、「ものの集まり」をどう記述するか(集合論)。
機械学習において「確率」「不確実性」に関わるほとんどすべての内容は、基盤となる言語が集合論です。「条件分岐」「アルゴリズムの流れ」に関わる内容は、基盤となる言語が論理です。
基本論理演算:AND、OR、NOT、含意
論理積(AND、記号 ∧)
真となる。p と q がともに真である場合。
直感:2つの条件を同時に満たす必要があり、どちらかが欠けてもダメ--「雨が降っていて、かつ傘を持っていないときにだけ、濡れる」ようなもの。
論理和(OR、記号 ∨)
真となる。p と q の少なくとも一方が真であれば。
数学における「または」は「包含的論理和」です。両方が真のときも全体は真です。日常会話の「どちらか一方」という意味ではありません。
否定(NOT、記号 ¬)
p の真偽を反転させます:p が真のとき偽、p が偽のとき真。
含意(IMPLIES、記号 ⇒)
「p ならば q」と読みます。これは最も直感に反しやすいものです:
| p(前件) | q(後件) | 説明 | |
|---|---|---|---|
| 真 | 真 | 真 | 通常の場合 |
| 真 | 假 | 假 | 唯一偽となる場合:「前件が真で後件が偽」 |
| 假 | 真 | 真 | 前件が偽なら、全体は真 |
| 假 | 假 | 真 | 前件が偽なら、全体は真 |
最も直感に反する2行:p が偽のとき、q が何であっても、はすべて真と判定される真。
理解を助ける例:「もし明日雨が降ったら(p)、傘を持っていく(q)」。
もし明日雨が降らなければ(p が偽)、傘を持っていようがいまいが、この文は「偽」とは言えません--「雨が降らない」状況について何も約束していないからです。
論理同値(IFF、記号 ⇔)
「p は q のとき、かつそのときに限る」と読み、p と q の真偽が常に一致する(ともに真か、ともに偽か)ことを表します。
下のスイッチをクリックして、各組み合わせを実際に「オン」にして、4つの演算結果を観察しましょう。
なぜこれらの記号がAIにとって重要なのか
アルゴリズムの擬似コードや、モデル学習時の条件分岐(例えば「早期停止」の発動条件)を読むとき、これらはすべて論理式の組み合わせです。
決定木モデルは、本質的に「もし……ならば……」(含意)という判断を何層にも重ねたものです。
確率論の多くの定理は、証明の中で事象間の関係を記述するために論理演算を多用します。
例
# 注意:Python には「含意」演算子はありません。p ⇒ q は (not p) or q と等価です
print('p q p∧q p∨q ¬p p⇒q')
for p in [True, False]:
for q in [True, False]:
implies = (not p) or q # 含意:偽となるのは "p が真かつ q が偽" の場合のみ
print(p, q, p and q, p or q, not p, implies)
上記のコードを実行すると、出力結果は次のようになります:
p q p∧q p∨q ¬p p⇒q True True True True False True True False False True False False False True False True True True False False False False True True
2行目が、唯一の「偽」です:p 真、q 偽であり、含意は成立しません。
練習:p = 「今日は週末だ」が偽、q = 「私は仕事に行く」が真。判定してくださいの真偽。
クリックして答えを見る
p が偽の場合、真理値表によれば、q が何であっても、は真となります。
集合の概念:共通部分、和集合、部分集合
集合とは
集合とは「はっきりと確定したものの集まり」全体のことです。例えばは 1、2、3 の3つの要素を含む集合を表します。
| 記号 | 意味 | 例 |
|---|---|---|
| x は集合 A の要素である(属する) | ||
| x は集合 A の要素ではない | ||
| 空集合、要素を一切含まない | ||
| 全体集合、議論の範囲内の「すべてのもの」 | サイコロを振ったときのすべての可能な結果 |
部分集合
集合 A のすべての要素が同時に集合 B の要素でもある場合、A は B の部分集合といい、 と表す。
例えばならば。
和集合、共通部分、差集合、補集合
设 :
| 演算 | 記号 | 意味 | 結果 |
|---|---|---|---|
| 和集合 | A と B の要素を合わせたもの(重複は1回だけ数える) | ||
| 共通部分 | A にも B にも含まれる要素 | ||
| 差集合 | A に属するが B には属さない | ||
| 補集合 | 全体集合 U の中で A に属さない部分、すなわち | U に依存する |
集合演算と論理演算の対応関係
集合論と論理演算は、実は「同じことの2つの言語」です:
| 集合の言葉 | 論理の言葉 |
|---|---|
これが、この2つの節が同じ章にある理由です。同じ基盤となる論理の2つの表現方法です。
ボタンをクリックして集合演算を切り替え、ベン図で強調表示される領域を見てみましょう。
例
A = {1, 2, 3, 4, 5}
B = {4, 5, 6, 7}
U = set(range(1, 11)) # 全体集合 {1, 2, ..., 10}
print(A | B) # 和集合 A ∪ B
print(A & B) # 共通部分 A ∩ B
print(A - B) # 差集合 A \ B
print(A ^ B) # 対称差 A △ B(どちらか一方の集合にだけ含まれる要素)
print(U - A) # 補集合 Ā = U \ A
上記のコードを実行すると、出力結果は次のようになります:
{1, 2, 3, 4, 5, 6, 7}
{4, 5}
{1, 2, 3}
{1, 2, 3, 6, 7}
{6, 7, 8, 9, 10}
練習:,(1〜12 の範囲)。次を求めよと。
クリックして答えを見る
なぜ確率論は集合論の上に成り立つのか
事象は集合である
確率論における「事象」は、本質的に集合です。ある条件を満たす「可能な結果」すべての集合です。
例えばサイコロを1つ振るとき、「偶数が出る」という事象に対応する集合は。
確率演算は集合演算に直接対応する
| 確率の言葉 | 集合の言葉 | 意味 |
|---|---|---|
| A または B が起こる | 事象 A、B の少なくとも一方が起こる | |
| A かつ B がともに起こる | 事象 A、B が同時に起こる | |
| A が起こらない | A の補集合 | |
| A、B は互いに排反 | 2つの事象が同時に起こることはない |
加法公式:包除原理
この公式の幾何学的な直感:2つの円の重なった部分は2回数えられているので、1回引く必要があります。
ベン図(集合の図式的表現)を使うと、これを非常に直感的に確認できます。
条件付き確率
「Bがすでに発生したという条件のもとで、Aが発生する確率」と読みます。
直感:Bが発生したとわかれば、議論の対象となる「全体集合」は元のUからBに縮小されます。
このときAが発生する確率は、当然「AとBの共通部分」が「新しい全体集合B」に占める割合になります。
ベイズの定理の原型
条件付き確率は逆に書くこともできます:
整理すると、ベイズの定理の核心となる式が得られます:
これは多くの機械学習モデル(ナイーブベイズ分類器など)の理論的基盤であり、導出の出発点はまさに「条件付き確率は集合の共通部分の割合である」という素朴な集合の直感です。
古典的な病気検査の問題はベイズの威力を最もよく示しています。「検査の精度95%」は「陽性と判定された後に病気である確率95%」を意味しません。スライダーを動かして自分の手で計算してみましょう。
例
# A = 病気,B = 検査陽性
p_a = 0.01 # 罹患率(事前確率)
p_b_given_a = 0.95 # 感度:病気の人が陽性と判定される確率
p_b_given_na = 0.05 # 誤報率:健康な人が陽性と判定される確率
# 全確率の公式:P(B) = P(B|A)P(A) + P(B|¬A)P(¬A)
p_b = p_b_given_a * p_a + p_b_given_na * (1 - p_a)
# ベイズの公式:P(A|B) = P(B|A)P(A) / P(B)
p_a_given_b = p_b_given_a * p_a / p_b
print(p_b) # 検査陽性の合計確率は約5.9%
print(p_a_given_b) # 陽性の中で実際に病気である割合:わずか約16.1%!
上記のコードを実行すると、出力結果は次のとおりです:
0.059000000000000004 0.16101694915254236
結論は直感に反します:検査の「精度95%」でも、陽性結果の中で実際に病気である確率は約16%にすぎません。なぜなら罹患率自体が1%しかなく、大量の誤報が真の陽性を埋もれさせるからです。
これこそがベイズの定理の価値です。つまり、新しい証拠(検査結果)を使って古い信念(罹患率)を更新する方法です。これはナイーブベイズ分類器やベイズ最適化に共通する思想の源流でもあります。
練習:52枚のトランプの中で、事象A = 「ハートを引く」(13枚)、事象B = 「Aを引く」(4枚、うち1枚はハートのA)。求めよと。
クリックして答えを見る
本章のまとめ
| テーマ | 一言で言うと核心 |
|---|---|
| 論理演算 | ∧ はすべて真である必要があり、∨ はどれか一つが真であればよく、⇒ は「前が真で後が偽」の場合だけ偽になります(最も直感に反する) |
| 集合演算 | ∪ は合併、∩ は共通部分であり、論理演算と一対一に対応します |
| 確率と集合 | 事象は集合であり、P(A∪B)、P(A∩B)、条件付き確率はすべて集合の重なり関係で直感的に理解できます |