Eigenwerte und Eigenvektoren -- Der Fingerabdruck einer Matrix
Wenn eine Matrix auf die meisten Vektoren wirkt, ändert sie sowohl deren Richtung als auch deren Länge.
Aber es gibt immer einige Vektoren in "speziellen Richtungen"deren Richtung sich nach der Wirkung der Matrix nicht ändert, nur die Länge ändert sichDies sind Eigenvektoren, und der Skalierungsfaktor ist der Eigenwert.
Kernformel: \( A\mathbf{v} = \lambda \mathbf{v} \)
- \( \mathbf{v} \): Eigenvektor (ungleich null), dessen Richtung nach der Transformation unverändert bleibt
- \( \lambda \): Eigenwert, gibt den Faktor an, um den v gestreckt wird
λ > 0
Streckung/Stauchung in dieselbe Richtung
Richtung bleibt unverändert
λ < 0
Streckung/Stauchung in die entgegengesetzte Richtung
Richtung ist vollständig umgekehrt
Eine n×n-Matrix hat höchstens n linear unabhängige Eigenvektoren.
Die Eigenwerte einer symmetrischen Matrix sind immer reell — das ist einer der Gründe, warum symmetrische Matrizen so wichtig sind.
Alltagsbeispiele
Strecken einer Gummimembran
Eine Gummimembran wird horizontal um den Faktor 2 gestreckt, während die vertikale Richtung unverändert bleibt.
Ein Pfeil in horizontaler Richtung (z. B. (1,0)) wird zu (2,0) gestreckt, aber seine Richtung bleibt unverändert — er ist ein Eigenvektor, λ=2.
Ein Pfeil in vertikaler Richtung (z. B. (0,1)) bleibt vollständig unverändert — er ist ebenfalls ein Eigenvektor, λ=1.
Ein diagonaler Pfeil (z. B. (1,1)) ändert seine Richtung — er ist kein Eigenvektor.
Mathematische Definition
\[ A\mathbf{v} = \lambda \mathbf{v} \quad \Leftrightarrow \quad (A - \lambda I)\mathbf{v} = 0 \]Bedingung für die Existenz einer von null verschiedenen Lösung: \( \det(A - \lambda I) = 0 \) (charakteristische Gleichung).
Praktische Python-Übung
Beispiel
A = np.array([[2, 0], [0, 1]]) # Horizontal um Faktor 2 strecken, vertikal unverändert
eigenvalues, eigenvectors = np.linalg.eig(A)
print("Eigenwerte:", eigenvalues) # [2. 1.]
print("Eigenvektoren (Spalten):\n", eigenvectors)
# Überprüfe Av = λv
for i in range(2):
v = eigenvectors[:, i]
lam = eigenvalues[i]
print(f"\nÜberprüfe Eigenvektor{i+1}:)
print(f" A @ v = {A @ v}")
print(f" λ * v = {lam * v}")
print(fGleich: {np.allclose(A @ v, lam * v)})
# Eigenwerte einer symmetrischen Matrix sind alle reell
S = np.array([[1, 4], [4, 2]])
print(f"\nEigenwerte der symmetrischen Matrix S: {np.linalg.eigvals(S)} (alle reell))
特征值: [2. 1.] 特征向量 (列): [[1. 0.] [0. 1.]] 验证特征向量1: A@v=[2. 0.], λv=[2. 0.], 相等: True 对称矩阵 S 的特征值: [ 5. -2.](全实数)
Interaktive Eigenvektor-Demo
Ziehe den blauen Vektor v und beobachte die Transformation Av (rote gestrichelte Linie) durch die Matrix A = [[2,0],[0,1]].
Wenn v horizontal oder vertikal ist, ist Av kollinear mit v — dies sind die Eigenvektorrichtungen:
Anwendungsszenarien in der KI
PCA-Dimensionsreduktion
Berechne die Eigenwerte und Eigenvektoren der Kovarianzmatrix der Daten. Die Eigenvektoren, die den k größten Eigenwerten entsprechen, sind die k Richtungen (Hauptkomponenten) mit der größten Datenvarianz. Projiziere die Daten auf diese Richtungen und verwerfe die Richtungen mit geringer Varianz, um eine Dimensionsreduktion zu erreichen. Die Reduktion von 784-dimensionalen MNIST-Bildern auf 50 Dimensionen bewahrt immer noch etwa 90% der Informationen.
Spektralnormalisierung
Beim GAN-Training wird die Gewichtsmatrix des Diskriminators bei jedem Schritt spektral normalisiert: W ← W / \sigma_{max}(W), wobei \sigma_{max} der größte Singulärwert ist (bei einer quadratischen Matrix entspricht dies dem Absolutwert des größten Eigenwerts). Dies stellt sicher, dass der Diskriminator 1-Lipschitz ist, was das Training stabilisiert und Modus-Kollaps reduziert.
Spektrale Methoden für Graph Neural Networks
Die Eigenwerte und Eigenvektoren der Graph-Laplace-Matrix L = D - A (D ist die Grad-Diagonalmatrix, A ist die Adjazenzmatrix) definieren die Fourier-Transformation auf Graphen. GCN (Graph Convolutional Network) führt eine Faltung in diesem Spektralbereich durch – obwohl moderne GCNs hauptsächlich räumliche Methoden verwenden, ist die spektrale Methode die theoretische Grundlage.
Andere Erweiterungen