Die SVD-Formel A = UΣVᵀ
Singulärwertzerlegung
Für jede Matrix A ∈ ℝᵐˣⁿ existiert eine Zerlegung:
A = U · Σ · Vᵀmit:
- U ∈ ℝᵐˣᵐ orthogonal (UᵀU = I) — „linke Singulärvektoren"
- Σ ∈ ℝᵐˣⁿ Diagonalmatrix mit Σ_ii = σᵢ ≥ 0 (Singulärwerte, absteigend sortiert)
- V ∈ ℝⁿˣⁿ orthogonal — „rechte Singulärvektoren"
Geometrische Interpretation
A wirkt auf einen Vektor x in drei Schritten:
- Vᵀ · x: drehe x in eine spezielle Basis.
- Σ · (Vᵀx): strecke entlang der Achsen mit Faktoren σ₁, σ₂, ...
- U · (ΣVᵀx): drehe in eine andere spezielle Basis.
Geometrisches Bild
Ein Einheitskreis wird unter A zu einer Ellipse. Die Halbachsen der Ellipse sind die Singulärwerte σ₁, σ₂. Die Richtungen der Halbachsen sind die Spalten von U.
Singulärwerte und Rang
- Anzahl von σᵢ > 0 = rang A.
- σ₁ ≥ σ₂ ≥ ... ≥ σᵣ > 0 (r = rang A), Rest = 0.
- Konditionszahl: κ(A) = σ_max / σ_min — misst Empfindlichkeit gegen Störungen.
Wozu die Sortierung?Singulärwerte sind absteigend sortiert. σ₁ ist die „größte Streckungsrichtung", σ₂ die „zweitgrößte", usw. Das macht sie ideal für Approximation: behalte die größten σᵢ, verwerfe kleine — das ist die Grundidee der Datenreduktion.