PCA — Hauptkomponentenanalyse
Du hast Daten in hoher Dimension — z.B. 1000 Patienten mit je 50 Messwerten. Welche Richtungen tragen am meisten Information? PCA findet die Hauptachsender Datenwolke und projiziert auf wenige davon. Effekt: Dimensionsreduktion, Visualisierung, Rauschreduktion.
Algorithmus PCA
- Zentrieren: ziehe Mittelwert von jeder Spalte ab.
- SVD der zentrierten Datenmatrix X: X = UΣVᵀ.
- Hauptkomponenten = Spalten von V (= Eigenvektoren von XᵀX).
- Erklärte Varianz: σᵢ² / Σ σⱼ² für jede Komponente.
- Reduktion: projiziere X auf die ersten k Hauptkomponenten.
Anschauliches Bild · 2D-Daten
Hat die Punktwolke eine längliche Form, finden PCA zwei Achsen: die 1. Hauptkomponenteliegt in der „dehnenden" Richtung (größte Varianz), die 2. senkrecht dazu. Wenn die 1. Komponente fast die gesamte Varianz einfängt, kann man auf 1D reduzieren — eine 2D-Wolke wird zur Linie.
Formel · Erklärte Varianz
Anteil_k = (σ₁² + ... + σₖ²) / (σ₁² + ... + σₙ²)Bei realen Datensätzen reichen oft 5–10 % der Komponenten, um 95 % der Varianz abzudecken. Kerngedanke der Datenkompression.
PCA in der PraxisGesichtserkennung („Eigenfaces"), Bioinformatik (Genexpression), Marketing (Kundensegmente), Computer Vision (Feature-Extraktion). Eine der meistgenutzten Techniken der Datenanalyse. Numerisch immer als SVD implementiert.