Adjusted R² und Modellauswahl
Problem mit normalem R²: es steigt immer, wenn man eine weitere Variable hinzufügt — auch wenn die Variable mit y nichts zu tun hat. Reines Datenfischen würde so „immer besser werden".
Adjusted R² (R²_adj)
Bestraft die Aufnahme zusätzlicher Variablen. Steigt nur, wenn die neue Variable wirklich was beiträgt.
R²_adj = 1 − (1 − R²) · (n − 1) / (n − k − 1)Beispiel
n = 100, k = 5 Prädiktoren, R² = 0.40. R²_adj = 1 − 0.6 · 99/94 = 1 − 0.632 = 0.368.
R²_adj < R² immer, wenn k > 0.
Andere Modellauswahl-Kriterien
| Kriterium | Wofür |
|---|---|
| AIC (Akaike) | Vorhersage-Performance, kleiner = besser |
| BIC (Bayes-Schwarz) | Strenger als AIC, bevorzugt kleinere Modelle |
| Cross-Validation | Out-of-Sample-Vorhersage testen |
| Adjusted R² | Quick-Check während Modellbau |
F-Test für das GesamtmodellGlobaler F-Test prüft H₀: alle β_j = 0 (außer Intercept). Wenn signifikant → mindestens ein Prädiktor trägt etwas bei.