MCMC — wenn die Mathematik nicht mehr trägt
Für komplexe Modelle ist die Posterior nicht mehr analytisch lösbar. Markov‑Chain‑Monte‑Carlo (MCMC) zieht Stichproben aus der Posterior — Tausende davon, statistisch repräsentativ.
Wichtige MCMC‑Algorithmen:
- Metropolis‑Hastings (1953): der Klassiker. Vorschlag, akzeptieren oder ablehnen.
- Gibbs‑Sampling: samplet jede Variable bedingt auf die anderen.
- HMC (Hamiltonian Monte Carlo): nutzt Gradient — viel effizienter.
- NUTS (No‑U‑Turn Sampler): automatisch tunen, Standard in Stan/PyMC.
Praxis‑Tools:
- Stan: Goldstandard, eigene Sprache.
- PyMC: Python, sehr ergonomisch.
- NumPyro / TFP: GPU‑beschleunigt.
- R: brms — Stan auf R‑Formeln.
- Turing.jl für Julia.
Konvergenz‑Diagnostik:
- R̂ (Gelman‑Rubin): sollte ≈ 1.0 sein. Über 1.05 → Probleme.
- Effective Sample Size (ESS): realer Informationsgehalt.
- Trace‑Plots: sieht aus wie Rauschen? Gut. Sieht aus wie Trend? Schlecht.
- Posterior‑Predictive Checks: wirkt das Modell wie die Daten?
Zurück zu Mathematik