Perzeptron — die einfachste Zelle
Perzeptron: Berechnet y = activation(Σ wᵢ·xᵢ + b). Inputs xᵢ werden mit Gewichten wᵢ multipliziert, summiert, mit Bias b verschoben und durch eine Aktivierungsfunktion geschickt.
Anatomie
- Inputs (x): Die Eingabe-Features.
- Gewichte (w): Wie wichtig ist jedes Input? — Lernbar.
- Bias (b): Verschiebt den Schwellwert — Lernbar.
- Aktivierungsfunktion: Macht aus linearer Summe etwas Nichtlineares.
- Output (y): Die Vorhersage.
Multi-Layer-Perceptron (MLP)
Mehrere Schichten von Perzeptronen — jedes Output einer Schicht wird Input der nächsten. Das ergibt ein tiefes neuronales Netz.
| Layer | Funktion |
|---|---|
| Input Layer | Empfängt die Daten (z.B. 784 Pixel bei 28×28-Bild) |
| Hidden Layer(s) | Lernen abstrakte Features (Kanten → Formen → Objekte) |
| Output Layer | Gibt die Vorhersage (z.B. 10 Wahrscheinlichkeiten für Ziffern 0-9) |
Universal-Approximations-TheoremEin MLP mit nur einer hinreichend großen Hidden Layer kann THEORETISCH jede stetige Funktion approximieren. In der Praxis nutzt man tiefere Netze — sie lernen effizienter.