Chunking — die unterschätzte Kunst
Schlechte Chunks → schlechtes RAG, egal wie gut das Modell. Faustregeln aus der Praxis:
Strategien im Vergleich:
- Fixed Size: z. B. 512 Tokens mit 50 Tokens Overlap. Einfach, oft gut genug.
- Recursive: teilt entlang Hierarchie (\\n\\n → \\n → . → " ").
- Semantic: Embedding‑basierte Bruchstellen (langsam, top Qualität).
- Document‑Specific: bei PDFs nach Headern, bei Code nach Funktionen.
- Parent‑Document: Klein chunks für Suche, große Chunks für Kontext.
Größenempfehlungen:
- FAQ / Tickets: 200–400 Tokens
- Wiki / Dokumentation: 400–800 Tokens
- Bücher / Verträge: 800–1500 Tokens
- Overlap: 10–20 % der Chunk‑Größe
Zurück zu Künstliche Intelligenz