Stack‑Empfehlungen
| Anforderung | Empfehlung |
|---|---|
| Schnell & einfach (API‑first) | OpenAI / Anthropic + Helicone Proxy |
| Eigenes Modell on GPU | vLLM + Caddy/Nginx + Langfuse |
| On‑prem CPU, kleines Modell | llama.cpp + Ollama Wrapper |
| Serverless mit Spike‑Last | Modal oder Replicate |
| Multi‑Modell Routing | OpenRouter / LiteLLM |
| Sicherheits‑kritisch | Lakera + Llama Guard + Custom Eval |
| Cost‑Optimierung | Modell‑Hierarchie + Prompt Cache + Semantic Cache |
| Continuous Eval | Langfuse + Goldset + nightly Run |
Zurück zu Künstliche Intelligenz