Grundlagen
Warum lokale KI interessant ist
Lokale KI bedeutet: Modelle laufen auf dem eigenen Rechner oder Server, statt jede Anfrage an einen externen Dienst zu schicken. Das ist nicht immer schneller oder besser, aber für Tests, Lernen, Datenschutzbewusstsein und Automatisierung sehr wertvoll.
Die Rollen von Ollama und Open WebUI
- Ollama lädt und startet lokale Sprachmodelle mit einfachen Befehlen.
- Open WebUI liefert eine browserbasierte Oberfläche, ähnlich einem Chat-Interface.
- Docker Compose hilft, Dienste reproduzierbar zu starten.
Für wen eignet sich der Einstieg?
Für alle, die KI nicht nur konsumieren, sondern verstehen wollen: Modelle testen, Prompts vergleichen, kleine Workflows bauen und lokale Grenzen kennenlernen.