Open WebUI einrichten: Die beste Oberfläche für lokale LLMs

Wer lokale Sprachmodelle über Ollama betreibt, kennt das Problem: Das Terminal ist für den Alltag zu sperrig, und ein Chatgefühl wie bei ChatGPT fehlt. Genau hier setzt Open WebUI an — eine selbst gehostete, webbasierte Oberfläche, die aus deinem Homelab eine vollwertige, private KI-Chatplattform macht. In diesem Artikel zeige ich, was Open WebUI ist, wie du es per Docker installierst, mit Ollama verbindest und welche Features die Oberfläche gegenüber anderen UIs auszeichnen.

Was ist Open WebUI?

Open WebUI (früher Ollama WebUI) ist ein Open-Source-Frontend, das direkt an eine Ollama-Instanz andockt. Es stellt im Browser eine ChatGPT-ähnliche Oberfläche bereit — mit Chatverlauf, Markdown-Unterstützung, Code-Highlighting und der Möglichkeit, nahezu alle Ollama-Modelle per Klick auszuwählen und zu wechseln. Der große Vorteil: Alles bleibt bei dir. Keine Cloud, keine Abo-Kosten, keine Daten, die dein Heimnetz verlassen. Wer bereits Ollama eingerichtet hat, bekommt mit Open WebUI in wenigen Minuten ein komplettes Chat-Interface dazu.

Installation mit Docker

Die Installation läuft über Docker und ist damit auf nahezu jedem System möglich — NAS, Mini-PC oder Server. Wichtigste Voraussetzung: Ollama muss laufen. Am einfachsten startet man beides zusammen mit einem einzigen Compose-Befehl. Der offizielle Weg verbindet den Open-WebUI-Container mit dem Ollama-Container über ein gemeinsames Netzwerk und mountet die Volumes für die persistenten Daten.

Der Clou dabei: Läuft Ollama bereits auf einem anderen Rechner im Netzwerk, lässt sich Open WebUI auch getrennt starten und per Umgebungsvariable OLLAMA_BASE_URL auf die entfernte Instanz zeigen. So kannst du zum Beispiel das Frontend auf deinem NAS laufen lassen, während die eigentliche Inferenz auf dem leistungsstärkeren PC mit GPU passiert.

Einrichtung und erster Login

Nach dem Start erreichst du Open WebUI im Browser unter http://<server-ip>:3000 (bei Docker oft Port 8080, je nach Konfiguration). Beim ersten Aufruf legst du ein Administratorkonto an — der erste registrierte Nutzer wird automatisch zum Admin. Über das Admin-Panel steuerst du später weitere Nutzer, Modelle und Einstellungen.

Ist Ollama korrekt verbunden, erscheinen die installierten Modelle sofort in der Auswahlliste oben im Chat. Sollte die Liste leer bleiben, hilft meist ein Blick auf die OLLAMA_BASE_URL sowie auf die Netzwerkfreigabe zwischen den Containern.

Modellauswahl

Open WebUI zeigt alle Modelle an, die Ollama bereits heruntergeladen hat. Weitere Modelle lassen sich bequem direkt aus dem Admin-Panel oder über die Suche nachziehen, ohne das Terminal zu bemühen. Praktisch ist der Modellwechsel mitten im Gespräch: Du kannst für jede Nachricht ein anderes Modell wählen — etwa ein großes für komplexe Fragen und ein kleines, schnelles für den Alltag. Wer mehrere Modelle parallel testen will, findet in Open WebUI eine übersichtliche Möglichkeit, Antworten direkt zu vergleichen. Welche Modelle sich für deinen Einstieg lohnen, erklärt der Artikel zu lokalen LLMs für Einsteiger.

Features: Chat, RAG und Multi-User

Neben dem reinen Chat bringt Open WebUI drei Funktionen mit, die es von schlichten Frontends abheben:

Chat mit Dokumenten (RAG): Du lädst PDFs, Textdateien oder Notizen hoch, und Open WebUI baut daraus eine Wissensbasis. Fragen beantwortet das Modell dann gezielt auf Grundlage deiner Dokumente — ideal für Handbücher, Verträge oder eigene Notizen, ohne dass sensible Inhalte in eine Cloud wandern.

Multi-User-Betrieb: Über die Benutzerverwaltung legst du mehrere Konten mit eigenen Chatverläufen an. So teilt sich die ganze Familie oder ein kleines Team eine lokale KI-Instanz — jeder mit eigenem Verlauf, du behältst als Admin die Kontrolle über Modelle und Rechte.

Zusätzlich: Open WebUI unterstützt Web-Suche, Sprachausgabe (TTS), Bildgenerierung über angeschlossene Dienste und lässt sich über eine Plugin-Architektur erweitern. Auch der Import von OpenAI-kompatiblen Endpunkten ist möglich, sodass du neben lokalen Modellen bei Bedarf auch externe APIs anbinden kannst.

Unterschied zu anderen UIs

Verglichen mit schlanken Alternativen wie dem reinen Ollama-Terminal oder einfachen Chat-GUIs punktet Open WebUI vor allem durch den Funktionsumfang: Benutzerverwaltung, RAG, Plugin-System und eine aufgeräumte, ChatGPT-ähnliche Optik. Gegenüber Diensten wie LM Studio oder Jan ist Open WebUI kein Desktop-Programm, sondern ein zentraler Web-Dienst — er läuft dauerhaft auf einem Server und ist von jedem Gerät im Netz erreichbar. Genau das macht ihn für Homelabs und kleine Teams zur besten Wahl: einmal eingerichtet, steht die private KI überall im Haus bereit.

Fazit

Open WebUI ist der schnellste Weg, aus einer nackten Ollama-Installation eine vollwertige, private Chat-Plattform zu machen. Die Docker-Installation gelingt in Minuten, die Verbindung zu Ollama ist unkompliziert, und mit RAG sowie Multi-User-Betrieb bekommst du Funktionen, die selbst manche kommerzielle Angebote vermissen lassen. Wer lokale Modelle ernsthaft nutzen will, kommt an Open WebUI kaum vorbei.

Hinweis: Dieser Artikel ist redaktioneller Inhalt und enthält keine Affiliate- oder Partner-Links. Alle Angaben entsprechen dem Stand September 2026 und können sich ändern. Weiterführende Artikel findest du in unserem Ollama-Tutorial und im Einstieg in lokale LLMs.