Open WebUI

Was ist Open WebUI?

Open WebUI ist eine selbsthostbare Plattform für KI-Gespräche, Wissensdatenbanken und Teamzusammenarbeit. Sie wird häufig verwendet, um Ollama-Modelle über eine Browseroberfläche zugänglich zu machen, und kann außerdem mit OpenAI, Anthropic, Gemini, Azure, vLLM sowie anderen OpenAI- oder Open Responses-kompatiblen Diensten verbunden werden.

Benutzer können über eine einheitliche Schnittstelle mehrere Modellgespräche, Dokument-RAG, gesuchte Informationen im Internet, Sprachfunktionen, Bildgenerierung, Werkzeuge sowie automatisierte Aufgaben verwalten.

Open WebUI enthält kein eigenentwickeltes großes Modell, das alle Modelle direkt ersetzen könnte. Es handelt sich dabei um eine Anwendungs Schicht zwischen dem Modell und dem Benutzer; die Qualität der Antworten, die Geschwindigkeit, der Kontext sowie die Kosten hängen vom angeschlossenen Inferenzdienst ab.

Durch die Verwendung von lokalem Ollama bleiben die wichtigsten Daten auf dem eigenen Gerät oder Server; bei der Verwendung von Cloud-Modellen oder externen Tools werden die entsprechenden Daten an den jeweiligen Anbieter gesendet.

Kernfunktionen der Open WebUI

Einheitliches Chatten mit mehreren Modellen

Der Administrator kann auf mehrere lokale und Cloud-basierte Modelle zugreifen, während die Benutzer im selben Sitzungsfenster zwischen Modellen wechseln oder Antworten nebeneinander vergleichen können. Die Chat-Funktion unterstützt das Hochladen von Dateien und Bildern, eine Nachrichtenwarteschlange, Ordnern, Tags, das Hervorheben von Nachrichten, das Speichern von Informationen, Spracheingabe/Ausgabe sowie verschiedene weitere Bearbeitungsmöglichkeiten für Inhalte.

Modellvorlagen können Systemhinweise, Wissensdatenbanken, Tools und Parameter verknüpfen, um spezielle Assistenten für das Schreiben, Lehren, Programmieren oder Kundenservice zu erstellen.

Ollama und lokale Modelle

Open WebUI kann mit Ollama auf dem Host-Computer oder auf einem entfernten Server verbunden werden; es gibt auch integrierte Container-Images, die Ollama enthalten. Bei der lokalen Verarbeitung fallen keine Kosten für die Cloud-API nach Art von Tokens an, doch es werden CPU-Ressourcen, GPU-Ressourcen, Speicherplatz sowie Energie verbraucht.

Der localhost im Container verweist auf den Container selbst; bei der Verbindung zum Host-System Ollama sollte die richtige Host-Adresse verwendet werden und der Abhörbereich eingeschränkt werden.

Wissensdatenbank und RAG

Benutzer können Dokumente hochladen und Wissenssammlungen erstellen, damit das Modell im Chat relevante Abschnitte abrufen kann. Das System unterstützt Vektorabfragen, eine Kombination aus Schlüsselwörtern und Vektoren, Umordnung, das Einfügen vollständiger Inhalte sowie verschiedene Dokumentextraktionsmechanismen.

Externe Wissensquellen können auch direkt mit Qdrant, Milvus oder pgvector verbunden werden, um eine erneute Erfassung bereits vorhandener Indizes zu vermeiden.

Wenn im Ollama-Modell weiterhin kleine Standardwerte für den Kontext verwendet werden, können große Mengen an abgerufenem Inhalt abgeschnitten werden, was zu einer schlechten Leistung von RAG führt. Der Betreiber muss den Kontext, die Aufteilung des Inhalts, die Anzahl der abgerufenen Elemente sowie deren Anordnung entsprechend den Fähigkeiten des Modells anpassen und die Antworten sowie Quellen mit standardisierten Fragen überprüfen – es reicht nicht aus, nur zu prüfen, ob die Dokumente erfolgreich hochgeladen wurden.

Suche im Internet und Inhalt von Webseiten

Open WebUI kann mit Suchdiensten wie SearXNG, Google, Tavily usw. verbunden werden, wobei der Inhalt der Webseiten als Kontext für das Modell verwendet wird. Die Genauigkeit, Menge sowie die Privatsphäre der Suchergebnisse werden vom jeweiligen Suchmotor bestimmt.

Angesichts von Nachrichten, Preisen, Richtlinien und fachlichen Informationen sollten Nutzer weiterhin die ursprüngliche Seite öffnen, um Datum und Kontext zu überprüfen.

MCP, OpenAPI und Tools

Die Plattform kann mit HTTP MCP verbunden werden, über einen Proxy mit stdio MCP verbinden und außerdem externe Schnittstellen über die OpenAPI-Spezifikationen finden. Workspace Tools sind Python-Code, der direkt im Open WebUI-Prozess ausgeführt wird. Er verfügt über starke Funktionen – doch das bedeutet im Grunde, dass man die Möglichkeit hat, Servercode auszuführen.

Nur vertrauenswürdige Administratoren können erstellen oder importieren.

Der Status „Beliebt“ oder „Ausgewählt“ für Community-Tools bedeutet nicht, dass sie einer Sicherheitsprüfung unterzogen wurden. Vor der Installation sollte der Code gelesen, die Abhängigkeiten sowie die Verwendung von Schlüsseln überprüft werden, und die Rechte des Workspaces sollten eingeschränkt werden.

Für Aufgaben, die eine stärkere Isolation oder eine unabhängige Skalierung erfordern, sollte das Tool vorzugsweise als externer MCP- oder OpenAPI-Dienst ausgeführt werden.

Funktionen und Erweiterungssysteme

Die Pipe-Funktion ermöglicht es, Logik von Modellanbietern hinzuzufügen oder eigene Anfragen zu definieren. Mit Filtern kann man vor und nach der Verarbeitung der Nachrichten Aufgaben wie Maskierung, Formatierung, Limitierung sowie Protokollierung durchführen. Die Action-Funktion ermöglicht es, Schaltflächen für Nachrichten hinzuzufügen. Alte Pipeline-Projekte sind weiterhin mit den bestehenden Implementierungen kompatibel, doch die Entwickler haben sie als veraltete Lösungen markiert. Für neue Projekte sollte man stattdessen Funktionen, Tools oder externe Tool-Server verwenden.

Code, Bilder, Sprache und Automatisierung

Open WebUI kann mit Python im Browser, einem isolierten Open Terminal, Bildgenerierungsdiensten sowie Spracherkennung und -synthese verbunden werden. Zudem werden die automatische Ausführung von Anweisungen zu bestimmten Zeiten, strukturierte Aufgabenlisten sowie Benachrichtigungen unterstützt.

Wenn Code ausgeführt wird oder Terminal-Tools auf echte Dateien und das Netzwerk zugreifen können, sollten isolierte Container, Ressourcenbeschränkungen sowie Grenzen pro Benutzer verwendet werden. Der Browser-Sandbox kann nicht als vollständige Sicherheitsbarriere angesehen werden.

Teammanagement und API

Der Administrator kann Benutzer, Gruppen, Zugriffsrechte auf Modelle, Benachrichtigungen, Nutzungsanalysen, Blindtests sowie Webhooks verwalten. Die Plattform stellt API-Schlüssel mit Benutzerverboten sowie Schnittstellen für Chats, Dateien, Wissensdatenbanken und Toolaufrufe bereit.

Die Schlüssel erben die Rechte des Erstellers; es sollten zugängliche Endpunkte eingeschränkt, Ablaufstrategien festgelegt und regelmäßig Schlüssel ausgetauscht werden.

Vergleich der Open WebUI-Versionen und der Kosten

Bei der Standard-Self-Hosting-Variante fallen keine Kosten für Software-Lizenzen an, doch Server, Modelle und Drittanbieterdienste sind nicht unbedingt kostenlos. Für eine Unternehmens-Markeingestaltung, eine individuelle Branding-Lösung, spezielle Funktionen oder formelle Geschäftskooperationen sind Lizenzen erforderlich. Es gibt keinen offiziellen Festpreis; die Kosten werden je nach Organisation und Anzahl der Nutzer angefragt.

Vergleich der Methoden zur Anbindung von Modellen

Erläuterungen zur Open WebUI-Lizenz

Die aktuelle offizielle Lizenz basiert auf BSD 3-Clause und beinhaltet zusätzliche Anforderungen zur Schutz der Marke. Für eine interne Nutzung kann die ursprüngliche Marke von Open WebUI kostenlos genutzt werden.

Wenn innerhalb von beliebig aufeinanderfolgenden 30 Tagen nicht mehr als 50 Benutzer eingesetzt werden, kann die Marke unter Einhaltung der offiziellen Bedingungen angepasst werden; auch Personen, die einen wesentlichen Beitrag leisten, erhalten bei Erhalt einer schriftlichen Genehmigung oder beim Kauf einer Unternehmenslizenz die entsprechenden Rechte an der Marke.

Für White-Label-Lösungen, die über die kostenlosen Ausnahmen hinausgehen, für stark markierte Produkte, bei denen das eigene Logo neben dem offiziellen Logo verwendet wird, oder bei der Nutzung von unternehmensspezifischen Funktionen ist eine Unternehmenslizenz erforderlich. Die Lizenz kann sich mit den Versionen des Produkts ändern; vor der Verbreitung von Modifikationen, der Bereitstellung für Kunden oder dem großflächigen kommerziellen Einsatz sollte man die mit der jeweiligen Version gelieferte LICENSE sowie die offiziellen Anleitungen überprüfen.

Leitfaden zur Docker-Installation von Open WebUI

1. Docker installieren:Installieren Sie die offizielle Docker-Umgebung unter Windows, macOS oder Linux und überprüfen Sie, ob Sie die offiziellen Images herunterladen können.
2. Image auswählen:Die Standard-Image eignet sich für die meisten Benutzer, das Slim-Image ist kleiner, das CUDA-Image unterstützt NVIDIA-GPUs, und das Ollama-Image enthält Ollama.
3. Erstellen eines persistenten Volumes:Verknüpfen Sie den Datorkatalog mit dem Backend-Datapfad innerhalb des Containers, um zu vermeiden, dass Datenbanken, Chats und Wissensdaten bei der Neuerstellung des Containers verloren gehen.
4. Starten und Administrator erstellen:Beim ersten Öffnen des Geräts wird das Konto, das unter Port 3000 registriert ist, zum Administrator. Lassen Sie die Seite für die erste Registrierung, die niemand in Anspruch nimmt, nicht im öffentlichen Netzwerk verfügbar.
5. Verbindungsmodell:Konfigurieren Sie die Ollama-Adresse oder die Base URL des Cloud-Modells sowie den Schlüssel, und testen Sie zunächst normale Gespräche sowie fließende Ausgaben.
6. Konfiguration von RAG:Wählen Sie Dokumentextraktion, Embedding und Vektordatenbank aus und überprüfen Sie mit einer kleinen Menge an chinesischen Materialien die Qualität der Analyse und Suche.
7. Verstärkungsdienste:Deaktivieren Sie unnötige Registrierungen und konfigurieren Sie HTTPS, starke Schlüssel, Reverse-Proxy, Firewall, Zugriffskontrolle sowie Backups.
8. Feste Produktionsversion:„main“ und „latest“ sind scrollende Images; in der Produktumgebung sollte eine bestimmte Version beibehalten werden. Vor dem Upgrade sollten Sie einen Backup erstellen und die Anleitung zur Migration durchlesen.

Leitfaden zur Verwendung von Open WebUI

Erstellung wiederverwendbarer professioneller Workflows

1. Komplexe Themen in vier Kategorien von Fragen aufteilen: Hintergrund, Daten, Vergleiche und Schlussfolgerungen;
2. Kombinierte Mehr-Modell-Chats, Ollama sowie lokale Modelle und Wissensdatenbanken bilden feste Forschungsschritte im Rahmen von RAG;
3. Zuerst sollten die offiziellen Webseiten, wissenschaftliche Arbeiten, regulatorische Dokumente und Rohdaten verwendet werden;
4. Für Schlussfolgerungen mit hohem Risiko wird eine zweite Überprüfung durchgeführt;
5. Abfragen, Beweise, Versionen und ungelöste Probleme speichern;
6. Nach Änderungen der Daten erneut ausführen und die Schlussfolgerungen aktualisieren;

Hinweise zur großflächigen Implementierung

• Ein einzelnes Instance kann die Standarddatenbank sowie den lokalen Speicher verwenden;
• Für die Bereitstellung in mehreren Instanzen sind PostgreSQL, Redis, eine parallel zugängliche Vektor-Datenbank sowie gemeinsamer Dateispeicher erforderlich.
• Jedes Instance muss konsistente Secret- und Verbindungskonfigurationen verwenden, und die Datenbankmigration kann nur von einer Instance durchgeführt werden.
• Es sollten auch Limits für das Modell, Audit-Logs, Ressourcenquoten sowie Verfahren zur Wiederherstellung von Backups und zum Rollback von Updates festgelegt werden.

Für welche Benutzer geeignet

• Personen, die eine vollständige Chat-Oberfläche für Webseiten für Ollama oder andere lokale Modelle hinzufügen möchten;
• AI-Teams, die einen einheitlichen Zugang zu mehreren Clouds sowie self-hosted Modellen benötigen;
• Organisationen, die planen, ein internes Portal für Fragen und Antworten zu Dokumenten, Suchfunktionen sowie Modelle einzurichten;
• Entwickler, die MCP, OpenAPI, Python-Tools sowie Erweiterungen zur Nachrichtenfilterung benötigen;
• Ein privatwirtschaftliches Implementierungsteam, das in der Lage ist, Identitäten, Infrastruktur und Datensicherheit zu verwalten.

Vorteile und Einschränkungen bei der Verwendung

• Die Vorteile von OpenWebUI sind eine ausgereifte Benutzeroberfläche, eine breite Kompatibilität mit verschiedenen Modellen, starke Fähigkeiten zur Privatisierung sowie die Integration von Wissensdatenbanken, Werkzeugen, Suchfunktionen, Sprachfunktionen, Bildverarbeitungsfunktionen und Teamverwaltung.
• Es eignet sich, um sich von privaten lokalen Chats nahtlos auf interne Unternehmensplattformen auszudehnen;
• Die Einschränkungen liegen in der Vielzahl an Funktionen, dem umfangreichen Konfigurationsumfang sowie in der hohen Komplexität bei der Produktion und dem Betrieb.
• Plugins können beliebigen Code ausführen, fehlende Berechtigungen können den Server gefährden;
• Selbstverwaltung bedeutet nicht automatisch Sicherheit oder Konformität;
• Modellantworten und RAG-Zitate können weiterhin fehlerhaft sein, wesentliche Inhalte müssen manuell überprüft werden;
• Vor dem Upgrade sollten die Daten gesichert werden, und es sollte vorrangig eine stabile Version mit Sicherheitskorrekturen installiert werden;

Häufige Fragen

Ist Open WebUI kostenlos?

Standard-Self-Hosting sowie die Nutzung der ursprünglichen Marke für interne Zwecke sind kostenlos. Server, GPU, Cloud-Modell-APIs sowie Drittanbieterdienste werden separat berechnet;

Für White-Label-Lösungen, starke Marken sowie firmenspezifische Funktionen ist ein Ankauf einer Unternehmenslizenz erforderlich.

Muss man für Open WebUI Ollama installieren?

Das ist nicht notwendig. Es kann sowohl mit Ollama verbunden werden, als auch direkt mit OpenAI-kompatiblen Diensten wie Open Responses sowie verschiedenen Cloud-Modell-Diensten.

Unterstützt Open WebUI MCP?

HTTP MCP wird unterstützt; außerdem ist ein Zugriff über einen Proxy auf stdio MCP möglich. Der Code sowie die Berechtigungen der externen Dienste müssen separat geprüft werden.

Kann Open WebUI vollständig offline genutzt werden?

Das ist möglich, aber es müssen lokale Modelle, lokale Embeddings sowie lokale Vektorbibliotheken verwendet werden. Zudem muss die Netzwerksuche sowie alle externen APIs deaktiviert werden. Für die Installation der Images und das Herunterladen der Modelle ist in der Regel weiterhin ein Internetanschluss erforderlich.

Eignet sich Open WebUI für die Verwendung im öffentlichen Internet?

Das ist möglich, aber es müssen HTTPS, Authentifizierung, starke Passwörter, ein Reverse-Proxy, ein Firewall, Backups sowie minimale Berechtigungen eingestellt werden. Die Standardportnummern oder Plugins mit hohen Berechtigungen sollten nicht direkt im Internet zugänglich gemacht werden.