Open WebUI Einrichtung: ChatGPT-ähnliche Oberfläche für lokale KI

Open WebUI (ehemals Ollama WebUI) ist ein Open-Source-Projekt, das eine moderne ChatGPT-ähnliche Weboberfläche für Ihre lokalen LLM-Modelle bietet. Integriert mit Ollama können Sie über den Browser mit Ihren KI-Modellen chatten, Dokumente hochladen und Ihre Dokumente mit RAG (Retrieval-Augmented Generation) abfragen.

Was ist Open WebUI?

Open WebUI ist eine umfassende Weboberfläche für das Self-Hosted-KI-Erlebnis. Hauptmerkmale:

ChatGPT-ähnliche Oberfläche: Modernes, benutzerfreundliches Chat-Erlebnis
Ollama-Integration: Direkte Verbindung mit lokalen LLM-Modellen
RAG-Pipeline: Dokumenten-Upload und dokumentenbasierte Abfragen
Mehrbenutzer: Benutzerverwaltung und rollenbasierter Zugriff
Modellverwaltung: Modelle über die Oberfläche herunterladen, löschen und konfigurieren
Benutzerdefinierte Prompts: System-Prompt-Vorlagen und Freigabe
Chat-Verlauf: Aufzeichnung und Suche aller Gespräche

Systemanforderungen

Komponente	Minimum	Empfohlen
RAM	4 GB (für UI)	8 GB+
Festplatte	5 GB	10 GB+
Docker	20.10+	Neueste Version
Ollama	Installiert und aktiv	Gleicher Server oder Netzwerk

Docker-Installation

Ollama auf demselben Server

hljs bash

docker run -d \
  --name open-webui \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data \
  --restart unless-stopped \
  ghcr.io/open-webui/open-webui:main

Docker Compose (Empfohlen)

hljs yaml

version: '3.8'
services:
  ollama:
    image: ollama/ollama
    container_name: ollama
    ports:
      - "11434:11434"
    volumes:
      - ollama_data:/root/.ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    restart: unless-stopped

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
      - WEBUI_SECRET_KEY=starker-secret-key-hier
      - ENABLE_SIGNUP=true
      - DEFAULT_USER_ROLE=pending
    volumes:
      - open-webui_data:/app/backend/data
    depends_on:
      - ollama
    restart: unless-stopped

volumes:
  ollama_data:
  open-webui_data:

Starten:

hljs bash

docker compose up -d

Erstkonfiguration

Navigieren Sie zu http://SERVER_IP:3000.

Admin-Konto erstellen

Der erste registrierte Benutzer wird automatisch Admin:

Klicken Sie auf Sign Up
Geben Sie Name, E-Mail und Passwort ein
Der erste Benutzer erhält die Admin-Rolle

Erstellen Sie den ersten Benutzer sofort. Andernfalls könnte jemand anderes Admin werden.

Modellverwaltung

Modelle über die Oberfläche herunterladen

Admin Panel → Settings → Models
Modellnamen eingeben (z.B. llama3.1)
Pull klicken

Modelle über CLI herunterladen

hljs bash

docker exec -it ollama ollama pull llama3.1
docker exec -it ollama ollama pull mistral

RAG (Retrieval-Augmented Generation)

Dokumente hochladen

Klicken Sie auf + im Chat-Fenster
Laden Sie PDF, TXT, DOCX, MD Dateien hoch
Das Dokument wird automatisch in Chunks aufgeteilt und Embeddings erstellt
Stellen Sie Fragen mit Bezug auf das Dokument

RAG-Konfiguration

Admin Panel → Settings → Documents:

Chunk Size: 1000
Chunk Overlap: 200
Embedding Model: nomic-embed-text
Top K: 5

Embedding-Modell einrichten

hljs bash

docker exec -it ollama ollama pull nomic-embed-text

Benutzerverwaltung

Rollen

Admin: Vollzugriff (Einstellungen, Benutzer, Modelle)
User: Chat und Dokumenten-Upload
Pending: Benutzer wartet auf Genehmigung

Benutzerdefinierte System-Prompts

Workspace → Models → Modell auswählen
Im System Prompt Feld schreiben:

Du bist ein REXE Technology technischer Support-Assistent.
Du bist spezialisiert auf Serververwaltung, Docker, Linux und Netzwerke.
Füge Codebeispiele hinzu.
Erkläre Schritt für Schritt.

Nginx Reverse Proxy

hljs nginx

server {
    listen 443 ssl http2;
    server_name ai.example.com;

    ssl_certificate /etc/letsencrypt/live/ai.example.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/ai.example.com/privkey.pem;

    location / {
        proxy_pass http://localhost:3000;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
    }

    client_max_body_size 100M;
}

Aktualisierung

hljs bash

docker compose pull
docker compose up -d

Fehlerbehebung

hljs bash

# Open WebUI Logs
docker logs open-webui

# Ollama-Verbindungstest
docker exec open-webui curl -s http://ollama:11434/api/tags

# Container-Status
docker ps | grep -E 'open-webui|ollama'

Mit REXE VPS-Servern können Sie Ihre eigene ChatGPT-Alternative mit Open WebUI einrichten. Ihre Daten bleiben vollständig unter Ihrer Kontrolle.

Open WebUI Einrichtung: ChatGPT-ähnliche Oberfläche für lokale KI

Inhaltsverzeichnis