Ollama Installation: Lokale LLM-Ausführungsanleitung
Ollama-Installation, lokale LLM-Modelle ausführen (Llama 3, Mistral, Gemma), API-Nutzung, Modellverwaltung, GPU-Beschleunigung und Docker-Deployment.
15 Min.
ollamallmkünstliche intelligenz
Zurück zur Wissensdatenbank6 Artikel
KI & ML Self-Hosting
Anleitungen zum Betrieb von KI-Modellen auf Ihrem eigenen Server
Open WebUI Einrichtung: ChatGPT-ähnliche Oberfläche für lokale KI
Open WebUI Installation mit Docker, Ollama-Integration, Benutzerverwaltung, RAG (Dokumentenabfrage), Modellverwaltung, benutzerdefinierte Prompts und Mehrbenutzersupport.
14 Min.
open-webuichatgptkünstliche intelligenz
AI-Modell-Deployment auf GPU-Servern: NVIDIA CUDA Anleitung
NVIDIA-Treiberinstallation, CUDA-Toolkit, nvidia-container-toolkit, Modell-Serving mit vLLM, GPU-Monitoring und AI-Modell-Deployment mit Docker Anleitung.
18 Min.
gpunvidiacuda
Stable Diffusion Einrichtung: Self-Hosted Bilderzeugung
Stable Diffusion Installation, AUTOMATIC1111 und ComfyUI Oberflächen, Modell-Download, LoRA-Training, ControlNet-Nutzung und Docker Self-Hosted Bilderzeugung Anleitung.
16 Min.
stable-diffusionbilderzeugungkünstliche intelligenz
LocalAI Einrichtung: OpenAI-kompatible Self-Hosted AI-API
LocalAI Docker-Installation, OpenAI-API-kompatible Self-Hosted AI-Service, Texterzeugung, Bilderzeugung, Sprachsynthese, Embedding und Modellverwaltung Anleitung.
14 Min.
localaiopenaiapi
Whisper Einrichtung: Self-Hosted Spracherkennung und Transkription
OpenAI Whisper Installation, schnelle Transkription mit faster-whisper, Mehrsprachunterstützung, API-Server, Docker-Deployment und Spracherkennungsoptimierung Anleitung.
13 Min.
whisperspracherkennungtranskription
NetzwerkverkehrEingehend— GbpsAusgehend— Gbps