Ollama Installation: Lokale LLM-Ausführungsanleitung
Ollama-Installation, lokale LLM-Modelle ausführen (Llama 3, Mistral, Gemma), API-Nutzung, Modellverwaltung, GPU-Beschleunigung und Docker-Deployment.
Stable Diffusion Installation, AUTOMATIC1111 und ComfyUI Oberflächen, Modell-Download, LoRA-Training, ControlNet-Nutzung und Docker Self-Hosted Bilderzeugung Anleitung.
Stable Diffusion ist ein Open-Source-KI-Modell, das Bilder aus Text generiert. Durch den Betrieb auf Ihrem eigenen Server können Sie unbegrenzt Bilder erzeugen, benutzerdefinierte Modelle trainieren und mit vollständiger Privatsphäre arbeiten. Diese Anleitung behandelt die Installation von AUTOMATIC1111 Web UI und ComfyUI, Modellverwaltung, LoRA und ControlNet-Nutzung im Detail.
Stable Diffusion ist ein Latent-Diffusion-Modell, entwickelt von Stability AI. Hauptmerkmale:
| Komponente | Minimum | Empfohlen |
|---|---|---|
| GPU | NVIDIA 6 GB VRAM | NVIDIA 12 GB+ VRAM |
| RAM | 16 GB | 32 GB+ |
| Festplatte | 30 GB | 100 GB+ (für Modelle) |
| OS | Ubuntu 22.04 LTS | Ubuntu 22.04/24.04 LTS |
| CUDA | 11.8+ | 12.1+ |
| Python | 3.10+ | 3.10.x |
AUTOMATIC1111 ist die beliebteste Weboberfläche für Stable Diffusion.
# Abhängigkeiten
sudo apt-get update
sudo apt-get install -y python3-venv python3-pip git wget
# Repository klonen
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
cd stable-diffusion-webui
# Modell herunterladen (Stable Diffusion XL)
wget -O models/Stable-diffusion/sd_xl_base_1.0.safetensors \
"https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0/resolve/main/sd_xl_base_1.0.safetensors"
# Starten
./webui.sh --listen --port 7860 --xformers --enable-insecure-extension-access
version: '3.8'
services:
stable-diffusion:
image: ghcr.io/abetlen/stable-diffusion-webui-docker:latest
container_name: sd-webui
ports:
- "7860:7860"
volumes:
- sd_models:/app/models
- sd_outputs:/app/outputs
- sd_extensions:/app/extensions
environment:
- COMMANDLINE_ARGS=--listen --xformers --enable-insecure-extension-access --no-half-vae
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: 1
capabilities: [gpu]
restart: unless-stopped
volumes:
sd_models:
sd_outputs:
sd_extensions:
ComfyUI ist eine fortgeschrittene knotenbasierte Stable-Diffusion-Oberfläche. Ideal für komplexe Workflows.
# Repository klonen
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI
# Python virtuelle Umgebung
python3 -m venv venv
source venv/bin/activate
# Abhängigkeiten
pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu121
pip install -r requirements.txt
# Starten
python main.py --listen 0.0.0.0 --port 8188
# Stable Diffusion XL Base
wget -O models/Stable-diffusion/sd_xl_base_1.0.safetensors \
"https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0/resolve/main/sd_xl_base_1.0.safetensors"
# Stable Diffusion 1.5 (für niedrigen VRAM)
wget -O models/Stable-diffusion/v1-5-pruned-emaonly.safetensors \
"https://huggingface.co/runwayml/stable-diffusion-v1-5/resolve/main/v1-5-pruned-emaonly.safetensors"
LoRA (Low-Rank Adaptation) ermöglicht die Feinabstimmung großer Modelle mit geringen Ressourcen.
# LoRA-Modelle im Verzeichnis models/Lora ablegen
mkdir -p models/Lora
Um LoRA in AUTOMATIC1111 zu verwenden, fügen Sie es Ihrem Prompt hinzu:
a beautiful landscape, mountains, sunset <lora:detail-enhancer:0.7>
ControlNet ermöglicht die Steuerung der Bilderzeugung mit Pose-, Kantenkarten und Tiefeninformationen.
# ControlNet-Erweiterung installieren (AUTOMATIC1111)
cd extensions
git clone https://github.com/Mikubill/sd-webui-controlnet.git
# ControlNet-Modelle
mkdir -p models/ControlNet
wget -O models/ControlNet/control_v11p_sd15_canny.pth \
"https://huggingface.co/lllyasviel/ControlNet-v1-1/resolve/main/control_v11p_sd15_canny.pth"
Programmatische Bilderzeugung über die AUTOMATIC1111-API:
import requests
import base64
from pathlib import Path
def generate_image(prompt, negative_prompt="", steps=30, width=1024, height=1024):
url = "http://localhost:7860/sdapi/v1/txt2img"
payload = {
"prompt": prompt,
"negative_prompt": negative_prompt,
"steps": steps,
"width": width,
"height": height,
"sampler_name": "DPM++ 2M Karras",
"cfg_scale": 7,
"seed": -1
}
response = requests.post(url, json=payload)
result = response.json()
image_data = base64.b64decode(result["images"][0])
Path("output.png").write_bytes(image_data)
print("Bild gespeichert: output.png")
generate_image(
prompt="a futuristic data center, neon lights, cyberpunk style, 8k",
negative_prompt="blurry, low quality, distorted"
)
# Speicheroptimierung mit xformers
pip install xformers
# Startparameter
./webui.sh --listen --xformers --opt-sdp-attention --no-half-vae --medvram --port 7860
| Parameter | Beschreibung | VRAM-Einsparung |
|---|---|---|
| --xformers | xformers Attention | Mittel |
| --medvram | Mittlerer VRAM-Modus | Hoch |
| --lowvram | Niedriger VRAM-Modus | Sehr hoch |
| --opt-sdp-attention | SDP Attention | Mittel |
| --no-half-vae | VAE float32 | Qualitätsverbesserung |
Erzeugen Sie unbegrenzt Bilder mit Stable Diffusion auf REXE GPU-Servern. SDXL-Modelle laufen mit hoher Geschwindigkeit auf NVIDIA A100 GPUs.
AUTOMATIC1111 bietet eine benutzerfreundliche Weboberfläche und ist ideal für Anfänger. ComfyUI bietet eine knotenbasierte Oberfläche für komplexe Workflows. ComfyUI wird für fortgeschrittene Benutzer und Automatisierung bevorzugt.
SD 1.5-Modelle können mit 4 GB VRAM im --lowvram-Modus laufen. SDXL-Modelle benötigen mindestens 8 GB VRAM. 12 GB+ VRAM wird für komfortable Nutzung empfohlen.
LoRA (Low-Rank Adaptation) ermöglicht die Feinabstimmung großer Modelle auf einen bestimmten Stil oder ein Thema mit geringen Ressourcen. Platzieren Sie LoRA-Dateien im Verzeichnis models/Lora und verwenden Sie sie in Prompts im Format <lora:modellname:gewicht>.
ControlNet ermöglicht die Steuerung der Bilderzeugung mit Kontrollsignalen wie Pose (OpenPose), Kantenkarten (Canny), Tiefe und Segmentierung. Dies gibt Ihnen präzise Kontrolle über die Komposition der erzeugten Bilder.
Stable Diffusion wird unter der CreativeML Open RAIL-M Lizenz verteilt. Erzeugte Bilder sind im Allgemeinen für kommerzielle Nutzung geeignet, aber es wird empfohlen, die Lizenz des verwendeten Modells und LoRA zu überprüfen.
In AUTOMATIC1111 verwenden Sie die Parameter Batch count und Batch size für Massenproduktion. Sie können auch mehrere Anfragen über die API in einer Schleife senden. In ComfyUI erstellen Sie Batch-Workflows mit dem Queue-System.
Ollama-Installation, lokale LLM-Modelle ausführen (Llama 3, Mistral, Gemma), API-Nutzung, Modellverwaltung, GPU-Beschleunigung und Docker-Deployment.
Open WebUI Installation mit Docker, Ollama-Integration, Benutzerverwaltung, RAG (Dokumentenabfrage), Modellverwaltung, benutzerdefinierte Prompts und Mehrbenutzersupport.
NVIDIA-Treiberinstallation, CUDA-Toolkit, nvidia-container-toolkit, Modell-Serving mit vLLM, GPU-Monitoring und AI-Modell-Deployment mit Docker Anleitung.