تثبيت Ollama: دليل تشغيل نماذج اللغة الكبيرة محلياً
تثبيت Ollama، تشغيل نماذج LLM المحلية (Llama 3، Mistral، Gemma)، استخدام API، إدارة النماذج، تسريع GPU والنشر عبر Docker.
تثبيت Open WebUI عبر Docker، التكامل مع Ollama، إدارة المستخدمين، RAG (استعلام المستندات)، إدارة النماذج ودعم المستخدمين المتعددين.
Open WebUI (المعروف سابقاً بـ Ollama WebUI) هو مشروع مفتوح المصدر يوفر واجهة ويب حديثة شبيهة بـ ChatGPT لنماذج LLM المحلية. يتكامل مع Ollama للتحدث مع نماذج الذكاء الاصطناعي عبر المتصفح، وتحميل المستندات، والاستعلام عنها باستخدام RAG.
Open WebUI هو واجهة ويب شاملة لتجربة الذكاء الاصطناعي المستضاف ذاتياً. الميزات الرئيسية:
| المكون | الحد الأدنى | الموصى به |
|---|---|---|
| RAM | 4 جيجابايت (للواجهة) | 8 جيجابايت+ |
| القرص | 5 جيجابايت | 10 جيجابايت+ |
| Docker | 20.10+ | أحدث إصدار |
| Ollama | مثبت وقيد التشغيل | على نفس الخادم أو الشبكة |
docker run -d \
--name open-webui \
-p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
-v open-webui:/app/backend/data \
--restart unless-stopped \
ghcr.io/open-webui/open-webui:main
docker run -d \
--name open-webui \
-p 3000:8080 \
--gpus all \
-v ollama:/root/.ollama \
-v open-webui:/app/backend/data \
--restart unless-stopped \
ghcr.io/open-webui/open-webui:ollama
version: '3.8'
services:
ollama:
image: ollama/ollama
container_name: ollama
ports:
- "11434:11434"
volumes:
- ollama_data:/root/.ollama
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu]
restart: unless-stopped
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
ports:
- "3000:8080"
environment:
- OLLAMA_BASE_URL=http://ollama:11434
- WEBUI_SECRET_KEY=strong-secret-key-here
- ENABLE_SIGNUP=true
- DEFAULT_USER_ROLE=pending
volumes:
- open-webui_data:/app/backend/data
depends_on:
- ollama
restart: unless-stopped
volumes:
ollama_data:
open-webui_data:
التشغيل:
docker compose up -d
افتح في المتصفح http://IP_الخادم:3000.
أول مستخدم يسجل يصبح مسؤولاً تلقائياً:
أنشئ المستخدم الأول فوراً. وإلا قد يصبح شخص آخر مسؤولاً. بعد التسجيل، اضبط ENABLE_SIGNUP=false لإغلاق التسجيل.
llama3.1)docker exec -it ollama ollama pull llama3.1
docker exec -it ollama ollama pull mistral
docker exec -it ollama ollama pull codellama
docker exec -it ollama ollama pull nomic-embed-text
server {
listen 443 ssl http2;
server_name ai.example.com;
ssl_certificate /etc/letsencrypt/live/ai.example.com/fullchain.pem;
ssl_certificate_key /etc/letsencrypt/live/ai.example.com/privkey.pem;
location / {
proxy_pass http://localhost:3000;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
}
client_max_body_size 100M;
}
docker compose pull
docker compose up -d
docker logs open-webui
docker exec open-webui curl -s http://ollama:11434/api/tags
docker ps | grep -E 'open-webui|ollama'
قم بتثبيت بديل ChatGPT الخاص بك مع Open WebUI على خوادم REXE VPS. بياناتك تبقى تحت سيطرتك الكاملة.
نعم، يمكن لـ Open WebUI الاتصال بأي API متوافق مع OpenAI. يمكنك استخدامه مع vLLM أو LocalAI أو حتى مع OpenAI API بتحديد عنوان URL والمفتاح المناسبين.
قم بتنزيل نموذج التضمين (nomic-embed-text) عبر Ollama، ثم في إعدادات Documents اضبط معلمات Chunk Size و Top K. بعد ذلك حمّل المستندات عبر واجهة المحادثة.
يُنصح باستخدام Nginx reverse proxy مع شهادة SSL. قم بتعطيل التسجيل (ENABLE_SIGNUP=false) بعد إنشاء الحسابات المطلوبة. استخدم WEBUI_SECRET_KEY قوياً.
يدعم Open WebUI عدداً غير محدود من المستخدمين. القيد هو أداء الخادم ونموذج Ollama. كل طلب للنموذج يُعالج بالتتابع ما لم يتم تكوين التوازي.
جميع البيانات مخزنة في Docker volume open-webui_data. للنسخ الاحتياطي استخدم docker cp أو أنشئ نسخة احتياطية من volume. سجل المحادثات والإعدادات والمستندات المحملة محفوظة في هذا volume.
تثبيت Ollama، تشغيل نماذج LLM المحلية (Llama 3، Mistral، Gemma)، استخدام API، إدارة النماذج، تسريع GPU والنشر عبر Docker.
تثبيت تعريفات NVIDIA، مجموعة أدوات CUDA، nvidia-container-toolkit، خدمة النماذج مع vLLM، مراقبة GPU ونشر نماذج AI مع Docker.
تثبيت Stable Diffusion، واجهات AUTOMATIC1111 و ComfyUI، تنزيل النماذج، تدريب LoRA، استخدام ControlNet وإنتاج صور مستضاف ذاتياً مع Docker.