نقل نماذج Ollama إلى مواقع مختلفة

تستغرق ملفات نموذج Ollama LLM مساحة كبيرة جدًا.

Page content

بعد تثبيت ollama من الأفضل إعادة تكوين ollama لتخزينها في مكان جديد فورًا. إذن بعد أن نسحب نموذجًا جديدًا، لن يتم تنزيله إلى الموقع القديم.

شامال لامّا ذكية في القبعة تقوم بشيء في غرفة الخادم

حول ollama

ollama هو واجهة نصية لـ نماذج الذكاء الاصطناعي LLM وواجهة برمجة تطبيقات يمكنها استضافة هذه النماذج أيضًا.

تثبيت ollama

اذهب إلى https://ollama.com/download

للتثبيت على لينكس:

curl -fsSL https://ollama.com/install.sh | sh

ollama على ويندوز موجود في الصفحة: https://ollama.com/download/windows ollama لـ ماك موجود أيضًا: https://ollama.com/download/macOllamaSetup.exe

تنزيل، قائمة، وإزالة نماذج ollama

لتنزيل بعض نماذج ollama: اذهب إلى مكتبة ollama (https://ollama.com/library) وابحث عن النموذج الذي تحتاجه، ويمكنك أيضًا العثور على علامات النموذج وأحجامه هناك.

ثم ابدأ تشغيل الأوامر التالية:

ollama pull gemma2:latest

# أو احصل على نموذج أذكى قليلاً يناسب جيدًا 16 جيجابايت من الذاكرة العشوائية:
ollama pull gemma2:27b-instruct-q3_K_S

# أو:
ollama pull llama3.1:latest
ollama pull llama3.1:8b-instruct-q8_0
ollama pull mistral-nemo:12b-instruct-2407-q6_K
ollama pull mistral-small:22b-instruct-2409-q4_0
ollama pull phi3:14b-medium-128k-instruct-q6_K
ollama pull qwen2.5:14b-instruct-q5_0

للمراجعة نماذج ollama التي يحتويها المستودع المحلي:

ollama list

لإزالة نموذج غير مطلوب:

ollama rm qwen2:7b-instruct-q8_0 # مثال

موقع نماذج ollama

بشكل افتراضي يتم تخزين ملفات النماذج في:

  • ويندوز: C:\Users%username%.ollama\models
  • لينكس: /usr/share/ollama/.ollama/models
  • ماك: ~/.ollama/models

تكوين مسار نماذج ollama على ويندوز

لإنشاء متغير بيئة على ويندوز يمكنك اتباع هذه التعليمات:

  • افتح إعدادات ويندوز.
  • انتقل إلى النظام.
  • اختر حول.
  • اختر الإعدادات المتقدمة.
  • انتقل إلى علامة التبويب المتقدمة.
  • اختر المتغيرات البيئية.
  • اضغط على جديد.
  • وقم بإنشاء متغير يسمى OLLAMA_MODELS يشير إلى المكان الذي ترغب في تخزين النماذج فيه

نقل نماذج ollama على لينكس

قم بتحرير معلمات خدمة ollama systemd

sudo systemctl edit ollama.service

أو

sudo xed /etc/systemd/system/ollama.service

هذا سيفتح محررًا.

لكل متغير بيئة، أضف سطرًا Environment تحت القسم [Service]:

[Service]
Environment="OLLAMA_MODELS=/specialplace/ollama/models"

احفظ واترك.

هناك أيضًا معلمات المستخدم والمجموعة، يجب أن يكون لها وصول إلى هذه المجلد.

إعادة تحميل systemd وإعادة تشغيل ollama:

sudo systemctl daemon-reload
sudo systemctl restart ollama

إذا حدث خطأ

systemctl status ollama.service
sudo journalctl -u ollama.service

تخزين الملفات على محرك NTFS

يرجى ملاحظة أنك إذا كنت تعمل على لينكس واحتفظت بنماذجك على قسم محرك NTFS، فإن نماذجك ستكون تحميلًا أبطأ بكثير - أكثر من 20%.

استخدام وحدة المعالجة المركزية ntfs.mount

تثبيت ollama على ويندوز في مجلد محدد

مع النماذج

.\OllamaSetup.exe /DIR=D:\OllamaDir

كشف واجهة برمجة تطبيقات ollama على الشبكة الداخلية

الشبكة الداخلية هنا تعني الشبكة المحلية.

أضف إلى تكوين الخدمة:

[Service]
Environment="OLLAMA_HOST=0.0.0.0"

روابط مفيدة