
أداء النماذج الكبيرة جداً وقنوات PCIe: اعتبارات رئيسية
هل تفكر في تركيب وحدة معالجة رسومات ثانية للذكاء الاصطناعي؟
كيف تؤثر مسارات PCIe على أداء النماذج الكبيرة؟ يعتمد ذلك على المهمة. بالنسبة للتدريب والتنبؤ متعدد GPUs - فإن انخفاض الأداء كبير.
هل تفكر في تركيب وحدة معالجة رسومات ثانية للذكاء الاصطناعي؟
كيف تؤثر مسارات PCIe على أداء النماذج الكبيرة؟ يعتمد ذلك على المهمة. بالنسبة للتدريب والتنبؤ متعدد GPUs - فإن انخفاض الأداء كبير.
بعد إعداد Gitea و Hugo على AWS S3...
الخطوة التالية هي تنفيذ بعض عمليات CI/CD وإعداد
إجراءات Gitea للحصول على موقع Hugo، لدفع الموقع إلى AWS S3
تلقائيًا عند تحديث فرع master.
استخراج النص من HTML باستخدام نموذج اللغة الكبيرة...
في مكتبة نماذج Ollama هناك نماذج قادرة تحويل محتوى HTML إلى Markdown، وهو مفيد للمهام المتعلقة بتحويل المحتوى.
مؤشر AI مقابل GitHub Copilot مقابل Cline AI مقابل...
سأ列举一些由人工智能辅助的编程工具和 مساعدي البرمجة بالذكاء الاصطناعي وفوائدهم الرائعة.
أولاما على معالج إنتل: الكفاءة مقابل أداء النواة
لدي نظرية أريد اختبارها - هل استخدام جميع النوى على معالج Intel CPU سيزيد سرعة نماذج LLM؟ (اختبار: كيف يستخدم Ollama أداء معالج Intel ووحدات النوى الفعالة) يزعجني أن نموذج gemma3 27 بت (gemma3:27b، 17GB على ollama) لا يناسب 16GB VRAM لبطاقتي الرسومية، ويتم تشغيله جزئيًا على المعالج.
أوامر مفيدة في MinIO
يقدم MinIO واجهتين رئيسيتين: (1) MinIO Console - وهي واجهة ويب، و(2) MinIO Command - هذه هي واجهة سطر الأوامر باستخدام mc
.
نظرة عامة وتثبيت Minio
MinIO هو نظام تخزين كائنات موزع عالي الأداء ومفتوح المصدر، تم تصميمه ليكون متوافقًا تمامًا مع واجهة برمجة التطبيقات (API) الخاصة بـ Amazon S3.
تتطلب الذكاء الاصطناعي الكثير من القوة...
في وسط الفوضى في العالم الحديث هنا أنا مقارنة مواصفات التكنولوجيا المختلفة المناسبة لمهام الذكاء الاصطناعي (التعلم العميق, كشف الكائنات ونماذج الذكاء الاصطناعي الكبيرة). ولكنها جميعًا باهظة التكلفة للغاية.
العناوين الشائعة ביותר لـ Hugo
لنرى على github قائمة أفضل قوالب لـ Hugo المولّد لمواقع الويب الثابتة، واستعرض تقييم النجوم. يمكنك الذهاب إلى القائمة الرسمية لقوالب Hugo: https://themes.gohugo.io/
تهيئة ollama لتنفيذ طلبات متوازية.
عندما يتلقى خادم Ollama طلبين في نفس الوقت، فإن سلوكه يعتمد على إعداداته وموارد النظام المتاحة.
بعض إداراة النظام
من المحتمل أن يكون من الأفضل تسمية هذا هندسة المنصات الآن. هنا بعض الملاحظات حول كيفية تثبيت Connect وإزالة Portainer - واجهة مستخدم لإدارة صور وحاويات Docker.
عندما تحتاج بسرعة إلى بعض العمليات غير المتزامنة في السحابة
مقارنة قصيرة بين RabbitMQ على AWS EKS و AWS SQS
في بعض الأحيان، تحتاج إلى إضافة إرسال نموذج إلى موقعك الإلكتروني القائم على هوجو.
ليس كل يوم خميس الثاني، ولكن لا يزال…
لدينا نهج رئيسيان
تشغيل أي ملف قابل للتنفيذ كخدمة لينكس
هنا مجموعة من التعليمات حول
كيفية تكوين تشغيل أي برنامج قابل للتنفيذ كخدمة في لينكس باستخدام systemd.
مقارنة نموذجين من deepseek-r1 بنموذجين أساسيين
نموذج DeepSeek الجيل الأول من نماذج الاستدلال التي تقدم أداءً مماثلاً لأداء نموذج OpenAI-o1، وتشمل ستة نماذج كثيفة تم استخلاصها من DeepSeek-R1 بناءً على Llama وQwen.