Self-Hosting

LLM प्रदर्शन और PCIe चैनल: महत्वपूर्ण परिवेशन

LLM प्रदर्शन और PCIe चैनल: महत्वपूर्ण परिवेशन

एलईएम के लिए दूसरे जीपीयू की宣安装 के बारे में सोच रहे हैं?

PCIe चैनल कैसे LLM के कार्यक्षमता पर प्रभाव डालते हैं? कार्य पर निर्भर करता है। प्रशिक्षण और बहु-GPU अनुमान लगाने के लिए - कार्यक्षमता में गिरावट महत्वपूर्ण होती है।

Gitea Actions का उपयोग करके Hugo वेबसाइट को AWS S3 पर तैनात करें

Gitea Actions का उपयोग करके Hugo वेबसाइट को AWS S3 पर तैनात करें

एएव्स एस3 पर गिटिया और हुगो को सेट अप करने के बाद...

अगला कदम एक कुछ CI/CD को लागू करना और सेटअप करना है Gitea Actions for Hugo website, to push website to AWS S3 जब मास्टर ब्रांच अपडेट होता है तो स्वचालित रूप से।

HTML सामग्री को मार्कडाउन में बदलें, एलईएम और ओलामा का उपयोग करके

HTML सामग्री को मार्कडाउन में बदलें, एलईएम और ओलामा का उपयोग करके

एचटीएमएल से पाठ निकालने के लिए एलईएम का उपयोग करें...

ओलामा मॉडल पुस्तकालय में ऐसे मॉडल हैं जो HTML कंटेंट को मार्कडाउन में परिवर्तित कर सकते हैं के लिए उपयोगी हैं, जो कंटेंट परिवर्तन कार्यों के लिए उपयोगी हैं।

परीक्षण: ओलामा कैसे इंटेल CPU के प्रदर्शन और कुशल कोर का उपयोग कर रहा है

परीक्षण: ओलामा कैसे इंटेल CPU के प्रदर्शन और कुशल कोर का उपयोग कर रहा है

ओलामा इंटेल सीपीयू पर दक्षता वाले कोर्स बनाम प्रदर्शन कोर्स

मेरे पास एक सिद्धांत है जिसे परीक्षण करना है - अगर इंटेल के CPU पर सभी कोर का उपयोग करने से LLMs की गति बढ़ेगी? (परीक्षण: ओलामा कैसे इंटेल CPU के प्रदर्शन और कुशल कोर का उपयोग करता है)
यह मुझे चिंता कर रहा है कि नए gemma3 27 बिट मॉडल (gemma3:27b, 17GB ओलामा पर) मेरे GPU के 16GB VRAM में फिट नहीं हो रहा है और इसके कुछ हिस्सा CPU पर चल रहा है।

मिनिओ, एएस डब्ल्यूएस3 के विकल्प के रूप में। मिनिओ के सामान्य दृष्टिकोण और इसकी इंस्टॉलेशन।

मिनिओ, एएस डब्ल्यूएस3 के विकल्प के रूप में। मिनिओ के सामान्य दृष्टिकोण और इसकी इंस्टॉलेशन।

सारांश और मिनिओ की स्थापना

मिनिओ एक ओपन-सोर्स, उच्च प्रदर्शन, वितरित ऑब्जेक्ट स्टोरेज सिस्टम है जो पूर्ण रूप से अमेज़ॅन S3 API के साथ संगत है।

एआई के लिए एनवीडिया जीपीयू के उपयुक्तता की तुलना

एआई के लिए एनवीडिया जीपीयू के उपयुक्तता की तुलना

एआई को बहुत अधिक शक्ति की आवश्यकता होती है...

आधुनिक दुनिया के अस्थिरता के बीच यहाँ मैं विभिन्न कार्ड के तकनीकी विशेषताओं की तुलना कर रहा हूँ, जो AI कार्यों के लिए उपयुक्त हैं
(डीप लर्निंग,
ऑब्जेक्ट डिटेक्शन
और LLMs
हालाँकि, वे सभी बहुत महंगे हैं।

शीर्ष हुगो थीम्स

शीर्ष हुगो थीम्स

हुगो के लिए सबसे लोकप्रिय थीम्स

गिटहब पर हुगो के लिए सर्वोत्तम थीम की सूची स्टैटिक साइट जनरेटर की देखिए,
और उनके स्टार रेटिंग की जांच करें।
आप अधिकारिक हुगो थीम सूची पर जा सकते हैं: https://themes.gohugo.io/

ओलामा कैसे समानांतर अनुरोधों का संभालता है

ओलामा कैसे समानांतर अनुरोधों का संभालता है

ओलामा को समानांतर अनुरोधों के निष्पादन के लिए स्थापित करें।

जब Ollama सर्वर एक ही समय में दो अनुरोध प्राप्त करता है, तो इसका व्यवहार इसके विन्यास और उपलब्ध प्रणाली संसाधनों पर निर्भर करता है।

लिनक्स पर पोर्टेनर इंस्टॉल करें

लिनक्स पर पोर्टेनर इंस्टॉल करें

कुछ सिस्टम प्रशासन

संभवतः अब इसे प्लेटफॉर्म इंजीनियरिंग कहना चाहिए।
यहाँ कुछ नोट्स हैं कैसे कनेक्ट इंस्टॉल करें और पोर्टेंयर हटाएं - डॉकर इमेज और कंटेनर मैनेजर यूआई।

हुगो वेबसाइट में गूगल फॉर्म सबमिट करें

हुगो वेबसाइट में गूगल फॉर्म सबमिट करें

कभी-कभी आपको अपने हुगो-आधारित वेबसाइट में एक फॉर्म अनुमोदन जोड़ने की आवश्यकता हो सकती है।

हर दूसरे शुक्रवार के बजाय, लेकिन फिर भी… हमारे पास दो मुख्य दृष्टिकोण हैं

Linux में कोई भी Executable एक सर्विस (Service) के रूप में चलाना

Linux में कोई भी Executable एक सर्विस (Service) के रूप में चलाना

कोई भी ऐक्सेय़क्युअलेबल (executable) को Linux सर्विस (service) के रूप में चलाना

यहाँ एक सेट के निर्देश हैं, कैसे कोई भी ऐक्सुअल (Executable) Linux में सर्विस (Service) के रूप में चलाना Systemd के साथ।

ओल्लामा पर डीपसीक-आर1 का परीक्षण

ओल्लामा पर डीपसीक-आर1 का परीक्षण

दो गहन-खोज र1 मॉडल्स को दो बेस मॉडल्स से तुलना करना

DeepSeek के पहले पीढ़ी के रीज़निंग मॉडल्स का परिचय, जो OpenAI-o1 के समान प्रदर्शन करते हैं, जिसमें छह घने मॉडल्स शामिल हैं जो DeepSeek-R1 पर आधारित हैं, जो Llama और Qwen से डिस्टिल किए गए हैं।