एलईएम के लिए दूसरे जीपीयू की宣安装 के बारे में सोच रहे हैं?
PCIe चैनल कैसे LLM के कार्यक्षमता पर प्रभाव डालते हैं? कार्य पर निर्भर करता है। प्रशिक्षण और बहु-GPU अनुमान लगाने के लिए - कार्यक्षमता में गिरावट महत्वपूर्ण होती है।
एआई को बहुत अधिक शक्ति की आवश्यकता होती है...
आधुनिक दुनिया के अस्थिरता के बीच यहाँ मैं विभिन्न कार्ड के तकनीकी विशेषताओं की तुलना कर रहा हूँ, जो AI कार्यों के लिए उपयुक्त हैं
(डीप लर्निंग,
ऑब्जेक्ट डिटेक्शन
और LLMs।
हालाँकि, वे सभी बहुत महंगे हैं।
MM* उपकरणों के पूरा सेट EOL पर है...
मैंने MMDetection (mmengine, mdet, mmcv) काफी काम में उपयोग किया है,
अब लगता है कि यह खेल से बाहर हो गया है।
यह दुर्भाग्यपूर्ण है। मुझे इसके मॉडल ज़ू के बारे में पसंद था।
