LLM

एलईएम के लिए प्रभावी प्रॉम्प्ट लिखना

एलईएम के लिए प्रभावी प्रॉम्प्ट लिखना

कुछ प्रयोग की आवश्यकता है लेकिन

अभी भी कुछ सामान्य दृष्टिकोण हैं जिनके द्वारा अच्छे प्रॉम्प्ट लिखे जा सकते हैं ताकि LLM को आपके द्वारा चाहे वाले कार्य को समझने में भ्रमित न हो।

अल्लामा मॉडल्स को अलग स्थान पर ले जाएं

अल्लामा मॉडल्स को अलग स्थान पर ले जाएं

ओलामा एलईएम मॉडल फ़ाइलें काफ़ी स्पेस लेती हैं

इंस्टॉल करने के बाद ओलामा को तुरंत नए स्थान पर संगठित करना बेहतर होगा, ताकि नए मॉडल खींचे जाने के बाद वे पुराने स्थान पर डाउनलोड न हों।

बड़े भाषा मॉडलों की गति परीक्षण

बड़े भाषा मॉडलों की गति परीक्षण

चलो एलईएम के ग्राफिक्स प्रोसेसर और सीपीयू पर गति का परीक्षण करते हैं।

कई LLMs के विभिन्न संस्करणों (llama3 (मेटा/फेसबुक), phi3 (माइक्रोसॉफ्ट), gemma (गूगल), mistral (ओपन स्रोत)) के पूर्वानुमान गति की तुलना: CPU और GPU पर।