स्थानीय एलएलएम के साथ कोग्नी का परीक्षण - वास्तविक परिणाम
Cognee एक Python फ्रेमवर्क है जो दस्तावेज़ों से ज्ञान ग्राफ़ बनाने के लिए LLMs का उपयोग करता है। लेकिन क्या यह स्व-होस्टेड मॉडल्स के साथ काम करता है?
स्व-होस्टेड कोग्नी के लिए एलएलएम पर विचार
कोग्नी के लिए सर्वोत्तम एलएलएम का चयन करने में ग्राफ-निर्माण की गुणवत्ता, हॉलुसिनेशन दरों, और हार्डवेयर सीमाओं के बीच संतुलन बनाना आवश्यक है। कोग्नी बड़े, कम हॉलुसिनेशन वाले मॉडल्स (32बी+ के साथ) के साथ ओलामा के माध्यम से उत्कृष्ट प्रदर्शन करता है, लेकिन मध्यम आकार के विकल्प हल्के सेटअप के लिए उपयुक्त होते हैं।
पाइथन और ओलामा के साथ AI खोज एजेंट बनाएं
Ollama के Python लाइब्रेरी में अब नेटिव Ollama वेब सर्च (https://www.glukhov.org/hi/post/2025/12/ollama-web-search-in-python/ “Ollama web search in python”) क्षमताएं शामिल हैं। कुछ ही लाइनों के कोड के साथ, आप अपने स्थानीय LLMs को वेब से रियल-टाइम जानकारी के साथ बढ़ा सकते हैं, जिससे हॉल्युसिनेशन कम होंगे और सटीकता बढ़ेगी।
अपने RAG स्टैक के लिए सही वेक्टर डेटाबेस चुनें
सही वेक्टर स्टोर का चयन आपकी RAG एप्लिकेशन के प्रदर्शन, लागत, और स्केलेबिलिटी को बना या बिगाड़ सकता है। यह व्यापक तुलना 2024-2025 के सबसे लोकप्रिय विकल्पों को कवर करती है।
Go और Ollama के साथ AI खोज एजेंट्स बनाएं
Ollama के वेब सर्च API आपको वास्तविक समय के वेब जानकारी के साथ स्थानीय LLMs को बढ़ाने की अनुमति देता है। यह गाइड आपको Go में वेब सर्च क्षमताओं को लागू करने का तरीका दिखाता है, सरल API कॉल्स से लेकर पूर्ण-फीचर सर्च एजेंट्स तक।
12+ उपकरणों की तुलना के साथ स्थानीय एलएलएम तैनाती में महारत हासिल करें
लोकल डिप्लॉयमेंट ऑफ़ एलएलएम्स अब increasingly popular हो गया है क्योंकि डेवलपर्स और संगठन enhanced privacy, reduced latency, और greater control over their AI infrastructure चाहते हैं।
बजट हार्डवेयर पर ओपन मॉडल्स के साथ एंटरप्राइज़ AI तैनात करें
एआई का लोकतांत्रीकरण अब यहाँ है। ओपन-सोर्स एलएलएम जैसे लामा 3, मिक्स्ट्रल, और क्वेन अब प्रोप्राइटरी मॉडल्स के साथ प्रतिस्पर्धा कर रहे हैं, टीम्स पावरफुल एआई इन्फ्रास्ट्रक्चर कन्स्यूमर हार्डवेयर का उपयोग करके बना सकते हैं - लागत को कम करते हुए डेटा प्राइवेसी और डिप्लॉयमेंट पर पूर्ण नियंत्रण बनाए रखते हैं।
लॉन्गआरएजी, सेल्फ-आरएजी, ग्राफआरएजी - अगली पीढ़ी के तकनीकें
Retrieval-Augmented Generation (RAG) ने बहुत सरल वेक्टर समानता खोज से परे विकास किया है। LongRAG, Self-RAG, और GraphRAG इन क्षमताओं के अग्रणी उदाहरण हैं।
बुद्धिमान टोकन अनुकूलन के साथ LLM लागत को 80% तक कम करें
टोकन अनुकूलन वह महत्वपूर्ण कौशल है जो लागत-प्रभावी एलएलएम अनुप्रयोगों को बजट-खर्च करने वाले प्रयोगों से अलग करता है।
एचटीएमएल को साफ़ और एलएलएम-तैयार मार्कडाउन में बदलने के लिए पाइथन
HTML को Markdown में बदलना आधुनिक विकास कार्यप्रवाहों में एक मूलभूत कार्य है, विशेष रूप से जब वेब सामग्री को बड़े भाषा मॉडल (LLMs), दस्तावेज़ीकरण प्रणालियों, या स्टैटिक साइट जनरेटर जैसे ह्यूगो के लिए तैयार किया जाता है।
ओलामा के साथ गो की इंटीग्रेशन: SDK गाइड, उदाहरण और उत्पादन बेस्ट प्रैक्टिस।
यह गाइड उपलब्ध Go SDKs for Ollama के विस्तृत समीक्षा प्रदान करता है और उनके विशेषताओं के सेट की तुलना करता है।
इन दो मॉडलों की गति, पैरामीटर्स और प्रदर्शन का तुलनात्मक अध्ययन
यहाँ Qwen3:30b और GPT-OSS:20b के बीच तुलना है, जो निर्देश पालन और प्रदर्शन पैरामीटर्स, स्पेसिफिकेशन्स और गति पर केंद्रित है:
+ सोचने वाले LLMs का उपयोग करने के विशिष्ट उदाहरण
इस पोस्ट में, हम दो तरीकों का पता लगाएंगे जिससे आप अपने Python एप्लिकेशन को Ollama से कनेक्ट कर सकते हैं: 1. HTTP REST API के माध्यम से; 2. अधिकृत Ollama Python लाइब्रेरी के माध्यम से।
अलग तरह के एपीआई के लिए विशेष दृष्टिकोण की आवश्यकता होती है।
यहाँ एक साइड-बाय-साइड सपोर्ट तुलना है संरचित आउटपुट (विश्वसनीय JSON प्राप्त करना) लोकप्रिय LLM प्रदाताओं के बीच, साथ ही न्यूनतम Python उदाहरण
Ollama से संरचित आउटपुट प्राप्त करने के कुछ तरीके
बड़े भाषा मॉडल (LLMs) शक्तिशाली हैं, लेकिन उत्पादन में हम आमतौर पर मुक्त-रूप पेराग्राफ नहीं चाहते। बजाय इसके, हम प्रत्याशित डेटा चाहते हैं: विशेषताएं, तथ्य, या संरचित वस्तुएं जिन्हें आप एक ऐप में फीड कर सकते हैं। यह है LLM संरचित आउटपुट।
RAG को लागू कर रहे हैं? यहाँ कुछ Go कोड टुकड़े हैं - 2...
चूंकि मानक Ollama में सीधा रीरैंक एपीआई नहीं है,
आपको Qwen3 Reranker के साथ रीरैंकिंग करें GO में जेनरेट करके प्रश्न-दस्तावेज़ जोड़े के एम्बेडिंग्स और उनके स्कोरिंग करना होगा।
