छोटे भाषा मॉडल (SLM) कम पैरामीटर वाले कॉम्पैक्ट AI मॉडल हैं, जो गति, लागत और निजता के लिए बने हैं। जानें ये कैसे काम करते हैं और LLM से कैसे अलग हैं।

इस पेज पर
छोटे भाषा मॉडल भाषा मॉडल के कॉम्पैक्ट रूप हैं, जो अपने बड़े समकक्षों की तुलना में कहीं कम पैरामीटर से प्राकृतिक भाषा को समझते और जेनरेट करते हैं। जहाँ एक बड़ा मॉडल सैकड़ों बिलियन या ट्रिलियन पैरामीटर और व्यापक सामान्य ज्ञान रख सकता है, वहीं एक छोटा मॉडल कुछ मिलियन से लेकर कुछ बिलियन पैरामीटर तक होता है और एक संकरे, अधिक विशेष काम के लिए ट्यून किया जाता है।
इसका आकर्षण व्यावहारिक है। छोटे आकार का मतलब है तेज़ इन्फ़रेंस, कम लागत, और ऐसी क्षमता कि वे डेटा सेंटर के बजाय फ़ोन, लैपटॉप या एज डिवाइस पर चल सकें। जैसे-जैसे टीमें समझ रही हैं कि ज़्यादातर रोज़मर्रा के काम किसी विशाल मॉडल की ज़रूरत नहीं रखते, SLM को असली गति मिल रही है, और वे AI सर्च के पीछे के रिट्रीवल और तर्क के चरणों को तेज़ी से चलाने लगे हैं।
छोटा भाषा मॉडल एक बड़े भाषा मॉडल का छोटा, अधिक विशिष्ट रिश्तेदार है, जिसे कस्टमाइज़ करना तेज़ और चलाना सस्ता है। पैरामीटर की गिनती आम तौर पर कुछ मिलियन से कुछ बिलियन तक होती है, जबकि सबसे बड़े मॉडल में सैकड़ों बिलियन या ट्रिलियन होते हैं। यही कॉम्पैक्टनेस परिभाषित विशेषता है, और बाकी सब कुछ इसी से निकलता है।
सबसे अहम बात यह है कि SLM आम तौर पर पूरे सार्वजनिक इंटरनेट के बजाय केंद्रित, डोमेन-विशेष डेटा पर प्रशिक्षित या ट्यून किए जाते हैं। उदाहरण के लिए, मेडिकल टेक्स्ट पर प्रशिक्षित मॉडल हेल्थकेयर में एक सामान्य मॉडल से कहीं तीखे जवाब दे सकता है, भले ही उसे दुनिया के बारे में कुल मिलाकर बहुत कम पता हो। ये उसी ट्रांसफ़ॉर्मर आधार को साझा करते हैं जो एक LLM का है, बस बहुत छोटे पैमाने पर।
SLM अक्सर कम्प्रेशन के ज़रिए बड़े मॉडलों से निकाले जाते हैं। नॉलेज डिस्टिलेशन में एक छोटे स्टूडेंट मॉडल को एक बड़े टीचर मॉडल के व्यवहार की नकल करना सिखाया जाता है, जिससे उसकी ज़्यादातर क्षमता एक अंश के आकार में आ जाती है। क्वांटाइज़ेशन संख्यात्मक प्रिसिशन घटाता है, जैसे 32-बिट से 8-बिट मान, जिससे मॉडल सिकुड़ता है और तेज़ होता है, जबकि उचित सटीकता बनी रहती है।
प्रूनिंग उन अनावश्यक न्यूरॉन या लेयर को हटाती है जो कम योगदान देते हैं, और मॉडल को और छोटा करती है। इनके ऊपर, LoRA जैसी पैरामीटर-दक्ष AI फ़ाइन-ट्यूनिंग विधियाँ एक बेस मॉडल को किसी खास डोमेन के लिए तेज़ और सस्ते में ढाल देती हैं। ये सभी तकनीकें मिलकर एक भारी फ़ाउंडेशन मॉडल को हल्के और लक्षित रूप में बदल देती हैं।
मुख्य समझौता व्यापकता और दक्षता के बीच है। LLM सामान्य-उद्देश्य के तर्क, रचनात्मकता और बहुभाषी कामों में उत्कृष्ट होते हैं, क्योंकि वे विशाल और विविध डेटा पर प्रशिक्षित हुए हैं। SLM उस व्यापक दायरे के बदले गति, कम लागत और डोमेन सटीकता देते हैं, जो केंद्रित कामों पर अच्छा प्रदर्शन करते हैं, पर उन बेंचमार्क पर कमज़ोर रहते हैं जिनमें व्यापक सामान्य ज्ञान चाहिए।
संसाधनों का अंतर नाटकीय है। एक अग्रणी मॉडल को प्रशिक्षित करने में महीनों तक चलने वाले दसियों हज़ार हाई-एंड GPU लग सकते हैं, जबकि SLM उसके एक छोटे अंश के साथ प्रशिक्षित और सर्व किया जा सकता है। AI इन्फ़रेंस के समय, एक SLM स्मार्टफ़ोन के संसाधनों पर चल सकता है, जबकि एक बड़े मॉडल को अक्सर कई समानांतर प्रोसेसर चाहिए होते हैं। जटिल रीज़निंग मॉडल के लिए बड़ा विकल्प अब भी जीतता है।
पहला फ़ायदा लागत और ऊर्जा का है। चूँकि इन्फ़रेंस एक लगातार चलने वाला खर्च है, बड़े पैमाने पर एक कॉम्पैक्ट मॉडल चलाना बड़े मॉडल से कहीं सस्ता है और उसमें नाटकीय रूप से कम ऊर्जा लगती है। दूसरा फ़ायदा लेटेंसी का है: SLM पहला टोकन जल्दी देकर तेज़ी से जवाब देते हैं, जो कस्टमर सपोर्ट जैसे रियल-टाइम उपयोगों के लिए ठीक बैठता है।
तीसरा फ़ायदा डिप्लॉयमेंट की लचीलापन है। SLM डिवाइस पर, ऑन-प्रिमाइसेस पर, या साधारण हार्डवेयर पर एज में चल सकते हैं, जिससे निजता भी मज़बूत होती है, क्योंकि संवेदनशील डेटा को क्लाउड के लिए डिवाइस से बाहर जाना ही नहीं पड़ता। आख़िर में, उनका छोटा आकार फ़ाइन-ट्यूनिंग को तेज़ बनाता है, ताकि टीमें किसी खास डोमेन के लिए मॉडल को हफ़्तों के बजाय घंटों में ढाल सकें।
विशेषज्ञता का दूसरा पहलू संकीर्णता है। SLM व्यापक सामान्य-ज्ञान बेंचमार्क पर कमज़ोर प्रदर्शन करते हैं और कई क्षेत्रों में जटिल तर्क में संघर्ष करते हैं। अपने प्रशिक्षित डोमेन से बाहर धकेले जाने पर वे आत्मविश्वास से भरे लेकिन गलत जवाब देने की ज़्यादा संभावना रखते हैं, इसलिए उनकी विश्वसनीयता काफ़ी हद तक दायरे के भीतर रहने पर निर्भर करती है।
उनकी कॉन्टेक्स्ट विंडो छोटी होती है और कई डोमेन में उनकी अनुकूलनशीलता कम होती है, और दुनिया बदलने के साथ डोमेन शिफ़्ट के लिए उन्हें लगातार निगरानी चाहिए। व्यावहारिक नियम यह है कि मॉडल को काम के हिसाब से चुनें: जहाँ काम केंद्रित और साफ़ परिभाषित हो, वहाँ छोटा मॉडल इस्तेमाल करें, और जहाँ व्यापकता या गहरा तर्क ज़रूरी हो, वहाँ बड़ा मॉडल चुनें।
SLM केंद्रित, ज़्यादा मात्रा वाले कामों में चमकते हैं। कंपनी के अपने ज्ञान पर प्रशिक्षित कस्टमर सर्विस चैटबॉट सटीक और सस्ते जवाब देते हैं। सरल डेटा एक्सट्रैक्शन, सारांश और अनुवाद कम लेटेंसी पर अच्छी तरह चलते हैं। ऑन-डिवाइस असिस्टेंट और ऑफ़लाइन ऐप्लिकेशन इन पर निर्भर करते हैं, क्योंकि उन्हें किसी क्लाउड कनेक्शन की ज़रूरत नहीं होती।
ये एजेंटिक सिस्टम के लिए भी स्वाभाविक रूप से फ़िट बैठते हैं, जहाँ कई छोटी, तेज़ मॉडल कॉल वर्कफ़्लो के चरणों को स्वचालित करती हैं। सक्षम छोटे मॉडलों के ठोस उदाहरणों में Phi परिवार, Llama 3 8B और Mistral 7B शामिल हैं, जो दिखाते हैं कि कुछ बिलियन पैरामीटर रोज़मर्रा के कई कामों को कुशलता से संभाल सकते हैं।
SLM सर्च पाइपलाइन के भीतर तेज़ी से बैठ रहे हैं। क्वेरी रीराइटिंग पर हुए एक शोध में पाया गया कि छोटे मॉडल लागत के एक अंश पर बड़े मॉडलों के लगभग बराबर प्रदर्शन करते हैं, इसलिए इंजन और असिस्टेंट उनका इस्तेमाल क्वेरी को दोबारा तैयार करने, इरादे का वर्गीकरण करने और एक बड़े मॉडल के अंतिम जवाब लिखने से पहले कंटेंट को प्री-प्रोसेस करने के लिए करते हैं। इसे समझने से पता चलता है कि AI सिस्टम आपके पेज कैसे पढ़ते हैं।
जेनरेटिव इंजन ऑप्टिमाइज़ेशन के लिए सबक यह है कि कॉम्पैक्ट मॉडल अक्सर पढ़ने और रूट करने का काम करते हैं। साफ़, अच्छी तरह संरचित और डोमेन-केंद्रित कंटेंट को एक छोटे मॉडल के लिए पार्स करना, निकालना और दोबारा इस्तेमाल करना आसान है। वही गुण जो ओपन सोर्स LLM को आपके कंटेंट पर अपने जवाब टिकाने में मदद करते हैं, छोटे मॉडलों को भी उसे सटीक रूप से सामने लाने में मदद करते हैं।
इंडस्ट्री “जितना बड़ा उतना बेहतर” की सोच से हटकर सही आकार के मॉडल की ओर बढ़ रही है। प्रोडक्शन टीमें समझ रही हैं कि एक छोटा, विशेष मॉडल ज़्यादातर रूटीन काम को एक अग्रणी मॉडल की लागत और लेटेंसी के एक अंश पर संभाल लेता है, और बड़े मॉडलों को सबसे कठिन क्वेरी के लिए बचाकर रखता है। यह बँटवारा, रूटीन कामों के लिए छोटे मॉडल और जटिल तर्क के लिए बड़े मॉडल, डिफ़ॉल्ट आर्किटेक्चर बनता जा रहा है।
मार्केटर्स के लिए इसका मतलब है टिकाऊपन। जैसे-जैसे ज़्यादा इन्फ़रेंस कॉम्पैक्ट और कुशल मॉडलों की ओर जाएगा, साफ़, संरचित और तथ्यात्मक रूप से सुसंगत कंटेंट का मूल्य बढ़ता ही जाएगा, क्योंकि यही वह चीज़ है जिसे हर मॉडल, बड़ा या छोटा, सबसे भरोसे से समझ और उद्धृत कर सकता है।
छोटे भाषा मॉडल बड़े मॉडलों की व्यापक जानकारी के बदले गति, कम लागत, निजता और डोमेन सटीकता देते हैं, और डिस्टिलेशन, क्वांटाइज़ेशन, प्रूनिंग व कुशल फ़ाइन-ट्यूनिंग से बनते हैं। ये केंद्रित कामों और डिवाइस पर डिप्लॉयमेंट में उत्कृष्ट हैं, जबकि व्यापक तर्क के लिए बड़े मॉडल ही विकल्प बने रहते हैं। तेज़ी से, AI सर्च के भीतर छोटे मॉडल ही पढ़ने और रूट करने का काम करते हैं।
देखें कि ये व्यापक LLM परिदृश्य और AI फ़ाइन-ट्यूनिंग से कैसे जुड़े हैं, और ऐसा कंटेंट बनाने के लिए Sorank के रिसर्च और कंटेंट प्लानिंग टूल का इस्तेमाल करें जिसे कोई भी मॉडल पार्स और उद्धृत कर सके। संदर्भ स्रोत: Red Hat और DataCamp.
स्रोत
आकार और फ़ोकस। एक छोटे भाषा मॉडल में कुछ मिलियन से लेकर कुछ बिलियन पैरामीटर होते हैं और वह खास, केंद्रित कामों के लिए ट्यून किया जाता है, जबकि एक बड़े भाषा मॉडल में बिलियन से ट्रिलियन पैरामीटर और व्यापक सामान्य ज्ञान होता है। छोटे मॉडल तेज़ और सस्ते हैं, और फ़ोन पर चल सकते हैं, पर जटिल तर्क और विविध डोमेन को बड़े मॉडल कहीं बेहतर संभालते हैं।
ज़्यादातर मॉडल बड़े मॉडलों से कम्प्रेशन के ज़रिए निकाले जाते हैं। नॉलेज डिस्टिलेशन में एक छोटा स्टूडेंट मॉडल बड़े टीचर की नकल करना सीखता है, क्वांटाइज़ेशन आकार घटाने के लिए संख्यात्मक प्रिसिशन कम करता है, और प्रूनिंग अनावश्यक न्यूरॉन या लेयर हटाती है। फिर LoRA जैसी पैरामीटर-दक्ष फ़ाइन-ट्यूनिंग विधियाँ परिणाम को कम लागत में तेज़ी से किसी खास डोमेन के लिए ढाल देती हैं।
छोटे मॉडल अक्सर AI सर्च के सहायक चरण संभालते हैं, जैसे क्वेरी रीराइट करना, इरादे का वर्गीकरण और कंटेंट की प्री-प्रोसेसिंग, क्योंकि उन कामों पर वे बहुत कम लागत में बड़े मॉडलों के लगभग बराबर प्रदर्शन करते हैं। इसका अर्थ है कि कॉम्पैक्ट मॉडल अक्सर आपके पेज पढ़ते हैं, इसलिए साफ़, संरचित और डोमेन-केंद्रित कंटेंट उनके लिए पार्स करना, निकालना और उद्धृत करना आसान होता है।
आपसे पहले लोगों ने Sorank आज़माया है
