अलीबाबा ने क्यूवेन3-नेक्स्ट को ओपन सोर्स किया: तेज़, कम लागत वाला एआई मॉडल जो उपभोक्ता हार्डवेयर पर चलता है

डेवलपर और उद्यमों के लिए तेज़ और सस्ता मॉडल

अलीबाबा क्लाउड ने क्यूवेन3-नेक्स्ट नामक नए आर्किटेक्चर पर आधारित बड़े भाषा मॉडलों का एक ओपन सोर्स परिवार जारी किया है। इसका प्रमुख मॉडल, क्यूवेन3-नेक्स्ट-80B-A3B, 80 अरब पैरामीटर वाला है, लेकिन इसमें ऐसे डिज़ाइन विकल्प हैं जिनसे यह पहले के क्यूवेन मॉडलों के मुकाबले कहीं तेज़ और बहुत कम लागत पर चल सकता है। अलीबाबा के मुताबिक, इस नए बेस मॉडल को प्रशिक्षित करने में अप्रैल में जारी इसके पिछले डेंस मॉडल क्यूवेन3-32B के लिए इस्तेमाल हुई कंप्यूट क्षमता के दसवें हिस्से से भी कम की जरूरत पड़ी। वहीं, कई कार्यों में नई सीरीज़ की गुणवत्ता कंपनी के बड़े क्यूवेन3-235B मॉडल के बराबर है।

अलीबाबा ने डेवलपरों के लिए इन मॉडलों को ओपन सोर्स के रूप में उपलब्ध कराया है। इन्हें प्रमुख मॉडल हब और कंपनी की अपनी क्लाउड सेवा के ज़रिए डाउनलोड किया जा सकता है और एपीआई से इस्तेमाल किया जा सकता है। कंपनी क्यूवेन को तेजी से बढ़ते डेवलपर इकोसिस्टम के रूप में पेश करती है। यह रणनीति चीनी एआई कंपनियों के उस व्यापक रुझान के अनुरूप है, जिसमें उच्च गुणवत्ता वाले मॉडल प्रकाशित किए जा रहे हैं, ताकि दूसरे लोग उनका निरीक्षण कर सकें और उन पर काम कर सकें। इससे बड़े केंद्रीकृत इंफ्रास्ट्रक्चर पर निर्भर हुए बिना इनका इस्तेमाल बढ़ सकता है।

प्रशिक्षण दक्षता के दावों के साथ, क्यूवेन3-नेक्स्ट का लक्ष्य इन्फरेंस के दौरान तेज़ी और लंबे संदर्भों को बेहतर ढंग से संभालना भी है। अलीबाबा द्वारा साझा किए गए परीक्षणों में, 32,000 टोकन से लंबे प्रॉम्प्ट पर इस आर्किटेक्चर ने पहले के क्यूवेन मॉडलों की तुलना में 10 गुना से अधिक थ्रूपुट दिया। इसकी कॉन्टेक्स्ट विंडो 256,000 टोकन तक जाती है और कुछ स्थितियों में इसे 10 लाख टोकन तक बढ़ाया जा सकता है। इससे ये मॉडल किताब जितने लंबे दस्तावेज़ों, बड़े कोड रिपॉज़िटरी और अन्य बड़े इनपुट वाले कार्यों को अधिक सहजता से संभाल सकते हैं।

क्यूवेन3-नेक्स्ट के आंतरिक बदलाव

इस पीढ़ी में उन्नत एआई के लिए मानक बनते जा रहे कई घटक शामिल हैं। इसका आधार स्पार्स मिक्सचर ऑफ एक्सपर्ट्स (MoE) है। इस डिज़ाइन में कई छोटे विशेषज्ञ नेटवर्क प्रशिक्षित किए जाते हैं, लेकिन हर टोकन के लिए उनमें से केवल कुछ का ही इस्तेमाल होता है। क्यूवेन3-नेक्स्ट लंबे अनुक्रमों को संभालने के लिए इसके साथ हाइब्रिड अटेंशन तंत्र, जनरेशन तेज़ करने के लिए मल्टी-टोकन प्रेडिक्शन और रीइन्फोर्समेंट लर्निंग (RL) में अस्थिरता घटाने वाले प्रशिक्षण सुधारों का इस्तेमाल करता है। क्यूवेन3-नेक्स्ट-80B-A3B-Base मॉडल में हर चरण पर करीब 3 अरब पैरामीटर ही सक्रिय होते हैं, जबकि कुल पैरामीटर 80 अरब हैं।

अलीबाबा के मुताबिक, बेस मॉडल कम GPU घंटों में प्रशिक्षित होकर डेंस क्यूवेन3-32B जैसी और कभी-कभी उससे बेहतर गुणवत्ता हासिल करता है। इसे प्रशिक्षित करने में उसके GPU समय के 10 प्रतिशत से भी कम का इस्तेमाल हुआ। इन्फरेंस के दौरान यह आर्किटेक्चर कंप्यूट की जरूरत कम रखता है, लेकिन मॉडल की क्षमता बनाए रखता है। इसी वजह से टीम लंबे संदर्भों में तेज़ी और क्लाउड तथा उपभोक्ता-स्तर के हार्डवेयर, दोनों पर कम लागत की बात करती है।

आसान भाषा में मिक्सचर ऑफ एक्सपर्ट्स

मिक्सचर ऑफ एक्सपर्ट्स में नेटवर्क कई विशेषज्ञ उप-मॉडल सीखता है। एक हल्का गेटिंग मॉड्यूल तय करता है कि हर टोकन के लिए किन विशेषज्ञों को सक्रिय करना है। क्यूवेन3-नेक्स्ट में स्पार्सिटी का स्तर ऊंचा रखा गया है, यानी एक समय में विशेषज्ञों का केवल छोटा-सा हिस्सा सक्रिय होता है। कुछ लेयरों में 512 विशेषज्ञों में से हर टोकन के लिए 10 सक्रिय होने की बात रिपोर्टों में कही गई है। इससे हर फॉरवर्ड पास में कंप्यूट और मेमोरी की लागत एक बहुत छोटे डेंस नेटवर्क के बराबर रहती है, जबकि विशेषज्ञों का पूरा समूह मॉडल को कुल मिलाकर बड़ी क्षमता देता है।

इसका दूसरा पहलू यह है कि प्रशिक्षण अधिक जटिल हो जाता है और विशेषज्ञों के बीच संतुलन बनाए रखने के लिए शेड्यूलिंग की जरूरत पड़ती है। अलीबाबा का कहना है कि उसने उन स्थिरता संबंधी समस्याओं को दूर किया है जो स्पार्स MoE को RL-आधारित फाइन-ट्यूनिंग के साथ जोड़ने पर अक्सर सामने आती हैं। डेवलपरों के लिए अहम बात यह है कि रनटाइम लागत सक्रिय पैरामीटरों की संख्या के साथ बढ़ती है, न कि कुल पैरामीटरों की संख्या के साथ।

हाइब्रिड अटेंशन और लंबा संदर्भ

अटेंशन लेयर ट्रांसफॉर्मर के वे हिस्से हैं जो मॉडल को इनपुट टोकन पर ध्यान देने और यह तय करने में मदद करते हैं कि क्या महत्वपूर्ण है। इनपुट जितना लंबा होता जाता है, मानक अटेंशन उतना महंगा होता जाता है, क्योंकि इसकी लागत अनुक्रम की लंबाई के वर्ग के अनुपात में बढ़ती है। क्यूवेन3-नेक्स्ट मानक अटेंशन के साथ ऐसे तरीके मिलाता है जो संदर्भ को कम संसाधनों में संभालने का अनुमान लगाते हैं। टीम ने इसे क्लासिक अटेंशन के साथ गेटेड डेल्टानेट का संयोजन बताया है। इससे लंबे इनपुट पर थ्रूपुट बढ़ता है और प्रॉम्प्ट बड़े होने पर धीमापन कम होता है। अलीबाबा के मुताबिक, 32,000 टोकन से लंबे संदर्भों में थ्रूपुट 10 गुना से अधिक है, डिफॉल्ट कॉन्टेक्स्ट विंडो 256,000 टोकन की है और विशेष मामलों में इसे 10 लाख टोकन तक बढ़ाया जा सकता है। टीम कुछ स्थितियों में लगभग रैखिक स्केलिंग लाभ की भी बात करती है, जिसमें छोटे संदर्भों पर प्रीफिल करीब 7 गुना और डिकोड करीब 4 गुना तेज़ है।

मल्टी-टोकन प्रेडिक्शन और डिकोडिंग

मल्टी-टोकन प्रेडिक्शन में एक बार में कई अगले टोकन का अनुमान लगाया जाता है और अनुमान गलत होने पर उसे सुधारा जाता है। स्पेक्युलेटिव डिकोडिंग के साथ मिलकर यह जवाब स्ट्रीम करने के लिए जरूरी महंगे फॉरवर्ड पास की संख्या घटाता है। क्यूवेन3-नेक्स्ट इस तरीके का समर्थन करता है और SGLang तथा vLLM जैसे लोकप्रिय इन्फरेंस स्टैक के साथ काम करता है, जिससे प्रोडक्शन सेवाओं में देरी कम रखने में मदद मिलती है। टीम ने ज़ीरो-सेंटर्ड RMSNorm और प्रशिक्षण को स्थिर रखने वाले अन्य ऑप्टिमाइज़ेशन विकल्पों का भी ज़िक्र किया है। स्पार्स MoE के साथ मिलकर इनसे गुणवत्ता पर बड़ा असर डाले बिना तेज़ जनरेशन संभव होता है।

निर्देशों और तर्क क्षमता के लिए दो मॉडल

जारी करते समय अलीबाबा ने बेस नेटवर्क पर प्रशिक्षित दो मॉडल उपलब्ध कराए। क्यूवेन3-नेक्स्ट-80B-A3B-Instruct रोज़मर्रा के निर्देशों का पालन करने, चैट और टूल इस्तेमाल के लिए बनाया गया है। कंपनी के परीक्षणों में यह कई सामान्य कार्यों में 235 अरब पैरामीटर वाले फ्लैगशिप मॉडल के करीब प्रदर्शन करता है और 256,000 टोकन तक के बहुत लंबे संदर्भ वाले प्रॉम्प्ट पर भी अच्छा काम करता है।

क्यूवेन3-नेक्स्ट-80B-A3B-Thinking को जटिल तर्क के लिए अनुकूलित किया गया है। अलीबाबा ने ऐसे स्कोर पर जोर दिया है जो उसके अपने मिड-टियर क्यूवेन3 मॉडलों से बेहतर हैं और मूल्यांकन के लिए चुने गए कई बेंचमार्क पर बंद-स्रोत जेमिनी 2.5 फ्लैश थिंकिंग से भी आगे हैं। कंपनी ने कठिन स्नातकोत्तर-स्तर के परीक्षण सेट SuperGPQA पर 60.8 प्रतिशत परिणाम का उल्लेख किया है। बेंचमार्क उपयोगी संकेत देते हैं, लेकिन खरीदारों को कोडिंग, रिट्रीवल ऑगमेंटेड जनरेशन, गणित और बहु-चरणीय योजना जैसे अपने विशिष्ट कार्यों पर खुद परीक्षण करना चाहिए।

गति, लागत और हार्डवेयर की जरूरत

मुख्य फायदे लागत और समय, दोनों से जुड़े हैं। अलीबाबा के मुताबिक, बेस मॉडल का प्रशिक्षण क्यूवेन3-32B की कंप्यूट लागत के 10 प्रतिशत से भी कम में पूरा हुआ। इन्फरेंस के दौरान हर टोकन पर करीब 3 अरब पैरामीटर ही सक्रिय होते हैं, इसलिए GPU मेमोरी और ऊर्जा की कम खपत के साथ जवाब दिए जा सकते हैं। इससे समान सेवा देने के लिए कम हार्डवेयर की जरूरत पड़ती है या उसी सेटअप पर अधिक अनुरोध संभाले जा सकते हैं।

लंबे प्रॉम्प्ट पर यह आर्किटेक्चर खास तौर पर प्रभावी है। अलीबाबा के मुताबिक, 32,000 टोकन से बड़े इनपुट पर थ्रूपुट में दस गुना के क्रम की बढ़त है। छोटे अनुक्रमों पर भी सुधार हुआ है, जिनमें कुछ परीक्षणों में प्रीफिल करीब 7 गुना और डिकोड करीब 4 गुना तेज़ है। 256,000 टोकन की विंडो के साथ विश्लेषक एक ही अनुरोध में पूरे अनुबंध, ट्रांसक्रिप्ट या बड़ी कोड फाइलें दे सकते हैं और फिर मॉडल से उनका सारांश बनाने, तुलना करने या बदलाव तैयार करने को कह सकते हैं। कंपनी का कहना है कि नई सीरीज़ को उपभोक्ता-स्तर के हार्डवेयर पर अच्छी तरह चलने के लिए अनुकूलित किया गया है, इसलिए उन्नत प्रोटोटाइप बनाने के लिए अब बड़े क्लस्टर जरूरी नहीं हैं।

उपलब्धता और पहुंच

क्यूवेन3-नेक्स्ट मॉडल व्यापक इस्तेमाल के लिए प्रकाशित किए गए हैं। ये Hugging Face और ModelScope जैसे आम मॉडल हब पर सूचीबद्ध हैं और प्रबंधित डिप्लॉयमेंट के लिए अलीबाबा क्लाउड मॉडल स्टूडियो के ज़रिए भी उपलब्ध हैं। उपयोगकर्ता होस्ट किए गए एंडपॉइंट इस्तेमाल कर सकते हैं या स्थानीय इन्फरेंस के लिए वेट डाउनलोड कर सकते हैं। यह सीरीज़ NVIDIA API Catalog के ज़रिए भी उपलब्ध है और प्रयोग आसान बनाने के लिए कुछ संस्करण Kaggle पर भी रखे गए हैं।

इस रिलीज़ के साथ Qwen3-ASR-Flash जैसी उपयोगिताएं भी हैं। टीम के मुताबिक, यह स्पीच ट्रांसक्रिप्शन घटक 11 प्रमुख भाषाओं का समर्थन करता है। अलीबाबा डेवलपरों को हर मॉडल की लाइसेंस शर्तें देखने के लिए कहता है, खासकर अधिक ट्रैफिक या व्यावसायिक इस्तेमाल के मामलों में। इसके बाद उन्हें अपने डेटा सेट और कार्यभार के साथ परीक्षण करना चाहिए। SGLang और vLLM जैसे इन्फरेंस फ्रेमवर्क का समर्थन और हार्डवेयर के अनुकूल एक्टिवेशन पैटर्न डेमो से भरोसेमंद सेवा तक पहुंचने का समय घटा सकते हैं।

एआई प्रतिस्पर्धा में नया समीकरण

यह कदम वैश्विक एआई लैब के बीच शक्तिशाली मॉडलों को कम लागत पर व्यापक रूप से इस्तेमाल योग्य बनाने की बड़ी प्रतिस्पर्धा को रेखांकित करता है। चीनी कंपनियां क्षमता के मामले में पश्चिमी प्रतिद्वंद्वियों की बराबरी करने और इस्तेमाल बढ़ाने के लिए ओपन सोर्स एआई पर जोर दे रही हैं। अलीबाबा का कहना है कि क्यूवेन इकोसिस्टम डेवलपरों के सबसे बड़े ओपन सोर्स समुदायों में से एक बन गया है। समूह ने Qwen3-Max की झलक भी दी है। इसमें 1 लाख करोड़ से अधिक पैरामीटर हैं और हाल में यह शोधकर्ताओं द्वारा संचालित LMArena चैटबॉट लीडरबोर्ड पर छठे स्थान पर रहा। अलीबाबा के साथ-साथ DeepSeek और Meituan जैसी कंपनियां भी प्रतिस्पर्धी मॉडल और सेवाएं जारी कर रही हैं।

सस्ते और तेज़ बेस मॉडल इसलिए अहम हैं, क्योंकि कंप्यूट संसाधन सीमित और महंगे हैं। उन्नत चिपों पर निर्यात प्रतिबंधों से चीन पर दबाव बढ़ता है, वहीं अमेरिका और यूरोप में भी कई टीमें GPU की कमी का सामना कर रही हैं। इन्फरेंस के दौरान अधिकांश पैरामीटर निष्क्रिय रखने वाले आर्किटेक्चर से छोटी लैब, स्टार्टअप और विश्वविद्यालय मामूली सर्वर पर उच्च गुणवत्ता वाले मॉडल चला सकते हैं। निवेशकों की भी इस पर नजर है। क्लाउड और एआई पर दोबारा ध्यान केंद्रित करने के साथ इस साल अलीबाबा के शेयर का प्रदर्शन सुधरा है। दैनिक कार्यप्रवाहों में अधिक संगठन ओपन सोर्स एआई अपनाएंगे तो प्रतिस्पर्धा पर इसका असर भी बढ़ेगा।

बेंचमार्क, पारदर्शिता और सावधानी से मूल्यांकन

मॉडल लीडरबोर्ड उपयोगी होते हैं, लेकिन वे कुछ समझौतों को छिपा सकते हैं। गति के आंकड़े बैच आकार, फ्रेमवर्क, क्वांटाइज़ेशन और हार्डवेयर के अनुसार बदलते हैं। सटीकता डोमेन, प्रॉम्प्ट की शैली और कोड इंटरप्रेटर या रिट्रीवल जैसे टूल की उपलब्धता पर निर्भर करती है। विक्रेता अपने परीक्षण सेट भी खुद चुनते हैं। समुदाय समूहों और ग्राहकों के स्वतंत्र परीक्षण से खूबियों और कमियों की अधिक पूरी तस्वीर मिलती है।

क्यूवेन3-नेक्स्ट का मूल्यांकन करने वाली टीमों को किसी एक बेंचमार्क के स्कोर से आगे देखना चाहिए। लंबे संदर्भ में सटीकता, टूल का इस्तेमाल, गणित और कोड की विश्वसनीयता तथा सुरक्षा सीमाओं के तहत मॉडल का व्यवहार मापें। जिन संदर्भ-लंबाइयों में आपकी दिलचस्पी है, उन पर मेमोरी का इस्तेमाल और थ्रूपुट जांचें। अगर आपके ऐप्लिकेशन को साक्ष्य-आधारित जवाब चाहिए, तो मॉडल के साथ रिट्रीवल का इस्तेमाल करें और साक्ष्य के रिकॉर्ड की जांच करें। अगर आपको विचार-श्रृंखला में निरंतरता चाहिए, तो Thinking संस्करण की अपने मौजूदा स्टैक से तुलना करें।

लाभ पाने की संभावना वाले उपयोग और क्षेत्र

क्यूवेन3-नेक्स्ट उन ऐप्लिकेशन के लिए बना दिखता है जिन्हें लंबे संदर्भ, तेज़ जवाब और लागत पर सख्त नियंत्रण चाहिए। कानूनी और वित्तीय टीमें बड़े दस्तावेज़ संग्रह का विश्लेषण कर सकती हैं और संदर्भों को बनाए रखते हुए जरूरत के मुताबिक सारांश तैयार कर सकती हैं। ग्राहक सहायता के प्रमुख ज्ञान-आधार और लंबी समस्या-निवारण गाइड को एक सहायक में जोड़ सकते हैं, जो हजारों पन्नों के आधार पर तर्क कर सके। सॉफ्टवेयर टीमें कोड समीक्षा, रीफैक्टरिंग और टेस्ट तैयार करने में मदद के लिए कोड रिपॉज़िटरी और लॉग दे सकती हैं।

शोधकर्ता लंबे शोधपत्र और डेटा सेट अपलोड करके तरीकों और नतीजों की तुलना कर सकते हैं। मीडिया और शिक्षा प्रदाता Qwen3-ASR-Flash से ऑडियो का ट्रांसक्रिप्शन और अनुवाद कर सकते हैं, फिर भाषा मॉडल से अध्ययन गाइड या सामग्री की रूपरेखा बनवा सकते हैं। जिन सरकारों और विनियमित उद्योगों को अपने परिसर में डिप्लॉयमेंट की जरूरत है, वे सावधानीपूर्वक निगरानी, ऑडिट लॉगिंग और कंटेंट फिल्टर के साथ उपभोक्ता-स्तर के सर्वर पर सक्षम मॉडल चलाने की सुविधा से लाभ पा सकते हैं।

मुख्य बातें

• अलीबाबा ने क्यूवेन3-नेक्स्ट जारी किया और क्यूवेन3-नेक्स्ट-80B-A3B परिवार को ओपन सोर्स किया।
• प्रशिक्षण में क्यूवेन3-32B की कंप्यूट क्षमता के 10 प्रतिशत से कम का इस्तेमाल हुआ, जबकि परीक्षणों में प्रदर्शन उसके बराबर या बेहतर रहा।
• स्पार्स मिक्सचर ऑफ एक्सपर्ट्स के कारण हर टोकन पर 80 अरब में से करीब 3 अरब पैरामीटर ही सक्रिय होते हैं।
• 32,000 टोकन से बड़े प्रॉम्प्ट पर थ्रूपुट 10 गुना से अधिक है और कॉन्टेक्स्ट विंडो 256,000 टोकन की है।
• कुछ स्थितियों में इसे 10 लाख टोकन तक बढ़ाया जा सकता है। छोटे संदर्भों पर प्रीफिल और डिकोड की गति बढ़ने की भी जानकारी दी गई है।
• प्रशिक्षण के बाद तैयार किए गए दो संस्करण निर्देशों का पालन और जटिल तर्क करने के लिए हैं। कंपनी के परीक्षणों में उन्होंने कुछ बंद-स्रोत प्रतिस्पर्धियों से बेहतर प्रदर्शन किया।
• ये मॉडल Hugging Face, ModelScope, Alibaba Cloud Model Studio और NVIDIA API Catalog पर उपलब्ध हैं।
• ओपन सोर्स पहुंच और कम हार्डवेयर जरूरत से स्टार्टअप, उद्यमों और शोध समूहों में इनका इस्तेमाल बढ़ सकता है।