हुआवेई और अलीबाबा के तैनाती समर्थन के साथ मूनशॉट ने Kimi K3.1 Pro के वेट्स जारी किए

2.8 ट्रिलियन पैरामीटर वाला मॉडल अब API तक सीमित नहीं

मूनशॉट AI ने Hugging Face पर Kimi K3.1 Pro के पूरे वेट्स जारी कर दिए हैं। इससे डेवलपर और कारोबार अपने कंप्यूटिंग इंफ्रास्ट्रक्चर पर कंपनी का प्रमुख मल्टीमॉडल मॉडल चला सकते हैं। यह घोषणा 5 नवंबर को बीजिंग में तड़के हुई। इससे पहले 24 अक्टूबर, 2026 को मॉडल को Kimi उत्पादों और इसके एप्लिकेशन प्रोग्रामिंग इंटरफेस यानी API के जरिए उपलब्ध कराया गया था।

K3.1 Pro में 2.8 ट्रिलियन पैरामीटर हैं। ये संख्यात्मक सेटिंग्स हैं, जिनमें मॉडल की सीखी हुई जानकारी संग्रहीत होती है। इसका मिक्सचर ऑफ एक्सपर्ट्स डिज़ाइन हर अनुमान चरण में पूरे मॉडल का एक साथ इस्तेमाल करने के बजाय लगभग 104 अरब पैरामीटर सक्रिय करता है। यह करीब दस लाख टोकन के संदर्भ को संभाल सकता है और पाठ के साथ दृश्य जानकारी भी समझ सकता है।

वेट्स जारी होने के दिन ही हुआवेई Ascend और अलीबाबा क्लाउड ने समर्थन की घोषणा की। उनकी तैनाती vLLM और SGLang इन्फरेंस फ्रेमवर्क का इस्तेमाल करती है। ये सॉफ्टवेयर प्रशिक्षित मॉडलों के अनुरोधों को संसाधित करने का तरीका संभालते हैं। स्थानीय तैनाती पर विचार कर रहे कारोबारों के लिए इस रिलीज़ में डाउनलोड किए जा सकने वाले वेट्स और चीनी एक्सेलरेटर प्रणालियों पर उन्हें चलाने के शुरुआती विकल्प, दोनों शामिल हैं।

मूनशॉट की मॉडल लॉन्च की घोषणा में, जिसे 24 अक्टूबर को अपडेट किया गया था, कहा गया था कि पूरे वेट्स 4 नवंबर तक जारी कर दिए जाएंगे। सार्वजनिक रिलीज़ की घोषणा 5 नवंबर को हुई। कंपनी ने इससे पहले kimi.com, Kimi App, Kimi Work, Kimi Code और Kimi API के जरिए मॉडल का इस्तेमाल शुरू कर दिया था।

इस बदलाव का व्यावहारिक मतलब यह है कि मॉडल कहां चलता है, इस पर नियंत्रण मिलता है। API ग्राहक अनुरोध सेवा प्रदाता को भेजता है। वेट्स तैनात करने वाला संगठन मॉडल को अपने प्रबंधन वाले इंफ्रास्ट्रक्चर में चला सकता है, बशर्ते वह मूनशॉट के लाइसेंस और मॉडल चलाने के लिए जरूरी बड़े हार्डवेयर संसाधनों का पालन करे।

मूनशॉट ने Kimi Hosted Agents भी पेश किया है। यह लंबी अवधि के कामों के दौरान AI एजेंटों को चालू रखने की प्रबंधित सेवा है। दोनों घोषणाएं कारोबारों को दो अलग विकल्प देती हैं: मॉडल का प्रबंधन खुद करें या संचालन का अधिक काम Kimi को सौंपें।

क्या नया है और K3 से क्या बरकरार है?

Kimi K3.1 Pro, नए सिरे से प्रशिक्षित आधार मॉडल से शुरू होने के बजाय अतिरिक्त प्रशिक्षण के जरिए K3 बेस पर बनाया गया है। मूनशॉट का कहना है कि उसने रीइन्फोर्समेंट लर्निंग के लिए कंप्यूटिंग संसाधनों में काफी वृद्धि की। इस प्रक्रिया में सफल कार्रवाइयों को पुरस्कृत किया जाता है और बार-बार प्रयास के जरिए मॉडल को बेहतर बनाया जाता है।

मूनशॉट ने यह प्रशिक्षण सैकड़ों कामों के क्षेत्रों में लागू किया, जिसमें कोडिंग, 3D निर्माण, वित्तीय शोध और कई चरणों में काम करने वाले एजेंटों पर खास ध्यान दिया गया। इंजीनियरिंग में किए गए बदलावों में प्रशिक्षण सॉफ्टवेयर, लंबे संदर्भ का प्रसंस्करण, शेड्यूलिंग और ऐसे सैंडबॉक्स परिवेश शामिल हैं जहां बनाया गया कोड चलाया जा सकता है।

करीब दस लाख टोकन की संदर्भ विंडो K3 से बरकरार है। टोकन वे हिस्से हैं जिनमें मॉडल पाठ और अन्य इनपुट को बांटता है। बड़ी संदर्भ विंडो से अनुरोध के दौरान अधिक दस्तावेज़, निर्देश और पिछली बातचीत उपलब्ध रह सकती है।

रिलीज़ के क्रम में सेवा तक पहुंच और मॉडल तक पहुंच को अलग-अलग रखा गया है:

• 16 जुलाई, 2026: प्रकाशित मॉडल तुलना के अनुसार Kimi K3 पेश किया गया।
• 24 अक्टूबर, 2026: मूनशॉट ने अपने उत्पादों और API के जरिए K3.1 Pro पेश किया और वेट्स 4 नवंबर तक जारी करने का कार्यक्रम बताया।
• 5 नवंबर: मूनशॉट ने वेट्स रिलीज़ और Kimi Hosted Agents की घोषणा की; हुआवेई और अलीबाबा ने तैनाती समर्थन का ऐलान किया।

ओपन वेट्स के साथ संचालन और लाइसेंस की शर्तें

पर्याप्त कंप्यूटिंग क्षमता वाले संगठन वेट्स डाउनलोड करके K3.1 Pro को स्वतंत्र रूप से चला सकते हैं। कारोबार लागू लाइसेंस के तहत अपने सर्विंग सिस्टम कॉन्फ़िगर कर सकते हैं, आंतरिक टूल जोड़ सकते हैं और विशेष जरूरतों के अनुरूप बदलाव कर सकते हैं।

मूनशॉट ने व्यावसायिक इस्तेमाल को नियंत्रित करने वाला कस्टम लाइसेंस लागू किया है। रिलीज़ में मॉडल वेट्स शामिल हैं, जबकि प्रशिक्षण कोड और मूल प्रशिक्षण डेटासेट प्रकाशित नहीं किए गए हैं। इसलिए डेवलपरों को मूनशॉट की शर्तों के तहत प्रशिक्षित मॉडल मिलता है, न कि Open Source Initiative की परिभाषा के मुताबिक पूरा प्रशिक्षण पैकेज।

मॉडल का आकार संचालन के लिहाज से एक बड़ी चुनौती बना हुआ है। हालांकि मिक्सचर ऑफ एक्सपर्ट्स नेटवर्क का केवल एक हिस्सा हर चरण में सक्रिय होता है, तैनाती के लिए वेट्स के पूरे संग्रह तक पहुंच चाहिए। लंबे अनुरोधों के दौरान बड़ी मात्रा में अस्थायी अटेंशन डेटा भी बनता है, जिसे मॉडल के काम करते समय संग्रहीत रखना पड़ता है।

हुआवेई ने Ascend प्रणालियों में मेमोरी का भार बांटा

हुआवेई का कहना है कि उसकी Ascend टीम ने K3.1 Pro के वेट्स उपलब्ध होने के दिन ही अनुकूलन पूरा कर लिया, जिससे तत्काल तैनाती सत्यापन संभव हुआ। समर्थन vLLM Ascend और SGLang के जरिए Atlas 800 A3, Atlas 900 A3 SuperPod और Ascend 950 सुपरनोड प्रणालियों के लिए है।

अनुकूलन में मॉडल के हाइब्रिड अटेंशन आर्किटेक्चर को शामिल किया गया है, जिसमें स्पार्स अटेंशन और मल्टीमॉडल प्रोसेसिंग शामिल हैं। अटेंशन वह तंत्र है जो मॉडल को अगला चरण तय करते समय यह समझने में मदद करता है कि इनपुट के कौन-से हिस्से महत्वपूर्ण हैं। स्पार्स अटेंशन बहुत लंबे इनपुट के लिए जरूरी काम कम करने के मकसद से कुछ कनेक्शन सीमित करता है।

Ascend वितरित कैशिंग का इस्तेमाल कर अस्थायी मॉडल डेटा को कई न्यूरल प्रोसेसिंग यूनिट यानी NPU में बांटता है। इससे हर एक्सेलरेटर पर मेमोरी का दबाव घटता है। हुआवेई ने मुख्य गणितीय कार्रवाइयों में ऐसे बदलावों का भी उल्लेख किया है, जो गैरजरूरी कॉपी और गणना कम करते हैं।

तैनाती करने वाले मूल वेट्स लोड कर सकते हैं या अलग-अलग मॉडल घटकों के लिए कम बिट प्रिसिजन इस्तेमाल कर सकते हैं। अटेंशन कैश क्वांटाइजेशन का विकल्प भी है। क्वांटाइजेशन में संख्याओं को कम बिट में संग्रहीत किया जाता है, जिससे मेमोरी की जरूरत घटती है। हुआवेई का कहना है कि इस कार्यान्वयन में प्रीफिक्स कैशिंग बरकरार है, जो दोहराए गए इनपुट का फिर से इस्तेमाल करती है; चंक्ड प्रीफिल, जो लंबे प्रॉम्प्ट को हिस्सों में संसाधित करता है; और स्पेक्युलेटिव इन्फरेंस, जो प्रस्तावित टोकन को समूह में जांचकर टेक्स्ट तैयार करने की गति बढ़ाता है।

अलीबाबा ने अपने SuperPoD प्लेटफॉर्म के जरिए एक और विकल्प जोड़ा

अलीबाबा क्लाउड का कहना है कि उसके Lingjun Zhenwu M890 SuperPoD ने vLLM और SGLang पर सॉफ्टवेयर स्टैक में अनुकूलन और सत्यापन पूरा कर लिया है। समर्थन Zhenwu 810E कॉन्फ़िगरेशन के लिए भी है, जिससे चीनी एक्सेलरेटर पर मॉडल तैनात करने का एक और विकल्प मिलता है।

अलीबाबा क्लाउड, T-Head और Kimi टीम ने T-Head SAIL सॉफ्टवेयर स्टैक पर काम किया, जिसमें FlashMLA, DeepGEMM मिक्सचर ऑफ एक्सपर्ट्स ऑपरेशंस, MegaMoE और MoonEP शामिल हैं। ये घटक अटेंशन गणना और विशेषज्ञों तथा एक्सेलरेटरों के बीच काम के बंटवारे को संभालते हैं। ग्राहक समर्पित बेयर-मेटल SuperPoD इंस्टेंस या अलीबाबा की REIN सेवा के जरिए तैनाती कर सकते हैं। API पहुंच उसके Qwen AI प्लेटफॉर्म पर भी उपलब्ध है।

लॉन्च के दिन Zhongwei और Ulanqab में इंस्टेंस उपलब्ध कराने के साथ अलीबाबा क्लाउड ने Ningxia के Zhongwei क्षेत्र में SuperPoD के आमंत्रण-आधारित परीक्षण शुरू किए। Zhongwei कॉन्फ़िगरेशन में T-Head का Panmai 920 नेटवर्क कार्ड जोड़ा गया है। अलीबाबा के अनुसार यह PCIe 5.0, 112G PAM4 ईथरनेट, प्रति सेकंड 400 गीगाबिट तक की थ्रूपुट और प्रति सेकंड 400 मिलियन पैकेट का समर्थन करता है।

नेटवर्किंग के ये विवरण अहम हैं, क्योंकि इतने बड़े मॉडल में प्रोसेसरों के बीच जानकारी तेजी से भेजनी पड़ती है। अलीबाबा का कहना है कि कार्ड में लगा PCIe स्विच सिस्टम की लागत लगभग 30% घटा सकता है। कंपनी यह भी कहती है कि M890 SuperPoD 100 से अधिक बड़े ग्राहकों को सेवा देता है और उसके नियोजित V900 उत्तराधिकारी का प्रदर्शन मौजूदा पीढ़ी से लगभग तीन गुना रहने का अनुमान है। यह आंकड़ा कंपनी का पूर्वानुमान है।

कोडिंग के नतीजे लंबे समय तक काम पूरा करने में सुधार दिखाते हैं

मूनशॉट ने Terminal-Bench 4.0 पर 65.7% स्कोर की जानकारी दी है। यह परीक्षण वास्तविक कंप्यूटिंग परिवेश में संसाधन सीमाओं के तहत टर्मिनल वाले कामों पर एजेंटों को परखता है। कंपनी की प्रकाशित तुलना में GPT-6 Astra का स्कोर 58.2% और Claude Opus 5.5 का 66.4% है। इस सेटअप में K3.1 Pro, Claude से 0.7 प्रतिशत अंक पीछे रहा।

कंपनी के आंतरिक Kimi Code Bench 3.0 Long-horizon स्कोर में K3 का 55.95% बढ़कर K3.1 Pro के लिए 61.2% हो गया, यानी 5.25 प्रतिशत अंक का सुधार। यह परीक्षण योजना बनाने, टूल इस्तेमाल करने और कई चरणों में इंजीनियरिंग समस्याएं हल करने पर केंद्रित है।

स्वतंत्र मूल्यांकन एक और नजरिया देते हैं। Artificial Analysis ने Intelligence Index में 44 से 55 तक बढ़ोतरी और टर्मिनल-बेंच नतीजों में K3.1 Pro के लिए करीब 67% बनाम K3 के लिए 13% दर्ज किया। उसके टर्मिनल मूल्यांकन में मूनशॉट से अलग एजेंट फ्रेमवर्क इस्तेमाल हुआ था, इसलिए ये स्कोर अलग-अलग संचालन सेटअप को दर्शाते हैं।

मूनशॉट के प्रदर्शनों में कोड तैयार करने के साथ-साथ काम में लगे रहने की क्षमता पर भी जोर है। एक आंतरिक अभ्यास में मॉडल ने 296 कंकाल घटकों और 402 मांसपेशी घटकों से बना चलने का सिमुलेशन बनाया। कंपनी के अनुसार, 167 कार्यों और 420 स्वतंत्र समीक्षाओं में मॉडल ने सिमुलेशन में शरीर के लगातार चलने का समय बढ़ाकर 11.2 सेकंड किया और कंधे की मांसपेशियों की गणना में 36 त्रुटियां सुधारीं।

Plotly के एक अलग मूल्यांकन में K3.1 Pro ने 43 में से 42 सही जवाब दिए, जबकि K3 ने 35 दिए। इसके साथ लागत अधिक और औसत पूरा होने का समय लंबा था। इसलिए टोकन तेजी से तैयार करने और बेहतर जवाब देने के बावजूद किसी काम को पूरा होने में अधिक समय लग सकता है।

3D निर्माण और वित्त के लिए लक्षित सुधार

मूनशॉट के अनुसार, BenchCAD पर टूल के साथ K3.1 Pro का स्कोर 92.7% रहा। इस बेंचमार्क में मॉडल से 3D वस्तुओं के अलग-अलग दृश्य देखकर कंप्यूटर एडेड डिजाइन कोड तैयार कर वस्तुओं का पुनर्निर्माण करने को कहा जाता है। कंपनी की तुलना में Claude Opus 5.5 का स्कोर 96.2% और GPT-6 Astra का 95.9% है।

मूनशॉट का कहना है कि मॉडल Blender और CAD सॉफ्टवेयर समेत पेशेवर मॉडलिंग टूल के लिए स्क्रिप्ट लिख और चला सकता है। इसके उदाहरणों में 2,100 ठोस वस्तुओं वाला FreeCAD टर्बोफैन इंजन और 3D प्रिंटिंग के लिए पांच हिस्सों में डिज़ाइन किया गया लैंप शामिल हैं। Kimi की वेबसाइट और ऐप में 3D Make भी है, जिससे मॉडल का पूर्वावलोकन, संपादन और निर्यात किया जा सकता है।

वित्तीय काम भी इसका एक प्रमुख लक्ष्य है। मूनशॉट ने OfficeQA Pro v2 पर 64.4 स्कोर की जानकारी दी है। यह बेंचमार्क वास्तविक वित्तीय दस्तावेज़ों के विश्लेषण, जानकारी खोजने, दस्तावेज़ों के बीच जांच और संख्यात्मक तर्क को परखता है। कंपनी के आंतरिक मूल्यांकनों में वित्तीय मॉडलिंग में 14%, वित्तीय शोध में 20% सुधार और कारोबारी संचालन के सिमुलेशन में K3 के स्कोर से करीब 4.2 गुना नतीजा दर्ज किया गया।

प्रकाशित तुलना में इनमें से दो परीक्षणों के मूल आंकड़े दिए गए हैं: Financial Research का स्कोर 58.8 से बढ़कर 70.4 हुआ, जबकि Business Operation का स्कोर 8.9 से बढ़कर 37.0 पहुंचा। कारोबारी उपयोगकर्ता के लिए मकसद ऐसा मॉडल उपलब्ध कराना है जो जानकारी खोजने और गणना करने से लेकर तैयार स्प्रेडशीट या शोध सामग्री देने तक काम पूरा कर सके।

मूनशॉट ने तथ्यात्मक त्रुटियों के दो अलग नतीजे प्रकाशित किए

मूनशॉट की लॉन्च घोषणा के अनुसार, Kimi Hallu Bench Hard पर एकल तथ्यात्मक दावे की त्रुटि दर K3 के 23.4% से घटकर K3.1 Pro के लिए 8.3% रही। API गाइड में अलग स्ट्रेस टेस्ट का नतीजा दिया गया है: ऐसे अनाम वार्तालापों में, जिन्हें उपयोगकर्ताओं ने तथ्यात्मक गलतियों के लिए चिह्नित किया था, दर 23.35% से घटकर 6.85% हुई।

दोनों पृष्ठ जवाब के स्तर पर अलग आंकड़े भी देते हैं। लॉन्च घोषणा कहती है कि कम से कम एक तथ्यात्मक त्रुटि वाले जवाबों का हिस्सा K3 की दर का लगभग 42.4% रहा, जबकि API गाइड में यह आंकड़ा करीब 46.4% है। मूनशॉट ने इन मूल्यांकनों के संबंध की व्याख्या नहीं की है।

दोनों विवरण उन कठिन उदाहरणों से जुड़े हैं जिन्हें इसलिए चुना गया क्योंकि मॉडलों से उनमें गलतियां होने की आशंका रहती है। वित्तीय और कारोबारी इस्तेमाल में व्यावहारिक जरूरत यही है कि नतीजे पर कार्रवाई करने से पहले गणनाओं, उद्धरणों और तथ्यों को मूल रिकॉर्ड से जांचा जाए।

स्वतंत्र तुलना में लंबे संदर्भ वाले एक परीक्षण में मामूली गिरावट भी दर्ज हुई: AA-LCR v1.1 का स्कोर K3 के 88.7% से घटकर K3.1 Pro के लिए 86.3% रहा। लंबे दस्तावेज़ों पर काम करने वाले संगठनों को मॉडल की बरकरार संदर्भ क्षमता के साथ जानकारी खोजने की सटीकता पर भी विचार करना होगा।

Hosted Agents और API पहुंच के अलग-अलग फायदे और सीमाएं

Kimi Hosted Agents AI मॉडल के इर्द-गिर्द काम करने वाला फ्रेमवर्क उपलब्ध कराता है, जिसे अक्सर हार्नेस कहा जाता है। यह फ्रेमवर्क टूल, कोड निष्पादन, संदर्भ, अनुमतियां और काम बाधित होने पर उसे दोबारा शुरू करने की व्यवस्था संभालता है। मूनशॉट का कहना है कि यह सेवा चौबीसों घंटे संचालन, लंबे कामों और कई एजेंटों के बीच सहयोग का समर्थन करती है।

मूनशॉट ने आंतरिक निगरानी और संचालन संबंधी प्रतिक्रिया के साथ-साथ ग्राहकों के लिए शोध सहायक और समर्थन सेवाओं को इसके संभावित इस्तेमाल बताया है। प्रबंधित सेवा इस्तेमाल करने वाले कारोबार काम तय करते हैं और टूल जोड़ते हैं, जबकि Kimi अंतर्निहित रनटाइम का रखरखाव करता है। वेट्स खुद चलाने वाले कारोबार अपने सर्विंग और संचालन की व्यवस्था के लिए जिम्मेदार होते हैं।

API ग्राहकों के लिए मूनशॉट की API क्विकस्टार्ट गाइड के मुताबिक, K3.1 Pro का इस्तेमाल शुरू करने के लिए कम से कम 10 युआन खाते में जोड़ने होंगे। नए पंजीकृत उपयोगकर्ताओं के लिए 15 युआन का वाउचर इस मॉडल पर इस्तेमाल नहीं किया जा सकता। गाइड में लो, हाई और मैक्स रीजनिंग सेटिंग दी गई हैं, जिनमें मैक्स डिफॉल्ट है। कैश को पांच मिनट या एक घंटे तक बनाए रखने के विकल्प भी हैं।

मूनशॉट K3.1 Pro Highspeed भी उपलब्ध कराता है। कंपनी का कहना है कि यह लगभग दो से तीन गुना तेज आउटपुट गति के साथ समान बुद्धिमत्ता देता है। प्रकाशित तुलना में स्टैंडर्ड इनपुट और आउटपुट दरें प्रति दस लाख टोकन क्रमशः $2 और $10 हैं, जो K3 के $3 और $15 से एक तिहाई कम हैं। कैश शुल्क और अन्य लागू फीस इससे अलग हैं। कुल खर्च इस बात पर भी निर्भर करेगा कि काम में कितने टोकन और टूल इंटरैक्शन इस्तेमाल होते हैं।

डेवलपरों को एकीकरण से जुड़ी कुछ खास शर्तों का ध्यान रखना होगा: टूल कॉल के दौरान सहायक के पूरे संदेश सुरक्षित रखने होंगे; दृश्य इनपुट के लिए सार्वजनिक इमेज URL के बजाय base64 डेटा या अपलोड की गई फ़ाइल के पहचानकर्ता चाहिए; और गाइड में वेब सर्च टूल के अपडेट के दौरान उसे प्रोडक्शन में इस्तेमाल न करने की सलाह दी गई है।

मुख्य बातें

• मूनशॉट ने पहले उत्पादों और API के जरिए पहुंच देने के बाद 5 नवंबर को Kimi K3.1 Pro के वेट्स जारी करने की घोषणा की।
• मॉडल में कुल 2.8 ट्रिलियन पैरामीटर हैं, हर इन्फरेंस चरण में करीब 104 अरब पैरामीटर सक्रिय होते हैं और यह लगभग दस लाख टोकन का संदर्भ संभालता है।
• हुआवेई Ascend और अलीबाबा क्लाउड ने vLLM और SGLang के जरिए तैनाती समर्थन की घोषणा की।
• मूनशॉट ने कोडिंग, 3D मॉडलिंग और वित्त में सुधार की जानकारी दी है। नतीजे काम और मूल्यांकन सेटअप के अनुसार अलग-अलग हैं।
• स्वतंत्र तैनाती के लिए बड़े कंप्यूटिंग संसाधन और मूनशॉट के कस्टम लाइसेंस का पालन जरूरी है।
• Kimi Hosted Agents लंबे काम चलाने और कई एजेंटों के बीच तालमेल के लिए प्रबंधित विकल्प देता है।