Moonshot AI के Kimi K2.5 पर Reddit AMA ने ओपन-सोर्स फ्रंटियर मॉडल्स की जटिल हकीकत उजागर की

जब 595 गीगाबाइट का मॉडल डेवलपर की हकीकत से टकराता है

उद्योग विश्लेषकों के अनुसार अब तक का सबसे शक्तिशाली ओपन-सोर्स कृत्रिम बुद्धिमत्ता मॉडल जारी करने के दो दिन बाद, Moonshot AI के शोधकर्ताओं ने Reddit पर आकर ऐसे लोगों के सवालों का सामना किया, जो उत्साहित भी थे और निराश भी। बीजिंग स्थित इस स्टार्टअप के पास जश्न मनाने की हर वजह थी। Kimi K2.5 ने अमेरिकी AI दिग्गजों के साथ क्षमता का अंतर घटाने और अमेरिका के चिप निर्यात नियंत्रणों की सीमाओं को परखने को लेकर सुर्खियां बटोरी थीं। लेकिन r/LocalLLaMA पर इंतजार कर रहे डेवलपरों की चिंता ज्यादा तात्कालिक थी। यह ऐसा मंच है जहां इंजीनियर सिंगल कंज्यूमर GPU से लेकर प्रो-यूजर हार्डवेयर के छोटे रैक तक, हर तरह के सिस्टम पर बड़े भाषा मॉडल चलाने के सुझाव साझा करते हैं। वे जानना चाहते थे कि वे इस मॉडल का इस्तेमाल आखिर कब कर पाएंगे।

तीन घंटे चले Ask Me Anything सत्र ने 2026 में फ्रंटियर AI विकास की एक अप्रत्याशित रूप से बेबाक झलक दी। यह कॉर्पोरेट मार्केटिंग सामग्री में दिखने वाला तराशा हुआ रूप नहीं था, बल्कि नाकामियों को डीबग करने, व्यक्तित्व में बदलाव संभालने और आज के ओपन-सोर्स AI को परिभाषित करने वाले एक बुनियादी तनाव से जूझने की उलझी हुई हकीकत थी। Moonshot ने मॉडल के वेट्स सभी के डाउनलोड और मनमुताबिक बदलाव के लिए प्रकाशित किए थे। फाइल करीब 595 गीगाबाइट की है। चर्चा में शामिल अधिकांश डेवलपरों के लिए यह खुलापन महज सैद्धांतिक ही रहा।

Moonshot की टीम के तीन सदस्यों ने ComfortableAsk4494, zxytim और ppwwyyxx यूजरनेम से हिस्सा लिया। करीब 187 टिप्पणियों के दौरान उन्होंने आर्किटेक्चर, ट्रेनिंग के तरीकों और इस दार्शनिक सवाल पर चर्चा की कि AI मॉडल का चरित्र किससे बनता है। उन्होंने यह भी बताया कि प्रगति का अगला दौर कहां से आ सकता है, और जवाब केवल ज्यादा पैरामीटर नहीं था।

आकार की समस्या, जो पीछा नहीं छोड़ती

शुरुआती सवालों में Kimi K2.5 को उपलब्धि से ज्यादा लॉजिस्टिक्स की सिरदर्दी के तौर पर देखा गया। एक यूजर ने सीधे पूछा कि Moonshot फ्लैगशिप मॉडल के साथ छोटे मॉडल क्यों नहीं बना रहा। उन्होंने अरबों में पैरामीटर संख्या का जिक्र करते हुए लिखा, “8B, 32B, 70B जैसे छोटे आकार बुद्धिमत्ता के घनत्व के लिहाज से बेहतरीन हैं।” एक अन्य यूजर ने कहा कि विशाल मॉडल का जश्न मनाना मुश्किल हो गया है, क्योंकि कई डेवलपर उन्हें चला ही नहीं सकते। तीसरे ने अमेरिकी प्रतिस्पर्धियों के मॉडलों को आकार के लक्ष्य के तौर पर पेश करते हुए ऐसे कोडिंग-केंद्रित मॉडल मांगे जिन्हें साधारण GPU पर चलाया जा सके।

Moonshot की टीम ने उसी समय किसी छोटे मॉडल की घोषणा नहीं की। लेकिन उसने ऐसी भाषा में मांग को स्वीकार किया जिससे लगा कि यह शिकायत नई नहीं है। एक सह-मेजबान ने लिखा, “आपके अनुरोध दर्ज कर लिए गए हैं!” दूसरे ने बताया कि Moonshot के मॉडल संग्रह में Hugging Face पर पहले से कुछ छोटे mixture-of-experts मॉडल शामिल हैं। साथ ही उन्होंने आगाह किया कि छोटे और बड़े मॉडल के लिए अक्सर अलग-अलग इंजीनियरिंग निवेश की जरूरत होती है।

सबसे खुलासा करने वाला जवाब तब आया जब एक यूजर ने पूछा कि क्या Moonshot स्थानीय इस्तेमाल के लिए करीब 100 अरब पैरामीटर वाला मॉडल बना सकता है। Kimi टीम ने इसके बजाय एक दूसरे विकल्प की बात रखी: 200 अरब या 300 अरब पैरामीटर वाला मॉडल, जो कई तरह के कामों में उसके बताए “उपयोगिता स्तर” से ऊपर रह सके। यह जवाब ओपन-वेट लैब्स के सामने की दुविधा को दिखाता है। 200 से 300 अरब पैरामीटर वाला मॉडल एक ट्रिलियन पैरामीटर वाले सिस्टम की तुलना में ज्यादा लोगों के लिए सुलभ होगा, लेकिन इसके लिए भी कई GPU वाले सेटअप या मेमोरी बचाने के लिए परिशुद्धता घटाने वाली आक्रामक क्वांटाइजेशन तकनीकों की जरूरत होगी।

चर्चा में शामिल डेवलपर केवल कुछ छोटा मॉडल नहीं मांग रहे थे। वे ऐसा मॉडल चाहते थे जो उनके पास मौजूद हार्डवेयर पर चल सके, और ऐसा रोडमैप भी जिसमें स्थानीय स्तर पर इस्तेमाल को शौकिया उपयोगकर्ताओं की बाद की चिंता नहीं, बल्कि पहली प्राथमिकता माना जाए। इस बातचीत ने ओपन-सोर्स AI समुदाय में बढ़ती दरार को उजागर किया: एक ओर वे लैब हैं जो डेटा-सेंटर स्तर के इंफ्रास्ट्रक्चर की मांग करने वाले विशाल मॉडल जारी करते हैं, और दूसरी ओर वे विशेषज्ञ हैं जो अपने उपकरणों पर सिस्टम चलाना चाहते हैं।

क्या स्केलिंग के नियम दीवार से टकरा गए हैं?

हार्डवेयर की शिकायतों से आगे बढ़ते हुए चर्चा बड़े भाषा मॉडलों के सबसे अहम सवाल की ओर मुड़ी: क्या स्केलिंग के नियमों का असर घटने लगा है? स्केलिंग के नियम मॉडल के आकार, डेटा की मात्रा और प्रदर्शन के बीच उस अनुमानित संबंध को कहते हैं जिसने सालों तक AI की प्रगति को गति दी है। एक प्रतिभागी ने सीधे पूछा कि क्या स्केलिंग “दीवार से टकरा गई है।”

Kimi के एक प्रतिनिधि ने ऐसा आकलन दिया जो अब पूरे उद्योग में तेजी से आम होता जा रहा है। उन्होंने लिखा, “उपलब्ध कंप्यूट की तुलना में उच्च-गुणवत्ता वाले डेटा की मात्रा उतनी तेजी से नहीं बढ़ती, इसलिए इंटरनेट डेटा के साथ पारंपरिक नेक्स्ट-टोकन प्रेडिक्शन के जरिए स्केलिंग से मिलने वाला सुधार कम होगा।” यह बात एक बुनियादी सीमा की ओर इशारा करती है: इंटरनेट पर उच्च-गुणवत्ता वाला पाठ सीमित है और AI लैब्स उसके अधिकांश हिस्से पर पहले ही ट्रेनिंग कर चुकी हैं।

इसके बाद टीम ने इस समस्या से आगे बढ़ने का अपना पसंदीदा रास्ता बताया। उसने Agent Swarm का जिक्र किया, जो Kimi K2.5 की ऐसी क्षमता है जिसमें समानांतर काम करने वाले 100 सब-एजेंट तक समन्वय कर सकते हैं। टीम ने इसे “टेस्ट-टाइम स्केलिंग” का एक रूप बताया, जो क्षमता बढ़ाने का नया रास्ता खोल सकता है। टेस्ट-टाइम स्केलिंग का मतलब है मॉडल की शुरुआती ट्रेनिंग के दौरान नहीं, बल्कि अनुमान लगाते समय, यानी सवालों के जवाब देते वक्त, कंप्यूट की मात्रा बढ़ाना।

टीम के नजरिये में स्केलिंग का मतलब केवल प्रीट्रेनिंग को बड़ा करना नहीं है। इसका अर्थ अनुमान के समय ज्यादा व्यवस्थित काम करना और फिर रीइन्फोर्समेंट लर्निंग के जरिए उन सीखों को ट्रेनिंग में वापस शामिल करना भी हो सकता है। एक सह-मेजबान ने लिखा, “स्केलिंग के नए तरीके हो सकते हैं, जो शायद सामने आएं।” उन्होंने आगे कहा, “आने वाले समय में ऐसे मॉडल की संभावना है जो कम या बिल्कुल भी मानवीय पूर्वधारणाओं के बिना सीख सके।”

इस दावे से संकेत मिलता है कि प्रगति का पैमाना पैरामीटरों की गिनती और प्रीट्रेनिंग लॉस कर्व से हटकर ऐसे सिस्टम की ओर जा सकता है जो योजना बना सकें, काम सौंप सकें और नतीजों की पुष्टि कर सकें। इनमें एक न्यूरल नेटवर्क के विशाल फॉरवर्ड पास पर निर्भर रहने के बजाय टूल और सब-एजेंट बुनियादी इकाइयों की तरह काम करेंगे।

Agent Swarm के भीतर: 100 सब-एजेंट साझा मेमोरी का इस्तेमाल कैसे करते हैं

कागज पर Agent Swarm नए रूप में पेश किया गया एक जाना-पहचाना विचार लगता है: किसी काम पर कई AI एजेंट मिलकर काम करें। AMA में इससे जुड़े ज्यादा अहम पहलुओं का पता चला: मेमोरी कहां रखी जाती है, समन्वय कैसे होता है और यह व्यवस्था शोर में क्यों नहीं बदल जाती।

एक डेवलपर ने कई एजेंट वाले सिस्टम की एक आम चिंता उठाई। 100 सब-एजेंट के स्तर पर मुख्य समन्वयक एजेंट अक्सर लैटेंसी और उस समस्या, जिसे समुदाय “कॉन्टेक्स्ट रॉट” कहता है, दोनों के लिहाज से बाधा बन जाता है। कॉन्टेक्स्ट रॉट उस स्थिति में प्रदर्शन घटने को कहते हैं, जब बातचीत का इतिहास आंतरिक संदेशों और टूल के रिकॉर्ड से भर जाता है और मॉडल भूलने लगता है कि वह करना क्या चाह रहा था।

Kimi के एक सह-मेजबान ने ऐसा डिजाइन विकल्प बताया जो उद्यमों में एजेंट सिस्टम बनाने वालों के लिए अहम है।

सब-एजेंट अपनी अलग-अलग वर्किंग मेमोरी में काम करते हैं और सब कुछ साझा कॉन्टेक्स्ट में भेजने के बजाय नतीजे मुख्य समन्वयक को लौटाते हैं। इससे हम कुल कॉन्टेक्स्ट की लंबाई को एक नए आयाम में बढ़ा सकते हैं!

एक अन्य डेवलपर ने प्रदर्शन से जुड़े दावों पर सवाल उठाया। Moonshot सार्वजनिक रूप से कह चुका है कि उपयुक्त वर्कफ़्लो में Agent Swarm करीब 4.5 गुना तेजी दे सकता है, लेकिन संदेह करने वालों ने पूछा कि क्या यह आंकड़ा बस किसी काम के समानांतर किए जा सकने की मात्रा को दर्शाता है। टीम ने माना कि यह काम पर निर्भर करता है। कुछ मामलों में सिस्टम तय करता है कि किसी काम के लिए समानांतर एजेंट जरूरी नहीं हैं और अतिरिक्त कंप्यूट खर्च करने से बचता है। उसने यह भी बताया कि मुख्य समन्वयक को सब-एजेंट के टोकन बजट संभालने होते हैं और हर एजेंट को उचित आकार का काम देना होता है।

मार्केटिंग के बजाय इंजीनियरिंग के नजरिये से देखें तो Moonshot एक जानी-पहचानी उद्यम-स्तरीय पद्धति का वर्णन कर रहा था: नियंत्रण व्यवस्था को साफ रखना, वर्कर प्रक्रियाओं के आउटपुट की सीमा तय करना और समन्वयक को ऐसे लॉग से न भर देना जिन्हें वह समझ न सके। यह आर्किटेक्चर संकेत देता है कि भविष्य के AI सिस्टम एकल, विशाल चैटबॉट के बजाय वितरित कंप्यूटिंग क्लस्टर जैसे दिख सकते हैं।

सिस्टम 1 से सिस्टम 2 की ओर बदलाव

AMA में जिस सबसे महत्वपूर्ण बदलाव का संकेत मिला, वह कोई नया बेंचमार्क स्कोर नहीं था। वह शोध की प्राथमिकताओं के बारे में एक बयान था। एक सवाल में पूछा गया कि क्या Moonshot कंप्यूट को “सिस्टम 1” प्रीट्रेनिंग से हटाकर “सिस्टम 2” रीइन्फोर्समेंट लर्निंग की ओर ले जा रहा है। ये शब्द मनोवैज्ञानिक डैनियल काह्नमैन द्वारा लोकप्रिय किए गए सोच के तरीकों को दर्शाते हैं: सिस्टम 1 तेज, सहज सोच है, जबकि सिस्टम 2 धीमी और विचारपूर्ण सोच।

AI के संदर्भ में इसका अर्थ व्यापक पैटर्न सीखने से आगे बढ़कर ऐसी ट्रेनिंग की ओर जाना है जिसमें कई चरणों वाले कामों के दौरान तर्क और सही व्यवहार को स्पष्ट रूप से पुरस्कृत किया जाता है। Kimi के एक प्रतिनिधि ने जवाब दिया कि रीइन्फोर्समेंट लर्निंग पर खर्च होने वाला कंप्यूट बढ़ता रहेगा और “खासकर एजेंट के क्षेत्र में” नए RL ऑब्जेक्टिव फंक्शन आने की संभावना है।

यह बात एक रोडमैप जैसी लगती है। जैसे-जैसे मॉडल टूल का इस्तेमाल करने और कामों को छोटे हिस्सों में बांटने में बेहतर होंगे, लैब्स अपने बजट का ज्यादा हिस्सा इस ट्रेनिंग पर लगाएंगी कि मॉडल एजेंट की तरह अच्छा काम करें, न कि केवल अगले टोकन का अनुमान लगाएं। उद्यमों के लिए यह अहम है, क्योंकि RL से आने वाले सुधार अक्सर कुछ समझौतों के साथ आते हैं। मॉडल ज्यादा निर्णायक हो सकता है, टूल का जरूरत से ज्यादा इस्तेमाल कर सकता है या ऐसे रिवॉर्ड संकेतों के अनुरूप ढल सकता है जो किसी कंपनी की अपेक्षाओं से ठीक से मेल न खाते हों।

जब Moonshot और कहीं ज्यादा GPU वाले अमेरिकी लैब्स के बीच कंप्यूट के अंतर के बारे में पूछा गया, तो टीम ने साफगोई दिखाई। एक सह-मेजबान ने लिखा, “मैं कहूंगा कि यह अंतर कम नहीं हो रहा है।” उन्होंने आगे कहा, “लेकिन AGI हासिल करने के लिए कितने कंप्यूट की जरूरत है? यह तो समय बताएगा।” दूसरे ने इसे ज्यादा दार्शनिक अंदाज में रखा: “उपलब्ध कंप्यूट को कई कारक प्रभावित करते हैं। लेकिन कुछ भी हो, सीमाएं नवाचार को प्रेरित करती हैं।”

Kimi कभी-कभी खुद को Claude क्यों कहता है

अब ओपन-वेट मॉडल जारी होते ही एक सवाल अक्सर उठता है: क्या मॉडल ने प्रतिस्पर्धियों से जरूरत से ज्यादा सीख लिया है? यह संदेह जल्दी ही डिस्टिलेशन के आरोपों में बदल सकता है, जिसमें एक AI को दूसरे AI के आउटपुट पर ट्रेनिंग देकर सिखाया जाता है। एक यूजर ने ओपन-मॉडल समुदायों में फैल रहे सबसे असहज दावों में से एक उठाया: K2.5 कभी-कभी अपनी पहचान “Claude” बताता है, जो Anthropic का प्रमुख मॉडल है। इससे भारी मात्रा में सामग्री उठाए जाने का संकेत मिलता था।

Moonshot ने इस व्यवहार को खारिज नहीं किया। इसके बजाय उसने बताया कि यह किन परिस्थितियों में होता है। टीम के मुताबिक, सही सिस्टम प्रॉम्प्ट देने पर मॉडल के “Kimi” जवाब देने की संभावना ज्यादा होती है, खासकर थिंकिंग मोड में। लेकिन सिस्टम प्रॉम्प्ट खाली होने पर मॉडल उस स्थिति में भटक जाता है जिसे टीम ने “अपरिभाषित क्षेत्र” कहा। यह जानबूझकर किए गए ट्रेनिंग विकल्पों के बजाय प्रीट्रेनिंग डेटा के वितरण को दर्शाता है।

फिर टीम ने ट्रेनिंग से जुड़े एक खास फैसले के आधार पर स्पष्टीकरण दिया। Moonshot ने कहा कि प्रीट्रेनिंग के दौरान उसने इंटरनेट से मिले नए कोडिंग डेटा को ज्यादा बार इस्तेमाल किया था। यह डेटा “Claude” टोकन से अधिक जुड़ा दिखता है, शायद इसलिए कि AI कोडिंग असिस्टेंट पर चर्चा करने वाले डेवलपर अक्सर Anthropic के मॉडल का जिक्र करते हैं। डिस्टिलेशन के आरोप का जवाब देते हुए टीम ने बेंचमार्क के नतीजे पेश किए।

असल में, K2.5 कई बेंचमार्क में Claude से बेहतर प्रदर्शन करता दिखता है। HLE, BrowseComp, MMMU Pro, MathVision, ये उनमें से कुछ उदाहरण हैं।

उद्यमों में इसे अपनाने वालों के लिए अहम बात इंटरनेट पर चल रही बहस नहीं है। असल बात यह है कि पहचान में बदलाव मॉडल की एक वास्तविक नाकामी है। संगठनों के लिए इसे अक्सर सिस्टम प्रॉम्प्ट नियंत्रित करके रोका जा सकता है, बजाय इसके कि मॉडल का आत्म-वर्णन संयोग पर छोड़ दिया जाए। AMA में प्रॉम्प्ट पर नियंत्रण को यूजर अनुभव का सजावटी हिस्सा नहीं, बल्कि भरोसेमंद इस्तेमाल के लिए जरूरी परिचालन अनुशासन माना गया।

रिवॉर्ड मॉडल में आत्मा की तलाश

चर्चा में बार-बार यह बात आई कि K2.5 की लेखन शैली पहले के Kimi मॉडलों के मुकाबले ज्यादा सामान्य लगती है। यूजरों ने इसे एक मानक “मददगार सहायक” जैसा बताया। कई डेवलपर अब इसे बहुत ज्यादा पोस्ट-ट्रेनिंग वाले मॉडलों का डिफॉल्ट व्यक्तित्व मानते हैं। एक यूजर ने कहा कि उन्हें Kimi K2 का व्यक्तित्व बहुत पसंद था और पूछा कि उसमें क्या बदलाव आया।

Kimi के एक सह-मेजबान ने माना कि हर नए रिलीज के साथ व्यक्तित्व में कुछ बदलाव आता है। उन्होंने कहा कि व्यक्तित्व व्यक्तिपरक होता है और उसका आकलन करना मुश्किल है। उन्होंने लिखा, “यह काफी कठिन समस्या है।” टीम ने कहा कि वह इस समस्या में सुधार करना और हर यूजर के लिए व्यक्तित्व को ज्यादा अनुकूलन योग्य बनाना चाहती है।

एक अलग बातचीत में यह पूछा गया कि क्या कोडिंग क्षमता बढ़ाने से रचनात्मक लेखन और भावनात्मक समझ कमजोर होती है। Kimi के एक प्रतिनिधि ने कहा कि मॉडल पर्याप्त बड़ा हो तो दोनों के बीच कोई स्वाभाविक टकराव नहीं है। हालांकि, उन्होंने कहा कि अलग-अलग संस्करणों में “लेखन का स्वाद” बनाए रखना कठिन है, क्योंकि रिवॉर्ड मॉडल लगातार बदल रहा है। रचनात्मक लेखन में प्रगति पर नजर रखने और रिवॉर्ड मॉडल को उसी के अनुसार ढालने के लिए टीम आंतरिक बेंचमार्क, यानी एक तरह के मेटा-मूल्यांकन, का इस्तेमाल करती है।

एक अन्य जवाब इससे आगे गया। उसमें ऐसी भाषा इस्तेमाल हुई जो किसी कॉर्पोरेट AI विनिर्देश में असामान्य लगेगी, लेकिन इन टूल का रोजाना इस्तेमाल करने वालों को परिचित होगी। टीम ने रिवॉर्ड मॉडल की “आत्मा” की बात की और यूजर की पसंद दर्शाने वाली “स्थिति” सहेजने तथा मॉडल के आउटपुट को उसके अनुसार ढालने की संभावना जताई। यह बातचीत उत्पाद विकास के ऐसे अगले मोर्चे की ओर इशारा करती है जिसे उद्यम अक्सर कम आंकते हैं। शैली में बदलाव केवल सौंदर्य का मामला नहीं है। इससे मॉडल के फैसलों को समझाने, अनिश्चितता जताने, अस्पष्टता से निपटने और ग्राहकों व कर्मचारियों से बातचीत करने के तरीके बदल सकते हैं।

डीबगिंग ही AI शोध का असली काम

ट्रेनिंग और रीइन्फोर्समेंट लर्निंग के दौरान मिली हैरानियों के बारे में पूछे जाने पर सबसे खुलासा करने वाली सांस्कृतिक झलक मिली। एक सह-मेजबान ने जोर देने के लिए बोल्ड किए गए एक शब्द में जवाब दिया: डीबगिंग।

प्रीट्रेनिंग हो या पोस्ट-ट्रेनिंग, एक बात बार-बार सबसे बड़ी प्राथमिकता बनकर सामने आती है: डीबगिंग।

इस टिप्पणी ने पूरे सत्र में बार-बार उभरे एक विषय को साफ किया। अलग-अलग आकार के मॉडलों पर नए विचार परखने की अपनी “स्केलिंग लैडर” पद्धति के बारे में पूछे जाने पर zxytim ने नाकामी का एक किस्सा सुनाया। टीम ने एक बार पिछली पीढ़ी के मॉडल में Kimi Linear को जल्दबाजी में शामिल किया था। यह एक प्रायोगिक लीनियर-अटेंशन आर्किटेक्चर है। एक खास पैमाने पर यह स्केलिंग लैडर में सफल नहीं हो पाया। टीम ने कदम पीछे खींचे और सह-मेजबान के शब्दों में “कठिन डीबगिंग प्रक्रिया” से गुजरी। कई महीनों बाद जाकर इसे कामयाब बनाया जा सका।

उन्होंने आगे कहा, “सांख्यिकीय रूप से देखें तो छोटे पैमाने पर काम करने वाले ज्यादातर विचार स्केलिंग लैडर में सफल नहीं होंगे। जो सफल होते हैं, वे आम तौर पर सरल, प्रभावी और गणितीय आधार वाले होते हैं। शोध का ज्यादातर काम सफलता का जश्न मनाना नहीं, बल्कि नाकामियों को संभालना है।”

AI कंपनियों का मूल्यांकन कर रहे तकनीकी नेतृत्वकर्ताओं के लिए यह स्वीकारोक्ति सीख देने वाली है। फ्रंटियर-स्तर की क्षमता केवल शानदार खोजों से नहीं आती। यह लगातार खामियों का पता लगाने और ऐसे संगठनात्मक माहौल से उभरती है जो उन समस्याओं पर महीनों काम करने को तैयार हो, जिनका हल शायद न निकले। वास्तविकता की यह याद दिलाती तस्वीर, उत्पाद लॉन्च के दौरान पेश की जाने वाली चमकदार कहानियों से काफी अलग है।

K3 और सतत सीखने का रोडमैप

AMA ने Kimi की अगली पीढ़ी की हल्की झलक भी दी। डेवलपरों ने पूछा कि क्या Kimi K3 में Moonshot का लीनियर अटेंशन शोध शामिल होगा, जिसका उद्देश्य पारंपरिक अटेंशन मेकैनिज्म की तुलना में लंबे कॉन्टेक्स्ट को अधिक कुशलता से संभालना है। टीम के सदस्यों ने संकेत दिया कि लीनियर तरीके एक गंभीर विकल्प हैं। एक ने लिखा, “संभावना है कि Kimi Linear, K3 का हिस्सा होगा। हम दूसरे अनुकूलन भी शामिल करेंगे।”

एक अन्य बातचीत में सह-मेजबान ने अनुमान जताया कि K3, K2.5 से “काफी, शायद 10 गुना बेहतर” होगा। टीम ने सतत सीखने को भी सक्रिय रूप से तलाशा जा रहा रास्ता बताया। इससे भविष्य में ऐसे एजेंट बन सकते हैं जो लंबे समय तक प्रभावी ढंग से काम कर सकें। चल रहे प्रोजेक्ट संभालने के लिए उद्यमों को इसकी जरूरत होगी, ताकि एजेंट केवल एक बार के काम तक सीमित न रहें।

एक सह-मेजबान ने लिखा, “हमारा मानना है कि सतत सीखने से एजेंट की क्षमता बेहतर होगी और वे काफी लंबे समय तक प्रभावी ढंग से काम कर पाएंगे।” Agent Swarm के बारे में टीम ने कहा कि सिस्टम ज्यादा स्थिर हो जाने पर वह इसका ऑर्केस्ट्रेशन स्कैफोल्ड डेवलपरों के लिए उपलब्ध कराने की योजना रखती है। उन्होंने जोड़ा, “उम्मीद है, बहुत जल्द।”

2026 में ओपन AI के बारे में इससे क्या पता चलता है

इस सत्र में हर सवाल का जवाब नहीं मिला। मल्टीमॉडल ट्रेनिंग की प्रक्रियाओं, रिवॉर्ड हैकिंग से बचाव और डेटा के प्रबंधन पर कुछ सबसे तकनीकी सवालों के जवाब आगामी तकनीकी रिपोर्ट के लिए टाल दिए गए। यह असामान्य नहीं है। अब कई लैब्स परिचालन की दृष्टि से सबसे अहम जानकारियों को संवेदनशील मानती हैं।

फिर भी चर्चा से पता चला कि AI की असली प्रतिस्पर्धा किस ओर बढ़ गई है। सबसे अहम अंतर चीन और अमेरिका के बीच, या ओपन और क्लोज्ड मॉडल के बीच नहीं है। असली अंतर उन वादों के बीच है जो मॉडल करते हैं और उन नतीजों के बीच जिन्हें सिस्टम वास्तव में दे पाते हैं। ऑर्केस्ट्रेशन ही उत्पाद बनता जा रहा है। Moonshot केवल मॉडल नहीं दे रहा। वह यह नजरिया भी पेश कर रहा है कि अगले सुधार ऐसे एजेंटों से आएंगे जो काम को बांट सकें, टूल इस्तेमाल कर सकें और व्यवस्थित नतीजे तेजी से लौटा सकें।

ओपन वेट्स का टकराव हार्डवेयर की हकीकत से हो रहा है: डेवलपर ऐसा खुलापन चाहते हैं जो स्थानीय स्तर पर चले, न कि ऐसा जिसके लिए डेटा सेंटर चाहिए। और प्रतिस्पर्धा का मैदान कच्ची बुद्धिमत्ता से हटकर भरोसेमंद प्रदर्शन की ओर जा रहा है। अब बेंचमार्क में दो अंक से जीतना ही सब कुछ नहीं; टूल इस्तेमाल के अनुशासन को डीबग करना, कई एजेंट वाले वर्कफ़्लो में मेमोरी संभालना और उस मुश्किल से मापी जा सकने वाली “रुचि” को बनाए रखना भी अहम है, जो तय करती है कि यूजर आउटपुट पर भरोसा करेंगे या नहीं।

हाई-प्रोफाइल रिलीज और बढ़ती भू-राजनीतिक चर्चा के बाद Moonshot Reddit पर आया। वहां इंतजार कर रहे डेवलपर एक ज्यादा व्यावहारिक सवाल को लेकर चिंतित थे: खुलापन वास्तव में इस्तेमाल के लायक कब बनेगा? इस लिहाज से AMA ने केवल Kimi K2.5 का प्रचार नहीं किया। इसने बदलाव के दौर से गुजरते उद्योग की एक झलक दी: बड़े मॉडलों से ज्यादा व्यवस्थित कंप्यूटेशन की ओर, बंद API से ऐसे ओपन वेट्स की ओर जिन्हें इस्तेमाल में लाने के लिए अब भी गंभीर इंजीनियरिंग चाहिए, और सफलता का जश्न मनाने से नाकामियों को संभालने की ओर।

एक नजर में

• Moonshot AI ने 595GB का ओपन-सोर्स मॉडल Kimi K2.5 जारी किया और फिर r/LocalLLaMA पर Reddit AMA में व्यावहारिक इस्तेमाल से जुड़े सवालों का सामना किया
• डेवलपरों ने स्थानीय हार्डवेयर के लिए छोटे मॉडल (8B-70B पैरामीटर) मांगे, लेकिन Moonshot ने व्यापक उपयोगिता के लिए 200B-300B पैरामीटर को न्यूनतम बताया
• टीम ने माना कि उच्च-गुणवत्ता वाले ट्रेनिंग डेटा की कमी से स्केलिंग के नियमों का असर घट रहा है; अब वह Agent Swarm के जरिए 100 सब-एजेंट का समन्वय करने वाली “टेस्ट-टाइम स्केलिंग” की ओर बढ़ रही है
• कॉन्टेक्स्ट रॉट से बचने के लिए Agent Swarm हर सब-एजेंट को अलग वर्किंग मेमोरी देता है; मुख्य समन्वयक टोकन बजट और काम का आवंटन संभालता है
• रीइन्फोर्समेंट लर्निंग पर कंप्यूट बढ़ेगा और ध्यान सिस्टम 1 के पैटर्न-मिलान से हटकर सिस्टम 2 के तर्क और एजेंट व्यवहार की ट्रेनिंग पर जाएगा
• Moonshot ने मॉडल द्वारा खुद को “Claude” बताने को ऐसे कोडिंग डेटा से जोड़ा जिसमें Claude का बार-बार जिक्र था, न कि डिस्टिलेशन से
• अलग-अलग संस्करणों में व्यक्तित्व और “आत्मा” को मापना और बनाए रखना मुश्किल है; यूजर की पसंद के अनुरूप स्थितियां तैयार करने की योजना है
• उम्मीद है कि Kimi K3 में लंबे समय तक चलने वाले एजेंट कामों के लिए लीनियर अटेंशन आर्किटेक्चर और सतत सीखने की क्षमताएं होंगी