Xiaomi MiMo ने बिना कस्टम चिप के सामान्य GPU पर प्रति सेकंड 1,000 टोकन की गति हासिल की

कृत्रिम बुद्धिमत्ता में गति का नया रिकॉर्ड

8 जून, 2026 को Xiaomi ने MiMo V2.5 Pro UltraSpeed जारी किया। यह एक इन्फरेंस मोड है, जो एक ट्रिलियन पैरामीटर वाले भाषा मॉडल को मानक क्लाउड ग्राफिक्स प्रोसेसिंग यूनिट पर प्रति सेकंड 1,000 टोकन से अधिक की गति देता है। यह पहली बार है जब इस पैमाने के किसी मॉडल ने कस्टम सिलिकॉन या विशेष हार्डवेयर पर निर्भर हुए बिना यह सीमा पार की है। आंतरिक डेमो में आठ GPU वाले एक सामान्य नोड पर लगातार लगभग 1,200 टोकन प्रति सेकंड की चरम थ्रूपुट दिखाई गई।

इस उपलब्धि का महत्व समझने के लिए मौजूदा सार्वजनिक बेंचमार्क की तुलना करें। OpenAI का GPT 5.5 लगभग 68 टोकन प्रति सेकंड उत्पन्न करता है। Claude Opus 4.6 लगभग 71 टोकन प्रति सेकंड की गति से काम करता है, जबकि Google Gemini Flash 192 टोकन प्रति सेकंड तक पहुंचता है। Xiaomi का UltraSpeed मोड मानक ChatGPT अनुभव से लगभग पंद्रह गुना तेज आउटपुट देता है। यह ऐसे मॉडल पर हासिल किया गया है, जो पहले से ही सॉफ्टवेयर इंजीनियरिंग मूल्यांकनों में अत्याधुनिक प्रणालियों को टक्कर देता है।

इस गति के पीछे MiMo V2.5 Pro है, जो 1.02 ट्रिलियन पैरामीटर वाला Mixture of Experts आर्किटेक्चर है और इसकी कॉन्टेक्स्ट विंडो दस लाख टोकन की है। कई प्रतिस्पर्धियों से अलग, यह प्रणाली एक ही मॉडल में टेक्स्ट, छवियों, ऑडियो और वीडियो को मूल रूप से प्रोसेस करती है। Xiaomi ने इसके मूल चेकपॉइंट को MIT ओपन सोर्स लाइसेंस के तहत जारी किया है। इससे डेवलपर बिना लाइसेंस शुल्क के इसे अपने सर्वर पर चला सकते हैं, फाइन-ट्यून कर सकते हैं और व्यावसायिक रूप से तैनात कर सकते हैं।

कृत्रिम बुद्धिमत्ता में Xiaomi का अप्रत्याशित उभार

अधिकांश उपभोक्ता Xiaomi को किफायती स्मार्टफोन, इलेक्ट्रिक स्कूटर और अब तेजी से इलेक्ट्रिक वाहनों के साथ जोड़ते हैं। कंपनी ने 2026 की पहली तिमाही में 3.38 करोड़ हैंडसेट भेजे और अकेले मई में 30,000 से अधिक इलेक्ट्रिक वाहन डिलीवर किए। लेकिन इन उपभोक्ता उत्पादों के पीछे एक समर्पित कृत्रिम बुद्धिमत्ता विभाग भी है, जो अप्रैल 2025 से बड़े भाषा मॉडल बना रहा है। उस महीने कंपनी ने 7 अरब पैरामीटर वाला कॉम्पैक्ट रीजनिंग मॉडल लॉन्च किया था।

इसके बाद के चौदह महीनों में MiMo परिवार उपलब्ध अधिक प्रतिस्पर्धी ओपन-वेट मॉडल श्रृंखलाओं में से एक बन गया है। मौजूदा फ्लैगशिप MiMo V2.5 Pro का आगाज़ 22 अप्रैल, 2026 को हुआ। सॉफ्टवेयर इंजीनियरिंग कार्यों पर इसके बेंचमार्क Claude Opus 4.6 के करीब हैं, जबकि प्रति टोकन इसकी लागत लगभग आठवां हिस्सा है। बेस मॉडल की मानक कीमत कैश हिट पर प्रति दस लाख टोकन 0.025 युआन, इनपुट के कैश मिस पर प्रति दस लाख 3 युआन और आउटपुट के लिए प्रति दस लाख 6 युआन है।

8 जून की घोषणा में इस मौजूदा मॉडल के ऊपर सीधे एक उच्च-प्रदर्शन सर्विंग मोड के रूप में UltraSpeed जोड़ा गया। मॉडल के वेट या आर्किटेक्चर में बदलाव करने के बजाय, गति में बढ़ोतरी पूरी तरह इन्फरेंस ऑप्टिमाइजेशन से हासिल की गई है। यह सॉफ्टवेयर की ऐसी उपलब्धि है, जो सामान्य हार्डवेयर की क्षमताओं से जुड़ी धारणाओं को चुनौती देती है।

आधुनिक AI में गति की कीमत

बड़े भाषा मॉडल के लिए इन्फरेंस गति एक अहम प्रतिस्पर्धी मोर्चा बन गई है। प्रणाली जिस दर से टोकन बनाती है, उससे यह तय होता है कि उपयोगकर्ताओं को जवाब कितनी जल्दी मिलेगा और कौन-से अनुप्रयोग आर्थिक तथा तकनीकी रूप से व्यवहार्य होंगे। प्रति सेकंड 68 टोकन उत्पन्न करने वाला मॉडल उन चैट इंटरफेस के लिए ठीक है, जहां लोग अपनी गति से पढ़ते हैं। लेकिन रियल-टाइम धोखाधड़ी पहचान, हाई-फ्रीक्वेंसी ट्रेडिंग संकेतों या ऐसे स्वायत्त कोडिंग एजेंटों जैसे कम-विलंबता वाले कार्यों में यह पूरी तरह नाकाम रहता है, जिन्हें कुछ ही सेकंड में कई रीजनिंग चरणों से गुजरना होता है।

इस अड़चन को पहचानते हुए कई स्टार्टअप ने कस्टम सिलिकॉन के इर्द-गिर्द अपना पूरा कारोबार खड़ा किया। Cerebras ने डिनर प्लेट के आकार की वेफर-स्केल चिप बनाई, जिसमें ऑन-चिप 44 गीगाबाइट मेमोरी है। इससे वे बैंडविड्थ सीमाएं दूर होती हैं, जो पारंपरिक GPU इन्फरेंस को धीमा करती हैं। इस प्रणाली ने Meta के Llama 3.1 405B पर लगभग 969 टोकन प्रति सेकंड हासिल किए। इस मॉडल में MiMo V2.5 Pro के आधे से भी कम पैरामीटर हैं। Groq ने कस्टम Language Processing Unit आर्किटेक्चर विकसित किया, जो मॉडल के आधार पर प्रति सेकंड 300 से 750 टोकन दे सकता है। इनमें से कोई भी प्लेटफॉर्म मानक क्लाउड रेंटल सेवाओं में उपलब्ध हार्डवेयर पर नहीं चलता।

Xiaomi का तरीका इस हार्डवेयर प्रतिस्पर्धा को खारिज करता है। सॉफ्टवेयर और मॉडल डिजाइन को साथ-साथ ऑप्टिमाइज करके कंपनी ने किराये पर उपलब्ध सामान्य GPU पर तुलनीय गति हासिल की। मानक आठ-GPU नोड तक पहुंच रखने वाला कोई भी डेवलपर सैद्धांतिक रूप से इस नतीजे को दोहरा सकता है। इससे प्रतिस्पर्धी बढ़त विशेष चिप निर्माताओं से हटकर एल्गोरिदम संबंधी नवाचार की ओर जा सकती है।

FP4 क्वांटाइजेशन से बुद्धिमत्ता को संकुचित करना

UltraSpeed का पहला आधार आक्रामक संख्यात्मक संपीड़न है, जिसे FP4 क्वांटाइजेशन कहा जाता है। मानक मॉडल इन्फरेंस में आम तौर पर वेट को 16-बिट या 8-बिट परिशुद्धता में रखा जाता है। हर पैरामीटर के लिए एक निश्चित मात्रा में मेमोरी बैंडविड्थ चाहिए। ट्रिलियन पैरामीटर के पैमाने पर, उन वेट को मेमोरी से प्रोसेसिंग कोर तक ले जाना ही ट्रैफिक जाम पैदा करता है और जनरेशन गति की सीमा तय कर देता है।

Xiaomi का समाधान चुनिंदा हिस्सों पर 4-बिट परिशुद्धता लागू करना है। Mixture of Experts आर्किटेक्चर में कई एक्सपर्ट लेयर होते हैं, जिनमें अधिकांश पैरामीटर मौजूद हैं और जो कम परिशुद्धता के प्रति अधिक सहनशील हैं। Xiaomi ने केवल इन एक्सपर्ट लेयर को MXFP4 फॉर्मेट में संकुचित किया और मॉडल के अन्य मॉड्यूल को अधिक परिशुद्धता पर रखा, जिसे FP8 बताया गया है। यह चुनिंदा तरीका आउटपुट की गुणवत्ता घटाए बिना मेमोरी की जरूरत कम करता है, क्योंकि Quantization Aware Training ने संपीड़न को मॉडल की सीखने की प्रक्रिया में शामिल किया। बेंचमार्क बताते हैं कि क्वांटाइज्ड संस्करण का प्रदर्शन मूल पूर्ण-परिशुद्धता संस्करण के लगभग बराबर है।

चूंकि एक्सपर्ट लेयर में मॉडल का अधिकांश हिस्सा होता है, इसलिए यह चुनिंदा संपीड़न हर जनरेशन चरण के दौरान मेमोरी से गुजरने वाले डेटा की मात्रा को काफी घटाता है। बैंडविड्थ की यह बचत सीधे अधिक थ्रूपुट में बदलती है।

DFlash speculative decoding से समानांतर अनुमान

दूसरा आधार भाषा जनरेशन की क्रमिक प्रकृति को संबोधित करता है। आम तौर पर मॉडल एक बार में एक टोकन बनाते हैं और हर नया टोकन पिछले सभी टोकन पर निर्भर होता है। Speculative decoding एक शॉर्टकट देता है: छोटा ड्राफ्ट मॉडल तेजी से आगे आने वाले कई टोकन का अनुमान लगाता है और बड़ा टारगेट मॉडल उन सभी अनुमानों की समानांतर जांच करता है। जहां अनुमान सही निकलते हैं, वहां समय बचता है। पारंपरिक speculative decoding में भी ड्राफ्ट मॉडल को अनुमान क्रमशः बनाने पड़ते हैं, जिससे इसका लाभ सीमित रहता है।

DFlash शोध समुदाय की एक विधि है, जिसे Xiaomi ने बेहतर बनाया है। यह क्रमिक प्रक्रिया की इस सीमा को पूरी तरह हटा देती है। एक-एक करके टोकन का अनुमान लगाने के बजाय, ड्राफ्ट मॉडल एक ही फॉरवर्ड पास में मास्क किए गए स्थानों के पूरे ब्लॉक को भरता है। Xiaomi ने Muon सेकंड-ऑर्डर ऑप्टिमाइजर और मॉडल सेल्फ-डिस्टिलेशन से इस प्रक्रिया को बेहतर बनाया। ड्राफ्ट मॉडल केवल Sliding Window Attention का उपयोग करता है, जिससे बातचीत चाहे जितनी लंबी हो, हर अनुमान की गणनात्मक लागत स्थिर रहती है।

कोडिंग के मामलों में, आठ टोकन तक सीमित ब्लॉक में हर सत्यापन दौर के दौरान औसतन 6.3 टोकन स्वीकार किए जाते हैं। इसका मतलब है कि बड़ा मॉडल एक ही चरण में छह या सात टोकन की पुष्टि करता है, बजाय उन्हें एक-एक करके बनाने के। चूंकि rejection sampling यह सुनिश्चित करता है कि केवल वैध टोकन ही आगे जाएं, आउटपुट गणितीय रूप से मानक डिकोडिंग के बिल्कुल समान रहता है। गति बढ़ती है, गुणवत्ता में कोई कमी नहीं आती।

TileRT से माइक्रोसेकंड के अंतर खत्म करना

तीसरा आधार एक ऐसी अदृश्य अड़चन को निशाना बनाता है, जो केवल अत्यधिक गति पर उभरती है। जब इन्फरेंस गति प्रति सेकंड 1,000 टोकन से आगे निकलती है, तो हर गणितीय ऑपरेटर केवल कुछ माइक्रोसेकंड तक चलता है। पारंपरिक सर्विंग प्रणालियां ऑपरेटर को एक-एक करके शुरू करती हैं और हर शुरुआत के बीच थोड़ा अंतराल रहता है। सामान्य गति पर ये अंतराल नगण्य होते हैं। UltraSpeed स्तर पर ये निष्पादन प्रवाह को तोड़ते हैं और मुख्य अड़चन बन जाते हैं।

इन्फरेंस पार्टनर TileRT के साथ मिलकर विकसित किया गया TileRT, Persistent Engine Kernel के जरिए इस समस्या का समाधान करता है। यह कर्नेल लगातार GPU के भीतर सक्रिय रहता है। ऑपरेशन को बार-बार शुरू और बंद करने के बजाय, कर्नेल Warp Specialization का उपयोग करके खास हार्डवेयर थ्रेड को डेटा मूवमेंट, गणना और संचार की समन्वित भूमिकाएं सौंपता है। RMSNorm, rotary position embeddings और KV cache writes जैसे छोटे ऑपरेशन भी, जो आम तौर पर माइक्रोसेकंड स्तर की देरी पैदा करते हैं, बिना रुकावट चलते हैं।

यह प्रणाली बाद में जोड़ने के बजाय FP4 और DFlash विकल्पों के साथ ही डिजाइन की गई थी। मॉडल और सिस्टम का यह अत्यंत करीबी सह-डिजाइन सुनिश्चित करता है कि तीनों परतें एक-दूसरे के साथ सटीक रूप से काम करें। Xiaomi स्पष्ट रूप से कहता है कि इन तीनों में से कोई भी तकनीक अकेले प्रति सेकंड 1,000 टोकन हासिल नहीं कर सकती। रिकॉर्ड नतीजा केवल इनके संयुक्त उपयोग से मिलता है।

वास्तविक दुनिया पर असर और कारोबारी संदर्भ

प्रति सेकंड 1,000 टोकन की सीमा बदल देती है कि अत्याधुनिक मॉडल किन अनुप्रयोगों के लिए उपयोगी हैं। समानांतर रीजनिंग व्यावहारिक हो जाती है, जिससे प्रणालियां उसी समय में Best of N या ट्री-सर्च रीजनिंग के दर्जनों रास्ते चला सकती हैं, जिसमें धीमा मॉडल केवल एक रास्ता पूरा कर पाएगा। तेज जनरेशन से स्वायत्त चरणों के बीच इंतजार घटता है, इसलिए कोडिंग एजेंटों को फायदा होता है। ट्रेडिंग संकेत तैयार करने, धोखाधड़ी रोकने और लाइव संवाद प्रणालियों में रियल-टाइम निर्णय चक्र तब व्यवहार्य होते हैं, जब विलंब मानव की अनुभूति की सीमा से नीचे चला जाता है।

Xiaomi ने सार्वजनिक डेमो में इसका व्यावहारिक असर दिखाया। Snake गेम का पूरी तरह काम करने वाला संस्करण लगभग दस सेकंड में तैयार हुआ। macOS इंटरफेस का प्रोटोटाइप करीब एक मिनट में सामने आया। ये ऐसे कार्य हैं जिनकी गति उपलब्ध थ्रूपुट से सीमित होती है, इसलिए टोकन बनाने की कच्ची गति ही निर्णायक है।

UltraSpeed तक पहुंच 9 जून से 23 जून, 2026 तक सीमित, आवेदन-आधारित API परीक्षण के जरिए मिलेगी। इसकी कीमत मानक MiMo V2.5 Pro दर से तीन गुना है। मौजूदा विनिमय दर के हिसाब से यह इनपुट के प्रति दस लाख टोकन लगभग $1.29 और आउटपुट के प्रति दस लाख टोकन $2.61 बैठती है। Xiaomi इस प्रीमियम के बदले जनरेशन गति लगभग दस गुना करने का वादा करता है। Token Plan सब्सक्रिप्शन सेवा UltraSpeed पर लागू नहीं होती। स्वीकृत उपयोगकर्ताओं को दैनिक सीमाओं के साथ दो सप्ताह का मुफ्त Chat एक्सेस मिलता है: हर खाते पर दस कतार प्रविष्टियां, सत्र की अधिकतम अवधि तीस मिनट और पांच मिनट निष्क्रिय रहने के बाद संसाधनों की स्वतः रिहाई।

इन तकनीकी उपलब्धियों के बावजूद, वित्तीय बाजारों ने कोई खास प्रतिक्रिया नहीं दिखाई। Xiaomi के शेयर 11 जून को €2.91 पर बंद हुए, जो 52 सप्ताह के निचले स्तर से केवल 1.75% ऊपर था और साल की शुरुआत से अब तक 35% की गिरावट दर्शाता है। कंपनी अपने कारोबार में विविधता लाना जारी रखे हुए है। MiMo Code असिस्टेंट जारी होने के दिन ही उसने भारत में प्रीमियम 17T स्मार्टफोन लॉन्च किया और चांगचुन शहर के साथ इलेक्ट्रिक वाहन विस्तार पर काम किया। परिचालन की रफ्तार शेयर प्रदर्शन को पलट पाएगी या नहीं, यह आगामी आय आंकड़ों पर निर्भर करेगा।

ओपन सोर्स रिलीज और सत्यापन का सवाल

Xiaomi ने MiMo V2.5 Pro FP4 DFlash चेकपॉइंट को Hugging Face पर ओपन सोर्स किया है। इसमें क्वांटाइज्ड वेट और DFlash पैरामीटर शामिल हैं। TileRT ने GitHub पर चुनिंदा मॉड्यूल प्रकाशित किए हैं। यह पारदर्शिता स्वतंत्र समुदाय को परीक्षण का अवसर देती है, जो अहम साबित होगा, क्योंकि गति के सभी मौजूदा दावे Xiaomi के आंतरिक बेंचमार्क पर आधारित हैं। अब तक किसी स्वतंत्र तीसरे पक्ष ने इनकी पुष्टि नहीं की है।

समुदाय के परीक्षण कई खुले सवालों के जवाब देंगे। पहला, क्या Xiaomi के नियंत्रित परीक्षण माहौल से बाहर आम GPU इंस्टेंस पर भी प्रति सेकंड 1,000 टोकन का आंकड़ा कायम रहता है। दूसरा, क्या खुले छोर वाली बातचीत के कार्यों में गुणवत्ता घटती है, जहां speculative decoding की स्वीकृति दरें फिलहाल संरचित कोडिंग कार्यों से कम हैं। तीसरा, क्या TileRT का Persistent Kernel तरीका उत्पादन वातावरण में पहले से तैनात मानक सर्विंग स्टैक के साथ जुड़ सकता है।

अगर स्वतंत्र परीक्षण इन दावों की पुष्टि करते हैं, तो Xiaomi ने सॉफ्टवेयर की मदद से वह हासिल किया होगा, जिसके लिए प्रतिस्पर्धियों ने कस्टम सिलिकॉन के जरिए सैकड़ों मिलियन डॉलर खर्च किए। इससे संकेत मिलेगा कि एल्गोरिदम का सह-डिजाइन ऐसे प्रदर्शन स्तर खोल सकता है, जिनके लिए पहले विशेष हार्डवेयर जरूरी माना जाता था। इससे कृत्रिम बुद्धिमत्ता उद्योग में निवेश की दिशा भी बदल सकती है।

मुख्य बिंदु

• Xiaomi का MiMo V2.5 Pro UltraSpeed, 8 जून, 2026 को लॉन्च के समय मानक सामान्य GPU पर प्रति सेकंड 1,000 टोकन से अधिक गति हासिल करने वाला पहला ट्रिलियन पैरामीटर मॉडल बना।
• यह गति तीन समन्वित तकनीकों से मिलती है: FP4 एक्सपर्ट लेयर क्वांटाइजेशन, DFlash ब्लॉक-स्तरीय speculative decoding और TileRT Persistent GPU रनटाइम।
• मूल MiMo V2.5 Pro मॉडल कोडिंग कार्यों पर Claude Opus 4.6 के करीब बेंचमार्क देता है, जबकि इसकी प्रति टोकन कीमत लगभग आठवां हिस्सा है।
• Cerebras और Groq जैसे प्रतिस्पर्धियों से अलग, Xiaomi ने कस्टम सिलिकॉन के बिना क्लाउड प्रदाताओं के जरिए उपलब्ध मानक आठ-GPU नोड पर यह रिकॉर्ड बनाया।
• MiMo V2.5 Pro FP4 DFlash चेकपॉइंट Hugging Face पर MIT ओपन सोर्स लाइसेंस के तहत उपलब्ध है और TileRT मॉड्यूल GitHub पर हैं।
• सीमित API परीक्षण 9 जून से 23 जून, 2026 तक चलेगा। इसकी कीमत मानक दर से तीन गुना है और जनरेशन गति लगभग दस गुना देने का दावा है।
• तकनीकी उपलब्धि के बावजूद Xiaomi का शेयर 52 सप्ताह के निचले स्तर के करीब बना हुआ है। जून 2026 के मध्य तक शेयर साल की शुरुआत से 35% नीचे थे।