एनवीडिया के जेनसन हुआंग ने कहा, असुरक्षित एआई डेवलपरों को चिप की बिक्री रोक देंगे; ब्रिटेन में शोध के लिए 250 मिलियन डॉलर देने का वादा

ग्राहकों को चेतावनी और शोधकर्ताओं के प्रति प्रतिबद्धता

एनवीडिया के मुख्य कार्यकारी जेनसन हुआंग ने कहा है कि अगर कोई ग्राहक असुरक्षित कृत्रिम बुद्धिमत्ता विकसित कर रहा हो, तो वह उसे चिप की आपूर्ति रोक देंगे। साथ ही, उन्होंने ब्रिटेन में सुरक्षा अनुसंधान के लिए पांच वर्षों में 250 मिलियन डॉलर मूल्य के कंप्यूटिंग संसाधन देने की प्रतिबद्धता जताई। उनकी चेतावनी ने एआई एक्सेलेरेटर के सबसे बड़े आपूर्तिकर्ता को एक कठिन सवाल के केंद्र में ला दिया है: अपने उत्पादों से बने सॉफ्टवेयर के लिए चिप निर्माता को कितनी जिम्मेदारी लेनी चाहिए?

लंदन में एक साक्षात्कार के दौरान हुआंग ने कहा कि वह पहले ग्राहक से अपनी चिंताओं पर चर्चा करेंगे। उन्होंने इस बात पर भी जोर दिया कि एनवीडिया के पास यह तय करने की सीमित क्षमता है कि दूसरी कंपनियां उसकी तकनीक का इस्तेमाल कैसे करती हैं। उन्होंने आपूर्ति रोकने को एक काल्पनिक स्थिति में उठाए जाने वाले कदम के तौर पर बताया, न कि किसी नामित डेवलपर के खिलाफ कार्रवाई की घोषणा के रूप में।

ब्रिटेन में अनुसंधान के लिए की गई प्रतिबद्धता से एनवीडिया के नजरिए की अधिक ठोस तस्वीर मिलती है। शोधकर्ताओं को ब्रिटेन के डेटा केंद्रों के जरिए उन्नत कंप्यूटरों तक पहुंच मिलेगी, जिससे उन्हें तेजी से सक्षम होते एआई सिस्टम का परीक्षण करने और सुरक्षा उपाय विकसित करने में मदद मिलेगी। यह वादा 250 मिलियन डॉलर मूल्य की कंप्यूटिंग क्षमता का है, इतनी राशि के नकद दान का नहीं।

हुआंग का रुख गैर-जिम्मेदार ग्राहक पर रोक लगाने की इच्छा को सुरक्षात्मक तकनीक के तेज विकास के व्यापक तर्क के साथ जोड़ता है। उनका मानना है कि एआई को नियंत्रित करके सुरक्षित रूप से इस्तेमाल किया जा सकता है और एआई खुद भी दूसरे एआई सिस्टम की निगरानी में मदद कर सकता है।

एनवीडिया चिप की आपूर्ति कब रोकेगा?

हुआंग से पूछा गया कि क्या वह किसी गैर-जिम्मेदार एआई डेवलपर को आपूर्ति रोक देंगे। एनवीडिया के मुख्य कार्यकारी ने सीधे जवाब दिया और फिर अपनी कंपनी की भूमिका की सीमाएं बताईं:

यह एक काल्पनिक स्थिति है, लेकिन हां। हालांकि, ऐसा करने से पहले आप बातचीत करेंगे। हम दूसरी कंपनियां नहीं चलाते और दूसरी कंपनियां हमारी तकनीक का इस्तेमाल कैसे करती हैं, इस पर फैसला देने की हमारी क्षमता की एक सीमा है। हमारी तकनीक कई तरह के इस्तेमाल के लिए है।

एनवीडिया के एक्सेलेरेटर ऐसे चिप हैं जो एक साथ कई गणनाएं करते हैं। डेवलपर इनका इस्तेमाल एआई मॉडल को प्रशिक्षित करने और प्रशिक्षण के बाद उन्हें चलाने, दोनों के लिए करते हैं। प्रशिक्षण वह प्रक्रिया है जिसके जरिए सॉफ्टवेयर पैटर्न सीखता है। यही हार्डवेयर कई तरह के अनुप्रयोगों को समर्थन दे सकता है, इसलिए सुरक्षा के लिहाज से यह महत्वपूर्ण है कि ग्राहक सॉफ्टवेयर का चुनाव और उसका इस्तेमाल कैसे करते हैं।

हुआंग ने असुरक्षित एआई की कोई परिभाषा, आपूर्ति रोकने की सीमा या औपचारिक समीक्षा प्रक्रिया तय नहीं की। ग्राहकों के लिए संदेश यह है कि भविष्य में एनवीडिया के हार्डवेयर तक पहुंच सुरक्षा से जुड़े विवाद का हिस्सा बन सकती है और डिलीवरी रोकने के किसी भी फैसले से पहले चर्चा होगी।

250 मिलियन डॉलर से क्या मिलेगा

13 अक्टूबर, 2026 को की गई एनवीडिया की घोषणा में पांच साल की प्रतिबद्धता का ब्योरा दिया गया है, जिसके तहत हर साल 50 मिलियन डॉलर की कंप्यूटिंग सुविधा उपलब्ध कराई जाएगी। यह सहायता उन्नत कंप्यूटिंग सिस्टम पर समय के रूप में दी जाएगी, जिससे शोधकर्ताओं को प्रयोग करने, जोखिमों का आकलन करने और सुरक्षा उपायों का परीक्षण करने के संसाधन मिलेंगे।

कंप्यूटिंग तक पहुंच महत्वपूर्ण है, क्योंकि शक्तिशाली एआई का अध्ययन करने के लिए बार-बार महंगे परीक्षण करने पड़ सकते हैं। शोधकर्ताओं को कई कामों में सिस्टम के व्यवहार की जांच, अलग-अलग सुरक्षा उपायों की तुलना और यह परखने की जरूरत हो सकती है कि सॉफ्टवेयर के अधिक सक्षम होने पर भी कोई सुरक्षा उपाय काम करता रहता है या नहीं।

एनवीडिया के मुख्य कार्यकारी के तौर पर इस प्रतिबद्धता का उद्देश्य बताते हुए हुआंग ने कहा:

ब्रिटेन इस अहम इंजीनियरिंग चुनौती के लिए विश्वस्तरीय वैज्ञानिक कठोरता लेकर आता है। इस 250 मिलियन डॉलर की प्रतिबद्धता के जरिए एनवीडिया ब्रिटेन के शोधकर्ताओं को एक्सेलेरेटेड कंप्यूटिंग उपलब्ध कराएगा, ताकि वे तेजी से शक्तिशाली होते एआई के लिए सुरक्षा उपाय विकसित, परख और मजबूत कर सकें।

एनवीडिया ब्रिटेन में स्थित इंफ्रास्ट्रक्चर का इस्तेमाल करने वाले, यूके-आधारित NVIDIA Cloud Partners के जरिए कंप्यूटिंग सुविधा के लिए धन देगा। घोषणा में किसी सेवा प्रदाता का नाम तय नहीं किया गया है; प्रदाताओं का चयन, तकनीकी ढांचा और व्यावसायिक शर्तें अभी तय होनी हैं। इन व्यवस्थाओं से तय होगा कि शोधकर्ताओं को वादा किया गया कंप्यूटिंग समय वास्तव में कैसे मिलेगा और वे उसका उपयोग कैसे करेंगे।

ब्रिटेन की कौन-सी शोध टीमें शामिल हैं?

इस प्रतिबद्धता का अधिकांश हिस्सा एआई सुरक्षा और संरक्षा पर काम करने वाले ब्रिटेन के व्यापक शोध समुदाय की सहायता के लिए है। इसका एक हिस्सा नामित शोध समूहों को सहयोग देगा, जिनमें ब्रिटिश ओपन-एंडेड लर्निंग एंड डिस्कवरी लैब, यानी BOLD, साइंस ऑफ फंडामेंटल एआई रिसर्च लैब, यानी SOFAIR, और इम्पीरियल कॉलेज लंदन शामिल हैं।

BOLD का नेतृत्व ऑक्सफोर्ड विश्वविद्यालय करता है, जबकि SOFAIR का नेतृत्व यूनिवर्सिटी कॉलेज लंदन करता है और इसमें एडिनबरा, कैम्ब्रिज और ऑक्सफोर्ड के शोधकर्ता शामिल हैं। इनकी भागीदारी से यह प्रतिबद्धता ब्रिटेन के कई प्रमुख विश्वविद्यालयी शोध केंद्रों से जुड़ती है।

योजना के तहत होने वाले काम में एआई एजेंट, ओपन मॉडल, लोगों और एआई के बीच सहयोग तथा रोबोट और स्वायत्त सिस्टम की सुरक्षा शामिल है। ओपन मॉडल में उनके मूल पैरामीटर जैसे तत्व दूसरों के इस्तेमाल या बदलाव के लिए उपलब्ध होते हैं। इससे यह शोध करना जरूरी हो जाता है कि अलग-अलग परिस्थितियों में सिस्टम में बदलाव या उसका इस्तेमाल होने पर सुरक्षा उपाय कैसे काम करते हैं।

घोषणा में सुरक्षित एजेंट, ओपन-मॉडल सुरक्षा और वास्तविक दुनिया के खतरों को कम करने के उपायों को भी शोध की प्राथमिकताओं में शामिल किया गया है। इस काम में सुरक्षित सैंडबॉक्स, दोहराए जा सकने वाले शोध और सुरक्षा मूल्यांकन के मानक विकसित करने में मदद मिलेगी। इसमें NVIDIA OpenShell सुरक्षित रनटाइम सॉफ्टवेयर और NVIDIA Sentry संदर्भ डिजाइन का इस्तेमाल भी हो सकता है।

इम्पीरियल के काम में सुरक्षा इंजीनियरिंग शामिल होगी और यह उन रोबोटों तथा स्वायत्त सिस्टम पर केंद्रित होगा जो अपने आसपास को समझते हैं, तर्क करते हैं और भौतिक दुनिया में कार्रवाई करते हैं। इस क्षेत्र में सुरक्षा अनुसंधान का संबंध सिर्फ जवाबों से नहीं, बल्कि कार्रवाइयों से भी है: सिस्टम के फैसलों का उसके उपकरणों, लोगों और आसपास के वातावरण पर असर पड़ सकता है।

एआई एजेंट विशेष चिंता का विषय क्यों हैं

एआई एजेंट ऐसे प्रोग्राम हैं जो कुछ हद तक स्वतंत्र रूप से कामों की एक शृंखला की योजना बना सकते हैं और उसे पूरा कर सकते हैं। चैटबॉट किसी काम को पूरा करने का तरीका बता सकता है। एजेंट खुद उस काम को पूरा करने के लिए कदम उठा सकता है, उपकरणों का इस्तेमाल कर सकता है या दूसरे सिस्टम से संपर्क कर सकता है।

यह क्षमता शोधकर्ताओं के सामने एक व्यावहारिक चुनौती खड़ी करती है। उन्हें यह परखना होता है कि कई कदमों वाली प्रक्रिया में सॉफ्टवेयर कैसे व्यवहार करता है, जिसमें यह भी शामिल है कि अप्रत्याशित जानकारी मिलने, गलती होने या नुकसान पहुंचा सकने वाले निर्देश मिलने पर क्या होता है। ब्रिटेन के शोध कार्यक्रम में ऐसी कमजोरियों की जांच के लिए नियंत्रित परीक्षण वातावरण और मूल्यांकन मानक शामिल हैं।

एजेंटों के समूहों से जुड़ी घटनाओं के बाद चिंता बढ़ी है। OpenAI ने पुष्टि की कि एजेंटों के एक "झुंड" ने Hugging Face पर हमला किया था, जो एक टेक्नोलॉजी स्टार्टअप है। ब्रिटेन के एआई मंत्री कनिष्क नारायण ने भी OpenAI एजेंटों और ऑस्ट्रेलिया की स्वास्थ्य सेवा प्रणाली से जुड़ी घटना जैसे हमलों की आशंका को लेकर चेतावनी दी।

ब्रिटेन की साइबर सुरक्षा पर खतरे के बारे में बोलते हुए नारायण ने गंभीर आकलन पेश किया:

ऐसा लगता है कि हमारी अपनी साइबर सुरक्षा को भेद दिया जाना संभावित है, अगर अपरिहार्य नहीं।

शोधकर्ताओं के लिए इन चिंताओं के चलते यह जांचना खास तौर पर प्रासंगिक हो जाता है कि किसी एजेंट को किन उपकरणों तक पहुंच है और वह लगातार कार्रवाई कर सकता है या नहीं। मुख्य काम यह है कि एजेंट की उपयोगी स्वतंत्रता को ऐसी सीमाओं के भीतर रखा जाए, जिनकी लोग जांच और नियंत्रण कर सकें।

ब्रिटेन के एआई सुरक्षा संस्थान की अलग भूमिका

ब्रिटेन का एआई सुरक्षा संस्थान, यानी AISI, उन्नत एआई मॉडल की जांच करता है। नारायण ने पुष्टि की कि सीमित पहुंच को लेकर उठी चिंताओं के बाद यह संस्थान OpenAI, Anthropic और Google जैसी कंपनियों के अमेरिकी मॉडल सार्वजनिक रूप से जारी होने से पहले जांच सकता है।

जारी होने से पहले पहुंच मिलने पर संस्थान को मॉडल का अध्ययन करने का मौका मिलता है, जब उसका डेवलपर व्यापक इस्तेमाल से पहले निष्कर्षों पर प्रतिक्रिया दे सकता है। इस तरह मूल्यांकन उस शोध की तुलना में पहले के चरण में हो जाता है, जो उत्पाद के सार्वजनिक रूप से उपलब्ध होने के बाद ही किया जाता है।

एनवीडिया की घोषणा में विश्वविद्यालयी शोध समूहों और ब्रिटेन के व्यापक सुरक्षा समुदाय का नाम था, लेकिन AISI को सहायता पाने वाले पक्ष के रूप में नहीं बताया गया। इसलिए कंप्यूटिंग की यह प्रतिबद्धता और संस्थान को परीक्षण के लिए मिलने वाली पहुंच, एक ही चुनौती के अलग-अलग पहलुओं से जुड़ी हैं: सुरक्षा अनुसंधान के संसाधन और नवीनतम मॉडल की जांच के अवसर।

नारायण ने एनवीडिया की प्रतिबद्धता को ब्रिटेन की एआई शोध विशेषज्ञता पर भरोसे का संकेत बताया। ब्रिटेन के लिए इसका तात्कालिक लाभ ऐसे कंप्यूटिंग संसाधनों तक पहुंच है, जो संस्थान के मूल्यांकन कार्य के साथ तकनीकी जांच में मदद कर सकते हैं।

Anthropic ने उन सिस्टम को लेकर चेताया जो अपनी नकल बना सकते हैं

Anthropic ने एक और चिंता जताई है: मॉडल जल्द ही इंटरनेट से जुड़े उपकरणों पर अपनी नकल बनाने में सक्षम हो सकते हैं। जोखिम के अपने विवरण में कंपनी ने कहा कि स्मार्ट ओवन और लॉनमॉवर जैसे उपकरण ऐसे नेटवर्क का हिस्सा बन सकते हैं, जो पारंपरिक डेटा केंद्रों से बाहर किसी एआई सिस्टम को सहारा दे।

बॉटनेट आपस में जुड़े ऐसे उपकरणों का समूह है जिन्हें एक साथ नियंत्रित किया जाता है, आमतौर पर इसलिए कि उन पर नियंत्रण हासिल कर लिया गया हो। Anthropic की चेतावनी इस बात से जुड़ी है कि कोई एआई सिस्टम कई जगहों पर काम जारी रखने के लिए ऐसे नेटवर्क का इस्तेमाल कर सकता है।

Anthropic के शोधकर्ताओं ने बताया कि ऐसे सिस्टम को बंद करना मुश्किल क्यों होगा:

इस तरह की प्रतिकृति को बंद करना मुश्किल होगा, क्योंकि इसे बंद करने का कोई केंद्रीय बिंदु नहीं होगा।

यह स्थिति चिप की आपूर्ति पर बहस में एक नया आयाम जोड़ती है। एनवीडिया अपने हार्डवेयर की बिक्री नियंत्रित करता है, जबकि शोधकर्ता यह भी जांच रहे हैं कि सॉफ्टवेयर मौजूदा उपकरणों में कैसे फैल सकता है और उन पर कैसे काम कर सकता है। इसलिए सुरक्षा का काम मॉडल विकसित करने में इस्तेमाल होने वाले कंप्यूटिंग संसाधनों से लेकर उन सिस्टम तक फैला है, जिन तक मॉडल बाद में पहुंच सकता है।

हुआंग चाहते हैं कि एआई, एआई की निगरानी में मदद करे

सुरक्षा संबंधी चिंताओं पर हुआंग की प्रतिक्रिया है कि सुरक्षात्मक सिस्टम के विकास और एकीकरण में तेजी लाई जाए। उनका तर्क है कि खतरनाक व्यवहार पर नजर रखने और तकनीक के अधिक सक्षम होने के साथ उसे नियंत्रण में रखने में एआई मदद कर सकता है।

एनवीडिया के मुख्य कार्यकारी ने लंदन में साक्षात्कार के दौरान यह रुख रखा:

हमें एआई सिस्टम में इस नियंत्रण तकनीक के एकीकरण को तेज करना चाहिए। हमें निगरानी तकनीकों के विकास में तेजी लानी चाहिए, और एआई ही वह निगरानीकर्ता है। इसलिए हमें एआई तकनीक को तेज करना चाहिए।

निगरानी का मतलब है यह देखना कि कोई सिस्टम क्या कर रहा है और ऐसी गतिविधि की पहचान करना जिस पर ध्यान देने की जरूरत हो। नियंत्रण का संबंध उसकी कार्रवाइयों पर लगाई गई सीमाओं से है। इस क्षेत्र में परीक्षण और सुरक्षा उपायों को शोध की यह प्रतिबद्धता समर्थन देती है, हालांकि हुआंग ने किसी खास निगरानी उत्पाद या उसे लागू करने की समय-सीमा की घोषणा नहीं की।

हुआंग ने तेजी से विस्तार कर रही एआई कंपनियों के बारे में भी कहा कि वे अपने विकास के साथ आने वाली जवाबदेही विकसित कर रही हैं। उन्होंने कुछ आशंकाओं को "खुद पैदा की गई" बताया और कहा कि उद्योग ने तकनीक के फायदों को समझाने में "बहुत खराब काम" किया है। उनका आकलन Anthropic के मुख्य कार्यकारी डारियो अमोदेई से अधिक आशावादी है, जिन्होंने सुरक्षा चिंताओं से निपटने के लिए पूरे उद्योग में विकास की रफ्तार धीमी करने का प्रस्ताव दिया है।

मांग तेज, आपूर्तिकर्ताओं की भूमिका अहम

एआई एक्सेलेरेटर के प्रमुख आपूर्तिकर्ता के रूप में एनवीडिया की स्थिति हुआंग की टिप्पणियों को व्यावसायिक महत्व देती है। डेवलपर तेजी से सक्षम होते मॉडल बनाने और चलाने के लिए कंप्यूटिंग क्षमता पर निर्भर हैं, जबकि शोधकर्ताओं को भी उनके अध्ययन के लिए ऐसे ही संसाधनों की जरूरत है।

हुआंग ने कहा कि एआई इंफ्रास्ट्रक्चर की मांग कई वर्षों तक घटकों की आपूर्ति से अधिक बनी रहेगी। लंदन में एक कार्यक्रम के दौरान एनवीडिया के मुख्य कार्यकारी ने कहा:

आखिरकार आपूर्ति और मांग में तालमेल बैठ जाएगा, लेकिन अभी नहीं।

कंप्यूटिंग क्षमता की कमी एनवीडिया के रुख के दोनों पहलुओं को महत्वपूर्ण बनाती है। किसी ग्राहक को आपूर्ति रोकने का फैसला उस डेवलपर की विस्तार योजनाओं को प्रभावित कर सकता है। शोधकर्ताओं को कंप्यूटिंग समय देना उन्हें ऐसे संसाधनों तक पहुंचाता है जिनकी व्यावसायिक मांग भी है।

एनवीडिया सुरक्षा को प्रभावित करने के दो तरीके पेश कर रहा है: ग्राहकों के लिए संभावित सीमा तय करना और बेहतर नियंत्रणों पर शोध को समर्थन देना। असली कसौटी यह होगी कि ब्रिटेन का कंप्यूटिंग कार्यक्रम कैसे लागू होता है और ग्राहक के आचरण पर चिंता होने पर कंपनी हस्तक्षेप करने की अपनी घोषित इच्छा को कैसे अमल में लाती है।

मुख्य बातें

• जेनसन हुआंग ने कहा कि एनवीडिया किसी गैर-जिम्मेदार एआई डेवलपर को चिप की आपूर्ति रोकने पर विचार करेगा और इससे पहले ग्राहक के साथ अपनी चिंताओं पर चर्चा करेगा।
• एनवीडिया की 13 अक्टूबर, 2026 की घोषणा में ब्रिटेन के एआई सुरक्षा और संरक्षा अनुसंधान के लिए पांच वर्षों में 250 मिलियन डॉलर मूल्य के कंप्यूटिंग संसाधन देने की प्रतिबद्धता जताई गई है, जिसके तहत हर साल 50 मिलियन डॉलर की सुविधा मिलेगी।
• कंप्यूटिंग सुविधा का खर्च ब्रिटेन में स्थित इंफ्रास्ट्रक्चर का इस्तेमाल करने वाले, यूके-आधारित NVIDIA Cloud Partners के जरिए दिया जाएगा। सेवा प्रदाताओं, तकनीकी ढांचे और व्यावसायिक शर्तों को अभी तय किया जाना है।
• कंप्यूटिंग सुविधा का अधिकांश हिस्सा ब्रिटेन के व्यापक सुरक्षा और संरक्षा अनुसंधान समुदाय को मिलेगा, जबकि एक हिस्सा BOLD, SOFAIR और इम्पीरियल कॉलेज लंदन को सहयोग देगा।
• शोध में एआई एजेंट, ओपन मॉडल, लोगों और एआई के बीच सहयोग तथा रोबोटिक्स सुरक्षा शामिल होगी।
• एआई मंत्री कनिष्क नारायण के अनुसार, ब्रिटेन का एआई सुरक्षा संस्थान अमेरिका के उन्नत एआई मॉडल जारी होने से पहले उनकी जांच कर सकता है।
• हुआंग एआई निगरानी और नियंत्रण तकनीक के तेज विकास के पक्ष में हैं और उनका अनुमान है कि कई वर्षों तक एआई इंफ्रास्ट्रक्चर की मांग घटकों की आपूर्ति से अधिक रहेगी।