झेजियांग विश्वविद्यालय ने एआई प्रणालियों को उनके कार्यों के अनुरूप रखने पर आधारित कानून का प्रस्ताव दिया

एआई को क्या करने की अनुमति होनी चाहिए, यह तय करने के लिए 99 अनुच्छेदों का प्रस्ताव

झेजियांग विश्वविद्यालय के शोधकर्ताओं ने कृत्रिम बुद्धिमत्ता कानून का एक विशेषज्ञ प्रस्ताव जारी किया है, जिसमें आठ अध्याय और 99 अनुच्छेद हैं। इसका केंद्रीय विचार है: किसी एआई प्रणाली को दिया गया अधिकार उसकी विश्वसनीयता और उसके द्वारा किए जाने वाले कार्य के नतीजों के अनुरूप होना चाहिए।

झेजियांग विश्वविद्यालय का संस्करण 1.0 प्रस्ताव 24 सितंबर को आयोजित एक कार्यक्रम में पेश किया गया। विश्वविद्यालय के आधिकारिक कार्यक्रम नोटिस के अनुसार, यह आयोजन 24 सितंबर, 2026 को दोपहर 2 बजे से शाम 5:30 बजे तक उसके ज़िजिंगांग परिसर में होना था। कार्यक्रम के एजेंडे में उद्योग विकास के साथ अधिकारों की सुरक्षा और जवाबदेही को भी जगह दी गई, जो उन दो मांगों को दर्शाता है जिन पर प्रस्ताव ध्यान देना चाहता है।

एआई से प्रभावित लोगों के लिए व्यावहारिक चिंताएं तत्काल हैं। क्या कोई मॉडल संचालक बिना अनुमति किसी चित्रकार की कृतियों का प्रशिक्षण के लिए इस्तेमाल कर सकता है? जब कोई भाषा मॉडल नुकसानदेह और गलत जवाब देता है, तो जिम्मेदारी किसकी होगी? किसी के चेहरे का बिना अनुमति इस्तेमाल करके बनाया गया वीडियो ऑनलाइन फैलने के बाद वह व्यक्ति सबूत कैसे सुरक्षित रख सकता है और उपचार कैसे मांग सकता है?

व्यवसायों के सामने दूसरी तरह की चिंताएं हैं: एक-दूसरे पर चढ़ती अनुपालन आवश्यकताएं, उत्पादों के इस्तेमाल से पहले बोझिल प्रक्रियाएं और ऐसी लागतें जिन्हें छोटे कारोबारों के लिए वहन करना मुश्किल हो सकता है। शोधकर्ताओं का कहना है कि उनका दृष्टिकोण इन दबावों का जवाब देते हुए अधिकारों की रक्षा करना चाहता है।

यह दस्तावेज चर्चा और आगे संशोधन के लिए अकादमिक प्रस्ताव है। इसका सबसे विकसित विचार किसी खास परिस्थिति में एआई का आकलन करने का तरीका है, जो प्रणाली की क्षमताओं, उसके काम करने की विश्वसनीयता और प्रभावित लोगों के लिए दांव पर लगी बातों को आपस में जोड़ता है।

मसौदा कैसे तैयार हुआ

मसौदा तैयार करने वाली टीम ने प्रस्ताव विकसित करने में लगभग छह महीने लगाए और पांच दौर के गहन संशोधन पूरे किए। शुरुआती 174 अनुच्छेदों का मसौदा घटकर 99 अनुच्छेदों का रह गया, यानी 75 अनुच्छेद या लगभग 43 प्रतिशत की कमी हुई। इससे पता चलता है कि विकास के दौरान पाठ कितना संक्षिप्त किया गया, हालांकि अनुच्छेदों की संख्या भर से यह पता नहीं चलता कि अलग-अलग प्रावधान उपयोगकर्ताओं या कंपनियों पर कितना बोझ डालेंगे।

शोधकर्ताओं ने हांगझोऊ में 20 से अधिक एआई कारोबारों और बड़ी इंटरनेट कंपनियों का दौरा किया। उनके काम में झिजियांग विधायी मंच पर चर्चाएं, संबंधित मंत्रालयों और आयोगों के साथ विचार-विमर्श तथा विशेषज्ञ समीक्षा के कई दौर भी शामिल थे। यह शोध हांगझोऊ के एआई उद्योग और नवाचार शहर के रूप में उसके विकास से जुड़े दो स्थानीय नियमों के मसौदों पर काम के साथ-साथ चला।

इस आयोजन के आयोजक झेजियांग विश्वविद्यालय का गुआंगहुआ विधि विद्यालय, विश्वविद्यालय का डिजिटल कानून एवं शासन अनुसंधान संस्थान, झेजियांग विधायी अनुसंधान संस्थान और झेजियांग विश्वविद्यालय विधायी अनुसंधान संस्थान थे। आधिकारिक एजेंडे में प्रस्ताव जारी करने और उसका परिचय देने की जिम्मेदारी गुआंगहुआ विधि विद्यालय के शोधकर्ता ली वेनलोंग को दी गई थी।

विकास और प्रस्तुति का क्रम इस प्रकार था:

• लगभग छह महीने में टीम ने कारोबारी दौरे, परामर्श और संशोधन के पांच दौर पूरे किए।
• 24 सितंबर को झेजियांग विश्वविद्यालय में प्रस्ताव पेश किया गया; आधिकारिक नोटिस में कार्यक्रम की तारीख 2026 दी गई।
• बैठक के बाद टीम ने मिली प्रतिक्रियाओं को शामिल कर प्रस्ताव के आगे के संस्करण तैयार करने की योजना बनाई।

प्रस्तावित नियमों के पीछे तीन सवाल

झेजियांग विश्वविद्यालय के डिजिटल कानून एवं शासन अनुसंधान संस्थान की निदेशक सुन शियाओशिया ने इस ढांचे के तीन परस्पर जुड़े तत्व बताए हैं: कार्य करने की क्षमता, संज्ञानात्मक परिपक्वता और कार्य की प्रकृति तथा उसका प्रभाव। सरल शब्दों में सवाल हैं कि एआई प्रणाली क्या कर सकती है, उस पर कितना भरोसा किया जा सकता है और उसके फैसले कितने मायने रखते हैं।

सुन ने चीनी में एआई जोखिम के स्रोत पर अपना विचार समझाया:

हमारा मानना है कि कृत्रिम बुद्धिमत्ता के जोखिम मशीनों की ताकत से नहीं, बल्कि क्षमता, संज्ञान और कार्यों के बीच असंगति से पैदा होते हैं।

कोई प्रणाली बिना इंसानी हस्तक्षेप के लंबे समय तक कई काम कर सकती है, लेकिन असामान्य स्थिति को पहचानने में संघर्ष कर सकती है। ऐसी प्रणाली को व्यक्तिगत सुरक्षा से जुड़ा काम सौंपने पर, उसके कार्रवाई करने की स्वतंत्रता और कुछ गलत होने पर उसका आकलन कर पाने की क्षमता के बीच खतरनाक अंतर पैदा होगा।

इसलिए प्रस्ताव तकनीक पर लगाए गए किसी एक लेबल तक सीमित नहीं रहता। नियामक प्रणाली के खास संस्करण, उसके निर्धारित इस्तेमाल और उसके काम करने के माहौल की जांच करेगा। एक ही मूल तकनीक के अलग-अलग कामों में इस्तेमाल पर अलग नियंत्रण उचित हो सकते हैं।

क्षमता और विश्वसनीयता का अलग-अलग आकलन होगा

प्रस्तावित क्षमता पैमाने के चार स्तर हैं: सहायता, सीमित स्वचालन, उच्च स्वचालन और स्वायत्त क्रियान्वयन। आकलन में देखा जाएगा कि प्रणाली कितनी स्वतंत्रता से काम करती है, उसके फैसलों का दायरा कितना व्यापक है, वह किन साधनों तक पहुंच सकती है, लगातार कितनी देर काम कर सकती है और क्या वह डिजिटल या भौतिक माहौल में बदलाव कर सकती है।

साधनों तक पहुंच मायने रखती है, क्योंकि केवल कोई कार्रवाई सुझाने वाली एआई प्रणाली की पहुंच, उसे खुद अंजाम देने की अनुमति वाली प्रणाली से अलग होती है। दूसरे सॉफ्टवेयर या उपकरण चलाने की अनुमति किसी गलत जवाब को वास्तविक कार्रवाइयों की श्रृंखला में बदल सकती है।

संज्ञानात्मक परिपक्वता के भी चार स्तर होंगे: बुनियादी, सामान्य, उच्च और अत्यधिक नियंत्रित। आकलन में सटीकता, निरंतरता, असामान्य इनपुट पहचानने और त्रुटियां सुधारने की क्षमता, साइबर सुरक्षा, पता लगाने की क्षमता और किसी व्यक्ति के नियंत्रण संभालने की परिस्थितियों की जांच होगी।

एक अन्य कारक भरोसे के स्तर का सही आकलन है। सरल शब्दों में, इसका मतलब यह जांचना है कि प्रणाली का जताया गया भरोसा इस बात से मेल खाता है या नहीं कि वह कितनी बार सही होती है। बार-बार गलत होने के बावजूद यकीन से बोलने वाली प्रणाली पर उपयोगकर्ताओं के लिए निगरानी रखना खास तौर पर मुश्किल हो सकता है।

ढांचे में यह भी देखा जाएगा कि क्या महत्वपूर्ण नतीजों की व्याख्या की जा सकती है और क्या प्रणाली तय सीमाओं के भीतर रह सकती है। क्षमता को विश्वसनीयता से अलग रखने से नियामक ऐसी प्रणाली की पहचान कर सकता है जो स्वतंत्र रूप से काम करने के लिए पर्याप्त शक्तिशाली है, लेकिन संवेदनशील काम के लिए पर्याप्त भरोसेमंद नहीं।

किन कामों की अधिक जांच होगी?

प्रस्ताव कामों को प्रभाव के तीन स्तरों में बांटता है: कम, सामान्य और उच्च। आकलन में प्रभावित अधिकारों का महत्व, नुकसान की संभावना और गंभीरता, प्रभावित लोगों की संख्या, असर कितने समय तक रहता है, नतीजे को पलटा जा सकता है या नहीं और लोगों को उपचार मिल सकता है या नहीं, इन बातों पर विचार होगा।

लोगों की असुरक्षा भी मायने रखेगी। जिस व्यक्ति के लिए किसी फैसले को चुनौती देना मुश्किल हो, उससे जुड़ा निर्णय उस जैसे ही किसी ऐसे व्यक्ति के मामले की तुलना में अधिक जांच की मांग कर सकता है जिसे आसानी से मदद मिल सकती है।

जीवन और स्वास्थ्य, व्यक्तिगत स्वतंत्रता, मानवीय गरिमा, समान अवसर, बड़े संपत्ति हितों, शिक्षा, रोजगार, सामाजिक सुरक्षा, न्याय, प्रशासनिक प्रवर्तन या सार्वजनिक सुरक्षा से जुड़े कामों को उच्च प्रभाव वाला माना जाएगा। बड़ी संख्या में लोगों पर गंभीर असर डाल सकने वाले काम भी इसी श्रेणी में आएंगे।

प्रस्ताव में यह भी कहा गया है कि प्रतिबंधित एआई अनुप्रयोगों का विकास, तैनाती या इस्तेमाल नहीं किया जाना चाहिए, चाहे उनके कार्य का प्रभाव किसी भी श्रेणी का हो। प्रस्ताव के साथ जारी विवरण में प्रतिबंधित अनुप्रयोगों की विस्तृत सूची या शुरुआत में उठे कॉपीराइट, गलत नतीजों और चेहरे के अनधिकृत इस्तेमाल से जुड़े हर विवाद का सटीक कानूनी जवाब नहीं दिया गया है।

चिकित्सा का उदाहरण अनुरूपता का सिद्धांत समझाता है

सुन ने यह समझाने के लिए मेडिकल इमेजिंग और पैथोलॉजी विश्लेषण का उदाहरण दिया कि प्रणाली को सौंपा गया काम उसकी तकनीकी ताकत जितना ही मायने रखता है। एआई बड़ी मात्रा में तस्वीरों और चिकित्सा आंकड़ों को तेजी से संसाधित कर सकता है, जबकि कठिन या असामान्य स्थितियों में उसका तर्क सीमित रह सकता है।

उपयुक्त काम सौंपते समय इन दोनों बातों को ध्यान में रखा जाएगा। प्रणाली के फैसले पर जरूरत से ज्यादा भरोसा करते हुए कठिन निदान की पूरी जिम्मेदारी उसे देना वही असंगति पैदा करेगा, जिसे यह ढांचा दूर करना चाहता है।

सुन ने चीनी में इस उद्देश्य को यूं बताया:

अनुरूपता की मांग केवल प्रतिबंध लगाने से अलग है; इसका उद्देश्य क्षमता, संज्ञान और कामों के बीच सर्वोत्तम मेल तलाशना है।

उनके अनुसार, किसी कठिन काम में खराब प्रदर्शन करने वाली प्रणाली को पूरी तरह हटाने के बजाय कम जटिल काम सौंपा जा सकता है। इसलिए व्यावहारिक विकल्प केवल बिना किसी रोक-टोक के इस्तेमाल की अनुमति देना या इस्तेमाल पूरी तरह रोक देना नहीं है। प्राधिकरण और संचालक काम, प्रणाली की अनुमतियों या इंसानी भागीदारी के स्तर में बदलाव कर सकते हैं।

अस्पताल के लिए यह तरीका एआई को सौंपे गए सटीक काम और उससे जुड़े सुरक्षा उपायों पर ध्यान देगा। मरीज के लिए मुख्य चिंता यह होगी कि प्रणाली की भूमिका फैसले की गंभीरता के अनुरूप है या नहीं।

एआई बदलने के साथ मंजूरी की भी समीक्षा होगी

प्रस्तावित शासन प्रक्रिया में छह चरण शामिल हैं: अनुसंधान और विकास, परीक्षण, तैनाती, संचालन, पुनरावृत्ति और वापसी। इन सभी चरणों में वर्गीकरण जारी रहेगा, क्योंकि इस्तेमाल शुरू होने के बाद प्रणाली की क्षमताएं और परिस्थितियां बदल सकती हैं।

मॉडल के अपडेट से प्रणाली की कार्रवाई करने की क्षमता का दायरा बढ़ सकता है। नए माहौल में विस्तार से उसके फैसलों के संपर्क में आने वाले लोगों की संख्या बढ़ सकती है या अधिक संवेदनशील हित प्रभावित हो सकते हैं। नए आंकड़े मॉडल के व्यवहार को भी बदल सकते हैं, यहां तक कि पहले के परीक्षणों में नजर न आए तरीकों से उसकी विश्वसनीयता घट सकती है।

प्रस्ताव में प्रणाली या काम बदलने पर पुनर्मूल्यांकन की मांग की गई है। कोई आकलन प्रणाली के एक ठोस संस्करण, उद्देश्य और संचालन के माहौल से जुड़ा होगा, ताकि इनमें से किसी भी तत्व के बदलने पर संचालक अपने दायित्वों की फिर से समीक्षा करें।

सुन ने आठ क्षेत्रों की पहचान की है जहां अनुरूपता का सिद्धांत कानूनी नियमों का मार्गदर्शन कर सकता है: वर्गीकरण, कर्तव्यों का बंटवारा, आकलन, उच्च प्रभाव वाले इस्तेमाल की पहचान, नियमन की सख्ती, जोखिम नियंत्रण, कानूनी जिम्मेदारी और समय के साथ बदलाव। इन फैसलों को एक ढांचे से जोड़ना एआई शासन को अधिक सुसंगत बनाने की प्रस्ताव की मुख्य कोशिश है।

अधिकारों की सुरक्षा और कारोबारी दायित्वों का मेल बारीकियों में

चित्रकारों, गलत जवाबों और गढ़े हुए वीडियो से जुड़े सवाल दिखाते हैं कि तकनीकी परीक्षण से आगे भी जवाबदेही क्यों मायने रखती है। मुआवजा या नुकसानदेह सामग्री हटाने की मांग करने वाले व्यक्ति को अपने साथ हुए नुकसान से जिम्मेदार पक्षों तक पहुंचने का व्यावहारिक रास्ता चाहिए।

प्रस्ताव अपने अनुरूपता ढांचे में कानूनी जिम्मेदारी को शामिल करता है। इससे कर्तव्यों और जवाबदेही पर चर्चा में यह बात प्रासंगिक हो जाएगी कि कोई प्रणाली सौंपे गए काम के लिए उपयुक्त है या नहीं। हालांकि, आकलन के नतीजों और नागरिक दायित्व के मौजूदा नियमों के बीच संबंध उन मुद्दों में शामिल है जिन पर सुन ने कहा है कि और विस्तार से काम करने की जरूरत है।

शोधकर्ताओं को यह भी स्पष्ट करना होगा कि संज्ञानात्मक परिपक्वता की जांच कैसे हो और क्षमता, विश्वसनीयता तथा काम की मांगों के बीच कितना अंतर प्रणाली को अनुपयुक्त मानने के लिए पर्याप्त होगा। इन्हीं फैसलों से तय होगा कि कंपनियां इस ढांचे को कितनी एकरूपता से लागू कर सकती हैं और नियामक उनके आकलन की कितनी प्रभावी जांच कर सकते हैं।

कार्यक्रम के एजेंडे ने इन परस्पर विरोधी व्यावहारिक जरूरतों को एक ही कार्यक्रम में शामिल किया। उद्योग सत्र में मीतुआन और डॉयिन के कानूनी विशेषज्ञों के साथ अकादमिक और तकनीकी प्रतिभागियों के नाम थे। अधिकारों और जवाबदेही से जुड़े सत्र में अलीबाबा के एक अनुपालन निदेशक, वकीलों और विश्वविद्यालय के विद्वानों को शामिल किया गया था। उनकी भागीदारी से चर्चा के लिए आयोजकों द्वारा जुटाए गए विभिन्न दृष्टिकोणों का पता चलता है; एजेंडे के आधार पर उन प्रतिभागियों को मसौदे के बारे में कोई साझा रुख देना उचित नहीं होगा।

छोटे कारोबारों के लिए व्यावहारिक दांव यह हैं कि कितने आकलन करने होंगे, उन्हें कौन-से सबूत देने होंगे और उत्पाद विकसित होने के साथ दायित्व कैसे बदलेंगे। एआई से प्रभावित लोगों के लिए सवाल यह है कि क्या ये दायित्व नुकसान रोकने और कुछ गलत होने पर कारगर उपचार पाने में मदद करेंगे।

शोध दल बैठक से मिली प्रतिक्रियाओं के आधार पर प्रस्ताव में संशोधन की योजना बना रहा है। अब मुख्य काम अनुरूपता के सिद्धांत को ऐसे परीक्षणों, सीमाओं और जिम्मेदारी के नियमों में बदलना है जिन्हें वास्तविक विवादों और उत्पाद संबंधी फैसलों में लागू किया जा सके।

मुख्य बातें

• झेजियांग विश्वविद्यालय के विशेषज्ञों के एआई कानून प्रस्ताव में आठ अध्याय और 99 अनुच्छेद हैं; शुरुआती मसौदे में 174 अनुच्छेद थे।
• इस ढांचे में प्रणाली की कार्य-क्षमता, संज्ञानात्मक विश्वसनीयता और उसे सौंपे गए काम को परस्पर जोड़ा गया है।
• स्वास्थ्य, स्वतंत्रता, रोजगार, शिक्षा और अन्य संवेदनशील कामों को उच्च प्रभाव वाला माना जाएगा।
• आकलन विकास और इस्तेमाल के पूरे चक्र में होंगे और प्रणाली या उसके काम में बदलाव आने पर बदलेंगे।
• इस अकादमिक प्रस्ताव में आगे संशोधन होगा; परीक्षण के तरीकों, सीमाओं और दायित्व के नियमों पर अधिक विस्तृत काम करना बाकी है।