वित्तीय प्रणालियों में एआई एजेंटों के इस्तेमाल से पहले ताइवान ने उनकी सुरक्षा पर परामर्श शुरू किया

कार्रवाई करने वाले एआई के सुरक्षा उपायों पर चर्चा के लिए 30 दिन

ताइवान के वित्तीय पर्यवेक्षण आयोग (एफएससी) ने 13 अक्टूबर, 2026 को 30 दिनों का सार्वजनिक परामर्श शुरू किया। इसमें ऐसे कृत्रिम बुद्धिमत्ता एजेंटों के लिए सुरक्षा उपाय प्रस्तावित किए गए हैं, जो वित्तीय संस्थानों की परिचालन प्रणालियों से जुड़ सकते हैं, उन्हें चला सकते हैं या उनमें कोई प्रक्रिया शुरू कर सकते हैं। प्रस्ताव में जोखिम के चार स्तर, एल1 से एल4 तक, तय किए गए हैं। इसमें कहा गया है कि सबसे अधिक जोखिम वाली कार्रवाइयों के लिए आवश्यक प्राधिकरण और समीक्षा होनी चाहिए या उनके निष्पादन को रोकने के तंत्र होने चाहिए।

‘वित्तीय क्षेत्र में एजेंटिक एआई के सुरक्षित उपयोग पर परामर्श दस्तावेज’ नाम का यह दस्तावेज व्यापक इस्तेमाल शुरू होने से पहले आया है। आयोग के सूचना प्रबंधन विभाग के निदेशक लिन यू-ताई ने कहा कि ज्यादातर वित्तीय संस्थान अभी प्रयोग कर रहे हैं या नियंत्रित माहौल में छोटे स्तर पर परीक्षण कर रहे हैं। उन्होंने कहा कि उन्हें ऐसी किसी संस्था के बारे में जानकारी नहीं है जिसने इन एजेंटों को वास्तविक कारोबारी परिचालन में इस्तेमाल करना शुरू किया हो।

आयोग की मुख्य चिंता ऐसे एआई की ओर बढ़ने को लेकर है जो सिर्फ जानकारी देता नहीं, बल्कि कार्रवाई भी करता है। ग्राहकों की शिकायतों का सार बनाने वाले सहायक से जुड़ी सुरक्षा चुनौती उस एजेंट से अलग है जो गोपनीय रिकॉर्ड हासिल कर सकता है, किसी प्रणाली में जानकारी बदल सकता है या ग्राहक को सीधे जवाब भेज सकता है।

इसलिए परामर्श का जोर केवल मॉडल की सटीकता पर नहीं, बल्कि अनुमतियों और जवाबदेही पर है। संस्थानों को तय करना होगा कि कोई एजेंट किन जानकारियों तक पहुंच सकता है, कौन-से उपकरण इस्तेमाल कर सकता है, क्या कार्रवाइयां कर सकता है और कुछ गलत होने पर कर्मचारी उसे कैसे रोक सकते हैं या उसका नियंत्रण अपने हाथ में ले सकते हैं।

यह दस्तावेज कोई नया नियम या औपचारिक दिशानिर्देश नहीं है। यह मौजूदा कानूनों, पर्यवेक्षी आवश्यकताओं, आउटसोर्सिंग नियमों या आंतरिक नियंत्रणों की जगह नहीं लेता। आयोग को उम्मीद है कि यह परामर्श आगे दिशानिर्देश तैयार करने में मदद करेगा, लेकिन उसने इस कदम के लिए कोई समयसीमा तय नहीं की है।

परिचालन प्रणालियों तक पहुंच से जोखिम क्यों बदलता है

एजेंटिक एआई किसी काम को पूरा करने के लिए चरणों की योजना बना सकता है, सॉफ्टवेयर टूल इस्तेमाल कर सकता है और अलग-अलग प्रणालियों से जानकारी हासिल कर सकता है। यही बात इसे ऐसे संवादात्मक ऐप से अलग करती है जिसका मुख्य काम ऐसा जवाब देना है, जिसका आकलन कोई व्यक्ति करे। जब गलत जवाब सीधे परिचालन कार्रवाई में बदल सकता है, तो सुरक्षा का मुद्दा और गंभीर हो जाता है।

लिन ने चार मुख्य जोखिम बताए: एजेंट का अपने तय उद्देश्य से भटकना, टूल का गलत इस्तेमाल करना या अपनी अनुमतियों से आगे जाना, संवेदनशील जानकारी उजागर करना और कार्रवाइयों की कड़ी में गलतियों को फैलने देना। ये जोखिम एक साथ भी सामने आ सकते हैं। कोई एजेंट ऐसी जानकारी हासिल कर सकता है जिसका उसे इस्तेमाल नहीं करना चाहिए, उसे संदेश में शामिल कर सकता है और फिर वह संदेश संस्था के बाहर भेज सकता है।

एआई द्वारा गढ़ी गई बातें, यानी विश्वसनीय लगने वाला लेकिन गलत आउटपुट, अब भी चिंता का विषय हैं। लिन ने एक ऐसी स्थिति का उदाहरण दिया जिसमें एजेंट व्यक्तिगत जानकारी को बाहरी ईमेल में डाल देता है, जबकि वहां उसका होना उचित नहीं है। यह संभावित विफलता का उदाहरण था, किसी वित्तीय संस्थान में हुई घटना का खुलासा नहीं।

गति से संभावित असर का पैमाना भी बदल जाता है। लिन ने एक व्यक्ति द्वारा प्रति घंटे शायद एक मामले को संभालने की तुलना ऐसे एजेंट से की जो 100 मामले संभाल सकता है। यह उदाहरण प्रसंस्करण की मात्रा में सौ गुना अंतर दर्शाता है, न कि उत्पादकता का कोई मापा हुआ नतीजा। उनका कहना था कि कर्मचारियों के दखल देने से पहले स्वचालित गलतियां कई मामलों में फैल सकती हैं।

सिर्फ तकनीक नहीं, काम का प्रबंधन करें

परामर्श में प्रस्तावों को तीन क्षेत्रों के आधार पर व्यवस्थित किया गया है: सुरक्षा शासन, जोखिम वर्गीकरण और सुरक्षा नियंत्रण। प्रबंधन की पसंदीदा इकाई एप्लिकेशन का परिदृश्य है, यानी वह खास काम जिसे संस्था किसी एजेंट से कराना चाहती है, न कि अलग से देखा गया कोई एआई उत्पाद।

हर परिदृश्य के लिए संस्था को कारोबारी उद्देश्य, जिम्मेदार कर्मचारी, अनुमत डेटा, उपलब्ध टूल और मंजूर कार्रवाइयां तय करनी चाहिए। उसे यह भी पहचानना चाहिए कि आउटपुट कहां भेजे या दर्ज किए जा सकते हैं और एजेंट के असामान्य व्यवहार करने पर क्या होगा।

इस तरीके से एक ही सॉफ्टवेयर पर उसकी भूमिका के आधार पर अलग-अलग नियंत्रण लागू किए जा सकते हैं। सुरक्षा से जुड़ी जानकारी का विश्लेषण करने वाला, लेकिन कोई कार्रवाई न करने वाला एजेंट उस एजेंट से अलग है जिसे परिचालन प्रणाली में बदलाव करने की अनुमति हो। इसलिए अनुमतियों में बदलाव उतना ही अहम हो सकता है जितना मूल मॉडल में बदलाव।

शासन व्यवस्था शुरुआती मंजूरी तक सीमित नहीं रहेगी। प्रस्तावों में जोखिम के अनुरूप समीक्षा, निगरानी, निरीक्षण, क्षमता घटाने, निलंबन और बहाली के तंत्र शामिल हैं। वर्गीकरण से मंजूरी की सीमाएं, परीक्षण की शर्तें, तैनाती के फैसले और बाद के पर्यवेक्षण तय होने चाहिए। एप्लिकेशन में बदलाव होने पर उसका फिर से आकलन भी किया जाना चाहिए।

तीन कसौटियों पर जोखिम के चार स्तर

प्रस्तावित एल1 से एल4 वर्गीकरण में तीन कसौटियां हैं: डेटा की संवेदनशीलता, कार्रवाइयों का प्रभाव और क्षमता की सीमाएं या असर फैलने की संभावना। आकलन में अधिक जोखिम वाले नतीजे को आधार बनाया जाएगा; कम जोखिम वाली विशेषता से ज्यादा खतरनाक विशेषता का असर कम नहीं माना जाएगा।

डेटा की संवेदनशीलता से आशय है कि एजेंट क्या देख सकता है। सार्वजनिक जानकारी तक पहुंच और व्यक्तिगत रिकॉर्ड या कारोबारी गोपनीय जानकारी तक पहुंच एक जैसी नहीं है। कार्रवाई का प्रभाव इस बात पर निर्भर करता है कि एजेंट उस जानकारी के साथ क्या कर सकता है: उसे पढ़ने से लेकर रिकॉर्ड बदलने या संस्था के बाहर संपर्क करने तक।

तीसरी कसौटी एजेंट की गतिविधि के दायरे और पहुंच पर विचार करती है। एक ही काम तक सीमित एजेंट उस एजेंट से अलग है जो एक साथ कई मामलों को संसाधित कर सकता है, चौबीसों घंटे काम जारी रख सकता है या कई जुड़ी हुई प्रक्रियाओं से गुजर सकता है। आकलन में यह भी देखा जाता है कि छोटी-सी गलती से बड़ी परिचालन समस्या पैदा हो सकती है या नहीं।

एल4 एप्लिकेशन के मामले में प्रस्ताव होगा कि सबसे अधिक जोखिम वाली कार्रवाइयां आवश्यक प्राधिकरण और समीक्षा के बिना या उन्हें रोकने के तंत्र के बगैर अपने आप निष्पादित न हों। कम जोखिम वाले एप्लिकेशन के लिए परीक्षण की गुंजाइश बनी रहेगी। आयोग का कहना है कि उसका तरीका जोखिम, आनुपातिकता और किसी खास तकनीक के प्रति तटस्थता पर आधारित है और इसमें अंतरराष्ट्रीय सुरक्षा ढांचों का संदर्भ लिया गया है।

ग्राहक सेवा का उदाहरण बताता है कि अनुमतियां क्यों मायने रखती हैं

लिन का ग्राहक सेवा संबंधी उदाहरण इसका व्यावहारिक अंतर दिखाता है। शिकायतें इकट्ठा करके उनका सार तैयार करने वाला एजेंट कम से मध्यम जोखिम के दायरे में आता है। लेकिन अगर उसे ग्राहकों को जवाब भेजने की अनुमति भी हो, तो लिन उसे मध्यम से अधिक जोखिम वाला मानते हैं, क्योंकि वह संस्था के बाहर कार्रवाई कर सकता है।

अंतर सिर्फ इतना नहीं है कि दोनों एप्लिकेशन एआई का इस्तेमाल करते हैं। पहले मामले में कर्मचारी ग्राहक पर असर पड़ने से पहले सार की समीक्षा कर सकता है। दूसरे में एजेंट अपनी समझ को बाहरी संवाद में बदल सकता है। संदेश भेजने की अनुमति से गलती के नतीजे बदल जाते हैं।

जानकारी लिखने की अनुमति से एक और सीमा तय होती है। केवल पढ़ने तक सीमित एजेंट उस अनुमति के जरिए मूल रिकॉर्ड नहीं बदल सकता। लिखने की अनुमति मिलने पर गलतियों से जानकारी बदल या मिट सकती है। इसलिए नियंत्रणों में आउटपुट की गुणवत्ता के साथ-साथ उन प्रणालियों की अखंडता भी शामिल होनी चाहिए जिनसे एजेंट जुड़ता है।

यह उदाहरण यह भी बताता है कि किसी संस्था के पूरे एआई कार्यक्रम के लिए एक ही जोखिम स्तर तय करना पर्याप्त क्यों नहीं होगा। एक ही एजेंट के दो इस्तेमालों के लिए मंजूरी की अलग शर्तें, निगरानी और बहाली की व्यवस्थाएं जरूरी हो सकती हैं, क्योंकि उनकी डेटा तक पहुंच और अनुमत कार्रवाइयां अलग हैं।

डिजिटल कर्मचारी को भी मानवीय निगरानी चाहिए

लिन ने एआई एजेंट को डिजिटल कर्मचारी कहा, क्योंकि वह किसी काम को सक्रिय रूप से आगे बढ़ा सकता है। यह उपमा केवल भूमिका सौंपने तक सीमित नहीं है: संस्था को तय करना होगा कि वह क्या कर सकता है, तैनाती से पहले उसका परीक्षण करना होगा, उसकी गतिविधि पर निगरानी रखनी होगी और उसका काम रोकने की प्रक्रिया भी होनी चाहिए।

तैनाती की जिम्मेदारी पर बात करते हुए लिन ने स्पष्ट किया कि किसी काम को एजेंट को सौंपने से मानवीय जवाबदेही खत्म नहीं होती। अंग्रेजी से अनुवादित उनके शब्द थे:

एआई केवल सहायक हो सकता है; अंतिम निगरानी मनुष्यों के हाथ में है।

इस सिद्धांत के अनुसार, एजेंट के अधिकार तय करने और विफलता पर प्रतिक्रिया देने की जिम्मेदारी लोगों की है। एआई एजेंट शामिल होने भर से मौजूदा सुरक्षा नियंत्रणों को दरकिनार नहीं किया जा सकता। संस्था को जिम्मेदार मानवीय निर्णयकर्ता और उस व्यक्ति द्वारा मंजूर सीमाएं लागू करने के तकनीकी साधन, दोनों चाहिए।

आयोग का ध्यान कर्मचारियों द्वारा एआई के हर तरह के इस्तेमाल पर नहीं है। किसी व्यक्ति के मौजूदा अधिकारों के भीतर काम करने वाले निजी सहायक को मौजूदा आंतरिक नियंत्रणों और सुरक्षा व्यवस्थाओं के जरिए संभाला जा सकता है। किसी एजेंट को वित्तीय संस्था की परिचालन प्रणालियों से जोड़ने के लिए जोखिम और सूचना सुरक्षा का नया आकलन जरूरी है।

पहचान और पहुंच नियंत्रण एजेंट पर भी लागू

सुरक्षा प्रस्तावों में एजेंट को गैर-मानवीय पहचान और सॉफ्टवेयर वर्कलोड माना गया है। व्यावहारिक रूप से संस्था को पता होना चाहिए कि कौन-सा एजेंट काम कर रहा है और उस पर कौन-सी अनुमतियां लागू हैं। उसकी गतिविधि को असंबंधित उपयोगकर्ताओं या अन्य स्वचालित प्रक्रियाओं से अलग पहचान पाना संभव होना चाहिए।

यह तरीका जीरो ट्रस्ट सिद्धांतों पर आधारित है: सिर्फ इसलिए किसी पहुंच को सुरक्षित नहीं मान लिया जाता कि प्रणाली संगठन के भीतर है। पहचान और अनुमतियों की पुष्टि होनी चाहिए, पहुंच को काम के लिए जरूरी सीमा तक सीमित रखना चाहिए और कार्रवाइयों का पता लगाया जा सकना चाहिए।

नियंत्रणों में पहचान, उपकरण और निष्पादन माहौल, नेटवर्क, एप्लिकेशन और वर्कलोड तथा डेटा सुरक्षा शामिल हैं। प्रस्तावों में बुनियादी और उन्नत सुरक्षा आवश्यकताएं और नियंत्रण उद्देश्य, दोनों शामिल हैं। व्यवहार नियंत्रण, दृश्यता और विश्लेषण भी इस तरीके का हिस्सा हैं।

लिन ने कई ठोस उपाय बताए। एजेंटों को उपयुक्त रूप से अलग किए गए माहौल में चलना चाहिए, नेटवर्क कनेक्शन काम के अनुरूप सीमित होने चाहिए और टूल केवल मंजूर सूची से उपलब्ध होने चाहिए। डेटा तक पहुंच न्यूनतम आवश्यक सिद्धांत के अनुसार होनी चाहिए। ये उपाय उन अलग-अलग रास्तों को रोकते हैं जिनसे कोई एजेंट अपनी तय भूमिका से आगे जा सकता है; इनके लिए सिर्फ मॉडल को दिए गए निर्देशों पर निर्भर नहीं रहा जाता।

पूरे कार्यप्रवाह में विफलताओं की जांच जरूरी

ऐसे एप्लिकेशन जो किसी कार्यप्रवाह को आगे बढ़ा सकते हैं, उनके लिए परामर्श में तैनाती से पहले प्रॉम्प्ट इंजेक्शन, टूल के गलत इस्तेमाल, विरासत में मिली अनुमतियों और मेमोरी दूषित होने के खिलाफ परीक्षण की मांग की गई है। इन परीक्षणों से पता चलता है कि जानकारी, टूल या अधिकार मिलने पर एजेंट मंजूर काम से भटकता है या नहीं।

प्रॉम्प्ट इंजेक्शन तब होता है जब एजेंट द्वारा पढ़ी जा रही सामग्री में छिपे निर्देश उसके व्यवहार को दूसरी दिशा में मोड़ने की कोशिश करते हैं। टूल का गलत इस्तेमाल जुड़े हुए सॉफ्टवेयर का अनुचित उपयोग है। विरासत में मिली अनुमतियों से एजेंट को किसी दूसरे खाते या प्रक्रिया से मिली पहुंच मिल सकती है, जबकि मेमोरी दूषित होने का मतलब है कि सहेजी गई जानकारी बाद की गतिविधि को अनचाहे तरीके से प्रभावित करे।

परिचालन के लक्ष्य केवल विफलताओं को रोकने तक सीमित नहीं हैं। प्रणालियों की गतिविधि देखी जा सके, उन्हें सीमित या रोका जा सके, उनसे उबरा जा सके और उनकी गतिविधियों का पता लगाया जा सके। कर्मचारियों को यह देख पाने की जरूरत है कि एजेंट क्या कर रहा है, हानिकारक गतिविधि रोकनी है और जहां संभव हो प्रभावित परिचालन बहाल करना है।

एजेंट की गतिविधि के रिकॉर्ड जांच और ऑडिट में मदद करने चाहिए। अगर एजेंट पहले ही गलत जानकारी दर्ज कर चुका है या आगे की कार्रवाइयां शुरू कर चुका है, तो उसे रोकना भर विफलता का समाधान नहीं हो सकता। इसलिए प्रस्तावों में गतिविधि रोकने के साथ बहाली और घटना के रिकॉर्ड को भी जोड़ा गया है।

यह परामर्श है, तैनाती का अंतिम नियम नहीं

आयोग ने यह दस्तावेज ताइवान के सार्वजनिक नीति नेटवर्क भागीदारी मंच के सार्वजनिक चर्चा अनुभाग में प्रकाशित किया। उसका कहना है कि परामर्श से रूपरेखा में व्यावहारिक अनुभव शामिल होगा और नीतिगत काम, संभावित दिशानिर्देशों तथा पर्यवेक्षी चर्चा को आधार मिलेगा।

लिन ने कहा कि तेजी से बदलती तकनीक एक कारण है कि तुरंत कोई तय दिशानिर्देश जारी नहीं किया जा रहा। आयोग यह भी नहीं मान सकता कि उसने सभी प्रासंगिक जोखिमों की पहचान कर ली है। इसलिए आगे दिशानिर्देश बनाने का उसका इरादा लोगों की प्रतिक्रियाओं और आगे के घटनाक्रम पर निर्भर है, न कि तय तारीख पर अंतिम दस्तावेज जारी करने का वादा।

आयोग ने यह क्रम बताया है:

• जुलाई 2026: एफएससी ने एआई हमलों से निपटने की रणनीतियां प्रस्तावित कीं। लिन ने इसे मौजूदा काम की पूर्वपीठिका बताया।
• 13 अक्टूबर, 2026: एफएससी ने एजेंटिक एआई सुरक्षा परामर्श दस्तावेज जारी किया।
• प्रकाशन के बाद: प्रस्तावित तरीके पर प्रतिक्रिया देने के लिए 30 दिनों की सार्वजनिक टिप्पणी अवधि रखी गई है।
• परामर्श के बाद: औपचारिक दिशानिर्देश जारी करना प्रतिक्रियाओं और तकनीकी विकास पर निर्भर करेगा; प्रकाशन की कोई समयसीमा घोषित नहीं की गई है।

मौजूदा परीक्षणों से इस समय का कारण समझ आता है। लिन ने कहा कि कई प्रयोग साइबर सुरक्षा के क्षेत्र में हो रहे हैं, जैसे सुरक्षा संबंधी खुफिया जानकारी का विश्लेषण करना, बिना सीधे परिचालन कार्रवाई किए। आयोग चाहता है कि एजेंटों के प्रशासनिक और कारोबारी प्रक्रियाओं में आगे बढ़ने से पहले सुरक्षा उपाय तैयार हों। अगला ठोस कदम परामर्श है; दिशानिर्देशों का अंतिम रूप और दर्जा अभी तय नहीं है।

मुख्य बातें

• ताइवान के एफएससी ने वित्तीय क्षेत्र में एजेंटिक एआई के सुरक्षित उपयोग पर 13 अक्टूबर, 2026 को 30 दिनों का परामर्श शुरू किया।
• ध्यान ऐसे एजेंटों पर है जो वित्तीय संस्थानों की परिचालन प्रणालियों से जुड़ सकते हैं, उन्हें चला सकते हैं या उनमें कोई प्रक्रिया शुरू कर सकते हैं।
• प्रस्ताव में जोखिम के चार स्तर हैं, जिनका आकलन डेटा की संवेदनशीलता, कार्रवाई के प्रभाव और क्षमता की सीमाओं के आधार पर होगा।
• सबसे अधिक जोखिम वाली कार्रवाइयों के लिए आवश्यक प्राधिकरण और समीक्षा या निष्पादन रोकने के तंत्र जरूरी होंगे।
• संस्थानों को अनुमतियां सीमित करनी चाहिए, गतिविधियों का रिकॉर्ड रखना चाहिए और एजेंटों को रोकने तथा विफलताओं से उबरने में सक्षम होना चाहिए।
• एआई एजेंट काम करे, तब भी मानवीय जिम्मेदारी बनी रहती है।
• ज्यादातर इस्तेमाल अभी प्रयोग के चरण में हैं। यह दस्तावेज औपचारिक दिशानिर्देश नहीं है और इन्हें जारी करने की कोई समयसीमा तय नहीं हुई है।