दक्षिण कोरियाई न्यायाधीशों ने एआई से गढ़े गए फर्जी कानूनी संदर्भों की व्यापकता बताई, न्यायालय प्रशासन ने कानूनी बदलावों की पहल की

गढ़े हुए फैसले अदालती दस्तावेज़ों में पहुँचे

दक्षिण कोरिया के सर्वोच्च न्यायालय ने कृत्रिम बुद्धिमत्ता से जुड़े झूठे कानूनी संदर्भों पर न्यायाधीशों का पहला सर्वेक्षण जारी किया है। इसमें पाया गया कि दीवानी, पारिवारिक और प्रशासनिक मामलों की सुनवाई करने वाले 196 न्यायाधीशों, यानी इस सवाल का जवाब देने वालों में 80.7%, ने ऐसे फैसलों के संदर्भ देखे थे जिनका कोई अस्तित्व ही नहीं था। कुछ अदालती दस्तावेज़ों में गढ़े हुए फैसले शामिल थे, जिन्हें सर्वोच्च न्यायालय के असली निर्णयों जैसा दिखाया गया था।

6 से 16 अक्टूबर के बीच किए गए और 2 नवंबर को जारी इस सर्वेक्षण में देशभर की अदालतों के 360 न्यायाधीशों ने जवाब दिए। इसमें यह भी पाया गया कि वकीलों के साथ-साथ अपने मुकदमे खुद लड़ने वाले लोगों ने भी झूठे कानूनी संदर्भों वाले दस्तावेज़ जमा किए थे।

सर्वोच्च न्यायालय की प्रशासनिक इकाई, राष्ट्रीय न्यायालय प्रशासन, दीवानी प्रक्रिया अधिनियम और आपराधिक प्रक्रिया अधिनियम में बदलावों पर न्याय मंत्रालय तथा अन्य एजेंसियों से परामर्श करने की योजना बना रही है। इन चर्चाओं में गलत सामग्री जमा करने पर जुर्माने और अन्य कार्रवाई के कानूनी आधारों पर विचार किया जाएगा।

न्यायाधीशों ने कार्रवाई के लिए मजबूत समर्थन जताया: 91.7% ने कहा कि संस्थागत उपाय जरूरी हैं, जिनमें 64.8% ने इन्हें बहुत जरूरी बताया। प्रशासन ने कहा कि झूठे संदर्भों की जाँच में न्यायाधीशों और विरोधी पक्षों का समय लगता है, खर्च बढ़ता है और लोगों को समय पर सुनवाई पाने में देरी हो सकती है।

सर्वेक्षण के आँकड़े क्या बताते हैं

सबसे आम समस्या ऐसे फैसले का संदर्भ देना था जिसका अस्तित्व नहीं था। न्यायाधीशों को असली फैसलों के ऐसे संदर्भ भी मिले जिनकी सामग्री बदल दी गई थी या जिनका अर्थ गलत ढंग से पेश किया गया था। कानूनी नज़ीर पहले का कोई अदालती फैसला होता है, जिसका हवाला यह तर्क देने के लिए दिया जाता है कि कानून कैसे लागू होना चाहिए।

सर्वेक्षण में जवाब देने वाले एक से अधिक प्रकार के झूठे संदर्भ चुन सकते थे। दीवानी, पारिवारिक और प्रशासनिक मामलों के न्यायाधीशों के निष्कर्ष इस प्रकार थे:

• 196 न्यायाधीशों, यानी 80.7%, ने ऐसे संदर्भ देखे जिनमें ऐसी नज़ीरों का हवाला था जिनका अस्तित्व नहीं था।
• 159 न्यायाधीशों, यानी 65.4%, ने नज़ीरों के बारे में गलत विवरण देखे।
• 41 न्यायाधीशों, यानी 16.9%, ने झूठे या अस्तित्वहीन कानून और नियम देखे।
• 10 न्यायाधीशों, यानी 4.1%, ने झूठे या अस्तित्वहीन अकादमिक शोधपत्र और अन्य प्रकाशन देखे।

प्रतिशत हर सर्वेक्षण प्रश्न के जवाब देने वाले समूह पर आधारित हैं। पूरे सर्वेक्षण में 360 न्यायाधीश शामिल हुए थे। न्यायाधीश कई तरह की गलतियों की जानकारी दे सकते थे, इसलिए इन श्रेणियों में एक-दूसरे से समानता है।

अस्तित्वहीन नज़ीरों की जानकारी देने वाले न्यायाधीशों की संख्या, नज़ीरों के गलत विवरण देने वालों से 37 अधिक थी: 196 के मुकाबले 159। ये निष्कर्ष दिखाते हैं कि जाँच के दो हिस्से हैं: उद्धृत फैसले को ढूँढ़ना और उसे पढ़कर यह पुष्टि करना कि वह दिए गए तर्क का समर्थन करता है।

झूठे संदर्भ कैसे सामने आए

न्यायाधीशों ने ऐसे दस्तावेज़ों का ज़िक्र किया जिनमें एआई से तैयार सामग्री सर्वोच्च न्यायालय के फैसलों के प्रारूप की नकल करती थी। कुछ अन्य दस्तावेज़ों में अपरिचित कानूनी तर्क के साथ सर्वोच्च न्यायालय के ऐसे मुकदमे का नंबर दिया गया था, जिसे खोजने पर भी नहीं पाया जा सका।

आमतौर पर मुकदमे का नंबर किसी खास कार्यवाही या फैसले को ढूँढ़ने में मदद करता है। जब उस संदर्भ से कुछ नहीं मिलता, तो न्यायाधीश या विरोधी पक्ष को दावे के पीछे के फैसले की पहचान करने में अतिरिक्त समय लगाना पड़ता है।

कुछ दस्तावेज़ों में असली फैसलों का उल्लेख था, लेकिन अदालत ने क्या निर्णय दिया था, इसे बदल दिया गया था या फैसले का इस्तेमाल उसके अर्थ से अलग ढंग से किया गया था। सिर्फ मुकदमे का नंबर जाँचने से यह समस्या हल नहीं होती। पाठक को दस्तावेज़ में दिए तर्क की असली फैसले से तुलना भी करनी पड़ती।

कुछ अन्य दस्तावेज़ों में एआई टूल के साथ हुई बातचीत का पाठ या मुकदमे की रणनीति से जुड़ी भाषा शामिल थी। ऐसे अंशों से न्यायाधीशों को स्पष्ट संकेत मिला कि दस्तावेज़ तैयार करने में एआई का इस्तेमाल हुआ था।

सर्वेक्षण में एआई की तथाकथित ‘हैलुसिनेशन’ की चिंता की जाँच की गई। इस शब्द का अर्थ है गलत जानकारी को ऐसे पेश करना मानो वह सच हो। अदालती दस्तावेज़ में गढ़ा हुआ मुकदमा विश्वसनीय लग सकता है, क्योंकि उसमें परिचित कानूनी भाषा, मुकदमे का नंबर और फैसले का प्रारूप होता है।

वकीलों और मुकदमा लड़ने वालों, दोनों ने जमा कीं गलतियाँ

यह पूछे जाने पर कि झूठी नज़ीरें या दूसरी गलत सामग्री किसने जमा की, 164 न्यायाधीशों, यानी उस सवाल के जवाब देने वालों में 69.5%, ने संबंधित पक्षों की पहचान की। अन्य 136 न्यायाधीशों, यानी 57.6%, ने पक्षों के प्रतिनिधि या बचाव वकील के तौर पर काम कर रहे वकीलों का नाम लिया।

164 का आँकड़ा उन न्यायाधीशों की संख्या बताता है जिन्होंने मुकदमा लड़ने वालों द्वारा जमा किए गए झूठे संदर्भ देखे। सर्वेक्षण में न्यायाधीशों ने कार्यवाही के दौरान मिली गलत सामग्री के बारे में बताया था।

जवाब देने वाले समूह एक-दूसरे से मिलते हैं, क्योंकि किसी न्यायाधीश को अपना मुकदमा खुद लड़ने वाले व्यक्ति और वकील, दोनों से झूठे संदर्भ मिल सकते थे। ये आँकड़े ऐसे अनुभवों की जानकारी देने वाले न्यायाधीशों की संख्या बताते हैं; सर्वेक्षण का मकसद हर त्रुटिपूर्ण दस्तावेज़ की गिनती करना नहीं, बल्कि समस्या से न्यायाधीशों के सामना होने की पड़ताल करना था।

वकीलों की भागीदारी के कारण प्रस्तावित सत्यापन की जिम्मेदारी खास अहमियत रखती है। पेशेवर प्रतिनिधित्व में पहले से ही कानूनी प्रशिक्षण प्राप्त व्यक्ति मुवक्किल के तर्क और अदालत के बीच होता है। फिर भी, इस सवाल का जवाब देने वालों में आधे से अधिक न्यायाधीशों ने वकीलों द्वारा जमा की गई गलत सामग्री देखी थी।

जो लोग अपना मुकदमा खुद लड़ते हैं, उनके सामने व्यावहारिक चुनौती अलग होती है। उन्हें वकील की मदद के बिना तर्क तैयार करने और दूसरे पक्ष को जवाब देने होते हैं। प्रशासन ने आगाह किया कि ऐसे मुकदमा लड़ने वालों के लिए गढ़े हुए फैसले या असली फैसले के भ्रामक विवरण की पहचान करना और उसे चुनौती देना खास तौर पर मुश्किल हो सकता है।

गढ़े हुए मुकदमे की जाँच का खर्च कौन उठाए?

राष्ट्रीय न्यायालय प्रशासन ने कहा कि झूठे संदर्भों से विरोधी पक्ष पर अतिरिक्त काम का बोझ पड़ सकता है। अपरिचित नज़ीर वाला दस्तावेज़ पाने वाले व्यक्ति को उसे खोजना, उद्धृत सामग्री की जाँच करना और गलती समझाते हुए जवाब तैयार करना पड़ सकता है।

इस तरह, झूठे संदर्भ से उस दस्तावेज़ से आगे भी खर्च बढ़ सकता है जिसमें वह शामिल है। वकील वाला पक्ष अतिरिक्त कानूनी काम के लिए भुगतान कर सकता है; बिना वकील वाला व्यक्ति ऐसे संदर्भ की जाँच में अपना समय लगा सकता है, जो शायद कभी किसी असली फैसले तक न पहुँचे।

न्यायाधीशों पर भी ऐसा ही बोझ पड़ता है। कोई फैसला मौजूद है या नहीं, अथवा उसकी सामग्री बदली गई है या नहीं, यह जाँचने में लगा समय विवाद की न्यायालयीन पड़ताल में जुड़ जाता है। प्रशासन ने इस अतिरिक्त काम को कार्यवाही धीमी होने और न्याय तक पहुँच में देरी से जोड़ा।

जब कोई झूठा संदर्भ सर्वोच्च न्यायालय के प्रामाणिक फैसले जैसा दिखता है, तो चिंता और ठोस हो जाती है। उसकी दिखाई देने वाली प्रामाणिकता विरोधी पक्ष को सावधानी से जाँच करने का कारण देती है, जबकि अदालत को उस पर आधारित कानूनी तर्क का आकलन करने से पहले संदर्भ की समस्या सुलझानी पड़ती है।

चार उपायों को मिला बहुमत का समर्थन

न्यायाधीशों ने कई संभावित उपायों का समर्थन किया और प्रमुख विकल्पों को लगभग बराबर समर्थन मिला। जुर्माने के कानूनी आधार बनाने के प्रस्ताव को 215 न्यायाधीशों, यानी 61.4%, का समर्थन मिला। उद्धृत नज़ीरों और अन्य सामग्री की जाँच अनिवार्य करने के प्रस्ताव को 214, यानी 61.1%, न्यायाधीशों का समर्थन मिला।

लोगों को एआई के इस्तेमाल का खुलासा करने के लिए बाध्य करने के प्रस्ताव को 212 न्यायाधीशों, यानी 60.6%, का समर्थन मिला। वकीलों के खिलाफ अनुशासनात्मक कार्रवाई के लिए मामला भेजने समेत प्रतिबंधों को 194 न्यायाधीशों, यानी 55.4%, ने समर्थन दिया।

जुर्माने के कानूनी आधार और एआई के इस्तेमाल का खुलासा करने के प्रस्तावों के समर्थन में सिर्फ तीन न्यायाधीशों का अंतर था: 215 के मुकाबले 212। आँकड़ों की यह नज़दीकी बताती है कि जवाब देने वाले किसी एक उपाय पर ध्यान केंद्रित करने के बजाय समस्या से निपटने के कई तरीकों के पक्ष में थे।

हर प्रस्ताव अदालत में दस्तावेज़ तैयार करने और जमा करने के अलग चरण को संबोधित करता है। सत्यापन में कानूनी सामग्री की जाँच जरूरी होगी। खुलासे से अदालत को पता चलेगा कि एआई का इस्तेमाल किया गया है। जुर्माने के प्रस्तावित कानूनी ढाँचे के तहत आर्थिक दंड होगा, जबकि अनुशासनात्मक कार्रवाई के लिए मामला भेजने से वकील का आचरण संबंधित पेशेवर प्रक्रिया के दायरे में आएगा।

बार-बार झूठे संदर्भ देना संभावित अनुशासनात्मक कार्रवाई के लिए पहचाने गए आचरणों में शामिल था। प्रशासन के प्रस्तावों में दस्तावेज़ की सटीकता की जिम्मेदारी के साथ-साथ अदालत तक गलत सामग्री पहुँचने पर परिणाम भुगतने की व्यवस्था भी शामिल है।

अगले कदम: कानूनी बदलाव और ऑनलाइन मार्गदर्शन

राष्ट्रीय न्यायालय प्रशासन की योजना दीवानी प्रक्रिया अधिनियम और आपराधिक प्रक्रिया अधिनियम में संशोधन पर न्याय मंत्रालय समेत संबंधित एजेंसियों से चर्चा करने और अपने विचार राष्ट्रीय सभा को सौंपने की है। प्रस्तावित संशोधनों में जुर्माने जैसे उपायों के लिए कानूनी आधार शामिल होगा।

प्रशासन ने अगले कदमों का क्रम इस प्रकार बताया:

• 6 से 16 अक्टूबर: देशभर की अदालतों के न्यायाधीशों ने सर्वेक्षण में हिस्सा लिया।
• 2 नवंबर: सर्वेक्षण के निष्कर्ष जारी किए गए।
• अगले कदम: संबंधित एजेंसियों से परामर्श और कानूनी बदलावों पर प्रशासन के विचार राष्ट्रीय सभा को सौंपना।

इन परामर्शों, विधायी मतदान या जुर्माने लागू करने के लिए कोई समय-सीमा नहीं दी गई। घोषित योजनाओं में संभावित जुर्मानों की राशि और उन्हें लगाने की विस्तृत शर्तें भी अभी तय नहीं हैं।

प्रशासन इलेक्ट्रॉनिक मुकदमा वेबसाइट पर एआई के इस्तेमाल से जुड़ा मार्गदर्शन प्रकाशित करने पर विचार कर रहा है। इससे सलाह उसी जगह उपलब्ध होगी जहाँ वकील और मुकदमा लड़ने वाले पहले से अदालती कामकाज करते हैं। इसका उद्देश्य एआई से तैयार सामग्री की सटीकता जाँचने में उनकी मदद करना है।

सर्वेक्षण के निष्कर्ष इस मार्गदर्शन के लिए एक व्यावहारिक प्राथमिकता बताते हैं: अस्तित्व और अर्थ, दोनों की जाँच। मुकदमे का असली नंबर फैसला ढूँढ़ने में मदद करता है, जबकि उसे पढ़ने से पता चलता है कि अदालत ने वास्तव में क्या कहा था। न्यायाधीशों के सामने आए उदाहरण बताते हैं कि दोनों जाँच क्यों जरूरी हैं।

मुख्य बातें

• एआई से जुड़े झूठे संदर्भों पर सर्वोच्च न्यायालय के पहले सर्वेक्षण में 360 न्यायाधीशों ने जवाब दिए।
• सवाल का जवाब देने वाले दीवानी, पारिवारिक और प्रशासनिक मामलों के न्यायाधीशों में 80.7% ने ऐसी नज़ीरों के संदर्भ देखे जिनका अस्तित्व नहीं था।
• न्यायाधीशों ने सर्वोच्च न्यायालय के गढ़े हुए फैसलों, खोजे न जा सकने वाले मुकदमा नंबरों, बदले हुए निर्णयों और दस्तावेज़ों में छूटे एआई बातचीत के पाठ का ज़िक्र किया।
• गलत सामग्री मुकदमा लड़ने वालों और उनका प्रतिनिधित्व करने वाले वकीलों, दोनों ने जमा की।
• 91.7% जवाब देने वाले न्यायाधीशों ने संस्थागत कार्रवाई का समर्थन किया। जुर्माने, सत्यापन की जिम्मेदारी, खुलासे और वकीलों पर प्रतिबंधों को बहुमत का समर्थन मिला।
• राष्ट्रीय न्यायालय प्रशासन प्रक्रियागत कानूनों में बदलाव पर परामर्श की योजना बना रहा है और इलेक्ट्रॉनिक मुकदमा वेबसाइट पर मार्गदर्शन देने पर विचार कर रहा है।