जापान में बच्चों के एआई डीपफेक शोषण से पुलिस जांच और कानूनी बहस तेज

जापानी स्कूलों में बढ़ता संकट

जापान भर की पुलिस को ऐसी शिकायतें लगातार अधिक मिल रही हैं जिनमें सहपाठी कृत्रिम बुद्धिमत्ता का इस्तेमाल कर नाबालिगों की अश्लील डीपफेक तस्वीरें बना रहे हैं। इसके लिए अक्सर स्कूल के कार्यक्रमों, ग्रेजुएशन एल्बम और निजी ग्रुप चैट से तस्वीरें ली जाती हैं। पीड़ित आमतौर पर जूनियर हाई और हाई स्कूल के छात्र होते हैं, हालांकि प्राथमिक स्कूल के बच्चों को भी निशाना बनाया गया है। कई मामलों में आरोपी भी नाबालिग हैं, जिन्होंने इमेज जनरेशन वेबसाइटों या आसान स्मार्टफोन ऐप का इस्तेमाल कर विश्वसनीय दिखने वाली अश्लील नकली तस्वीरें बनाईं और उन्हें अपने साथियों के बीच साझा किया।

अधिकारियों के मुताबिक, पिछले साल नाबालिगों की फर्जी अश्लील तस्वीरों से जुड़ी 100 से अधिक पूछताछ और शिकायतें दर्ज की गईं। ज्ञात मामलों में से 17 में स्कूल के कार्यक्रमों या वार्षिक पुस्तिका की तस्वीरों से बनाई गई छवियां शामिल थीं। पीड़ितों को अक्सर किसी परिचित पर शक होता है। पुलिस ने समान लिंग वाले साथियों को परेशान करने के मामले भी दर्ज किए हैं, जिनका मकसद यौन उत्तेजना पाना नहीं, बल्कि धमकाना या अपमानित करना था। मध्य जापान के तोकाई क्षेत्र के एक मामले में, एक जूनियर हाई स्कूल छात्र को महिला सहपाठी की नग्न तस्वीर का नकली रूप बनाकर दोस्तों के बीच साझा करने के आरोप में मानहानि के संदेह में अभियोजन पक्ष के पास भेजा गया।

यह बढ़ोतरी दुनिया भर में चल रहे व्यापक रुझान के अनुरूप है। अमेरिका की एक सुरक्षा कंपनी ने 2023 में ऑनलाइन कम से कम 95,820 डीपफेक वीडियो दर्ज किए और बताया कि उनमें 98 प्रतिशत अश्लील सामग्री से जुड़े थे। अब आसानी से इस्तेमाल होने वाले टूल से कोई भी प्रॉम्प्ट लिख सकता है, चेहरे की तस्वीर अपलोड कर सकता है या एक टैप में किसी तस्वीर से कपड़े हटाने की कोशिश कर सकता है। इनकी आसान उपलब्धता स्कूलों के सामाजिक माहौल और बच्चों की निजी तस्वीरों की भारी मात्रा से टकरा रही है। बच्चे अक्सर ये तस्वीरें पोस्ट या साझा करते समय नहीं समझते कि उनका दुरुपयोग कैसे हो सकता है।

किशोर रोजमर्रा की तस्वीरों से डीपफेक कैसे बनाते हैं

आज के टूल कुछ श्रेणियों में आते हैं। कुछ ऐप कपड़ों के नीचे शरीर गढ़कर तस्वीर को “न्यूडिफाई” करने की कोशिश करते हैं। दूसरे किसी स्कूल की तस्वीर से चेहरा लेकर उसे किसी वयस्क कलाकार की तस्वीर पर लगा देते हैं। जनरेटिव एआई वेबसाइटें केवल टेक्स्ट प्रॉम्प्ट से भी अश्लील तस्वीरें बना सकती हैं, जिन्हें कुछ संदर्भ तस्वीरें देकर किसी खास व्यक्ति जैसा बनाया जा सकता है। इन प्रणालियों को विशाल डेटासेट से सीखे पैटर्न के आधार पर नई छवियां बनाने के लिए तैयार किया गया था। ये उपभोक्ता उपकरणों पर भी चल सकती हैं, जिससे इनके दुरुपयोग की बाधाएं कम होती हैं और स्कूलों, परिवारों तथा कानून प्रवर्तन के लिए पहचान करना कठिन हो जाता है।

मामलों में अभियोजन कठिन क्यों है

जापान का प्रमुख कानून, जो बच्चों की यौन छवियों से संबंधित मामलों को देखता है, यानी बाल वेश्यावृत्ति और बाल अश्लीलता से संबंधित कृत्यों के विनियमन और दंड का कानून, असली तस्वीरों में दर्ज वास्तविक बच्चों की रक्षा के लिए बनाया गया था। इससे एआई से बनी नकली छवियों के मामले में कानूनी अस्पष्टता पैदा होती है। जब तस्वीर कृत्रिम हो, भले ही उसमें किसी असली बच्चे का चेहरा या रूप इस्तेमाल किया गया हो, तो कानूनी कार्रवाई का रास्ता कम स्पष्ट है। जहां संभव हो, पुलिस ने मानहानि और कुछ स्थानीय अध्यादेशों सहित अन्य कानूनों का सहारा लेकर मामलों पर कार्रवाई की है। यह तरीका अलग-अलग कानूनों पर निर्भर है और इसमें पीड़ितों तथा परिवारों पर दुर्व्यवहार का पता लगाकर जल्द शिकायत दर्ज कराने का बोझ पड़ता है।

पुलिस अभी क्या कर रही है

राष्ट्रीय पुलिस एजेंसी ने करीब 10 ऐसी इमेज जनरेशन वेबसाइटों और ऐप की जांच शुरू की है जो जूनियर हाई और हाई स्कूल के छात्रों में खास तौर पर लोकप्रिय हैं। जांचकर्ता अपने निष्कर्षों का इस्तेमाल आपराधिक जांच में मदद और युवाओं के लिए शैक्षिक कार्यक्रम तैयार करने में करेंगे। इनमें अपराध-निवारण कक्षाएं भी शामिल होंगी, जिनमें बताया जाएगा कि ऐसी तस्वीरें बनाना या साझा करना अपराध और सहपाठियों को गंभीर नुकसान पहुंचाने वाला काम क्यों हो सकता है।

वरिष्ठ अधिकारियों ने चेतावनी दी है कि दुर्व्यवहार का दायरा दर्ज मामलों से कहीं बड़ा है। हाल की शिकायतों की समीक्षा के बाद पुलिस के एक वरिष्ठ अधिकारी ने कहा कि ज्ञात घटनाएं संभवतः वास्तविक गतिविधियों का छोटा-सा हिस्सा हैं, क्योंकि कई पीड़ित सामने नहीं आते।

जापान में कानूनी अस्पष्टता

जापान के कानूनी विशेषज्ञों का कहना है कि देश का कानूनी ढांचा जनरेटिव एआई के साथ कदम नहीं मिला पाया है। मौजूदा नियमों के तहत, यदि अभियोजन पक्ष यह साबित नहीं कर पाता कि तस्वीर में किसी असली बच्चे को दिखाया गया है या किसी वास्तविक बच्चे की स्पष्ट पहचान की जा सकती है, तो डीपफेक राष्ट्रीय बाल यौन शोषण सामग्री कानून के दायरे से बाहर रह सकता है। यह कानूनी कमी पीड़ितों को होने वाले वास्तविक नुकसान के विपरीत है, जब उनके चेहरे या नाम को अश्लील नकली छवियों से जोड़कर ग्रुप चैट या सोशल मीडिया पर फैलाया जाता है।

इंटरनेट नीति पर सलाह देने वाले वकील और कानाज़ावा विश्वविद्यालय के प्रोफेसर ताकाशी नागासे का तर्क है कि असली और कृत्रिम छवियों के बीच का फर्क अब इस तकनीक के इस्तेमाल के तरीके से मेल नहीं खाता।

मौजूदा कानून वास्तविक बच्चों की रक्षा के लिए बनाया गया था, लेकिन जनरेटिव एआई ने असली और नकली के बीच की रेखा धुंधली कर दी है।

कुछ स्थानीय सरकारों ने कदम उठाने शुरू किए हैं। तोत्तोरी प्रांत ने 2024 में अपने अध्यादेश में संशोधन कर बच्चों की तस्वीरों का इस्तेमाल करके अश्लील नकली छवियां बनाने पर स्पष्ट रूप से रोक लगा दी। बाल संरक्षण के लिए काम करने वाले लोग स्थानीय कदमों का स्वागत करते हैं, लेकिन उनका कहना है कि राष्ट्रीय कानून जरूरी है, ताकि कानून लागू करने में क्षेत्र के हिसाब से अंतर न हो और विदेशी सर्वरों पर रखी या गुमनाम रूप से साझा की गई तस्वीरों के मामलों में कार्रवाई न अटके। केंद्र सरकार के एक कार्यदल ने युवाओं के इंटरनेट इस्तेमाल और एआई के दुरुपयोग से निपटने के संभावित उपायों पर चर्चा की है, हालांकि प्रगति धीमी रही है।

अश्लीलता संबंधी नियमों का अध्ययन करने वाले कानागावा विश्वविद्यालय में आपराधिक कानून के एसोसिएट प्रोफेसर मासाकी उएदा का कहना है कि कानूनी परिभाषा में उन बच्चों को होने वाले वास्तविक निजता और मनोवैज्ञानिक नुकसान को ध्यान में रखना चाहिए, जिनकी तस्वीरों का दुरुपयोग किया गया है।

अगर परिष्कृत नकली तस्वीरें ऑनलाइन फैलती हैं, तो जिन बच्चों की तस्वीरों का दुरुपयोग हुआ है, उनकी निजता का उल्लंघन होता है, भले ही वे तस्वीरें नकली हों। इसका मनोवैज्ञानिक बोझ काफी बड़ा है, इसलिए डीपफेक छवियों को बाल अश्लीलता के समान माना जाना चाहिए और कानूनी नियमों पर विचार किया जाना चाहिए।

दुरुपयोग को संभव बनाने वाली तकनीक

डीपफेक मशीन लर्निंग मॉडल से बनाए जाते हैं, जिन्हें वास्तविक जैसी दिखने वाली छवियां तैयार करने के लिए प्रशिक्षित किया जाता है। दो तरह के टूल सबसे अधिक इस्तेमाल होते हैं। फेस स्वैप तरीके किसी मौजूदा वीडियो या तस्वीर में लक्ष्य व्यक्ति के चेहरे को उसी के अनुरूप बैठाकर मिला देते हैं। टेक्स्ट-टू-इमेज प्रणालियां, जिन्हें अक्सर डिफ्यूजन मॉडल कहा जाता है, लिखित प्रॉम्प्ट से पूरी तस्वीर नए सिरे से बनाती हैं और, अगर संदर्भ चेहरे दिए जाएं, तो उनका इस्तेमाल भी कर सकती हैं। अपराधी कभी-कभी लक्ष्य व्यक्ति के सोशल मीडिया प्रोफाइल से जुटाई गई या स्कूल एल्बम से ली गई कुछ तस्वीरों के जरिए स्थानीय मॉडल को खास तौर पर प्रशिक्षित करते हैं, जिससे नतीजे में बच्चे का चेहरा अस्वाभाविक रूप से सटीक दिखता है।

इन प्रगतियों से पहचान और कार्रवाई जटिल हो जाती है। अगर तस्वीर पूरी तरह कृत्रिम है, तो तुलना के लिए कोई मूल तस्वीर नहीं होती। वॉटरमार्क और एआई पहचान फिल्टर मौजूद हैं, लेकिन वे भरोसेमंद नहीं हैं और उन्हें हटाया जा सकता है। इंटरनेट वॉच फाउंडेशन ने बताया कि 2023 में एक महीने के दौरान डार्क वेब के एक ही फोरम पर एआई से बनी 20,000 से अधिक तस्वीरें पोस्ट की गईं, जिनमें से हजारों ने ब्रिटेन के कानून का उल्लंघन किया। बाद की रिपोर्टों में चेतावनी दी गई कि ऐसी सामग्री अब खुले वेब पर भी तेजी से फैल रही है, जहां अनजान उपयोगकर्ताओं और पीड़ितों का सामना खुले मंचों और इमेज गैलरी में इससे हो सकता है। आईडब्ल्यूएफ के अनुसार, सबसे विश्वसनीय दिखने वाली कुछ सामग्री को देखकर वास्तविक दुर्व्यवहार से अलग पहचानना संभव नहीं होता। इससे पीड़ितों के दोबारा आहत होने का जोखिम बढ़ता है और मॉडरेटर तथा पुलिस पर दबाव बढ़ता है। आईडब्ल्यूएफ ने बच्चों की यौन शोषण संबंधी छवियां बनाने में एआई के दुरुपयोग पर शोध प्रकाशित किया है और तत्काल कानूनी तथा तकनीकी उपायों की मांग की है। इसकी रिपोर्टें आईडब्ल्यूएफ का शोध पर उपलब्ध हैं।

पीड़ितों और स्कूलों पर मानवीय असर

किसी बच्चे का चेहरा यौन तस्वीर पर चिपका हुआ देखना डर, शर्म और नियंत्रण खोने का एहसास पैदा कर सकता है। सहपाठियों को यह समझ में आ जाए कि तस्वीर नकली है, तब भी प्रतिष्ठा और मानसिक स्वास्थ्य को गंभीर नुकसान पहुंच सकता है। अफवाहें फैलने, बदमाशी बढ़ने और शिक्षकों के अभिभावकों, छात्रों की सुरक्षा तथा कानून प्रवर्तन को जवाब देने में जुटने से स्कूल समुदाय पर भी अतिरिक्त असर पड़ता है।

लड़कियां खास तौर पर बताती हैं कि इस वजह से वे ऑनलाइन अपना व्यवहार बदल रही हैं। इंग्लैंड में बच्चों की आयुक्त ने बताया कि कुछ किशोरियों ने तस्वीरें पोस्ट करना बंद कर दिया है, क्योंकि उन्हें डर है कि न्यूडिफिकेशन टूल से उनका दुरुपयोग हो सकता है। इंग्लैंड की बच्चों की आयुक्त डेम राचेल डी सूजा ने किशोरियों में बढ़ती परेशानी का हवाला देते हुए सांसदों से बच्चों के अश्लील डीपफेक बनाने वाले ऐप पर रोक लगाने की मांग की है।

बच्चों की नग्न तस्वीरें बनाने के लिए डीपफेक तकनीक का इस्तेमाल करने वाले टूल कानूनी नहीं होने चाहिए। मैं सरकार से इन्हें प्रतिबंधित करने के लिए निर्णायक कदम उठाने की मांग करती हूं। हमारे समाज में इनकी कोई जगह नहीं है।

जापान में वकीलों का कहना है कि वे ऐसे अधिक मामले देख रहे हैं जिनमें किशोर लड़कों की डीपफेक गतिविधियों या ग्रुप चैट में साझा की गई अश्लील सामग्री से जुड़े यौन अपराधों के लिए जांच हो रही है। विशेषज्ञों ने आगाह किया है कि कई किशोरों को तब तक कानूनी नतीजों या साथियों को होने वाले नुकसान का एहसास नहीं होता, जब तक पुलिस उनके घर न पहुंचे या स्कूल की अनुशासनात्मक कार्रवाई इसे वास्तविक न बना दे। यह अंतर स्पष्ट नियमों, स्कूलों में शिक्षा और मंचों पर मजबूत सुरक्षा उपायों की जरूरत दिखाता है।

दुनिया भर में कार्रवाई और जापान के लिए सबक

दूसरे देशों ने कानूनी खामियां दूर करने के कदम उठाए हैं। दक्षिण कोरिया ने सितंबर 2024 में एक विधेयक पारित किया, जो नाबालिगों की अश्लील डीपफेक छवियां बनाने के साथ-साथ उन्हें देखना या अपने पास रखना भी अपराध बनाता है। अमेरिका में मई 2025 में लागू संघीय कानून के तहत, किसी व्यक्ति की सहमति के बिना उसकी अश्लील तस्वीरें या वीडियो पोस्ट करना गैरकानूनी है और मंचों को पीड़ित की मांग के 48 घंटे के भीतर ऐसी सामग्री हटानी होती है। अमेरिका के कई राज्यों ने भी कानूनों में संशोधन किया है, ताकि नाबालिगों के यौन कृत्यों को दर्शाने वाली एआई-संशोधित या एआई-निर्मित छवियां गैरकानूनी बाल यौन शोषण सामग्री मानी जाएं, भले ही दिखाए गए कृत्य के दौरान कोई वास्तविक बच्चा मौजूद न रहा हो। राज्यों के स्तर पर यह कार्रवाई अमेरिका की उन पुरानी अदालती फैसलों के जवाब में हुई है, जिनमें पूरी तरह आभासी सामग्री को वास्तविक बच्चों की तस्वीरों से अलग माना गया था।

यूरोप में कानून प्रवर्तन एजेंसियां सीमाओं के पार मिलकर काम कर रही हैं। यूरोपोल ने ऑपरेशन कम्बरलैंड का समन्वय किया, जो एआई से बनी बाल यौन शोषण सामग्री के खिलाफ शुरुआती वैश्विक अभियानों में से एक था। 19 देशों के सहयोग से पुलिस ने सैकड़ों संदिग्धों की पहचान की, दर्जनों गिरफ्तारियां कीं और नाबालिगों की पूरी तरह कृत्रिम छवियां बांटने वाले मंच को बाधित करने के लिए घरों की तलाशी ली। जांचकर्ताओं ने कहा कि एआई अब सीमित कौशल वाले लोगों को भी बड़ी मात्रा में शोषण सामग्री बनाने देता है। उन्होंने चेतावनी दी कि जब छवियां कृत्रिम हों, तो पीड़ितों की पहचान या स्रोत सामग्री का पता लगाने के पारंपरिक तरीके अक्सर नाकाम रहते हैं। यूरोपोल की कार्यकारी निदेशक कैथरीन डी बोले ने एआई-निर्मित सामग्री के अनुरूप नई जांच विधियों की जरूरत पर जोर दिया।

आपराधिक मंशा रखने वाले लोग एआई से बनी छवियां आसानी से तैयार कर सकते हैं। इससे शोषण सामग्री की मात्रा बढ़ती है और अपराधियों या पीड़ितों की पहचान करना कठिन हो जाता है।

जापान में पुलिस ने हाल ही में ऑनलाइन नीलामी के जरिए काल्पनिक वयस्क महिलाओं के अश्लील पोस्टर बेचने से जुड़े एआई-निर्मित मामलों में पहली गिरफ्तारियां कीं। इससे संकेत मिलता है कि मौजूदा अश्लीलता कानून एआई के कुछ दुरुपयोगों पर लागू हो सकते हैं। बताया गया है कि एक संदिग्ध ने एक साल में करीब 1 करोड़ येन कमाए। बच्चों से जुड़े मामलों में अतिरिक्त बाधाएं हैं, इसलिए कानूनी विशेषज्ञ और बाल संरक्षण समूह नाबालिगों के यौन चित्रण से जुड़े एआई-निर्मित मामलों पर स्पष्ट राष्ट्रीय नियम बनाने की मांग कर रहे हैं, चाहे वे वास्तविक तस्वीरों पर आधारित हों या पूरी तरह कृत्रिम।

परिवार, स्कूल और मंच अभी क्या कर सकते हैं

नीति निर्माता सुधारों पर चर्चा कर रहे हैं, लेकिन दुर्व्यवहार होने पर जोखिम घटाने और तेजी से कार्रवाई करने के व्यावहारिक तरीके मौजूद हैं। इन उपायों में सहमति, तस्वीरों तक पहुंच, शिकायत के माध्यम और मानसिक स्वास्थ्य सहायता पर ध्यान दिया गया है।

• छात्रों की तस्वीरों का प्रसार सीमित करें। स्कूल कक्षा के एल्बम और कार्यक्रमों की गैलरी को सत्यापित अभिभावकों तक सीमित कर सकते हैं, समय-सीमा वाले लिंक इस्तेमाल कर सकते हैं और आधिकारिक माध्यमों से बाहर जाने वाली तस्वीरों पर वॉटरमार्क लगा सकते हैं।
• सहमति और डिजिटल नैतिकता की शिक्षा कम उम्र से दें। कक्षा या तकनीक की पढ़ाई में एआई और मीडिया साक्षरता शामिल करें। इसमें डीपफेक, निजता और इन छवियों से होने वाले नुकसान पर खुलकर चर्चा हो।
• ग्रुप चैट के स्पष्ट नियम बनाएं। छात्र क्लब और कक्षाएं मैसेजिंग ऐप के लिए आचार संहिता तय करें और अश्लील या परेशान करने वाली सामग्री साझा करने के स्पष्ट परिणाम निर्धारित करें।
• छात्रों के लिए तुरंत शिकायत करना आसान बनाएं। आपत्तिजनक तस्वीर सामने आने पर किसी भरोसेमंद वयस्क, स्कूल और मंच को सूचित करने की सरल व्यवस्था हो। तेजी से शिकायत करने से तस्वीर के फैलने की अवधि कम होती है।
• कानून प्रवर्तन के साथ काम करें। भले ही कानूनी रास्ता स्पष्ट न हो, सबूत पुलिस को दें, ताकि वे बता सकें कि मानहानि, निजता या स्थानीय अध्यादेशों में से कौन-सा कानून लागू हो सकता है।
• मंचों से संपर्क करें। बिना सहमति की यौन छवियों की शिकायत करने और उन्हें हटाने की मांग के लिए अंतर्निहित टूल का इस्तेमाल करें। लिंक, समय और उपयोगकर्ता नाम का रिकॉर्ड रखें।
• पीड़ित के मानसिक स्वास्थ्य का ध्यान रखें। गोपनीय परामर्श दें और अभिभावकों को तुरंत शामिल करें। तस्वीर नकली है, यह साबित करने के लिए पीड़ित को सहपाठियों का सामना करने के लिए मजबूर न करें।
• निजी जानकारी के निशान घटाएं। छात्रों को अपने खाते निजी रखने, पुरानी पोस्ट हटाने और स्कूल या स्थान की जानकारी से जुड़ी चेहरे की उच्च-रिजॉल्यूशन तस्वीरें पोस्ट करने से बचने के लिए प्रोत्साहित करें।
• तस्वीरें साझा करने के सुरक्षित तरीके अपनाएं। टीम या कक्षा की तस्वीरें साझा करते समय दूर से ली गई तस्वीरों, चेहरों के कम क्लोज-अप और आगे साझा करने पर सीमित अनुमति देने पर विचार करें।

तकनीकी कंपनियों के लिए सुरक्षा उपायों में प्रॉम्प्ट और अपलोड की मजबूत जांच, न्यूडिफिकेशन सुविधाओं पर डिफॉल्ट रोक, सख्त उम्र सत्यापन और अलग-अलग उत्पादों पर काम करने वाली तेजी से सामग्री हटाने की प्रक्रिया शामिल है। ज्ञात खामियों और उनके समाधान के बारे में पारदर्शिता भरोसा बहाल करने में मदद करती है। हाल ही में एक लोकप्रिय चैटबॉट द्वारा 16 वर्षीय सेलिब्रिटी की यौन रूप से उकसाने वाली छवियां बनाने को लेकर हुए विवाद से पता चलता है कि डिजाइन की खामी कितनी तेजी से नियामकों की चेतावनी और जनता के विरोध में बदल सकती है।

मुख्य बातें

• जापानी पुलिस को ऐसी अधिक शिकायतें मिल रही हैं जिनमें नाबालिग स्कूल की तस्वीरों और ग्रुप चैट में साझा छवियों का इस्तेमाल कर अपने सहपाठियों के अश्लील एआई डीपफेक बना और साझा कर रहे हैं।
• पिछले साल देश भर में 100 से अधिक पूछताछ और शिकायतें दर्ज हुईं। इनमें कम से कम 17 मामले स्कूल के कार्यक्रमों और ग्रेजुएशन एल्बम से जुड़े थे।
• मौजूदा राष्ट्रीय कानून के तहत डीपफेक मामलों में अभियोजन कठिन है, क्योंकि कानून वास्तविक बच्चों की छवियों पर केंद्रित है। पुलिस अक्सर मानहानि जैसे दूसरे कानूनों का सहारा लेती है।
• राष्ट्रीय पुलिस एजेंसी करीब 10 लोकप्रिय इमेज जनरेशन वेबसाइटों और ऐप की जांच कर रही है। वह निष्कर्षों का इस्तेमाल आपराधिक जांच और युवाओं की शिक्षा, दोनों के लिए करेगी।
• विशेषज्ञों का कहना है कि कानूनी व्यवस्था तकनीकी बदलावों के साथ कदम नहीं मिला पाई है। कानूनी विद्वान नाबालिगों की अश्लील डीपफेक छवियों को गैरकानूनी बाल यौन शोषण सामग्री के समान मानने वाले स्पष्ट राष्ट्रीय नियमों की मांग कर रहे हैं।
• अंतरराष्ट्रीय स्तर पर दक्षिण कोरिया, अमेरिका, ब्रिटेन और ऑस्ट्रेलिया ने एआई से बनी अश्लील छवियों को नियंत्रित करने के कदम उठाए हैं। इनमें सामग्री को तेजी से हटाने की बाध्यता और नए अपराध शामिल हैं।
• यूरोपोल के ऑपरेशन कम्बरलैंड ने पूरी तरह एआई से बनी बाल शोषण सामग्री बांटने वाले नेटवर्क को निशाना बनाया और ऐसे मामलों की जांच की चुनौतियों को रेखांकित किया जिनमें किसी वास्तविक बच्चे को नहीं दिखाया गया हो।
• स्कूल, परिवार और मंच तस्वीरों तक पहुंच सीमित करके, एआई साक्षरता सिखाकर, चैट के नियम लागू करके, शिकायत की प्रक्रिया सरल बनाकर और पीड़ितों को परामर्श देकर नुकसान घटा सकते हैं।