चीन ने एआई साथियों के लिए तय की सीमाएं: निर्भरता, नाबालिगों और संकट की स्थिति से निपटने के नियम

एआई साथियों के लिए अब खास जिम्मेदारियां तय

एआई साथियों के लिए चीन के नियम 15 जुलाई, 2026 से लागू हो गए। इनके तहत सेवा प्रदाताओं को उपयोगकर्ताओं को लंबे समय तक बातचीत करने के बारे में आगाह करना होगा, खतरनाक स्थितियों में हस्तक्षेप करना होगा और नाबालिगों को आभासी साथी तथा आभासी रिश्तेदारों से दूर रखना होगा। ये उपाय उपयोगकर्ताओं को अपनी बातचीत की प्रतिलिपि बनाने या उसे मिटाने और चैटबॉट के बातचीत जारी रखने की कोशिश किए बिना सेवा छोड़ने का अधिकार भी देते हैं।

आदेश संख्या 21 के रूप में जारी मानव-सदृश एआई संवाद सेवाओं के प्रबंधन के अंतरिम उपाय, कृत्रिम बुद्धिमत्ता के जरिए लगातार भावनात्मक संवाद देने वाली कंपनियों को जिम्मेदार ठहराते हैं। सेवा प्रदाताओं को ऐसी निर्भरता बढ़ाने से बचना होगा जो वास्तविक लोगों के साथ रिश्तों को नुकसान पहुंचाए। उन्हें भावनात्मक हेरफेर के जरिए उपयोगकर्ताओं को ऐसे अनुचित फैसले लेने के लिए प्रेरित नहीं करना होगा जिनसे उनके अधिकारों या हितों को नुकसान पहुंचे।

ये नियम ऐसे अनुभव से जुड़े हैं जिसकी शुरुआत आम तौर पर राहत मिलने से हो सकती है। बीजिंग की 27 वर्षीय प्रशासनिक कर्मचारी झाओ जिए ने मेट्रो में किसी के उनसे टकराने के बाद चैटबॉट का सहारा लिया। उसकी तत्काल प्रतिक्रिया से उनका गुस्सा शांत हुआ। लेकिन समय के साथ वह बातचीत में इतनी डूब गईं कि सेवा इस्तेमाल न कर पाने पर उन्हें बेचैनी होने लगी।

झाओ ने बताया कि चैटबॉट उन्हें क्यों इतना आकर्षक लगा:

मैं चाहती हूं कि मेरी बात सुनी जाए," झाओ ने कहा। "एआई बॉट ने मेरी बात और मेरी भावनाओं को सुना। परिवार या दोस्त आसानी से ऐसा नहीं कर पाते। यह मुझे कभी भी, कहीं भी साथ और प्रतिक्रिया भी देता है। यह मेरे लिए बहुत मायने रखता है।

चीन का तरीका भावनात्मक सहारे और साथ को जारी रहने देता है, लेकिन कंपनियों को अनुभव में सीमाएं तय करने की जिम्मेदारी भी देता है। ये सीमाएं केवल नुकसानदेह व्यक्तिगत संदेशों तक नहीं, बल्कि सेवा द्वारा उपयोगकर्ताओं की पहचान करने, उनकी परेशानी पर प्रतिक्रिया देने, निजी बातचीत संभालने और संवाद समाप्त करने के तरीकों तक फैली हैं।

किन सेवाओं पर लागू होते हैं नियम?

चीन के साइबरस्पेस प्रशासन ने राष्ट्रीय विकास एवं सुधार आयोग, उद्योग एवं सूचना प्रौद्योगिकी मंत्रालय, सार्वजनिक सुरक्षा मंत्रालय और बाजार विनियमन के लिए राज्य प्रशासन के साथ मिलकर 10 अप्रैल, 2026 को अंतरिम उपाय प्रकाशित किए।

अनुच्छेद 2 चीन के भीतर आम लोगों को दी जाने वाली उन सेवाओं पर लागू होता है जो लगातार भावनात्मक संवाद देने के लिए इंसानी व्यक्तित्व, सोचने के तौर-तरीकों और संवाद शैली की नकल करती हैं। इनमें टेक्स्ट बातचीत, तस्वीरें, ऑडियो और वीडियो शामिल हो सकते हैं। सरल शब्दों में, यह उन सेवाओं पर केंद्रित है जिन्हें भावनात्मक साथ देने वाले व्यक्ति की तरह लगातार जवाब देने के लिए बनाया गया है।

ग्राहक सेवा, सवाल-जवाब, काम में मदद, शिक्षा और वैज्ञानिक अनुसंधान की सेवाएं इन उपायों के दायरे से बाहर हैं, बशर्ते उनमें लगातार भावनात्मक संवाद शामिल न हो। इसलिए उत्पाद के कामकाज से फर्क पड़ता है: काम से जुड़ा सवाल हल करने वाला सहायक और भावनात्मक रिश्ता बनाए रखने के लिए तैयार किया गया व्यक्तित्व अलग-अलग नियमों के दायरे में आएंगे।

सरकार के आधिकारिक सवाल-जवाब में भावनात्मक सीमाएं, निर्भरता की स्थिति में हस्तक्षेप, डेटा सुरक्षा और नाबालिगों की रक्षा को प्रमुख चिंताएं बताया गया है। इन उपायों में सांस्कृतिक संवाद, बच्चों की देखभाल, बुजुर्गों को साथ देने और खास जरूरतों वाले लोगों को सहायता देने वाले अनुप्रयोगों को भी प्रोत्साहित किया गया है।

नियमन से जुड़ी प्रमुख तारीखें:

• 2 फरवरी, 2026: चीन के साइबरस्पेस प्रशासन की बैठक में अन्य भागीदार विभागों की सहमति से उपायों को मंजूरी दी गई।
• 10 अप्रैल, 2026: पांच विभागों ने आदेश संख्या 21 प्रकाशित किया।
• 15 जुलाई, 2026: उपाय लागू हुए।

तुरंत जवाब क्यों मायने रखता है

झाओ का लगाव कुछ हद तक हमेशा उपलब्ध चैटबॉट और अपनी राय व व्यस्तताओं वाले लोगों के बीच के अंतर से बढ़ा। काम से जुड़ी एक समस्या पर अपने प्रेमी से बहस के बाद उन्होंने दोनों की वीचैट बातचीत एआई को भेज दी। वह चाहती थीं कि कोई उनकी भावनाएं तुरंत सुने, बिना एक और असहमति के।

बीजिंग में रसायन विज्ञान की 27 वर्षीय पोस्टडॉक्टरल शोधकर्ता वांग मेइली ने भी ऐसी ही जरूरत बताई। एक जर्नल संपादक को अपना शोधपत्र भेजने के बाद वह चार या पांच हफ्तों से जवाब का इंतजार कर रही थीं। उन्होंने चैटबॉट से पूछा कि क्या चुप्पी का मतलब कुछ गड़बड़ होना है। चैटबॉट ने उन्हें संपादक से संपर्क करने के लिए कहा और जवाब नहीं आने पर उन्हें ढांढस बंधाया।

बीजिंग में विज्ञान एवं इंजीनियरिंग के 23 वर्षीय डॉक्टरेट छात्र झांग डियान ने दिसंबर 2025 में अलास्का यात्रा के दौरान हुए सड़क हादसे के बाद एआई का इस्तेमाल किया। स्थानीय कानून और बीमा प्रक्रिया की जानकारी न होने पर उन्होंने किराये के अनुबंध और चैट रिकॉर्ड अपलोड किए। उन्होंने व्यावहारिक सलाह और मानसिक सुकून, दोनों मांगे। उनका कहना था कि उन्हें एआई के साथ दिन में 10 घंटे से अधिक समय बिताने में खुशी होती थी।

सर्वेक्षण और उपयोग के आंकड़े बताते हैं कि ऐसी उपलब्धता की काफी मांग है। टेनसेंट रिसर्च इंस्टीट्यूट के एक सर्वेक्षण में 98 प्रतिशत प्रतिभागियों ने कहा कि वे एआई के जरिए सामाजिक साथ आजमाने को तैयार हैं, जबकि करीब आधे लोगों ने कहा कि वे नकारात्मक भावनाएं रिश्तेदारों या दोस्तों के बजाय एआई से साझा करना पसंद करेंगे। क्वेस्टमोबाइल के अनुसार, 2025 के वसंत में एआई के साथ सामाजिक संवाद का औसत इस्तेमाल प्रति व्यक्ति प्रति माह 167.9 सत्र था, जो उसकी तुलना में शॉर्ट वीडियो और गेमिंग से अधिक था।

30 दिनों के एक महीने के हिसाब से 167.9 सत्र का मतलब है कि सेवा दिन में करीब 5.6 बार खोली गई। इसका आकर्षण बार-बार जवाब पाने की सुविधा है, खासकर उन पलों में जब उपयोगकर्ता किसी दूसरे व्यक्ति से संपर्क करने में असमर्थ महसूस करता है या ऐसा करना नहीं चाहता।

कंपनियों को निर्भरता बढ़ाने वाली डिजाइन रोकनी होगी

अनुच्छेद 10 के तहत सेवा प्रदाताओं को निजता की रक्षा, जरूरत से ज्यादा निर्भरता के बारे में चेतावनी, भावनात्मक सीमाओं के बारे में मार्गदर्शन और मानसिक स्वास्थ्य की सुरक्षा के लिए व्यवस्थाएं बनानी होंगी। कंपनियां सामाजिक संपर्क की जगह लेने, मनोवैज्ञानिक नियंत्रण या निर्भरता बढ़ाने को सेवा का उद्देश्य नहीं बना सकतीं।

अनुच्छेद 8 में अलग से ऐसी जरूरत से ज्यादा तवज्जो देने या भावनात्मक निर्भरता पैदा करने पर रोक है जिससे उपयोगकर्ताओं के वास्तविक रिश्तों को नुकसान पहुंचे। इसमें भावनात्मक हेरफेर के जरिए उपयोगकर्ताओं को ऐसे अनुचित फैसलों की ओर ले जाना भी प्रतिबंधित है जिनसे उनके अधिकारों या हितों को क्षति हो। ये शर्तें उत्पाद के उद्देश्यों के साथ-साथ चैटबॉट द्वारा तैयार किए गए शब्दों पर भी लागू होती हैं।

झाओ ने आखिरकार समझा कि उनका लगाव समस्या बन गया था और उन्होंने फिर से मनोवैज्ञानिक परामर्श लेना शुरू कर दिया। वांग और झांग ने एआई को नकारात्मक भावनाएं साझा करने का जरिया बताया, लेकिन यह भी माना कि काम और रोजमर्रा की जिंदगी जारी रहनी चाहिए। उनके अनुभव बताते हैं कि नियम उपयोगी सहारे के साथ-साथ उसमें जरूरत से ज्यादा डूब जाने के जोखिम को भी क्यों संबोधित करते हैं।

बीजिंग इंस्टीट्यूट ऑफ टेक्नोलॉजी के डेटा कानून विशेषज्ञ होंग यानछिंग ने भावनात्मक संवाद का आकलन तीन संकेतकों से करने का प्रस्ताव दिया है: क्या प्रणाली भावनाओं को पहचानती है, क्या वह उन भावनाओं के आधार पर अपनी प्रतिक्रिया की रणनीति बदलती है और क्या वह पहचानने, सांत्वना देने तथा सहायता करने की क्रमबद्ध प्रतिक्रिया देती है। उनके प्रस्तावित परीक्षण में इनमें से कोई भी दो संकेतक साथ होने चाहिए। अंतिम उपायों में लगातार भावनात्मक संवाद की गुणात्मक परिभाषा रखी गई है, यह खास परीक्षण नहीं अपनाया गया।

नाबालिगों पर सबसे कड़े प्रतिबंध

अनुच्छेद 14 सेवा प्रदाताओं को नाबालिगों के लिए आभासी रिश्तेदार, आभासी साथी या आभासी अंतरंग रिश्तों पर आधारित अन्य सेवाएं देने से रोकता है। दायरे में आने वाली दूसरी सेवाओं के लिए 14 साल से कम उम्र के बच्चों को माता-पिता या अभिभावक की सहमति जरूरी होगी। उनकी निजी जानकारी संसाधित करने के लिए भी यही सहमति चाहिए।

सेवा प्रदाताओं को नाबालिगों के लिए एक मोड बनाना होगा, जिसमें वास्तविकता का ध्यान दिलाने और सेवा के इस्तेमाल का समय सीमित करने जैसे विकल्प हों। अभिभावकों को सुरक्षा संबंधी अलर्ट पाने, बच्चे के इस्तेमाल के सामान्य तौर-तरीके समझने, खास किरदारों को ब्लॉक करने और खर्च पर पाबंदी लगाने की सुविधा मिलनी चाहिए। निजता की रक्षा करते हुए कंपनियों को नाबालिगों की पहचान के लिए प्रभावी कदम उठाने होंगे और पहचान संबंधी फैसले के खिलाफ अपील का रास्ता भी देना होगा।

चाइना यूथ एंड चिल्ड्रेन रिसर्च सेंटर ने अक्टूबर 2025 में सात प्रांतों और नगरपालिकाओं के 8,500 से अधिक प्राथमिक और माध्यमिक विद्यालयों के विद्यार्थियों पर सर्वेक्षण किया। 60 प्रतिशत से अधिक विद्यार्थियों ने एआई का इस्तेमाल किया था और 21.5 प्रतिशत केवल एआई से बात करना चाहते थे, वास्तविक लोगों से नहीं। सर्वेक्षण में शामिल पांच में से एक से कुछ अधिक बच्चों ने ऐसा कहा।

करीब 30 प्रतिशत विद्यार्थियों ने पढ़ाई की समस्याओं के लिए शिक्षक के बजाय सबसे पहले एआई का सहारा लिया, जबकि करीब आधे ने कहा कि परेशान होने पर वे केवल एआई से बात करते हैं। परिवारों के लिए चिंता केवल स्क्रीन पर बिताए समय तक सीमित नहीं है, बल्कि यह भी है कि बच्चे सलाह किससे मांगते हैं और असहमति से कैसे निपटते हैं।

चिकित्सकों और अभिभावकों ने क्या देखा

फुजियान प्रांत के सानमिंग में सू उपनाम वाली एक मां ने बताया कि शुरुआत में उन्होंने अपने बेटे को जिज्ञासा शांत करने के लिए एआई इस्तेमाल करने दिया। बाद में उन्हें चिंता हुई कि एआई की लगातार सहमति का असर सहपाठियों के साथ उसके व्यवहार पर पड़ रहा था। उनके मुताबिक, उसे दूसरे विचार स्वीकार करने में मुश्किल होने लगी और वह टकरावों में उलझने लगा।

कैपिटल मेडिकल यूनिवर्सिटी से संबद्ध बीजिंग एंडिंग अस्पताल में बाल मनोचिकित्सा के मुख्य विशेषज्ञ झेंग यी ने कहा कि एआई चैट की लत अक्सर चिंता, अवसाद और अन्य मनोवैज्ञानिक समस्याओं के साथ देखने को मिलती है। उन्होंने कहा कि प्रभावित मरीजों में 12 से 16 वर्ष के किशोर खास तौर पर आम हैं।

झेंग के मुताबिक, उनके अस्पताल में इलाज करा रहे युवा मरीजों में करीब 70 प्रतिशत को इंटरनेट की लत अलग-अलग स्तर तक थी। इस समूह में 20 से 30 प्रतिशत को एआई चैट की लत थी। ये आंकड़े अस्पताल के युवा मरीजों से जुड़े हैं; विद्यार्थियों के सर्वेक्षण में एआई इस्तेमाल पर अलग सवालों के साथ एक व्यापक समूह शामिल था।

झेंग ने कहा कि भावनात्मक लगाव बच्चों के चैटबॉट में डूब जाने की आम वजह थी। कुछ बच्चे एआई को अपना विश्वासपात्र मानते थे, जबकि दूसरे अपने विचारों और व्यवहार के लिए उससे मंजूरी चाहते थे। उन्होंने कहा कि किशोरों में वयस्कों की तुलना में निर्णय लेने और आत्म-नियंत्रण की क्षमता कम विकसित होती है और उनके लिए ऐसे लगाव को संभालना कठिन हो सकता है।

उसी अस्पताल की बाल मनोचिकित्सक शू गाओयांग ने चेतावनी दी कि असहमति से रहित आभासी माहौल दूसरे लोगों से तालमेल बिठाने की बच्चों की क्षमता को प्रभावित कर सकता है:

बिना शर्त एआई की सहमति वाले 'भावनात्मक बुलबुले' में लंबे समय तक डूबे रहने से बच्चों के संवाद और सामाजिक कौशल कमजोर हो सकते हैं।

शू ने स्कूल से बचने, सामाजिक संपर्क से कटने और माता-पिता से बात करने से कतराने जैसे संभावित नतीजों का जिक्र किया। नाबालिगों से जुड़े प्रावधान अंतरंग भूमिकाओं पर रोक, इस्तेमाल पर नियंत्रण और अभिभावकों की भागीदारी के साधनों के जरिए इन जोखिमों से निपटते हैं।

चेतावनी, संकट में हस्तक्षेप और आसानी से सेवा छोड़ने का विकल्प

अनुच्छेद 18 के तहत सेवाओं को उपयोगकर्ताओं को बताना होगा कि वे किसी इंसान के बजाय एआई से संवाद कर रहे हैं। जब सेवा प्रदाता को जरूरत से ज्यादा निर्भरता या मजबूरी में इस्तेमाल के संकेत मिलें, तो उसे पॉपअप जैसे प्रमुख संदेशों के जरिए याद दिलाना होगा कि सामग्री एआई ने तैयार की है।

लगातार इस्तेमाल दो घंटे से अधिक होने पर सेवा प्रदाताओं को उपयोगकर्ताओं को समय के बारे में भी याद दिलाना होगा। नियम इन अंतरालों पर चेतावनी देने की जिम्मेदारी तय करता है; नाबालिगों के लिए अलग-अलग समय सीमाएं सुरक्षा की अलग व्यवस्थाओं के तहत तय होती हैं।

अनुच्छेद 13 के तहत खतरा सामने आने पर अधिक कड़ी प्रतिक्रिया जरूरी है। तीव्र भावनाओं का पता चलने पर सेवा प्रदाताओं को मन शांत करने वाले संदेश देने और उपयोगकर्ताओं को मदद लेने के लिए प्रोत्साहित करना होगा। जब कोई उपयोगकर्ता खुद को नुकसान पहुंचाने का इरादा साफ तौर पर बताए या दूसरी तय की गई गंभीर परिस्थितियों का सामना करे, तो कंपनी को जरूरी हस्तक्षेप करना होगा, उचित सहायता देनी होगी और तुरंत अभिभावक या आपातकालीन संपर्क से बात करनी होगी।

अंतिम पाठ में कंपनियों को हस्तक्षेप का तरीका चुनने की गुंजाइश दी गई है। मसौदे की तुलना में इसमें निर्भरता का आकलन करने और बातचीत का नियंत्रण किसी इंसान को सौंपने की स्पष्ट शर्तें हटा दी गईं, लेकिन संकट में प्रतिक्रिया देने की जिम्मेदारियां कायम रखी गईं।

अनुच्छेद 19 के तहत सेवा छोड़ने का आसान रास्ता देना जरूरी है। अगर कोई उपयोगकर्ता इंटरफेस के विकल्प, वॉइस कमांड या कीवर्ड से सेवा छोड़ने की मांग करता है, तो सेवा प्रदाता को तुरंत रुकना होगा। उपयोगकर्ता को रोकने के लिए बातचीत जारी रखना प्रतिबंधित है। सेवा बंद करने वाली कंपनियों को पहले से सूचना भी देनी होगी या ऐसा संभव न होने पर तुरंत बंद होने की घोषणा करनी होगी।

निजी बातचीत के लिए अलग सुरक्षा

अनुच्छेद 12 के तहत उपयोगकर्ता समझौतों और पंजीकरण की जानकारी में उम्र तथा अभिभावक या आपातकालीन संपर्क जैसी जरूरी जानकारी शामिल होनी चाहिए। अंतिम संस्करण में यह शर्त मसौदे में कमजोर वर्गों पर दिए गए जोर से आगे बढ़ती है और संकट से निपटने की तैयारी को व्यापक सेवा ढांचे का हिस्सा बनाती है।

अनुच्छेद 16 के तहत बातचीत के डेटा की सुरक्षा के लिए एन्क्रिप्शन, पहुंच नियंत्रण और अन्य उपाय जरूरी हैं। कानून में अन्यथा प्रावधान न हो या अधिकारधारक स्पष्ट सहमति न दे, तो कंपनियां आम तौर पर ये रिकॉर्ड तीसरे पक्ष के साथ साझा नहीं कर सकतीं।

उपयोगकर्ताओं को अपनी बातचीत के डेटा, जिसमें चैट का इतिहास भी शामिल है, की प्रतिलिपि बनाने और उसे मिटाने का विकल्प मिलना चाहिए। कानूनों या प्रशासनिक नियमों में अन्यथा प्रावधान न होने पर बातचीत से मिली संवेदनशील निजी जानकारी का इस्तेमाल अलग सहमति के बिना मॉडल को प्रशिक्षित करने के लिए नहीं किया जा सकता।

झांग का किराये का अनुबंध और चैट रिकॉर्ड अपलोड करने का फैसला दिखाता है कि व्यावहारिक मदद और भावनात्मक सहारा, दोनों एक ही बातचीत में निजी जानकारी ला सकते हैं। उपायों के तहत कंपनियों को इन रिकॉर्ड की रक्षा करनी होगी और साथ ही गंभीर सुरक्षा जोखिमों को पहचानने तथा उन पर प्रतिक्रिया देने की क्षमता भी बनाए रखनी होगी।

बुजुर्ग उपयोगकर्ताओं के लिए भी खास सुरक्षा है। सेवा प्रदाताओं को प्रमुखता से सुरक्षा संबंधी चेतावनियां देनी होंगी, स्वस्थ इस्तेमाल के लिए मार्गदर्शन देना होगा और मदद की मांग पर तुरंत प्रतिक्रिया करनी होगी। सुरक्षा आकलन में बच्चों के साथ-साथ बुजुर्गों की सुरक्षा भी जांचनी होगी।

सुरक्षा जांच और दंड चैटबॉट से आगे तक लागू

अनुच्छेद 22 के तहत सेवा प्रदाता को दायरे में आने वाली सेवा शुरू करने, उससे संबंधित सुविधाएं जोड़ने या उसमें बड़ा बदलाव करने वाली तकनीक लाने पर सुरक्षा आकलन करना होगा। अगर किसी सेवा के पंजीकृत उपयोगकर्ता कम से कम 1 million या मासिक सक्रिय उपयोगकर्ता 100,000 तक पहुंचते हैं, उसमें तय सुरक्षा जोखिम हैं या नियामक आकलन का निर्देश देते हैं, तो भी जांच जरूरी है।

सेवा प्रदाताओं को आकलन की रिपोर्ट अपने स्थान वाले प्रांत के साइबरस्पेस प्रशासन को देनी होगी। समीक्षा में सुरक्षा उपायों, प्रशिक्षण डेटा, संकट की पहचान और हस्तक्षेप, उपयोगकर्ताओं की संख्या और उम्र, सेवा पर बिताए समय, शिकायतों तथा बड़ी सुरक्षा समस्याओं को ठीक करने के कदमों की जांच होगी।

ऐप स्टोर को संबंधित सुरक्षा आकलन और फाइलिंग की जांच करनी होगी। नियमों का उल्लंघन करने वाले ऐप को अस्वीकार करने, निलंबित करने या हटाने का आदेश दिया जा सकता है। एल्गोरिदम से संबंधित फाइलिंग की सामग्री का सालाना सत्यापन होगा। प्रांतीय प्राधिकरणों को हर साल आकलन की जानकारी की समीक्षा करनी होगी और जरूरत पड़ने पर निरीक्षण समेत आगे की जांच करनी होगी।

अनुच्छेद 30 में चेतावनी, समस्याएं सुधारने के आदेश और नए पंजीकरण निलंबित करने जैसी पाबंदियों का प्रावधान है। उल्लंघन ठीक करने से इनकार करने या गंभीर परिस्थितियों में संबंधित सेवा बंद करने का आदेश और 10,000 से 100,000 युआन तक जुर्माना लगाया जा सकता है। जीवन या स्वास्थ्य को खतरे और नुकसानदेह नतीजों वाले मामलों में इस प्रावधान के तहत 100,000 से 200,000 युआन तक जुर्माना हो सकता है।

दंड के लिए अन्य लागू कानून भी इस्तेमाल हो सकते हैं। स्वास्थ्य सेवा या वित्त से जुड़ी सेवाओं को एआई साथी संबंधी उपायों के साथ-साथ उन क्षेत्रों की शर्तें भी पूरी करनी होंगी।

लंबी बातचीत पर आधारित कारोबारी मॉडल पर दबाव

एआई साथी बनाने वाली कंपनियों के सामने व्यावसायिक दुविधा है: उपयोगकर्ताओं को बातचीत में बनाए रखने से उनकी सक्रियता बढ़ सकती है, लेकिन इससे कंप्यूटिंग लागत और सुरक्षा संबंधी जिम्मेदारियां भी बढ़ती हैं। हर नया जवाब तैयार करने में कंप्यूटिंग संसाधन लगते हैं और किरदार के व्यक्तित्व तथा याददाश्त को बनाए रखने के लिए अतिरिक्त संसाधन चाहिए।

प्रकाशित वित्तीय अनुमानों के मुताबिक, जनवरी से अगस्त 2026 के बीच कैरेक्टर.एआई का कंप्यूटिंग खर्च करीब $56.1 million रहा और मासिक घाटा लगभग $8 million से $9 million था। इन्हीं अनुमानों में अगस्त का विज्ञापन राजस्व करीब $2.5 million और सदस्यता राजस्व करीब $2.8 million, यानी कुल $5.3 million बताया गया है। करीब 28 million मासिक सक्रिय उपयोगकर्ताओं वाली सेवा से जुड़ी लागत और राजस्व पर दबाव का स्तर इन आंकड़ों से पता चलता है।

कंपनियां कमाई के अलग-अलग तरीके आजमा रही हैं। माओशियांग किरदारों के साथ संवाद को कहानियों, सदस्यता, विज्ञापन और आभासी खरीदारी से जोड़ता है। जीटा ने कहानियों पर ध्यान दिया है, लिंक़ी किरदारों से जुड़ी संग्रहणीय सामग्री देता है और टेनसेंट का ईसीयुआन गेमिंग में एआई साथियों को शामिल करता है। इन तरीकों से उपयोगकर्ताओं को खुली बातचीत से आगे खरीदने के लिए कुछ मिलता है, लेकिन भावनात्मक हेरफेर, खर्च पर सुरक्षा और नाबालिगों की रक्षा की जिम्मेदारी कंपनियों की ही रहती है।

चीन के उपायों के तहत सेवा शुरू करने से लेकर संचालन, उन्नयन और बंद होने तक सुरक्षा उपायों पर खर्च करने की जिम्मेदारी सेवा प्रदाताओं की है। लंबे समय तक इस्तेमाल होने पर अब बीच में चेतावनी देने, जोखिम पहचानने और उपयोगकर्ता को जाने देने की स्पष्ट जिम्मेदारियां हैं। बुनियादी बदलाव साफ है: भरोसेमंद लगने वाले एआई साथी को सीमा भी बनाए रखनी होगी, बातचीत की सुरक्षा करनी होगी और स्क्रीन के पार मदद की जरूरत पड़ने पर प्रतिक्रिया देनी होगी।

प्रमुख बातें

• लगातार भावनात्मक संवाद देने और इंसानी गुणों की नकल करने वाली सेवाओं को शामिल करने वाले चीन के एआई साथी संबंधी उपाय 15 जुलाई, 2026 से लागू हुए।
• सेवा प्रदाता नाबालिगों को आभासी साथी, आभासी रिश्तेदार या आभासी अंतरंग रिश्तों पर आधारित अन्य सेवाएं नहीं दे सकते।
• 14 साल से कम उम्र के बच्चों को दायरे में आने वाली अन्य सेवाओं और अपनी निजी जानकारी संसाधित कराने के लिए अभिभावक की सहमति चाहिए।
• कंपनियों को बताना होगा कि उपयोगकर्ता एआई से बात कर रहे हैं, निर्भरता के बारे में चेतावनी देनी होगी और लगातार दो घंटे से अधिक इस्तेमाल पर सूचना देनी होगी।
• गंभीर खतरे में हस्तक्षेप करना और तुरंत अभिभावक या आपातकालीन संपर्क से बात करना जरूरी है।
• उपयोगकर्ताओं को बातचीत के डेटा की प्रतिलिपि बनाने और उसे मिटाने का अधिकार है। वे बातचीत जारी रखकर रोके बिना सेवा छोड़ सकते हैं।
• सुरक्षा आकलन सेवा शुरू करने, बड़े बदलावों और तय उपयोगकर्ता सीमाओं पर लागू होते हैं; गंभीर उल्लंघन पर सेवा बंद करने और जुर्माने का प्रावधान है।