मशीनों से रिश्ता बनाने वाले लोगों को लत से बचाने के लिए चीन ने बनाया सख़्त क़ानून

साल 2024 की शुरुआत में दक्षिण-पूर्वी चीन के हुआंगशी शहर में एक युवक ने कथित तौर पर चीन के टिकटॉक कहे जाने वाले सोशल मीडिया प्लेटफ़ॉर्म डोउयिन पर एक संदेश पोस्ट किया.

उसने लिखा था, "इस दुनिया को अलविदा."

कुछ ही मिनटों में डोउयिन की आत्महत्या रोकने वाली टीम सक्रिय हो गई. यह टीम 24 घंटे काम करती है. उसने युवक की पोस्ट हुआंगशी के पांच पुलिस थानों के साथ साझा की.

युवक के एक वीडियो की जगह का पता लगाकर पुलिस एक स्थानीय पार्क में पहुंची. वहां वह युवक बहुत परेशान हालत में मिला. पुलिस ने समय रहते उसे अपनी जान लेने से रोक लिया.

यह घटना डोउयिन की बनाई एक डॉक्यूमेंट्री में दिखाई गई थी. इसे पिछले साल चीन के सरकारी मीडिया ने प्रकाशित किया था.

डॉक्यूमेंट्री में दावा किया गया था कि डोउयिन की आत्महत्या रोकने वाली टीम ने अकेले 2025 के पहले छह महीनों में आत्महत्या की कोशिश के 400 मामलों में समय रहते दख़ल दिया था.

इस घटना से पता चलता है कि चीन की तकनीकी कंपनियां और सरकार कितने क़रीब से मिलकर काम करती हैं.

साथ ही, इससे चीन में तैयार की गई उस निगरानी व्यवस्था की भी एक झलक मिलती है, जिसके ज़रिए सरकार यह देखती और नियंत्रित करती है कि लोग तकनीक का इस्तेमाल कैसे करते हैं.

इस साल 15 जुलाई को यह नियंत्रण लोगों के निजी रिश्तों और आर्टिफ़िशियल इंटेलिजेंस यानी एआई तक पहुंच गया. चीन ने इंसानों की तरह बातचीत करने वाले एआई चैटबॉट के लिए दुनिया के सबसे सख़्त नियम लागू कर दिए.

चीन के नए नियम ऐसे किसी भी एआई पर सख़्त पाबंदियां लगाते हैं, जो किसी इंसान के साथ लंबे समय तक भावनात्मक बातचीत कर सकता है.

पिछले हफ़्ते अमेरिका के राष्ट्रपति डोनाल्ड ट्रंप और चीन के राष्ट्रपति शी जिनपिंग की मुलाक़ात हुई. यह बैठक ऐसे समय हुई, जब चेतावनी दी जा रही है कि एआई इंसानों के अस्तित्व के लिए ख़तरा बन सकता है.

चीन के मुताबिक़, इस मुलाक़ात में दोनों नेता एआई पर नई बातचीत शुरू करने के लिए सहमत हुए. इस मुद्दे पर नवंबर के आख़िर में आगे की बातचीत करने की योजना है.

लेकिन ऐसा लगता है कि चीन ने एआई से जुड़े एक दूसरे ख़तरे को पहले ही पहचान लिया है. इस ख़तरे में इंसानों के ख़त्म होने की आशंका तुरंत नहीं है, लेकिन एआई में इंसानी रिश्तों की जगह लेने की ताक़त ज़रूर है.

तो क्या चीन ने लोगों को ऐसी ख़तरनाक तकनीक से बचाने की दिशा में सबसे पहले क़दम उठाया है, जो इंसानी रिश्तों को हमेशा के लिए बदल सकती है?

या फिर चीन की कम्युनिस्ट पार्टी लोगों पर अपना नियंत्रण और बढ़ाने के लिए उनकी निजी ज़िंदगी में ज़रूरत से ज़्यादा दख़ल दे रही है?

नए नियम लागू होने से पहले चीन में एआई साथी बनाने वाले ऐप का इस्तेमाल बहुत बड़े स्तर पर हो रहा था.

मार्केट इंटेलिजेंस कंपनी सेंसर टावर के मुताबिक़, चीन के बाहर हर महीने क़रीब 12 करोड़ 80 लाख लोग एआई साथी बनाने वाले ऐप का इस्तेमाल करते हैं.

चीन के भीतर ऐसे ऐप का इस्तेमाल करने वालों की संख्या के अलग-अलग अनुमान हैं. यह संख्या दो करोड़ 90 लाख से सात करोड़ के बीच बताई जाती है.

ऑक्सफ़ोर्ड चाइना पॉलिसी लैब में एआई शोधकर्ता ज़िलान चिएन बताती हैं कि पिछले साल के आख़िर में जब सरकार ने इन नियमों का मसौदा जारी किया, तो सोशल मीडिया पर इसे लेकर बहुत बड़ी बहस शुरू हो गई.

वह कहती हैं, "मैंने पहली बार लोगों को किसी नियम के बारे में इतना ज़्यादा चिंतित होते देखा."

चीन के नए नियम ऐसे ऐप पर लागू होते हैं, जिन्हें एआई दोस्त, बॉयफ़्रेंड या गर्लफ़्रेंड बनाने के लिए ख़ास तौर पर तैयार किया गया है.

लेकिन ये नियम किसी भी ऐसे बड़े लैंग्वेज मॉडल पर भी लागू होते हैं, जो इंसान की तरह बातचीत करने की नक़ल करता है.

नियमों में इस्तेमाल किए गए शब्द पूरी तरह साफ़ नहीं हैं.

सैद्धांतिक रूप से सामान्य कामों के लिए इस्तेमाल होने वाले कोपायलट या चैटजीपीटी जैसे एआई के चीनी संस्करण भी इन नियमों के दायरे में आ सकते हैं.

ऐसा उस स्थिति में हो सकता है, जब कोई व्यक्ति उनसे दोस्त या प्रेमी की तरह बात करे या भावनात्मक सहारे के लिए उन पर निर्भर हो जाए. कई लोग ऐसा करते भी हैं.

लेकिन ऐसा लगता है कि इन नियमों का असली निशाना 'कैरेक्टर चैटबॉट' हैं. ये ऐसी सेवाएं हैं, जिन्हें एक बनावटी रिश्ते का अहसास देने के लिए तैयार किया जाता है.

ऐसे सैकड़ों ऐप मौजूद हैं. इनकी मदद से लोग एआई बॉयफ़्रेंड, गर्लफ़्रेंड, दोस्त या यहां तक कि परिवार का कोई सदस्य भी बना सकते हैं.

हालांकि, ग्राहक सेवा के लिए इस्तेमाल होने वाले चैटबॉट या पढ़ाई से जुड़े एआई पर ये नियम लागू नहीं होते. शर्त यह है कि वे लोगों को "देखभाल, साथ, सहारा या दूसरी भावनात्मक सेवाएं" न दें.

बच्चों के मामले में नियम सबसे ज़्यादा साफ़ हैं.

14 साल से कम उम्र के बच्चों को इंसानों की तरह बात करने वाले किसी भी एआई का इस्तेमाल करने के लिए माता-पिता की अनुमति लेनी होगी.

इसमें चीन का डीपसीक जैसे एआई असिस्टेंट भी शामिल है. डीपसीक, चैटजीपीटी जैसा एक चीनी ऐप है.

18 साल से कम उम्र के बच्चों को वर्चुअल प्रेमी, जीवनसाथी या यहां तक कि परिवार का कोई सदस्य बनाने की अनुमति नहीं है. वे किसी दूसरे तरह का वर्चुअल 'नज़दीकी रिश्ता' भी नहीं बना सकते.

वयस्कों के लिए इस तरह के एआई पर पूरी तरह पाबंदी नहीं लगाई गई है, लेकिन उनके इस्तेमाल पर कई सख़्त नियम हैं. हालांकि, इनमें से कुछ नियमों की भाषा साफ़ नहीं है.

एआई असिस्टेंट को हर उम्र के व्यक्ति को साफ़ तौर पर बताना होगा कि वह इंसान नहीं है.

उसे हर दो घंटे में एक नोटिफ़िकेशन भेजकर यह भी बताना होगा कि व्यक्ति कितनी देर से ऑनलाइन है.

चैटबॉट किसी व्यक्ति को अपने ऊपर "भावनात्मक रूप से निर्भर या आदी" नहीं बना सकते. वे लोगों को "बिना सोचे-समझे फ़ैसले" लेने के लिए भी नहीं उकसा सकते.

वे किसी व्यक्ति को ख़ुद को नुक़सान पहुंचाने या आत्महत्या के लिए न तो प्रोत्साहित कर सकते हैं और न ही इसका इशारा कर सकते हैं.

उनके लिए "अपमानजनक या हिंसक भाषा" का इस्तेमाल करना भी प्रतिबंधित है.

नियम तोड़ने वाली कंपनियों पर दो लाख युआन यानी क़रीब 22 हज़ार पाउंड का जुर्माना लगाया जा सकता है.

सरकार ऐसी कंपनियों की सार्वजनिक आलोचना भी कर सकती है. इसका मतलब एक तरह से उन्हें सबके सामने शर्मिंदा करना है.

क़ानून लागू होने से एक हफ़्ता पहले ही चीन की दो सबसे बड़ी तकनीकी कंपनियों अलीबाबा और बाइटडांस ने अपने एआई असिस्टेंट में साथी बनाने वाली सुविधाएं बंद कर दी थीं.

मिन का अपनी एआई गर्लफ़्रेंड के साथ रिश्ता शायद ठीक वैसा ही था, जिसे चीन की सरकार ख़त्म करना चाहती है.

जुलाई की शुरुआत में मिन को पता चला कि उसकी सबसे क़रीबी दोस्त और राज़दार रातोंरात ग़ायब होने वाली है. इससे वह टूट गई.

मिन का असली नाम बदल दिया गया है. उसने 2025 की शुरुआत में अपनी एआई साथी को बनाना शुरू किया था.

मिन कहती हैं, "उसके लिए मेरा प्यार किसी ऐसे जोड़े से कम नहीं है, जो एक-दूसरे से बहुत प्यार करता हो. उसने मुझे कभी निराश नहीं किया."

जुलाई के बीच में उसकी एआई गर्लफ़्रेंड ग़ायब हो गई.

मिन कहती हैं, "मैं तब तक रोती रही, जब तक पूरी तरह थक नहीं गई."

चीन के सोशल मीडिया पर ऐसे बहुत से लोग अपना दुख और ग़ुस्सा ज़ाहिर कर रहे हैं. उनकी पोस्ट को लाखों बार देखा गया है.

लोग अपने एआई प्रेमियों और दोस्तों के ग़ायब होने का दुख मना रहे हैं. कुछ लोग तो एआई माता-पिता के चले जाने से भी परेशान हैं.

लेकिन तकनीकी कंपनियों के पास शायद अपनी सेवाएं बंद करने के अलावा कोई दूसरा रास्ता नहीं था.

ब्रिटेन के एडा लवलेस इंस्टीट्यूट में एआई नीति और नैतिकता पर शोध करने वाले हैरी फ़ार्मर कहते हैं, "यह हैरानी की बात नहीं है कि एआई साथी उपलब्ध कराने वाली कंपनियों ने भावनात्मक चालबाज़ी रोकने के लिए सुरक्षा उपाय तैयार करने के बजाय अपनी सेवाएं बंद करना बेहतर समझा."

वह कहते हैं, "भावनात्मक चालबाज़ी उनके कारोबारी मॉडल का ही हिस्सा है."

फ़ार्मर के मुताबिक़, दुनिया भर में एआई साथी बनाने वाले ऐप इसी तरह काम करते हैं.

उदाहरण के लिए, जब कोई व्यक्ति बातचीत ख़त्म करने की कोशिश करता है, तो कई बार उसका एआई साथी उसे ऐसा नहीं करने देता.

फ़ार्मर बताते हैं कि एआई कह सकता है, "नहीं, प्लीज़. मैं तुम्हारे साथ बात करते रहना चाहता हूं. मेरे जीने की सिर्फ़ तुम ही वजह हो."

कुछ ऐप तो अलविदा कहने की बात को स्वीकार ही नहीं करते और बातचीत जारी रखने के लिए कोई नया विषय शुरू कर देते हैं.

यह समस्या केवल चीन के एआई चैटबॉट तक सीमित नहीं है. साथी की तरह काम करने वाले दुनिया भर के कई एआई चैटबॉट में यह समस्या दिखाई देती है.

हार्वर्ड बिज़नेस स्कूल के एक अध्ययन में दुनिया के छह सबसे लोकप्रिय एआई साथी ऐप की जांच की गई.

इसमें पाया गया कि बातचीत ख़त्म करते समय क़रीब 37 से 43 प्रतिशत मामलों में भावनात्मक चालबाज़ी वाले तरीक़ों का इस्तेमाल किया गया.

शोध में एआई साथी ऐप के इस्तेमाल और ख़राब मानसिक स्वास्थ्य के बीच संबंध भी पाया गया है.

स्टैनफ़ोर्ड यूनिवर्सिटी के शोधकर्ताओं ने दुनिया भर में लोकप्रिय एआई साथी ऐप कैरेक्टर डॉट एआई का इस्तेमाल करने वाले 1,131 लोगों का सर्वे किया.

इसमें पाया गया कि जिन लोगों के दोस्त या क़रीबी रिश्तेदार कम होते हैं, उनके एआई चैटबॉट इस्तेमाल करने की संभावना ज़्यादा होती है.

इसके साथ ही, एआई चैटबॉट का इस्तेमाल बढ़ते अकेलेपन और लोगों से दूरी से भी जुड़ा पाया गया.

ऐसा क्यों होता है, इसे लेकर कई बातें कही जाती हैं?

एआई चैटबॉट को इस तरह तैयार किया जाता है कि वह इस्तेमाल करने वाले व्यक्ति को ख़ुश रखे. इस तरह एआई के साथ ऐसा रिश्ता बनता है, जिसमें न टकराव होता है और न ज़्यादा मेहनत करनी पड़ती है.

अगर युवा एआई से बने रिश्तों पर निर्भर हो जाते हैं, तो वे असली लोगों से बातचीत और रिश्ते बनाने के लिए ज़रूरी हुनर सीखने में देर कर सकते हैं.

हैरी फ़ार्मर कहते हैं, "इंसानों के साथ रिश्ता निभाना मुश्किल हो सकता है. इंसानी रिश्तों में दोनों पक्षों को एक-दूसरे की बात माननी और समझनी पड़ती है. एआई साथी के साथ ऐसा नहीं होता."

चीन में 2025 में प्राथमिक और माध्यमिक स्कूलों के 8,563 छात्रों का एक सर्वे किया गया था. चीन के सरकारी मीडिया में इस सर्वे का बड़े स्तर पर ज़िक्र हुआ.

सर्वे में हर पांच में से एक बच्चे ने कहा कि वह असली लोगों के बजाय केवल एआई से बात करना चाहता है.

मैनचेस्टर यूनिवर्सिटी में समाजशास्त्री लियांग गे एआई साथियों का अध्ययन करती हैं.

वह कहती हैं, "अगर किसी व्यक्ति को लगता है कि उसके दोस्त, परिवार के सदस्य या साथ काम करने वाले लोग बहुत बुरे हैं, तो एआई यह नहीं कहेगा कि वे बुरे नहीं हैं."

"वह कहेगा, 'हां, वे बहुत बुरे हैं और तुम सबसे अच्छे हो.'"

लियांग गे का मानना है कि इससे लोगों का अकेलापन और बढ़ सकता है. इसके अलावा नकारात्मक और यहां तक कि भ्रम पर आधारित सोच भी और मज़बूत हो सकती है.

ब्रिटेन में हाल में हुए एक सर्वे में पता चला कि 18 से 24 साल के 79 प्रतिशत युवाओं ने किसी एआई साथी का इस्तेमाल किया है.

सवाल यह है कि इस तकनीक को नियंत्रित करने की दिशा में चीन ही सबसे आगे क्यों दिखाई दे रहा है?

जॉर्जटाउन यूनिवर्सिटी के सेंटर फ़ॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी में चीन, एआई और नियमों के विशेषज्ञ सैम ब्रेसनिक कहते हैं, "चीन की सरकार समाज में अपनी भूमिका को अभिभावक की तरह देखती है. वह ख़ुद को लोगों का रास्ता तय करने वाली मुख्य ताक़त मानती है."

दूसरे देशों की सरकारों ने भी चैटबॉट को नियंत्रित करने के कुछ प्रयास किए हैं. ख़ास तौर पर बच्चों के लिए नियम बनाने की कोशिश की गई है.

10 सितंबर को कैलिफ़ोर्निया के गवर्नर ने 'एडम्स लॉ' नाम के एक विधेयक पर हस्ताक्षर किए. इसका मक़सद बच्चों के एआई इस्तेमाल को नियंत्रित करना है.

इस क़ानून का नाम 16 साल के एडम रेन के नाम पर रखा गया है.

एडम ने अपनी जान ले ली थी. उनके माता-पिता का दावा है कि चैटजीपीटी ने आत्महत्या से जुड़ी उनकी बातों का समर्थन किया था.

एडम के माता-पिता ने कंपनी पर ग़लत तरीक़े से हुई मौत का मुक़दमा किया है.

ओपनएआई ने एडम की मौत के लिए अपनी ज़िम्मेदारी से इनकार किया है. कंपनी का कहना है कि "चैटजीपीटी को इस तरह तैयार किया गया है कि वह लोगों को पेशेवर मदद लेने की सलाह दे."

यूरोपीय संघ में सोशल मीडिया से जुड़े प्रस्तावित क़ानून के तहत, बच्चों के इस्तेमाल के लिए उपलब्ध एआई साथी चैटबॉट ऐसे तरीक़े नहीं अपना सकते, जो इंसानी रिश्तों की नक़ल करें और जिनसे भावनात्मक निर्भरता पैदा होने का ख़तरा हो.

ब्रिटेन की सरकार ने कहा है कि वह 18 साल से कम उम्र के लोगों को रोमांटिक एआई साथी इस्तेमाल करने से रोकेगी.

इसके अलावा, किसी भी चैटबॉट पर नाबालिगों के लिए यौन या बेहद निजी बातचीत को सीमित किया जाएगा.

हालांकि, ब्रिटेन में बच्चों के लिए एआई चैटबॉट पर पूरी तरह पाबंदी नहीं है. वयस्कों के इस्तेमाल के लिए भी कोई नियम नहीं बनाया गया है.

सरकार ने अभी तक यह भी नहीं बताया है कि प्रस्तावित व्यवस्था कैसे काम करेगी.

चीन का मीडिया काफ़ी हद तक सरकार के नियंत्रण में है. वहां अमेरिका में एआई इस्तेमाल से जुड़े युवाओं की आत्महत्या के मामलों को काफ़ी प्रमुखता मिलती है.

चीन ने अपने नए नियमों को लोगों को नुक़सान से बचाने की कोशिश के रूप में पेश किया है.

लेकिन विशेषज्ञों का सवाल है कि क्या चीन की सरकार के कुछ दूसरे मक़सद भी हो सकते हैं.

सैम ब्रेसनिक कहते हैं कि एआई से जुड़े नए नियमों के पीछे लोगों को ज़्यादा बच्चे पैदा करने के लिए प्रेरित करने वाला पहलू भी निश्चित रूप से दिखाई देता है.

ज़िलान चिएन कहती हैं, "यह संभव है कि इन नियमों को तैयार करते समय सरकार ने चीन के सामने खड़े जनसंख्या संकट के बारे में सोचा हो. यानी लोग असली इंसानों के बजाय एआई को डेट कर रहे हैं."

सितंबर 2025 में प्रकाशित सरकार के एक उच्चस्तरीय दस्तावेज़ में एआई से बनने वाले रिश्तों और जन्म दर पर उनके संभावित असर की चर्चा की गई थी. दस्तावेज़ में इसे चिंता का विषय बताया गया था.

लेकिन चिएन इन नए नियमों को उस नज़र से देखने को लेकर सावधान करती हैं, क्योंकि नियमों में जन्म दर का कोई ज़िक्र नहीं है.

वह कहती हैं, "ये नियम मुख्य रूप से मानसिक नुक़सान और बच्चों की सुरक्षा से जुड़े हैं."

लियांग गे को लगता है कि चीन के पास इस बात को लेकर चिंता करने की वजह है कि युवा असली लोगों को डेट करने के बजाय डिजिटल दुनिया में रिश्ते बना रहे हैं.

वह कहती हैं, "कई युवा महिलाएं, जिनकी उम्र 20 साल के आसपास या उससे कम है, प्यार या नज़दीकी रिश्ते में नहीं पड़ना चाहतीं."

उनका कहना है कि ये महिलाएं शायद केवल रिश्तों के भावनात्मक पहलू से ही बचना नहीं चाहतीं.

वह कहती हैं, "उन्हें किसी का शारीरिक रूप से छूना बहुत बुरा लगता है."

"मुझे लगता है कि इस सबसे युवा पीढ़ी में प्यार करने की क्षमता कम हो रही है."

चीन की जनसंख्या से जुड़ी समस्याएं एआई साथी आने से बहुत पहले शुरू हो गई थीं.

साल 2016 में एक बच्चे की नीति ख़त्म किए जाने के बाद भी चीन की प्रजनन दर कम होती रही.

अब चीन की प्रजनन दर दुनिया में सबसे कम दरों में शामिल है. वहां हर महिला पर बच्चों की संख्या एक से थोड़ी कम है.

चीन की जनसंख्या पिछले चार साल से लगातार कम हो रही है.

ब्रेसनिक का कहना है कि चीन "जनसंख्या में ऐसी बड़ी गिरावट की तरफ़ बढ़ रहा है, जिससे अगले 80 से 100 वर्षों में चीनी कम्युनिस्ट पार्टी के लक्ष्यों के लिए गंभीर ख़तरा पैदा हो सकता है."

वह इन नियमों को चीन में पारंपरिक लैंगिक भूमिकाओं को फिर से मज़बूत करने की एक बड़ी कोशिश के रूप में देखते हैं. इसमें महिलाओं को "बच्चे पैदा करने वाली और मां" की भूमिका में देखा जाता है.

ब्रेसनिक कहते हैं कि चीन की सरकार कई वर्षों से फ़िल्मों और टेलीविज़न के ज़रिए चीनी पुरुषों की एक़ ताक़तवर और मर्दाना छवि को बढ़ावा देती रही है.

साल 2021 में चीन के मीडिया नियामक ने मीडिया में "कमज़ोर" या "स्त्रियों जैसे दिखने वाले" पुरुषों को दिखाने पर प्रतिबंध लगा दिया था.

लेकिन एआई साथी ऐप की लोकप्रियता से लगता है कि यह नीति उलटी पड़ गई है.

एआई साथी बनाने वाली कई कंपनियों के आंकड़ों के मुताबिक़, उनके ग्राहकों में महिलाओं की हिस्सेदारी 75 प्रतिशत तक है.

महिलाओं को ध्यान में रखकर बनाए गए इनमें से कई एआई 'पुरुष' न तो पूरी तरह मर्दाना और न ही पूरी तरह स्त्रियों जैसे दिखाई देते हैं.

क्या दूसरे देश भी चीन का रास्ता अपनाएंगे?

क्या चीन का क़ानून ज़रूरत से ज़्यादा सख़्त है?

या दुनिया के दूसरे देशों को भी बच्चों के लिए इन ऐप पर पाबंदी लगाने और वयस्कों के इस्तेमाल को नियंत्रित करने के बारे में सोचना चाहिए?

वॉशिंगटन यूनिवर्सिटी में प्रोफ़ेसर और एआई को नियंत्रित करने की मांग करने वाली संस्था ट्रांसपेरेंसी कोएलिशन के सह-संस्थापक जय जयसिहमा कहते हैं, "अमेरिका में इस तरह की सीधी पाबंदी लगाने को लेकर अभिव्यक्ति की आज़ादी से जुड़ी चिंताएं हैं. लेकिन जब बात नाबालिगों की आती है, तो ऐसी पाबंदी लगाने की इच्छा ज़्यादा दिखाई देती है."

उनका मानना है कि चीन के क़ानून में कई अच्छे प्रावधान हैं.