मेटा ने पैसे लेकर चलाए बच्चों के यौन शोषण वाले एआई विज्ञापन, भारत में भी दिखे

चेतावनी: इस र‍िपोर्ट के कुछ विवरण पाठकों को व‍िचल‍ित कर सकते हैं.

एक ताज़ा रिपोर्ट ने पाया है कि मेटा ने पैसे लेकर सैकड़ों ऐसे विज्ञापन चलाए हैं जिनमें आर्टिफ़‍िशियल इंटेलिजेंस से बनाई गई बच्चों के यौन शोषण की तस्वीरें और वीडियो हैं.

टेक कंपनियों की जवाबदेही और पारदर्श‍िता के मुद्दे पर काम करनेवाले अमरीकी कार्यकर्ताओं की इस रिपोर्ट के मुताबिक़ पिछले 10 महीनों में दिखाए गए इन विज्ञापनों में दर्जनों भारत में चलाए गए हैं.

ये रिपोर्ट भारत सरकार के उस आदेश के दो महीने बाद आई है जिसमें मेटा को इंस्टाग्राम से बच्चों के यौन शोषण की सामग्री वाले कंटेंट (सीसैम-CSAM) और विज्ञापन हटाने के आदेश दिए गए थे. यह क़दम बीबीसी-आई की पड़ताल के बाद उठाया गया था. इस पड़ताल में पाया गया था कि इंस्टाग्राम पैसे लेकर ऐसी सामग्री के प्रचार वाले विज्ञापन भारत में चला रहा है.

वॉशिंगटन स्थित टेक ट्रांसपेरेंसी प्रोजेक्ट (टीटीपी) ने बताया कि उन्हें फ़ेसबुक और इंस्टाग्राम पर सीसैम (CSAM) वाले 332 विज्ञापन मिले. इनमें से ज़्यादातर (274) इसी साल अगस्त महीने में चलाए गए थे.

जब बीबीसी ने इन परिणामों के बारे में मेटा को लिखा तो एक बयान में उन्होंने कहा, "हम न्यूडिफ़ाई ऐप या बच्चों का किसी तरह का शोषण बर्दाशत नहीं करते. चाहे वो असल ज़िंदगी में हो या आर्टि‍फ़‍िशियल इंटेलिजेंस (एआई) की मदद से बनाया गया हो. आपराधिक तत्व पकड़ने से बचने के लिए हर वक़्त तरीके बदलते रहते हैं. इस वजह से हम इन्‍हें खोजने की कोशिशों को मज़बूती से लागू करते हैं."

मंगलवार को प्रकाशित हुई टीटीपी की रिपोर्ट में कहा गया है कि उन्होंने यूरोप के राजपरिवार के बच्चे समेत कई असल बच्चों की पहचान की है. इनकी तस्वीरें विज्ञापनों में इस्तेमाल की गईं हैं और एआई के इस्तेमाल से बदली गई हैं.

टीटीपी के मुताबिक मेटा को अपने शोध के नतीजों से अवगत करवाने के बाद भी कंपनी के प्लेटफ़ॉर्म पर ऐसे विज्ञापन चलाए जाते रहे.

छोड़कर सबसे अधिक पढ़ी गईं आगे बढ़ें

सबसे अधिक पढ़ी गईं

समाप्त

छोड़कर पॉडकास्ट आगे बढ़ें

Dinbhar: आवाज़ वही, अंदाज़ नया

देश - दुनिया की बड़ी ख़बरें जिन्होंने बटोरी सुर्खियां.

एपिसोड

समाप्त

करीब एक-चौथाई (84) विज्ञापन भारत में चलाए गए. इनमें से 78 भारत सरकार के इंस्टाग्राम को सीसैम (CSAM) हटाने और मेटा के अधिकारियों से मुलाक़ात के बाद प्रकाशित हुए.

बीबीसी की पड़ताल के बाद राष्ट्रीय बाल अधिकार संरक्षण आयोग और राष्ट्रीय मानवाधिकार आयोग समेत कई भारतीय एजेंसियों ने कहा है कि वे इस मामले की जाँच कर रही हैं.

भारत में बाल यौन शोषण और ह‍िंसक सामग्री का प्रचार आपराधिक जुर्म है. मेटा की पॉलिसी कहती है कि विज्ञापन में ऐसा कोई कंटेंट नहीं दिखाया जा सकता जो बच्‍चे-बच्‍च‍ियों का यौन शोषण करे या उन्हें इसके ख़तरे में डाले.

जब बीबीसी ने मेटा से अपनी पड़ताल के बारे में संपर्क किया तो उन्होंने कहा कि जब उन्हें पता चलता है कि बच्चों का शोषण किया जा रहा है तब वे क़ानून के मुताबिक इसकी सूचना नेश्नल सेंटर फॉर मिसिंग एंड एक्सप्लॉएटेड चिल्ड्रेन (एनसीएमईसी) को देते हैं.

एनसीएमईसी इंटरनेट पर बच्‍चे-बच्‍च‍ियों के यौन शोषण और ह‍िंसा के बारे में रिपोर्ट करने का वैश्विक सिस्टम है.

लेकिन भारत में बच्‍चे-बच्‍चि‍यों के ख़िलाफ़ हिंसा के मुद्दे पर काम कर रहे 250 से ज़्यादा संगठनों के नेटवर्क 'जस्ट राइट्स फ़ॉर चिल्ड्रन' के संस्थापक भुवन रिभु के मुताबिक़ यह काफ़ी नहीं है.

'जस्ट राइट्स फ़ॉर चिल्ड्रन' ने बीबीसी की पड़ताल का हवाला देते हुए सुप्रीम कोर्ट में याचिका दायर कर सोशल मीडिया प्लेटफ़ॉर्म्‍स के लिए दिशा-निर्देश की माँग की है. इसके तहत उनके लिए सीसैम (CSAM) का प्रसार करनेवालों की पहचान करने और एजेंसियों को उसकी रिपोर्टिंग करना अनिवार्य बनाने की माँग की गई है.

भारतीय कानूनों का उल्लंघन

भुवन रिभू ने बीबीसी से कहा, "हमारे बाल अधिकार सुरक्षा क़ानूनों के तहत बच्चों के यौन शोषण की सामग्री को भारतीय जांच एजेंसियों को रिपोर्ट करना ज़रूरी है लेकिन ऐसा न कर सोशल मीडिया कंपनियां साफ़ तौर पर भारत के क़ानूनों का उल्लंघन कर रही हैं."

बड़ी तकनीकी कंपनियों से जवाबदेही मांगने वाले 'कैम्‍पेन फॉर अकाउंटेबिलिटी' से जुड़ी टीटीपी ने कहा कि उन्हें अमेरिका, यूनाइटेड किंगडम, यूरोपीय यूनियन, ऑस्ट्रेलिया और भारत में इंस्टाग्राम और फ़ेसबुक पर चलाए गए सीसैम (CSAM) वाले 332 विज्ञापन मिले. इनके मुताब‍िक़, उन्होंने सभी विज्ञापन एनसीएमईसी को रिपोर्ट कर दिए हैं.

टीटीपी के मुताबिक़ लगभग सभी विज्ञापन एक बच्चे की तस्वीर से शुरू होते हैं और जैसे ही वीडियो चलना शुरू होता है, एआई फ़ोटो को बदल कर बच्चे को यौन क्रिया में दिखाता है.

टीटीपी ने भारत में चलाए गए एक विज्ञापन के विवरण में लिखा: 13 साल की उम्र से कम की दिखनेवाली एक लड़की की तस्वीर जिसे एआई यौन क्रिया में बदल देता है. साथ में अंग्रेज़ी के वॉयसओवर में कहा गया है, "कोई रोकटोक नहीं है. सभी पात्र असली लोग हैं और कई विकल्प हैं. यही वह एआई है जिसे आदमी इस्तेमाल करते हैं."

बीबीसी ने यह विज्ञापन नहीं देखा है.

टीटीपी के मुताबिक़, इस साल अगस्त के दो सप्ताह के भीतर ही इस विज्ञापन को 50 अलग-अलग हैंडल्स द्वारा पोस्ट किया गया.

जुलाई में बीबीसी की पड़ताल सामने आने के बाद मेटा ने अपनी वेबसाइट पर एक विस्तृत पोस्ट में लिखा था कि वे अपने ऐप्स पर बच्चों के शोषण से लड़ने के लिए क्या क़दम उठा रहे हैं.

उसमें कहा गया था, "हमारे प्लेटफ़ॉर्म पर अगर किसी को हमारी नीतियों का उल्लंघन करता कोई विज्ञापन मिले तो वे उसे रिपोर्ट कर सकते हैं."

टीटीपी ने बताया कि उन्होंने मेटा के रिपोर्टिंग सिस्टम का इस्तेमाल कर भारत में चलाए गए 84 विज्ञापन रिपोर्ट करने की कोशिश की. वे 55 विज्ञापन रिपोर्ट कर पाए. मेटा विज्ञापनों को रिपोर्ट करने का विकल्प तभी देता है जब वे 'लाइव' हों.

इनमें से 43 के लिए टीटीपी को जवाब में कहा गया, "हमने देखा है और पाया कि ये विज्ञापन हमारे विज्ञापन मानकों का उल्लंघन नहीं करते हैं."

इनमें से 11 के लिए उन्हें बताया गया कि वे पहले ही हटा दिए गए हैं. एक विज्ञापन के लिए जवाब नहीं आया.

मेटा का पक्ष

जब बीबीसी ने मेटा से इस पर बारे में उनका पक्ष जानने के लिए संपर्क किया तो उन्होंने कहा, "हमने सशक्त डिफ़ेंस बनाए हैं. इनमें ऐसे सिस्टम शामिल हैं जो उल्लंघन करने वाले विज्ञापनों को ब्लॉक करते हैं और अगर हमसे शुरुआत में कुछ छूट जाए तो उसे लगातार मॉनिटर करते हैं. इस वजह से जो विज्ञापन हमें रिपोर्ट किए गए उनमें से कई पहले ही हटाए जा चुके थे. ज़्यादातर के 200 से कम इम्‍प्रेशंस थे और उनपर कुल खर्च 5,000 डॉलर से कम था."

टीटीपी के मुताबिक़, जब उन्होंने मेटा से जवाब के लिए संपर्क किया तब सभी विज्ञापन हटा दिए गए.

ये अनुभव वैसा ही था जैसा बीबीसी की पड़ताल के दौरान हुआ. जब बीबीसी ने मेटा की रिपोर्टिंग सिस्टम का इस्तेमाल कर सीसैम (CSAM) वाले एक विज्ञापन को रिपोर्ट किया तो प्लेटफ़ॉर्म ने उसे नहीं हटाया.

बाद में जब बीबीसी ने मेटा से जवाब मांगा, उन्होंने कहा कि वे पहले ही कई विज्ञापन डिसेबल कर चुके हैं और उन्हें पोस्ट करने वाले अकाउंट्स को सस्‍पेंड कर चुके हैं. कंपनी ने कहा कि बीबीसी की पड़ताल के बाद उन्होंने और विज्ञापन हटाए हैं, अकाउंट डिसेबल किए हैं और उनकी पॉलिसी का उल्लंघन करनेवाली अन्य सामग्री के यूआरएल ब्लॉक कर द‍िए हैं.

टीटीपी ने कहा कि उन्हें मिले 332 विज्ञापनों में से ज़्यादातर में यूज़र को ऐसे ऐप तक ले जाया गया जो एआई के इस्तेमाल से तस्वीरें और वीडियो बनाते हैं. ये मुख्य तौर पर चीनी डेवलपर के बनाए ऐप्स हैं.

रिपोर्ट का आरोप है कि सीसैम (CSAM) वाले विज्ञापनों के ज़रिए इन ऐप्स का प्रचार करने का मतलब है कि इन ऐप्स का इस्तेमाल भी सीसैम (CSAM) बनाने या देखने के लिए किया जा सकता है.

मेटा का कहना है कि एआई के इस्तेमाल से बिना सहमति की फ़ेक नग्न या सेक्शुअली एक्सप्लिसिट तस्वीरें बनाने वाली न्यूडिफ़ाई ऐप्स के प्रचार को वह प्रतिबंधित करता है.

भारत की चोटी की साइबर पुलिस अफ़सरों में से एक और तेलंगाना साइबर सिक्योरिटी ब्यूरो की निदेशक शिखा गोयल ने बीबीसी को बताया कि सीसैम (CSAM) से जुड़ी एक बड़ी चुनौती है "यूज़र का एक प्लेटफ़ॉर्म से दूसरे तक आसानी से जा पाना. इस वजह से उन्हें पकड़ना मुश्किल हो जाता है".

उन्होंने कहा, "हमें उम्मीद है कि सोशल मीडिया इंटरमीडियरीज़ से इस ताज़ा बातचीत में सरकार इस मुद्दे पर चर्चा करेगी और उन्हें उपयुक्त निर्देश देगी."

चीन का कनेक्शन

बीबीसी की पड़ताल में जो विज्ञापन मिले थे वे भी यूज़र को दूसरे ऐप, 'टेलीग्राम' तक ले जाते थे जहाँ वे इस सामग्री को केवल 99 रुपए में ख़रीद सकते थे.

टेलीग्राम ने तब बीबीसी को बताया कि कंपनी बाल यौन शोषण और ह‍िंसक सामग्री (सीसैम) को ऐप से हटाने के लिए मॉडरेशन में तकनीक और इंसानों – दोनों का इस्तेमाल करती है. उन्होंने कहा इसका नतीजा ये हुआ है कि, "टेलीग्राम ने अपने प्लेटफ़ॉर्म से सीसैम (सीएसएएम) के आम लोगों में फैलने पर लगभग पूरी रोक लगा दी है.''

जहां मेटा के प्‍लेटफ़ॉर्म पर आम पोस्ट बिना रोकटोक अपलोड की जा सकती हैं, वहीं मेटा कहता है कि हर विज्ञापन को प्‍लेटफ़ॉर्म पर आने से पहले रिव्यू किया जाता है.

मोटे तौर पर ऑटोमेटेड तकनीक पर निर्भर रहने वाला उसका रिव्यू सिस्टम विज्ञापन की तस्वीरें, वीडियो, टेक्स्ट, ऑडियो, किसे टारगेट किया जा रहा है और यूज़र को किस लिंक पर भेजा जा रहा है - ये सब जाँच करता है.

बीबीसी की पड़ताल के बाद मेटा ने कहा था कि "कोई सिस्‍टम परफ़ेक्ट नहीं होता" और "आपराधिक तत्व हमारे प्लेटफॉर्म का ग़लत इस्तेमाल करने की कोशिश करते रहते हैं, जिसमें एडवर्टाइज़िंग सिस्टम शामिल हैं".