82 वर्षीय सेली फेरेरा यूट्यूब देख रही थीं, तभी स्क्रीन पर एक डॉक्टर दिखाई दिए और उन्होंने सुझाव दिया कि फल खाने से उनकी आंखों की रोशनी सुरक्षित रह सकती है. उन्हें यह सुझाव तर्कसंगत लगा.
लेकिन यह कोई असली मेडिकल चैनल नहीं था और वो डॉक्टर भी असली नहीं था. उसका चेहरा और आवाज आर्टिफ़ीशियल इंटेलिजेंस (एआई) से बनाया गया था.
इस वीडियो के लगभग 3 लाख व्यूज़ हो चुके थे और इस पर सैकड़ों कमेंट्स आ चुके थे. फेरेरा ने बीबीसी को बताया कि उन्हें लगा था कि वह किसी असली डॉक्टर की बात सुन रही हैं.
यह कोई अलग-थलग मामला नहीं है. एक जांच में एआई डॉक्टरों का इस्तेमाल करने वाले 29 पुर्तगाली भाषा के चैनलों की पहचान की गई है, जिनके वीडियो को कम से कम 7 करोड़ बार देखा गया है.
और इस कंटेंट की पहुंच पूरी दुनिया भर में है. बीबीसी न्यूज़ ब्राज़ील ने कम से कम 50 यूट्यूब ट्यूटोरियल चैनलों की पहचान की है जो लोगों को पुर्तगाली, अंग्रेजी, हिंदी, स्पेनिश, फ्रेंच, इटालियन, पोलिश, जर्मन और तुर्की सहित विभिन्न भाषाओं में एआई डॉक्टरों के साथ वीडियो बनाना सिखाते हैं.
ये वीडियो बुज़ुर्ग दर्शकों को टारगेट करते हैं. उनका मानना है कि उनके पास वीडियो देखने के लिए ज़्यादा वक़्त होता है और प्रोडक्ट खरीदने के लिए अतिरिक्त आय होती है.
एक असल डॉक्टर, जिनकी तस्वीर का ऐसे ही एक वीडियो में ग़लत इस्तेमाल किया गया है, ने चेतावनी दी है कि फर्जी डॉक्टरों की सलाह का गंभीर प्रभाव हो सकता है और ये वीडियो "बुजुर्ग लोगों को जानलेवा नुकसान पहुंचा सकते हैं."
यूट्यूब की ऑनर कंपनी गूगल ने कहा कि प्लेटफॉर्म के नियम एआई कंटेट पर लागू होते हैं और ऐसी चिकित्सा संबंधी गलत सूचनाओं पर रोक लगाते हैं जिनसे लोगों को गंभीर नुकसान हो सकता है.
वीडियो का फॉर्मूला सरल है- सफेद कोट पहने एक भरोसेमंद चेहरा, और एक शांत नकली आवाज यह चेतावनी देती है कि रोजमर्रा का कौन सा खाना, दवा या आदत बुजुर्गों के लिए चुपचाप खतरा बन सकती है. फिर वे एक कथित रूप से ऐसी दवा लेने की सलाह देते हैं जिसके बारे में आमतौर पर लोगों को पता नहीं होता.
कुछ मामलों में, डॉक्टर पूरी तरह से काल्पनिक होते हैं. अन्य मामलों में, एआई असल डॉक्टरों की सहमति के बिना उनके चेहरे, आवाज या पहचान की नकल करती है. दोनों ही तरीके दर्शकों को यह आभास दे सकते हैं कि एक क़ाबिल पेशेवर डॉक्टर सही सलाह दे रहा है.
ब्राज़ील की एक गैर-लाभकारी पत्रकारिता संस्था कंट्रोल+ज़ेड (CTRL+Z) की रिपोर्ट में एआई से निर्मित डॉक्टरों का उपयोग करने वाले 29 पुर्तगाली भाषा के चैनलों का पता लगा. बीबीसी न्यूज़ ब्राज़ील ने इन चैनलों का रिव्यू करके अन्य चैनलों और मिलते-जुलते शीर्षकों सहित अन्य पैटर्न की खोज की.
हमने इन यूट्यूब चैनलों के वीडियो पर पोस्ट किए गए लगभग 27,000 कमेंट्स को जमा करने और उपयोगकर्ताओं द्वारा प्रस्तुत व्यवहारिक परिवर्तनों की रिपोर्टों की पहचान करने के लिए एक स्क्रीनिंग प्रक्रिया का उपयोग करने के बाद फेरेरा का पता लगाया.
खुद को बुजुर्ग बताने वाले दर्जनों लोगों की टिप्पणियों में बताया गया है कि वे एआई डॉक्टरों की सलाह का पालन करके या तो घरेलू उपचार शुरू कर रहे हैं या पहले से निर्धारित दवाओं को बंद कर रहे हैं.
इनमें से एक में, 85 वर्षीय एक उपयोगकर्ता का कहना है कि उन्होंने एसिडिटी को कम करने वाली दवा ओमेप्राज़ोल के बजाय शकरकंद खाना शुरू कर दिया है. एक अन्य में, 77 वर्षीय एक महिला का कहना है कि वह तीन साल से डॉक्टर के पास नहीं गई हैं और अल्जाइमर के बारे में सलाह देने के लिए एआई डॉक्टर को धन्यवाद देती हैं.
बीबीसी न्यूज ब्राजील के खोजे गए यूट्यूब ट्यूटोरियल में, ट्रेनर ऐसे शीर्षक और स्क्रिप्ट बनाने की सलाह देते हैं जो लोगों में डर पैदा करें ताकि दर्शक को यह विश्वास हो जाए कि वे हेल्थ इमरजेंसी का सामना कर रहे हैं.
क्रिएटर्स यूट्यूब व्यूज़ और चैनल पर विज्ञापित ई-बुक्स और प्रोडक्ट्स की बिक्री दोनों से पैसे कमाते हैं. ब्राज़ील में रहने वाले एक ट्यूटर, जेफ़ कोइम्ब्रा ने बताया कि क्रिएटर्स एक महीने में 5,816 डॉलर (क़रीब साढ़े पांच लाख रुपए) तक कमा सकते हैं.
एक अन्य वीडियो में, उन्होंने चेतावनी भरे लहजे का उपयोग करने का तरीका दिखाया, लोगों को "सचमुच गंभीर होने" के लिए कहते हुए, उदाहरण दिया, "सोने से पहले, इस बात का ध्यान रखें. सावधान रहें कि आप नींद में मर न जाएं."
बीबीसी न्यूज ब्राजील के उनसे संपर्क किए जाने के बाद, एक वीडियो को ब्लॉक कर दिया गया.
एक बयान में, कोइम्ब्रा ने कहा कि दिखाए गए एआई चैनल उदाहरण थे, न कि उनके अपने. उन्होंने कहा कि वे एआई द्वारा निर्मित सूचनात्मक सामग्री सिखाते हैं, न कि ऐसी सामग्री जो स्वास्थ्य पेशेवरों का स्थान ले सके, और उनका उद्देश्य प्लेटफ़ॉर्म के नियमों या अन्य मानकों के उल्लंघन को प्रोत्साहित करना नहीं था.
'कोई सहानुभूति नहीं'
हमें कम से कम पांच ऐसे यूट्यूब चैनल मिले जो एक जाने-माने ब्राजीलियाई डॉक्टर की तस्वीर का इस्तेमाल उनकी अनुमति के बिना कर रहे थे ताकि स्वास्थ्य संबंधी सनसनीखेज दावों और प्राकृतिक उपचारों को बढ़ावा दिया जा सके जो निर्धारित दवाओं का विकल्प हो सकते हैं.
हेलियो ब्रासीलेरो, जिनका एक लंबे समय से चल रहा यूट्यूब चैनल है और जिसके लगभग 300,000 सब्सक्राइबर हैं, ने अब इन वीडियो की शिकायत यूट्यूब से की है और साओ पाउलो में पुलिस में शिकायत दर्ज कराई है.
अपनी तस्वीर के दुरुपयोग के अलावा, उन्होंने कहा कि उनकी मुख्य चिंता यह थी कि बुज़ुर्ग दर्शक उनके एआई अवतार की सलाह मानकर दवा लेना बंद कर सकते हैं.
उन्होंने बीबीसी न्यूज ब्राजील को बताया, "जो भी इसे बनाता है उससे मुझे ज़रा भी सहानुभूति नहीं है. इस तरह पैसा कमाने की कोशिश बुजुर्ग लोगों के लिए जानलेवा साबित हो सकती है."
साओ पाउलो के अल्बर्ट आइंस्टीन इसराइली अस्पताल के गैस्ट्रोएंटेरोलॉजिस्ट जैमे ज़ालाडेक गिल का कहना है कि सबसे बड़ा खतरा उन रोगियों का है जो अप्रभावी पदार्थों का सेवन कर रहे हैं, जिससे या तो स्थिति और बिगड़ सकती है या इलाज में देरी भी हो सकती है.
उनका कहना है, "जरूरत एक उचित चिकित्सा जांच और एक बेहतर इलाज के नेटवर्क की है, न कि सिर्फ एक वीडियो की जिसमें दावा किया गया हो कि कोई चीज आपकी सभी समस्याओं का समाधान कर देगी."
ब्राजील के कानूनी विशेषज्ञों का कहना है कि डॉक्टर होने का झूठा दावा करने वाले क्रिएटर्स पर आपराधिक मुकदमा चलाया जा सकता है.
यूट्यूब के स्वामित्व वाली कंपनी गूगल ने कहा है कि लेबल दर्शकों को यह समझने में मदद करते हैं कि कोई वीडियो एआई है या उसमें बदलाव किया गया है.
बीबीसी न्यूज ब्राजील द्वारा CTRL+Z मैपिंग के बारे में कंपनी से संपर्क करने के बाद, यूट्यूब ने सैंपल में शामिल कुछ सबसे बड़े चैनलों को हटा दिया, जिनके कुल मिलाकर लगभग 4 करोड़ व्यूज़ थे.
