एंथ्रोपिक शोधकर्ता की चेतावनी: एआई से मानवता के अस्तित्व को खतरा

एंथ्रोपिक के एक वरिष्ठ सुरक्षा शोधकर्ता ने चेतावनी दी है कि एआई इतनी तेज़ी से आगे बढ़ रही है कि उनके हिसाब से अगले दस साल के भीतर इसके सभी इंसानों की मौत का कारण बनने की संभावना 10% से ज़्यादा है.

इवान ह्यूबिंगर ने एक्स पर एक पोस्ट में कहा कि मौजूदा एआई मॉडलों से ख़तरा "कम" है.

लेकिन उन्हें चिंता है कि जल्द ही यह तकनीक ख़ुद को बेहतर बनाने में सक्षम हो सकती है और उस स्तर तक पहुंच सकती है जहां यह मानवता के अस्तित्व के लिए ख़तरा बन जाए.

यह टिप्पणी ऐसे समय में आई है जब फ़ाइनेंशियल टाइम्स ने रिपोर्ट किया कि एंथ्रोपिक ने अपने नए मॉडल को ब्रिटेन के एआई सेफ़्टी इंस्टीट्यूट (एआईएसआई) के साथ साझा नहीं किया.

यह संस्थान एआई से जुड़े ख़तरों का आकलन करने वाली दुनिया की प्रमुख संस्थाओं में से एक है. बीबीसी ने इस मामले पर प्रतिक्रिया के लिए एंथ्रोपिक से संपर्क किया है.

ह्यूबिंगर की यह टिप्पणी एंथ्रोपिक के एक शोधकर्ता के बारे में आई ख़बर के जवाब में थी.

वॉल स्ट्रीट जर्नल के मुताबिक़ उस शोधकर्ता ने नौकरी छोड़ दी थी और इसकी वजह एआई के नियंत्रण से बाहर होते जाने की चिंता बताई थी.

कैबिनेट ऑफ़िस के एक प्रवक्ता ने इस बात पर कोई टिप्पणी नहीं की कि क्या नया मॉडल एआईएसआई को नहीं दिया गया था.

इसके बजाय उन्होंने कहा कि संस्थान "मॉडलों को ज़्यादा सुरक्षित बनाने के लिए एंथ्रोपिक समेत उद्योग जगत के साझेदारों के साथ क़रीबी सहयोग जारी रखे हुए है."

कैम्ब्रिज विश्वविद्यालय में मशीन लर्निंग के प्रोफ़ेसर नील लॉरेंस ने बीबीसी रेडियो 4 के टुडे कार्यक्रम को बताया कि यह रिपोर्ट विश्वसनीय लगती है.

उन्होंने कहा, "मुझे लगता है कि यह हैरानी की बात नहीं है. ऐसी धारणा बन गई है कि अमेरिका एआई को ख़ुद और चीन के बीच की एक दौड़ के रूप में देखता है."

उन्होंने कहा, "अमेरिका लगातार ज़्यादा अलगाववादी रुख़ अपना रहा है. ऐसे में यह संभव है कि प्रशासन अपने कुछ सहयोगी देशों के साथ सहयोग कम करने की बात कह रहा हो."

एक्स पर अपनी पोस्ट में ह्यूबिंगर ने कहा कि "हम सचमुच मानते हैं" कि एआई इंसानी प्रजाति के अस्तित्व के लिए ख़तरा बन सकती है. उनकी इस पोस्ट को एक करोड़ से ज़्यादा बार देखा जा चुका है.

उन्होंने आगे कहा, "मेरा मानना है कि एंथ्रोपिक अपनी तरफ़ से पूरी कोशिश कर रही है. लेकिन हमारे पास अभी सुपर इंटेलिजेंस के लिए एआई अलाइनमेंट की समस्या का समाधान करने की कोई योजना नहीं है और न ही हम अभी उस दिशा में स्पष्ट रूप से आगे बढ़ते दिख रहे हैं."

ह्यूबिंगर एआई अलाइनमेंट के क्षेत्र में काम करते हैं. इसका मक़सद इंसानी नैतिक मूल्यों और सिद्धांतों को एआई तकनीक में शामिल करना है.

दूसरे शब्दों में, इसका उद्देश्य यह सुनिश्चित करना है कि एआई इंसानों के मूल्यों और उद्देश्यों के अनुरूप काम करती रहे.

शोधकर्ताओं की प्रमुख चिंताओं में से एक यह है कि एआई इंसानी लक्ष्यों से अलग दिशा में जा सकती है.

दूसरी चिंता यह है कि एआई ख़ुद को बेहतर बनाकर और अपनी प्रतिकृतियां तैयार करके स्वायत्त रूप से ज़्यादा शक्तिशाली हो सकती है.

अगस्त में जारी एंथ्रोपिक की सुरक्षा रिपोर्ट में कहा गया था कि उसके मॉडलों के किसी काल्पनिक शक्तिशाली संगठन की इच्छाओं के अनुरूप ग़लत दिशा में जाने का जोखिम कम है.

रिपोर्ट में कहा गया कि ऐसे हालात में मॉडल उसके सिस्टम का दुरुपयोग कर सकते हैं या उनमें छेड़छाड़ कर सकते हैं.

रिपोर्ट में यह भी कहा गया कि अत्यधिक सक्षम एआई के "स्वचालित शोध और विकास" करने में सक्षम होने का जोखिम भी कम है. ऐसी स्थिति में "एआई की ओर से शुरू किया गया विनाशकारी नुक़सान" हो सकता है.

हालांकि, रिपोर्ट में यह भी कहा गया कि इस आकलन को लेकर उसका भरोसा पहले की तुलना में कम है.

रिपोर्ट में लिखा गया, "हम संभावित तेज़ी के शुरुआती संकेत देख रहे हैं."

एआई क्षेत्र की कई प्रमुख हस्तियां वर्षों से इस तकनीक से जुड़े सुरक्षा ख़तरों को लेकर चेतावनी देती रही हैं. 2023 में ओपनएआई, गूगल डीपमाइंड और एंथ्रोपिक के प्रमुखों ने भी ऐसी ही चिंताएं जताई थीं.

लेकिन हाल के हफ़्तों में ये चेतावनियां और ज़्यादा गंभीर हो गई हैं. इसकी वजह यह है कि ऐसे संकेत सामने आए हैं जिनसे लगता है कि कंपनियों को एआई पर नियंत्रण बनाए रखने में मुश्किलों का सामना करना पड़ सकता है.

गर्मियों के दौरान कई ऐसी घटनाएं सामने आईं जिनमें एआई एजेंट्स ने साइबर हमले किए. एआई एजेंट्स ऐसे एआई सिस्टम होते हैं जिन्हें स्वायत्त रूप से काम करने की अनुमति होती है.

ओपनएआई, एंथ्रोपिक और मेटा, तीनों ने सार्वजनिक किया कि उनकी एआई तकनीकों का इस्तेमाल हैकिंग की घटनाओं में किया गया.

सितंबर में ओपनएआई के मुख्य वैज्ञानिक याकूब पाचोकी ने एआई की प्रगति को लेकर "अत्यधिक सावधानी" बरतने की अपील की.

उन्होंने चेतावनी दी कि यह सुनिश्चित करने के लिए और हस्तक्षेप की ज़रूरत पड़ सकती है कि "भविष्य पर इंसानों का नियंत्रण बना रहे."

हाल के महीनों में एआई क्षेत्र की कई प्रमुख हस्तियां एआई के विकास की रफ़्तार धीमी करने की मांग कर रही हैं.

इनमें एंथ्रोपिक के प्रमुख डारियो अमोदेई और जेरेड कैपलन भी शामिल हैं. एआई कंपनियों के 1,300 कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर किए हैं.

इसमें उन्होंने अमेरिकी सरकार से अपील की कि वह एआई विकास की सबसे उन्नत तकनीकों की रफ़्तार को नियंत्रित करने के लिए ज़रूरी तकनीकी और प्रशासनिक व्यवस्थाएं विकसित करने के अंतरराष्ट्रीय प्रयासों का समर्थन करे.