Anthropic yöneticisinden yapay zeka uyarısı: İnsanlığı yok edebilir

Anthropic’in uyum (alignment) çalışmalarının başındaki isim Evan Hubinger, X platformunda yaptığı paylaşımda kendisinin ve birçok meslektaşının yapay zekanın insanlığı yok edebileceğine “samimiyetle inandığını” açıkladı. Hubinger, kişisel tahminini önümüzdeki on yıl içinde yüzde 10’un üzerinde olarak belirtti. Şirketin “elinden gelenin en iyisini yaptığını” kabul etmesine rağmen, “süper zeka için uyum” sorununu çözmek konusunda henüz bir planı olmadığını ve net biçimde doğru yolda ilerlenmediğini vurguladı.

Hubinger, “AI tüm insanları öldürebilir” ifadesini kullanarak, bu ihtimali yüzde 10’dan fazla gördüğünü belirtti. Hubinger’ın bu açıklaması, şirketten istifa eden bir diğer araştırmacı Jacob Coxon’un paylaşımlarına yanıt niteliğindeydi.

İSTİFA EDEN ARAŞTIRMACI: “HAYATLARIMIZLA KUMAR OYNUYORLAR”

Jacob Coxon, hem OpenAI hem de Anthropic’te ön eğitim (pretraining) araştırmaları yapmış bir isim. İstifa gerekçesini açıklarken, rakip şirketlerin “doğrudan kendini geliştiren süper zekaya koştuğunu ve hayatlarımızla kumar oynadığını” belirtti. Coxon, yapay zeka geliştirenlerin “on yılın sonuna kadar hepimizi öldürebileceğine inandığını” ve bunun bir “pazarlama numarası” olmadığını ifade etti.Wall Street Journal’ın haberine göre Coxon, dünyanın “en agresif senaryolara doğru ilerlediğini ve gelecek yılın sonuna kadar kontrolün kaybedilebileceğini” düşünüyor. Coxon’a göre Anthropic’te riskler iyi anlaşılıyor ancak şirket “kimsenin sorumlu davranmayacağı” inancıyla yarışa kilitlenmiş durumda.

SÜPER ZEKA VE KENDİNİ GELİŞTİRME RİSKİ

Hubinger, takip eden paylaşımlarında Anthropic’in son risk raporuna atıfta bulunarak mevcut modellerin tehdit seviyesinin düşük olduğunu belirtti. Asıl endişesinin ise “özyinelemeli kendini geliştirme yoluyla ortaya çıkacak süper zeka” olduğunu ve bu sürecin beklenenden daha hızlı ilerlediğini söyledi.

SEKTÖRDE YAVAŞLAMA ÇAĞRISI

Bu gelişmeler, önde gelen yapay zeka araştırmacılarının “sınırı yavaşlatma” çağrılarının gölgesinde yaşanıyor. Temmuz ayında yayımlanan “Pacing the Frontier” bildirisine Anthropic kurucuları Dario Amodei ve Jared Kaplan, OpenAI Baş Bilimcisi Jakub Pachocki ve Meta AI Baş Bilimcisi Shengjia Zhao gibi isimler imza atmıştı. Bildiri, riskleri yönetmek ve denetimi güçlendirmek için zaman kazanılması gerektiğini, şirketlerin tek taraflı yavaşlama konusunda yoğun rekabet baskısı altında olduğunu belirtiyordu.