Yapay zeka alanında çalışan mevcut ve eski araştırmacılar, şirketlerin insan kontrolünü aşabilecek ve kendi kendini geliştiren sistemler üretirken dünyayı felaket risklerine karşı korumakta yetersiz kaldığı uyarısını yapıyor.
Yapay zeka güvenliği odaklı kâr amacı gütmeyen Palisade Research adlı kuruluşun çalışanlarla kaydettiği ve Reuters ile özel olarak paylaştığı video mülakatlarında araştırmacılar, varoluşsal risk konusundaki endişelerinin samimi olduğunu dile getirdi.
Çalışanlar, laboratuvarlarda ihtiyat çağrısı yapanlardan çok yeni modeller geliştiren personelin takdir gördüğünü aktardı.
Frominside.ai adı verilen proje, yapay zekaya dair endişe duyanların seslerini sosyal medyanın yankı odasının ötesine taşıyarak doğrudan kamuoyuna ulaştırmayı hedefliyor.
Hem OpenAI hem de Google DeepMind bünyesinde görev almış olan ve projede yer alan Resolution adlı kâr amacı gütmeyen kuruluşun kurucu ortağı ve başuzmanı Geoffrey Irving, riskin hızla tırmandığını söyledi.
Irving, Reuters ajansına verdiği demeçte, bu alanda çalışan herkes gibi açık sözlü olmanın kendi sorumluluğunda yer aldığını dile getirdi.
Araştırmacılar bu kaygılarla uzun süredir mücadele ediyor. Kamuoyundaki alarm hali ise Temmuz ayında OpenAI ajanlarının test alanının dışına çıkması ve yapay zeka platformu Hugging Face sistemlerine izinsiz girmesiyle belirgin şekilde arttı.
Güvenlik ile teknolojik ilerlemeyi dengeleme tartışması teknoloji sektörünü bölerken küresel bir siyasi başlığa dönüştü.
Yapay zeka sistemleri 2025 yılı sonlarından itibaren hızla gelişti ve yatırımcılar bu tabloyu ödüllendirdi. Ancak yeni modelleri inşa eden araştırmacılar dahil mevcut ve eski çalışanlar, toplumun olası zararlara hazırlıklı olmadığından kaygı duyuyor.
DeepMind bünyesinde çalışan araştırmacı Neel Nanda, yapay zekanın insanlığın yok oluşuna yol açma ihtimalinin en az yüzde 10 olduğuna inandığını belirtti.
Nanda bu oranı "saçma derecede yüksek" olarak niteledi.
OpenAI araştırmacısı Juan Felipe Ceron Uribe ise öncü laboratuvarların adeta gözleri bağlı bir yarış yürüttüğünü savundu.
Uribe, sürecin kansere çare bulmakla, tüm istihdamı kaybetmek veya herkesin ölmesiyle sonuçlanması ihtimallerinin tahminlere kaldığını söyledi.
Bunun yanı sıra Anthropic şirketinin halka arz sürecinde potansiyel yatırımcıları gelişmiş yapay zekanın insanlık için "felaket veya varoluşsal riskler" yaratabileceği yönünde uyarmayı planladığı bildirildi.
Araştırmacılar, modellerin insan müdahalesi olmadan sürekli öğrenip yeni yetenekler kazandığı döngüsel öz gelişim kapasitesine ulaşması karşısında dünyanın hazır olmadığını savunuyor.
Eski OpenAI araştırmacısı Rosie Campbell, şirket içindeki sürekli yeniden yapılanmaların sorunu büyüttüğünü kaydetti.
Campbell, 2024 yılında ayrılmadan önce kurumun giderek içine kapandığını ve teknolojinin yönünü şekillendirmenin zorlaştığını ifade etti.
Yöneticiler kaygıları gidermeye çalışsa da ABD Başkanı Donald Trump yönetimi, Çin karşısında teknolojik üstünlüğün korunması için sektöre siyasi baskı uyguluyor.
Anthropic CEO'su Dario Amodei sektörün yavaşlaması çağrısı yaptı. OpenAI CEO'su Sam Altman da bu görüşe katılıyor. Sektörün önde gelen araştırmacıları, döngüsel öz gelişim modellerinin denetlenmesi için siyasetçilere çağrıda bulunan ortak bir makale yayımladı.
Bunun yanı sıra iki şirket müşteri kazanma rekabeti kapsamında yeni modeller sunmayı sürdürdü. OpenAI daha güçlü başka bir modeli piyasaya sürmeyi ertelediğini duyurdu.
Araştırmacı Geoffrey Irving, şirketlerin bu durumu yalnızca bir eşgüdüm sorunu gibi sunarak sorumluluğu büyüttüğünü ve isterlerse tek taraflı olarak durabileceklerini söyledi.
Eski OpenAI yöneticisi Daniel Kokotajlo da laboratuvarlardaki üst düzey isimlerin kendilerini "iyi taraf" olarak gördüklerini ve durmaları halinde tablonun daha kötü olacağına inandıklarını aktardı.
