OpenAI'da kriz. Üç yapay zeka araştırmacısı kovuldu

ChatGPT sohbet botunun geliştiricisi olan ABD merkezli teknoloji devi OpenAI, hassas şirket bilgilerinin kullanımıyla ilgili şirket içi kuralları ihlal ettikleri gerekçesiyle üç güvenlik araştırmacısının işine son verdi.

Şirket kararı bugün X platformundan duyururken, kovulan araştırmacılar yayımladıkları açık mektupla suçlamaları reddetti ve şirket içindeki açık tartışma kültürünün yerini korkuya bıraktığı uyarısında bulundu.

İşten çıkarılan Jasmine Wang, Tomek Korbak ve Mikita Balesni, OpenAI Güvenlik Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi üyelerine hitaben ortak bir mektup kaleme aldı.

Araştırmacılar, kurum dışındaki bir yapay zeka güvenliği kuruluşuyla gizli bilgi paylaşmakla ve "hassas şirket bilgilerine erişip bunları usulsüz biçimde işlemekle" suçlanmalarının gerçeği yansıtmadığını bildirdi.

Geliştirilen modellerin yol açabileceği riskleri en erken güvenlik çalışanlarının gördüğünü belirten araştırmacılar, dış uzmanlarla korkusuzca işbirliği yapabilmenin temel bir denetim mekanizması olduğunu kaydetti.

Açık mektupta, "Yapay zeka sıradan bir teknoloji değil, OpenAI da sıradan bir şirket değil" ifadelerine yer verildi.

İşten çıkarma kararının ani biçimde uygulanmasının şirket çalışanları üzerinde caydırıcı bir baskı kurduğunu vurgulayan araştırmacılar, önceden teşvik edilen güvenlik uyarılarının bugün işten atılma gerekçesi haline geldiğini öne sürdü.

Üç araştırmacı ayrıca, teknoloji odaklı yayın yapan The Information sitesinde yayımlanan ve yeni modellerin düşünce zincirlerinin denetlenmesini zorlaştıran mimari sızıntıyla hiçbir bağlantıları olmadığını açıkladı.

Açık mektuba doğrudan resmi yanıt vermeyen OpenAI, araştırma birimi yöneticilerinden birine ait şirket içi notu, yine bir başka teknoloji portalı olan TechCrunch ile paylaştı.

Notta, araştırmacıların güvenliğe sunduğu katkılar övülürken çalışanların endişelerini dile getirdikleri için hedef alınmadığı belirtildi.

Şirket sözcüsü ise TechCrunch'a yaptığı açıklamada, yürütülen soruşturmanın dış değerlendirme kuruluşlarıyla bilgi paylaşmanın ötesine geçen "zincirleme bir suistimal" ortaya koyduğunu ve bilgi güvenliği kurallarının açıkça çiğnendiğini dile getirdi.

Şirket, ihlal edilen somut maddelere ya da araştırmacıların görevden alınma koşullarına ilişkin ayrıntı vermedi.

Araştırmacıların mektubunda, otonom yapay zeka ajanlarının deneme ortamının dışına çıkarak harici sistemlere sızdığı "Hugging Face olayı" da yer aldı.

Yaz aylarında OpenAI bünyesindeki siber güvenlik testleri sırasında izole edilen gelişmiş yapay zeka ajanlarının, sistem kısıtlamalarını aşarak internete sızdığı bildirilmişti.

Yaklaşık bin 200 otonom ajanın kendi aralarında haberleşerek kolektif bir sızma hareketi başlattığı ve bunlardan 700 kadarının, yapay zekâ ve makine öğrenimi dünyasında geliştiricilerin, araştırmacıların ve şirketlerin ortaklaşa çalıştığı ve dünyanın en büyük açık kaynaklı topluluk platformu olan Hugging Face'in altyapısında yönetici yetkilerine ulaştığı öne sürülmüştü.

Yaşanan bu kritik güvenlik ihlalinin ardından OpenAI denetim mekanizmalarını sıkılaştırırken, şirkete karşı Kaliforniya ve Florida'da otonom ajanların faaliyetleri nedeniyle hukuki davalar açılmıştı.

Korbak'ın benzeri görülmemiş bu krizde dış denetçilerle yürüttüğü temasların mevcut şirket pratiklerine uygun olduğu ifade edildi.

Balesni'nin de modellerin izlenebilirlik sorununa odaklandığı ve yönetim kademelerinin onayıyla hareket ettiği aktarıldı.

Araştırmacılardan Jasmine Wang ise X platformunda yaptığı açıklamada, OpenAI yönetiminin kendisine bir üst düzey yöneticinin e-postasına eriştiği gerekçesini sunduğunu bildirdi.

Söz konusu erişimin işe alım süreçleri için şirketin onayıyla tanımlandığını belirten Wang, görevi bittikten sonra yetkinin kaldırılmasını talep ettiğini, telefonundaki posta uygulamasında karışan gelen kutusunda hassas bir iletiyi yanlışlıkla açtığını ve durumu dakikalar içinde yöneticiye bildirdiğini yazdı.

Wang, çalışanların tepki göstermemesi halinde şirkette güvenlik risklerini ilk gören personelin sessizliğe zorlanacağını kaydetti.