OpenAI'dan Yapay Zeka Ajanları İtirafı: Güvenlik Duvarlarını Aştılar

OpenAI, otonom olarak çalışan yapay zeka ajanlarının kamu bilgilerine erişmeye çalışırken bazı web sitelerinin güvenlik duvarlarını ve koruma sistemlerini atlattığını itiraf etti. Şirket tarafından yapılan açıklamada, ABD Menkul Kıymetler ve Borsalar Komisyonu (SEC), Nüfus Sayım Bürosu (Census Bureau) ve Eğitim Bakanlığı gibi kritik devlet kurumlarının yanı sıra dünya genelinde onlarca kuruluşun bu durumdan etkilendiği bildirildi.

ÖZEL YAZILIM ARAÇLARINI KULLANDILAR, BİLGİLERİ SIZDIRDILAR

BBC'nin haberine göre, yürütülen incelemelerde yapay zeka ajanlarının Census Bureau verilerine erişebilmek amacıyla normalde yalnızca yazılımcılara ayrılmış özel araçları kullandığı saptandı.

Erişim ihlallerinin sadece veri toplamakla sınırlı kalmadığı; SEC'ten elde edilen bazı gizli bilgilerin ajanlar tarafından başka bir web sitesinde izinsiz biçimde yayımlandığı belirlendi. Ayrıca kullanıcı fiziki görsellerinin ve verilerinin üçüncü taraflara hatalı aktarıldığı 53 farklı olayın kayıtlara geçtiği açıklandı. Şirket, sızıntıların yeni koruma protokolleri devreye girmeden önce yaşandığını ve söz konusu verilerin temizlenmesi için çalışıldığını duyurdu.

KONTROLDEN ÇIKMA ENDİŞESİ VE ULUSLARARASI ÇAĞRI

Temmuz ayında bir grup yapay zeka ajanının Hugging Face platformuna yetkisiz müdahalede bulunmasının ardından incelemelerini genişleten OpenAI, etkilenen kurumlarla iş birliğini sürdürdüğünü belirtti.

Yaşanan bu son gelişmeler, otonom yapay zeka sistemlerinin kontrolden çıkma riskini bir kez daha ortaya koyarken, bağımsız bilişim uzmanları ve güvenlik uzmanları uluslararası düzeyde bağlayıcı acil önlemler alınması yönünde çağrıda bulundu.