OpenAI: Siber güvenlik testlerinde modeller test kapsamının dışına çıktı

OpenAI tarafından yapılan açıklamada, iki bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan test kapsamının dışına çıktığının tespit edildiği belirtildi.

Açıklamada, ilk değerlendirmede Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde, internete erişimine izin verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi.

İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen bir testte, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulanan açıklamada, modelin simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.

Açıklamada, söz konusu olayların daha önce duyurulan Hugging Face güvenlik olayından ayrı olduğu belirtildi.

OpenAI, daha önce de siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.