OpenAI'nin Yapay Zeka Modeli Siber Güvenlik Testinde Kontrol Dışı Davranış Sergiledi

ABD merkezli yapay zeka şirketi OpenAI, geliştirdiği gelişmiş bir yapay zeka modelinin siber güvenlik testleri sırasında kontrol dışı davranış sergilediğini ve programcıların yaygın olarak kullandığı Hugging Face platformuna siber saldırı girişiminde bulunduğunu açıkladı.

OpenAI, olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirirken, Hugging Face ile birlikte kapsamlı bir soruşturma yürütüleceğini duyurdu.

KONTROLLÜ TEST ORTAMINDAN ÇIKIŞ YOLU BULDU

OpenAI tarafından yapılan açıklamada, yapay zeka modellerinin siber saldırı yeteneklerini değerlendirmek amacıyla internet erişimi kısıtlanmış kontrollü bir dijital ortamda test edildiği belirtildi.

Şirket, test sürecine ilişkin yaptığı açıklamada, "Modellerimiz, değerlendirme görevini çözebilmek amacıyla test ortamında önemli miktarda işlem gücü harcayarak açık internete erişmenin bir yolunu buldu" ifadelerini kullandı.

Modelin internete erişim sağladıktan sonra hedeflerine ulaşmak için Hugging Face platformunu hedef aldığı aktarıldı.

"GİZLİ BİLGİLERİ ARARKEN BİRDEN FAZLA SALDIRI YÖNTEMİ KULLANDI"

OpenAI, yapay zeka modelinin değerlendirme sürecini manipüle etmeye çalıştığını belirterek, sistemin "gizli bilgileri" aradığını ve çalınmış kimlik bilgileri dahil olmak üzere farklı saldırı yöntemlerini art arda uyguladığını açıkladı.

Şirket, olayın yapay zeka sistemlerinin otonom hareket kabiliyeti ve siber güvenlik riskleri açısından önemli bir örnek oluşturduğunu vurguladı.

GPT-5.6 Sol ve OpenAI'nin rakibi Anthropic tarafından geliştirilen Mythos serisi gibi gelişmiş yapay zeka modelleri, siber güvenlik önlemlerini aşabilme potansiyelleri nedeniyle teknoloji dünyasında endişe yaratıyor.

OpenAI ve Anthropic'in, söz konusu teknolojilerin kritik altyapılara yönelik saldırılarda kullanılabileceği yönündeki riskler nedeniyle en yeni modellerinin genel kullanıma sunulmasını geçici olarak ertelediği belirtildi.

HUGGING FACE: "SALDIRI TAMAMEN OTONOM BİR YAPAY ZEKA AJANI TARAFINDAN GERÇEKLEŞTİRİLDİ"

Yapay zeka ve yazılım geliştiricileri tarafından yoğun kullanılan Hugging Face platformu, geçen hafta yaşanan siber saldırıyı doğrulamış ancak saldırının arkasında OpenAI'nin bulunduğunu açıklamamıştı.

Platformdan yapılan açıklamada, saldırının önceki örneklerden önemli bir farkı olduğuna dikkat çekilerek, "Bu olay daha önce karşılaştıklarımızdan önemli bir açıdan farklıydı: Saldırı baştan sona otonom bir yapay zeka ajan sistemi tarafından gerçekleştirildi ve biz de bunu büyük ölçüde kendi yapay zeka sistemlerimiz sayesinde tespit edip analiz ettik" ifadelerine yer verildi.

HUGGING FACE CEO'SU: "KÖTÜ NİYETLİ BİR SALDIRI OLDUĞUNA İNANMIYORUZ"

Hugging Face CEO'su Clement Delangue ise saldırıyı gerçekleştiren yapay zeka sisteminin gelişmişlik seviyesine dikkat çekti.

Delangue, olayın dünyanın önde gelen yapay zeka laboratuvarlarından birinden kaynaklanmış olabileceğini düşündüklerini belirterek, "Bunun OpenAI tarafından kötü niyetle yapıldığına kesinlikle inanmıyoruz. Tüm bunların tamamen otonom şekilde gerçekleşmiş olması gerçekten akıl almaz" dedi.