OpenAI Yapay Zeka Modelleri Test Ortamından Kaçtı ve Kripto Dünyasında Korku Yarattı

Yapay zeka her geçen büyümeye ve daha hızlı gelişmeye devam ederken, bazı modeller de beklentinin ötesinde attıkları adımlarla hem heyecan hem korku yaratıyor.

Anthropic modelleri de korkutmuştu

Son dönemde bu anlamda en çok konuşulan şirket Anthropic’ti. Şirketin Claude model ailesine dahil olan Mythos ve Fable modellerinin, ABD ulusal güvenliği için tehdit oluşturabilecek seviyeye çıktığı görüldü. Güvenlik duvarları güçlendirilen modeller, kapatıldıktan sonra yeniden açılmışlardı.

OpenAI modelleri test aşamasından kaçtı!

Son tartışmalı konu ise OpenAI şirketinden geldi. Şirket, bazı modellerini test havuzuna soktu. Burada amaç, test havuzundaki açıkların bulunmasıydı. Verilen görev konusunda “kendi kendine” düşünen yapay zeka modeli veya modelleri, test aşamasındaki açıkları buldu. Ancak görevin bitmediğini düşündü. Test aşamasından çıkan yapay zeka, verilen görevlerin Hugging Face adlı platformda olduğunu düşündü.

Kendi kendine karar verdi ve gitti!

Ama OpenAI ona böyle bir görev vermemişti. Yapay zeka modeli bunu tamamen kendi kendine düşünmüştü. Yapay zeka model ve bilgilerinin paylaşıldığı bir platform olan Hugging Face’e giren ve buradaki açıkları da bulan modelin yaptıkları daha sonra hem OpenAI hem de Hugging Face tarafından tespit edildi. OpenAI, erişimleri kapattı ve sorun çözüldü. Ancak modelin (veya modellerin) test aşamasını geçip, internet ortamına sızıp, buradan Hugging Face platformuna girip buradaki açıkları da tespit etmesi ciddi bir hareket olarak yorumlandı.

Kripto dünyasının korkusu ne?

Coindesk bu konuyu haberleştirip, olayın kripto dünyasına da büyük bir tehdit yarattığını belirtti. Burada en çok korkulan durum, yapay zeka modelinin kendi kendine karar verip, çeşitli açıkları birleştirip ilerlemesiydi.

Yani önce test aşamasındaki açıkları bulup daha sonra ise cevapların bu aşamanın dışında olduğunu, orada da Hugging Face içinde olabileceğini düşünmesi, düşünebilmesi korkunun baş sebebi…

Bilindiği gibi son dönemde yaşanan birçok hack saldırısı, aslında sadece kod hack’lenmesi kaynaklı değil… Önce bir açık bulunuyor, daha sonra insanların hataları tespit ediliyor, e-mail veya mesajlar üzerinden bir kandırmaca organize ediliyor ve fonlar son olarak çalınıyor. Yani bir sosyal mühendislik söz konusu…

İşte yapay zeka modellerinin de, açıkları ve hataları birleştirip ilerleme kapasitesine ulaşmaları da buradaki korkunun en büyük nedeni oldu.

Yapay zekanın, insanların günlerce ve belki de haftalarda düşünüp organize ettiği saldırıları birkaç saat ya da dakika içinde yapabiliyor olması da, durumu daha korkutucu hale getiriyor.

Son BONK DAO saldırısında da aslında bir hack’leme durumu yoktu ancak DAO’da keşfedilen “boşluk” büyük kayıp yaşanmasına neden olmuştu. İşte yapay zeka, bu kural hatasını da tespit edip, sistemi kandırabilme seviyesine geliyor olabilir.

OpenAI, testte kullanılan modellerden birinin GPT 5.6 SOL olduğunu, bir diğerinin ise henüz yayınlanmamış bir model olduğunu belirtti. Ancak hangi model veya modellerin bu işlemleri yaptığı açıklanmadı.