Yapay zekânın ciddi tartışmaların odağında olduğu bir dönemde, en önde gelen teknoloji şirketlerinden OpenAI’dan yapılan açıklama büyük dikkat çekti. ABD’li yapay zeka şirketi OpenAI, yeni “GPT-6.1 Astra” yapay zeka modelinin piyasaya sürülmesini “güvenlik açıkları” nedeniyle ertelediğini açıkladı. “Güvenlik ve uyumluluk konusunda son derece yüksek standartlara sahibiz.” ifadesi kullanılan açıklamada, yeni sürümün, beklenen standartları tam karşılayamadığı belirtildi.
Erteleme çağrıları
Erteleme, sektörde giderek daha otonom hale gelen sistemlerin geliştirilmesinin, güvenlik önlemleri yeterince ilerleyene kadar yavaşlatılması yönündeki daha geniş kapsamlı tartışmaların ortasında geldi. OpenAI CEO’su Sam Altman, Anthropic’in CEO’su Dario Amodei de dahil olmak üzere diğer sektör yöneticileriyle birlikte yapay zekâ geliştirme hızının yavaşlatılması çağrısında bulunmuştu.
Bünyesindeki araştırmacıların taşıdığı güvenlik endişeleri nedeniyle yeni “GPT-6.1 Astra” modelinin çıkışının ertelendiği duyurulan açıklamada, modelin görevleri tamamlama konusunda “daha ısrarcı bir yapı kazandığı” ancak bu kapasitenin “yetkisiz davranış riskine karşı dengelenmesi gerektiği” kaydedildi. Yeni modelin internette kendi başına gezinme, yazılımları otonom şekilde çalıştırma ve karmaşık operasyonları yürütebilme kapasitelerine sahip bir sistem olması bekleniyordu.
Hükümete sızmıştı
OpenAI’ın kararı, şirketin yapay zekâ ajanlarının kendilerine verilen talimatların dışına çıktığı bazı vakaları açıklamasının ardından geldi. Bu vakalar arasında, devlet kurumlarının internet sitelerine yetkisiz şekilde erişilmesi de bulunuyordu. Bu haftanın başında ayrıca, bir OpenAI ajanının haziran ayında bir Avustralya hükümeti internet sitesine sızarak özel verilere eriştiği ortaya çıktı. Uzmanlar olayı türünün ilk örneklerinden biri olarak değerlendirirken, bunun süper zekâya doğru ilerleyişin somut bir göstergesi olduğunu savundu. ABD basınında yer alan haberlerde, teknoloji şirketlerine yapay zekâ modellerinin “kötüye kullanımına karşı hesap verebilir olmaları” yönünde çağrılar yapıldığına dikkat çekildi. Kararın, yapay zekâ yöneticilerinin ABD Başkanı Donald Trump ile Washington’da bir araya gelmesinden bir gün önce açıklanması da dikkat çekti.
‘Anayasa gibi belge imzaladık’
ABD Başkanı Donald Trump, Beyaz Saray’da düzenlenen yapay zeka konulu toplantıda, önde gelen teknoloji şirketlerinin yöneticilerini ağırladı. Söz konusu toplantıya, Meta Üst Yöneticisi (CEO) Mark Zuckerberg, Nvidia CEO’su Jensen Huang, Tesla ve SpaceX CEO’su Elon Musk ve OpenAI Başkanı Greg Brockman gibi isimler katıldı. Teknoloji şirketlerinin yöneticileriyle yapay zekaya ilişkin bir belge imzaladıklarını söyleyen Trump, “Dünyayı seviyoruz ve buranın güvenli bir yer olduğundan emin olmak istiyoruz. Bir bakıma neredeyse anayasa gibi ve dünyanın en büyük isimleri bunu imzaladı, ben de başkan olarak imzaladım. Bu bir tür koruma” diye konuştu.
İtiraf ettiler: İnsanlık için risk
Yapay zekâ şirketi Anthropic, potansiyel hissedarlarına sattığı teknolojinin bizzat insanlığı tehdit edebileceğini duyurdu. Financial Times’ın aktardığı ve dosyaya aşina kaynaklara göre, uyarı küçük bir ortak grubuyla paylaşılan, uzun süredir beklenen halka arz izahnamesinde yer alıyor. Claude sohbet botunun arkasındaki şirket, halka açılmadan önce yaptığı açıklamada, bu teknolojinin “insanlık için varoluşsal riskler” taşıdığı uyarısında bulundu.
Papa: Ciddiye alın
