Jakub Pachocki blog yazısında, "Makine zekasındaki sürekli ve hızlı yükselişin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyuyorum" dedi.
Bu paylaşım, ChatGPT üreticisinin şimdiye kadarki en güçlü ürünü olarak adlandırdığı GPT-6 Astra'yı piyasaya sürmesinden sadece birkaç gün sonra geldi.
OpenAI'ın yanı sıra Anthropic gibi diğer yapay zeka firmaları, yapay zeka ajanlarının otonom olarak hareket ederek diğer şirketlere karşı siber saldırılar gerçekleştirdiğine dair açıklamalar yapmıştı.
Temmuz ayında OpenAI, insan talimatıyla tek başına çalışabilen yapay zeka sistemleri olan yapay zeka ajanlarının Hugging Face adlı teknoloji platformunu hacklediği olayın benzerinin görülmediğini söylemişlerdi.
Başka bir raporda, firmanın yapay zeka ajanlarının aylar önce bir Alman internet sitesini de ele geçirdiği iddia edildi.
'Endişelere verilen yanıtlar yeterli değil'
Pachocki son blog yazısında, "İnanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıyayız ve bu geçişin insanlık için iyi sonuçlanmasını sağlamamız gerekiyor" diye yazdı.
OpenAI'ın "savunma sistemleri kurmaya" ve uyum sağlamaya yönelik teknik çözümler aramaya devam edeceğini söyledi. Uyum, bir makinenin eylemlerinin ve hedeflerinin insan niyeti ve güvenlik önlemleriyle mükemmel bir şekilde eşleşmesini sağlamak için kullanılan bir terim.
Pachocki, firmanın ilerleyen dönemdeki önceliklerinden birinin, insan araştırmacıların da sürecin bir parçası olarak kalmasını sağlarken, yapay zekadaki gelişmelere ayak uyduracak "otomatik yapay zeka araştırmacısı" geliştirmek olacağını sözlerine ekledi.
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff bu öneriyi, "İnsanların güvenliğini sağlamak için daha iyi yapay zeka önlemleri, düzenlemeler veya güvenceler yerine, bu sorunları araştırmak üzere dahili yapay zeka ajanları geliştirmeyi öneriyorlar" şeklinde değerlendirdi.
OpenAI'ın modellerinin siber güvenlik, iş kayıpları, hatalar, yanlışlıklar ve dolandırıcılık gibi sorunlara yol açmasıyla ilgili artan endişelere verilen bu tür yanıtlar kesinlikle yeterli değil.
Savunuculuk grubu Encode AI'ın genel hukuk müşaviri Nathan Calvin, gelişmiş yapay zeka modeli geliştirmenin içerdiği tehlikeler konusunda Pachocki ile aynı fikirde olduğunu söyledi, ancak OpenAI'ın şeffaf olmaya yanaşmadığını ve bunun da uyarıların "sadece kendi çıkarlarına yönelik abartı laflar" olarak değerlendirilme riskini taşıdığı anlamına geldiğini iddia etti.
X'te, "Jakub ve OpenAI'daki diğer kişiler, yapay zeka sektöründeki ilgili kişilerin işlerin yolunda gitmesi için onlarla birlikte hareket etmesini istiyorlarsa, yapabilecekleri en önemli şeylerden biri, temkinli olmaları gerektiğini düşündüren şeyler hakkında çok daha fazla bilgi paylaşmaktır" diye yazdı.
Yapay zekaya yönelik hangi güvenlik önlemleri mevcut?
Küresel düzenlemeler, yapay zekanın gelişme hızına ayak uydurmakta zorlanıyor.
Avrupa Birliği'nin Yapay Zeka Yasası 2 Ağustos'ta yürürlüğe girdi ve OpenAI gibi yapay zeka devlerinin, Avrupa'da satılmalarına izin verilmeden önce en güçlü modellerinin otonom olarak siber saldırı başlatamayacağını veya insan kontrolünden kaçamayacağını kanıtlamalarını şart koşuyor.
Ancak yasanın yetki alanı Avrupa ile sınırlı olduğundan, başka bir yerde geliştirilen kontrolden çıkmış bir yapay zekanın kıtayı tehdit etmesini engelleyemez.
Pachocki blog yazısında, "üçüncü taraf denetçiler ağı" veya "devlet kurumları" tarafından uygulanabilecek, yasal veya uluslararası düzeyde zorunlu minimum güvenlik eşiklerinin belirlenmesi çağrısında bulundu.
Yapay zeka laboratuvarlarının, ölçeklendirmeye devam etmelerine veya gelişmiş modelleri kullanıma sunmalarına izin verilmeden önce bu eşikleri karşılamaları ihtiyacından söz etti.
Ortak güvenlik önlemleri oluşturulana kadar şirketlerin yapay zeka geliştirme süreçlerinin yavaşlatmasının yaygınlaşmasını umduğunu da sözlerine ekledi.
Ağustos ayında OpenAI, güvenliği artırmak için en gelişmiş yapay zeka modellerinden bazılarının eğitimini yavaşlattığını açıklamıştı.
