Anthropic, Google ve OpenAI'ın Yapay Zeka Standartları Kurumu Kurma Planı
Yapay zeka devlerinin, sektör standartlarını belirlemek ve denetim mekanizmaları oluşturmak amacıyla kendi aralarında görüştüğü iddia ediliyor.
Quick Look
- Anthropic, Google ve OpenAI'ın yapay zeka sektöründe standartları belirleyecek bir kurum oluşturmak için görüştüğü öne sürüldü.
- Girişim, Demis Hassabis'in önerisi ve Dario Amodei'nin güvenlik odaklı yavaşlama çağrıları sonrası gündeme geldi.
AI-generated summary
Why It Matters
Yapay zeka modellerinin hızlı gelişimi, güvenlik ve denetim tartışmalarını beraberinde getirmiştir. Sektör liderleri, teknolojinin kontrol edilemez hale gelme riskine karşı önlemler üzerinde durmaktadır.
ABD'deki yapay zeka modellerinin gelişme hızını azaltmaya yönelik tartışmalar sürerken Anthropic, Google ve OpenAI gibi önde gelen firmaların yapay zeka standartları kurumu oluşturma konusunda görüştüğü iddia edildi.
ABD'de yapay zeka modellerinin gelişme hızını düşürme çağrılarının ardından bu teknolojiyi "denetleme" önerileri tartışılmaya devam ediyor.
CNN'in haberine göre ismi paylaşılmayan kaynaklar, yapay zeka modelleriyle öne çıkan Anthropic, Google ve OpenAI firmalarının "sektör standartlarının belirlenmesi için kendilerinin bir kurum oluşturması" seçeneği üzerinde durduğunu öne sürdü.
Kaynaklar, bu görüşmenin yapılmasında, Anthropic'ten araştırmacı Jacob Coxon'ın istifasından ziyade temmuzda Google DeepMind'ın kurucu ortağı Demis Hassabis'in ABD öncülüğünde bir yapay zeka standartları kurumu modeli önerdiği makalesinin etkili olduğunu belirtti.
ABD Başkanı Donald Trump yönetimi "yer alsa da almasa da" bu görüşmelerin sürdüğünü ve süreceğini savunan kaynaklar, yapay zekanın denetimi konusunda teknoloji sektöründeki tüm liderlerin "hemfikir olmadığını" ifade etti.
Hassabis, makalesinde hükümetin denetlediği, kamu ve özel sektör işbirliğinde işletilen bu kurumun gelişmiş yapay zeka modelleri hizmete sunulmadan önce test etmesini teklif etmişti.
ABD'li yapay zeka şirketi Anthropic'in Üst Yöneticisi Dario Amodei, firmadaki araştırmacı Jacob Coxon'ın yapay zeka konusunda yeterince sorumlu davranılmadığı gerekçesiyle istifasının ardından 12 Eylül'de şirketin internet sitesinde makale yayımlamıştı.
Amodei, yapay zeka teknolojisinin katlanarak artan hızla gelişmesinin sistemleri anlama ve kontrol etme kapasitesini aşabileceği uyarısını yaparak, bu teknolojinin gelişiminin denetime daha fazla olanak sağlayacak şekilde yavaşlatılması önerisinde bulunmuştu.
Yapay zeka şirketlerinin bir araya gelerek güvenlik standartları belirlemesi ve yapay zekanın piyasaya sürülme hızına yönelik bazı kurallar oluşturması gerektiğine dikkati çeken Amodei'ye, Elon Musk da X'te paylaştığı "Dario haklı." ifadesiyle destek vermiş, OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda aynı adımı atacağını kaydetmişti.
Amodei, yazısında ABD yönetiminin Çin'e çip ihracatı kısıtlamalarını güçlendirmesi ve Çin'deki yapay zeka laboratuvarlarının kendi modellerinde ABD'li şirketlerin modellerinden "damıtma" adı verilen yöntemle veri çalmasını engellemesi gerektiğini vurgulamıştı.
Anthropic Üst Yöneticisi, CBS News televizyonuna verdiği röportajda, yapay zekanın yavaşlatılmasına ilişkin önerisinin önündeki en zor ikilemin, Çin ve diğer düşman ülkelerin aynı şeyi yapmaması ihtimali olduğunu dile getirmişti.
What to Watch
AI outlook — possibilities, not facts
Yapay zeka şirketlerinin güvenlik standartları için ortak bir kurum oluşturma görüşmeleri sürecek.
Likely · Within months
Open Questions
- Kurulacak kurumun yasal yaptırım gücü ne olacak?
- Çin'in bu standartlara uyum sağlama ihtimali nedir?
