OpenAI ve Anthropic eski araştırmacısı Jacob Coxon'dan yapay zeka uyarısı
Araştırmacı Jacob Coxon, yapay zeka şirketlerinin kontrolsüz bir yarış içinde olduğunu savunarak Anthropic'ten istifa etti.
Quick Look
- OpenAI ve Anthropic'te görev yapmış araştırmacı Jacob Coxon, yapay zeka şirketlerinin süper zekaya ulaşma yarışında sorumsuz davrandığını belirterek Anthropic'ten istifa etti.
- Coxon, bu sistemlerin 10 yıl içinde insanlık için varoluşsal risk oluşturabileceğini iddia etti.
AI-generated summary
Why It Matters
Jacob Coxon, OpenAI ve Anthropic bünyesinde üç yıl boyunca araştırmacı olarak çalışmıştır. İstifası, yapay zeka güvenliği konusundaki endişeleriyle ilişkilendirilmiştir.
Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, sosyal medya platformundaki hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa ettiğini duyurdu.
'HAFİFE ALMAYIN'
Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, "Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor." değerlendirmesinde bulundu.
'10 YIL İÇİNDE İNSANLIĞI ÖLDÜREBİLİR'
Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etti.
Coxon, Anthropic yönetiminin "riske rağmen ilk kendilerinin hedefe ulaşması gerektiği" fikrine kilitlendiğini savunarak, bu durumu "özel bir şirketin dahili iletişim uygulamasından yürütülemeyecek kadar kibirli bir kumar" olarak nitelendirdi.
'ENDİŞE VERİCİ'
Coxon'un paylaşımı, kısa sürede milyonlarca görüntülenme alırken, birçok kişi, sosyal medya hesapları üzerinden yaptıkları değerlendirmelerde yapay zekanın geleceğine yönelik endişelerini dile getirdi.
ABD'li milyarder Bill Ackman, paylaşımı alıntılayarak bu durumu "endişe verici" olarak nitelendirdi.
Andrew Yang isimli kullanıcı da "Çoğu kişinin farkında olduğundan daha büyük riskler alıyoruz ve çok geç olmadan mümkün olan en kısa sürede uyum sağlamalıyız" ifadesini kullandı.
Alex Berenson, yapay zekanın riskleri üzerine çalışmalar yürütecek küresel bir komisyona ihtiyaç duyulduğunun altını çizerek, "Hiçbir ekonomik kazanç, böyle bir kumarı göze almaya değmez" dedi.
Krystal Ball ise Coxon'un paylaşımını "sektörden birisinin vahim bir uyarısı daha" şeklinde nitelendirerek konu hakkındaki endişelerini dile getirdi.
Open Questions
- Anthropic yönetimi iddialara nasıl yanıt verecek?
- Sektörde benzer istifalar artacak mı?
