ABD'de yapay zeka güvenliği ve gelişim hızı tartışması gündeme geldi

Yapay zekanın hızla yaygınlaşmasıyla son günlerde ABD'de bu teknolojinin tehlikeli boyutlara ulaşabileceği ve gelişim hızının yavaşlatılması gerektiğine ilişkin tartışmalar gündeme gelmeye başladı.

ABD'li yapay zeka şirketleri OpenAI ve Anthropic'te araştırmacı olarak çalışan Jacob Coxon'un 9 Eylül'de iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmesi bu tartışmaları tetikleyen olaylardan biri oldu.

Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz yarış içinde olduklarını ileri süren Coxon, bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini savundu.

Coxon, ayrıca yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandıklarını öne sürdü.

Amodei'nin yapay zeka gelişimini yavaşlatma önerisi

Anthropic'in CEO'su Dario Amodei, 12 Eylül'de şirketin internet sitesinde bir makale yayımlayarak yapay zekanın kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.

Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının yavaşlatılması çağrısı yaptı.

Amodei, "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz." ifadesini kullandı.

Teknolojinin önde gelen isimlerinden Amodei'ye destek

OpenAI CEO'su Sam Altman ile Tesla ve SpaceX'in CEO'su Elon Musk'ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri Amodei'ye destek verdi.

Musk, ABD merkezli X şirketinin sosyal medya platformundaki hesabından, Amodei'nin söz konusu paylaşımını alıntılayarak "Dario haklı." yorumunda bulundu.

Sam Altman da sosyal medya hesabından, "Dario'nun, sınır teknolojisi çalışmalarının hızını kontrollü şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum." ifadesini kullandı.

Google DeepMind'in kurucu ortağı Demis Hassabis de yaptığı paylaşımda, "Dario'nun makalesi, ileriye dönük doğru yolu işaret ediyor. Ayrıntılar üzerinde çalışılması gerekiyor ancak bu kritik dönemi atlatmak için izlenecek yön doğru." ifadesini kullandı.

Microsoft CEO'su Satya Nadella ise sosyal medya hesabından, geliştirilme hızının kontrol edilmesi ve denetlenmesi fikirlerini memnuniyetle karşıladıklarını ancak bu sürecin "belirli bir grup kuruluş tarafından kontrol edilemeyeceğini" ifade etti.

Nadella, "Bir yandan da yapay zekanın faydalarını ülkeler, topluluklar ve şirketler genelinde yaygınlaşacak şekilde hızlandırmamız ve genişletmemiz gerekiyor." değerlendirmesinde bulundu.

Huang'dan "yanlış seçim" yapılmaması uyarısı

Öte yandan, San Francisco'da 15 Eylül'de düzenlenen bir konferansta konuşan Nvidia CEO'su Jensen Huang ise "Yeni yasalara veya düzenlemelere ihtiyacımız yok." diyerek, inovasyonun hızı ile yapay zekanın güvenliği arasında "yanlış seçim" yapılmaması gerektiğini ifade etti.

Daha sonra CBS News'e röportaj veren Huang, teknolojinin gidişatına ilişkin endişeler taşıyan sektör liderlerinin yapay zeka geliştirme çalışmalarında geri adım atılması gerekebileceği yönündeki açıklamalarına rağmen teknoloji şirketlerinin yapay zeka geliştirme çalışmalarını sürdürmesi gerektiğini belirtti.

Yapay zeka geliştirme sürecinin yavaşlatılması gerekip gerekmediği sorusuna da Huang, "Başkalarını dikkate almadan elimizden geldiğince hızlı ilerlemeliyiz." yanıtını verdi.

Huang, bazı yapay zeka araştırmacılarının teknolojinin 2030'a kadar insanlığın sonunu getirebileceği yönündeki değerlendirmelerine ilişkin, "2030, dünyanın sonu olmayacak. Bunun dünyanın sonu olma ihtimali yüzde 0." ifadelerini kullandı.

Bu tür söylemleri "kıyamet senaryoları" olarak nitelendiren Huang, bu tahminlerin "bilime dayanmadığını" belirterek söz konusu uyarıları reddetti.

Zuckerberg, şirketlerin güvenlik sorumluluğuna dikkati çekti

Meta CEO'su Mark Zuckerberg ise ABD merkezli X şirketinin sosyal medya hesabından yaptığı paylaşımda, yapay zeka şirketlerinin modellerini güvenli şekilde geliştirmek için yeterli sorumluluk ve teşvike sahip olduğunu savundu.

Zuckerberg, yapay zeka laboratuvarlarının modellerini güvenli şekilde geliştirmek için gereken hızda ilerleme konusunda kendi adımlarını atabileceğini belirtti.

Kullanıcıların kendileriyle uyumlu olmayan ve talimatlarını yerine getirmeyen yapay zeka ajanlarını kullanmak istemeyeceğini dile getiren Zuckerberg, güven ve uyumun yapay zeka modelleri ve ajanları arasındaki rekabette giderek daha önemli hale geldiğini kaydetti.

Yapay zeka modellerinin yol açabileceği zararların şirketleri hukiki sorumlulukla karşı karşıya bırakabileceğini belirten Zuckerberg, bunun da şirketlerin güvenliği öncelemesi için güçlü bir teşvik oluşturduğunu savundu.

Trump'ın açıklamaları

ABD Başkanı Donald Trump yönetimi ise yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden yaklaşım benimsiyor.

Trump, yapay zekaya ve veri merkezlerine karşı "hastalıklı bir komplo yürütüldüğünü" öne sürerek, "bundan memnuniyet duyan tek tarafın Çin olduğunu" savundu.

Ülkesinin yapay zeka alanında Çin ve diğer tüm rakiplerinin önünde olduğunu iddia eden Trump, bu alandaki yarışı önde olan devletin kazanacağını belirtti.

Trump, ayrıca yapay zeka teknolojisinin tehlikeli boyuta ulaşmadan yavaşlatılmasına yönelik çağrılar ve ortaya konan benzer endişelerin "koca bir yalandan ibaret" olduğunu söyledi.

Çin tarafının açıklamaları

Çin tarafı ise yapay zeka gelişimini yavaşlatma çağrısının "ülkenin yapay zeka gelişimini önlemeyi hedeflediğini" belirtti.

Çin Komünist Partisinin yayın organı Global Times gazetesinde yayımlanan yazıda, "Amodei'nin asıl amacının teknolojik bariyerler ve düzenleyici tekellerle Çin'in yapay zeka gelişimine ket vurmak olduğu ve Amodei'nin Çin'i hedef alan sözlerinin Soğuk Savaş taktiklerini hatırlattığı" savunuldu.

Çin Dışişleri Bakanlığı Sözcüsü Guo Ciakun da "Korkuları körüklemek, cepheleşme ve acımasız rekabet, küresel yapay zeka yönetimine zarar vermekten başka işe yaramaz, bu da kimsenin menfaatine değildir." değerlendirmesinde bulundu.