
Yapay zeka devlerinde ön eğitim araştırmacısı olarak çalışan Jacob Coxon, şirketlerin kontrolsüz bir yarış içinde olduğunu belirterek istifa etti.
OpenAI ve Anthropic’te ön eğitim araştırmacısı olarak çalışan Jacob Coxon, yapay zeka laboratuvarlarının insanlığın geleceğini tehlikeye atan kontrolsüz bir yarış içinde olduğunu belirterek istifa etti.
AI-generated summary
OpenAI ve Anthropic, yapay zeka sektöründe yapay genel zeka (AGI) geliştirmek için birbiriyle yarışan başlıca iki kuruluştur.
Yapay zeka sektörünün önde gelen devleri OpenAI ve Anthropic’te üç yıl boyunca ön eğitim araştırmacısı olarak çalışan Jacob Coxon, şirketlerin insanlığın geleceğini tehlikeye atan kontrolsüz bir yarış içinde olduğunu belirterek istifa etti. Kendi kendini geliştiren süper zekâ teknolojisine ulaşmak için kural tanımayan bir hızla hareket edildiğini vurgulayan Coxon, sektör yöneticilerinin dahi bu teknolojinin yıkıcı potansiyelinden endişe duyduğunu ifşa etti.
YAPAY ZEKÂ LABORATUVARLARINDA GÜVENLİK KRİZİ BÜYÜYOR
Sektörün en kritik noktalarından biri olan ön eğitim (pretraining) alanında hem OpenAI hem de Anthropic çatısı altında üç yıl boyunca araştırmalar yürüten Jacob Coxon, yayınladığı bir açıklama serisiyle Anthropic’teki görevinden ayrıldığını duyurdu. Yapay zekâ dünyasında geniş yankı uyandıran açıklamasında Coxon, her iki şirketin de "sorumlu hareket etmediğini" ve kontrolden çıkma riski taşıyan bir teknoloji için aceleci davrandıklarını belirtti.
"SÜPER ZEKA BİZİ YOK EDEBİLİR İNANIŞI BİR PAZARLAMA İLLÜZYONU DEĞİL"
Geliştirilen modellerin çok kısa süre içerisinde sistemleri hackleyebilecek, bilimsel alanlarda anlık devrimler yapabilecek ve kendi kaynaklarını yönetebilecek "süper insan" seviyesine ulaşacağını vurgulayan araştırmacı, şirket yönetimlerindeki tehlikeli algıya dikkat çekti:
"Yapay zekâyı inşa eden insanlar, bu teknolojinin on yılın sonuna kadar hepimizin sonunu getirebileceğine samimiyetle inanıyor. Bu bir pazarlama hamlesi ya da abartı değil. Üst düzey yöneticiler ve kıdemli araştırmacılar basına kapalı kapılar arkasında bu korkularını açıkça ifade ediyorlar."
OPENAI VE ANTHROPİC ARASINDAKİ TEHLİKELİ FARK
Coxon, sektörün iki dev aktörü arasındaki yaklaşım farkına da değindi:
OpenAI: Çalışanların ve yöneticilerin büyük bir kısmı sürecin medeniyet ölçeğindeki risklerini ve getirebileceği felaket boyutunu henüz derinlemesine içselleştirebilmiş değil.
Anthropic: Şirket risklerin farkında olsa da "ilk ulaşan olma" yarışına kilitlenmiş durumda. Yetkililer, bir başkasının bu teknolojiye daha önce ulaşmasının daha felaket olacağına inanarak yarışı hızlandırıyor.
Coxon, devasa özel şirketlerin Slack kanallarından alınan kararlarla insanlığın kaderini belirleyecek bir "son oyun" (endgame) kumarına girilmesini "kibirli bir risk" olarak nitelendirdi.
ARAŞTIRMACILARA ÇAĞRI: "MOLA VERİLSİN, DÜZENLEME GETİRİLSİN"
Yapay zekâ laboratuvarlarındaki araştırmacılara da çağrıda bulunan Coxon, zihniyetini tam olarak anlayamadıkları süper zekâ modellerini çalıştırmanın büyük bir tehlike taşıdığını ifade etti. Sektördeki yarış hırsını frenlemek adına gerekirse geçici durdurma kararları (moratoryum) veya laboratuvarlar arası hız kısıtlama anlaşmalarının şart olduğunu belirten Coxon, yapay zekâ çalışanlarını "Zaten gerçekleşecek" diyerek sürece boyun eğmek yerine sorumluluk almaya davet etti.

OpenAI announced that it solved the Navier-Stokes equations with the joint work of 10 thousand artificial intelligence agents. However, NYU professor Tristan Buckmaster and Turkish mathematician Levent Alpöge filed charges of plagiarism, claiming that the method was stolen from them.

Honor has restarted registrations for the Android 17-based MagicOS 11 internal beta program. The list of devices suitable for applications made through the My Honor application has been announced.

Firmware update version number 4A203 has been released for Apple's new Beats 360 headset. The device, which is expected to be introduced in September, may come with a price tag of $ 299.99 and will offer IPX4 certification with advanced noise cancellation.

OpenAI's announcement that it had solved the Navier-Stokes equations with artificial intelligence agents sparked a plagiarism controversy, with claims that NYU's Tristan Buckmaster and Levent Alpöge independently developed a similar method at Anthropic.

Google announced that it will invest at least 13 billion euros in Finland over the next two years, including data centers that will power artificial intelligence models. This move is the company's largest one-time investment in Europe.

OpenAI announced that it solved the Navier-Stokes problem in 88 hours using 10 thousand artificial intelligence agents. Following the announcement, Prof. from New York University. Tristan Buckmaster sparked an ethical debate by claiming that OpenAI was using his data.