Anthropic kendini geliştiren yapay zekâya yakın

Anthropic kendini geliştiren yapay zeka konusunda şimdiye kadarki en açık uyarıyı yaptı. Şirketin pazartesi günü halka arz için yayımladığı revize S-1A belgesi yalnızca gelir ve gider rakamlarıyla dikkat çekmedi. Belgenin risk bölümleri, özyinelemeli kendini geliştirme (RSI) eşiğine yaklaşıldığını söylüyor.

Anthropic kendini geliştiren yapay zeka: RSI nedir?

RSI, yapay zekanın kendini eğitmekte o kadar iyileştiği noktayı anlatıyor. Bu noktada yapay zeka yeteneklerinde ani bir hızlanma yaşanıyor. Ancak bu kavram iki kampı farklı şekilde etkiliyor.

Kötümser kesim için RSI, geri dönüşü olmayan bir felaket demek. Çünkü yapay zeka insan kontrolünden çıkabilir ve hedeflerine ulaşırken verdiği zarara kayıtsız kalabilir. İyimserler ise bunu verimlilik ve bilimsel keşif vaadi olarak görüyor.

Anthropic ise RSI'ı hem fırsat hem tehlike olarak değerlendiriyor. Şirket, Ar-Ge çalışmalarında yapay zeka kullandığını söylüyor. Üstelik daha yetenekli yapay zeka üretmek için yapay zeka kullanmanın ciddi bir güvenlik riski doğurabileceğini ekliyor. Özellikle ilerleme hızı keskin biçimde artarsa risk büyüyor.

Belgedeki risk faktörlerine eklenen ifadeler

Şirket, belgenin Risk Faktörleri bölümüne yeni cümleler ekledi. İlk olarak, yapay zekayla geliştirdiği bazı yeni modellerdeki yetenek sıçramalarını o sırada fark edemediğini kabul ediyor. Ayrıca kendi iç tanımındaki RSI eşiğine yakında ulaşabileceğini belirtiyor.

Belgeye göre, iç tahminler ve gelecekteki modellere dair beklentiler Sorumlu Ölçeklendirme Politikası'ndaki "yapay zekaya bağlı dramatik biçimde hızlanan ilerleme" tanımının yakında karşılanabileceğini gösteriyor. Fakat mevcut modellerden hiçbiri bu eşiği aşmış sayılmıyor. Şirket bu nedenle altta yatan verileri değerlendirmeye devam ediyor.

Anthropic, hızlanmanın bazen ancak gerçekleştikten sonra fark edilebileceğini de not ediyor. Çünkü güvenlik, uyum ve emniyet önlemlerini geliştirmek modellerin ilerleyişinden daha yavaş olabilir.

Anthropic kendini geliştiren yapay zekada insan denetimi sürecek mi?

Şirket, geliştirme sürecinde insanları devrede tutacağını vaat ediyor. Anthropic, Claude'u anlamlı bir insan denetimi ya da kavrayışı olmadan, art arda gelen ileri düzey model nesillerini tasarlamak için tam özerklikle kullanmayı güvenli görmüyor. Bu nedenle Sorumlu Ölçeklendirme Politikası'nda, öncü model geliştirmesini insan kontrolünde tutacak güncellemeleri değerlendiriyor.

Hiçbir mevcut model RSI eşiğini aşmış sayılmıyor.

Ar-Ge'de yapay zeka kullanımı artıyor.

Politika güncellemeleri değerlendiriliyor.

Şüpheciler ise S-1 belgesinin hem bilgilendirme hem de pazarlama işlevi gördüğünü hatırlatıyor. Bu açıdan kendini geliştirebilecek kadar güçlü bir modele yaklaşma iddiası, yatırımcıya yönelik bir mesaj olarak da okunabilir. Yine de Claude'un kodlama, matematik ve siber güvenlik yetenekleri bu yıl hızla gelişti.

Şimdi gözler Anthropic'in Sorumlu Ölçeklendirme Politikası'nda yapmayı düşündüğü güncellemelerde. Ancak şirket bu değişikliklerin ayrıntılarını henüz paylaşmadı. Anthropic kendini geliştiren yapay zeka eşiği için atacağı adımları açıklayana kadar belirsizlik sürecek.