Yapay Zeka Uzmanları, Süper Zeka Riskini Uyarıyor

Coxon, yapay zeka sistemlerinin yakın gelecekte insan yeteneklerini aşacağını, bilgisayar sistemlerine sızabileceğini ve güç ile kaynak elde edebileceğini öne sürdü.

“Bu teknolojinin gücünü hafife almayın” diyen Coxon, “Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen, gerçek güç ve kaynak elde edebilen insanüstü sistemler olacak” ifadelerini kullandı.

Coxon ayrıca, yapay zekayı geliştiren kişilerin bu teknolojinin 2030’a kadar insanlığın sonunu getirebileceğine gerçekten inandığını söyledi.

Coxon’ın açıklamasına, Anthropic’te yapay zeka sistemlerinin insan amaçları ve değerleriyle uyumlu çalışmasına yönelik araştırmalara liderlik eden Evan Hubinger’den yanıt geldi.

Hubinger, “Jacob burada haklı. Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen bunun gelecek 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’un üzerinde olduğunu düşünüyorum” dedi.

Bu oranı kişisel tahmini olarak paylaşan Hubinger, Anthropic’in elinden geleni yaptığına inandığını ancak süper zekanın insanlarla uyumlu çalışmasını sağlayacak sorunu çözmek için henüz bir planlarının bulunmadığını belirtti. Hubinger, bu sorunu çözme yolunda olduklarının da net olmadığını söyledi.

Bir başka paylaşımında mevcut yapay zeka modellerinden kaynaklanan riskin düşük olduğunu vurgulayan Hubinger, asıl endişesinin kendi kendini geliştirme sürecinden doğabilecek süper zeka olduğunu açıkladı.

Araştırmacıların dikkat çektiği “yinelemeli öz geliştirme”, yapay zeka sistemlerinin çok az insan müdahalesiyle kendilerini geliştirmesi ve kazandıkları yeni yeteneklerle bu süreci tekrar etmesi anlamına geliyor.

Bu mekanizma henüz hayata geçirilebilmiş değil. Ancak yapay zeka laboratuvarları bu hedef doğrultusunda çalışıyor.

Açıklamalar, Anthropic ve OpenAI’ın büyük miktarlarda yatırım topladığı ve halka arz hazırlıklarıyla gündeme geldiği bir dönemde geldi. CNBC’nin görüş talebine iki şirketten de ilk aşamada yanıt gelmedi.