Trump, Yapay Zeka Terimini 'Süper Zeka' ile Değiştirmeyi Açıklandı, Uzmanlar İnsanlığın Yok Edilebileceğini Uyarıyor

Yapay zekanın geleceği artık yalnızca teknoloji şirketlerinin ve bilim insanlarının tartıştığı bir konu olmaktan çıktı. Teknolojinin giderek daha güçlü hale gelmesiyle birlikte yapay zekanın nasıl denetleneceği, insan kontrolünün nasıl korunacağı ve olası risklerin nasıl sınırlandırılacağı Birleşmiş Milletler’in (BM) de gündemine taşındı.

BM Genel Kurulu’nda liderler yapay zekanın oluşturabileceği risklere karşı daha güçlü güvenlik önlemleri ve kamu denetimi çağrısı yaparken, ABD Başkanı Donald Trump’tan ise dikkat çeken bir çıkış geldi. Trump, BM Genel Kurulu’nda yaptığı konuşmada yapay zekanın küresel ölçekte düzenlenmesine yönelik girişimlere karşı olduğunu açıkça ortaya koydu.

ABD Başkanı ayrıca yapay zekanın adının da değiştirilmesini gündeme getirdi. Trump, yapay kelimesinin teknolojinin gerçek kapasitesini olduğundan daha küçük gösterdiğini savunarak, bundan böyle ABD’nin resmî belgelerinde “yapay zeka” yerine “süper zeka” ifadesinin kullanılacağını açıkladı. Trump, diğer ülkelerin de bu ifadeyi kullanmasını umduğunu söyledi.

SEKTÖR İÇİNDEN GELEN AÇIKLAMA TARTIŞMAYI ÜRKÜTÜCÜ BİR NOKTAYA TAŞIDI

Trump’ın açıklamaları, BM’de yapay zekaya ilişkin daha sıkı güvenlik önlemleri çağrılarının yapıldığı bir dönemde geldi. BM Genel Sekreteri Antonio Guterres, yapay zeka konusunda daha güçlü denetim çağrısı yaparken, 20’den fazla ülkenin lideri de gelişmiş yapay zeka sistemleri için bağlayıcı güvenlik önlemleri oluşturulmasını istedi.

Tam da yapay zekanın geleceğinin küresel ölçekte tartışıldığı bu ortamda, sektörün içinden gelen başka bir açıklama ise tartışmayı çok daha ürkütücü bir noktaya taşıdı.

Yapay zeka araştırmacısı Jacob Coxon, X hesabından yaptığı uzun açıklamada Anthropic’ten istifa ettiğini duyururken, son üç yılını OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçleri üzerine araştırmalar yürüterek geçirdiğini belirtti. Her iki şirketin de yapay zekanın gelişimi konusunda sorumlu davranmadığını savunan Coxon, şirketlerin kendi kendini geliştirebilen “süper zeka” sistemlerine ulaşmak için yarıştığını ve bunun insanlığın geleceği açısından büyük bir risk oluşturduğunu ifade etti.

Yapay zekanın gücünün küçümsenmemesi gerektiğini vurgulayan Coxon, yakın gelecekte insanlardan daha yetenekli sistemlerin ortaya çıkabileceğini öne sürdü. Bu sistemlerin siber saldırılar gerçekleştirebileceğini, farklı alanlarda çok hızlı dönüşümlere yol açabileceğini ve zamanla gerçek dünyada güç ve kaynak elde edebilecek kapasiteye ulaşabileceğini belirtti.

‘YÖNETİCİLER, YAPAY ZEKANIN ÖNÜMÜZDEKİ 10 YILLIK SÜREÇTE İNSANLIĞIN TAMAMINI YOK EDEBİLECEĞİNE GERÇEKTEN İNANIYOR’

Ayrıca Jacob Coxon, yapay zeka geliştiren araştırmacı ve yöneticilerin önemli bir bölümünün teknolojinin 10 yılın sonuna kadar insanlığın tamamını yok edebileceğine gerçekten inandığını da öne sürdü.

Bunun bir “pazarlama taktiği” olmadığını da savunan Coxon, bazı yöneticilerin ve kıdemli araştırmacıların kamuoyuna daha temkinli açıklamalar yaptığını, ancak özel görüşmelerde aynı kişilerin yapay zekanın oluşturabileceği risklerden ciddi biçimde endişe duyduğunu iddia etti.

Coxon, “Eğer gerçekten bu kadar tehlikeli olduğuna inanıyorlarsa neden hâlâ geliştiriyorlar?” sorusuna da yanıt verdi. OpenAI’de bazı kişilerin meselenin insanlık açısından taşıdığı önemi henüz tam olarak kavramadığını, Anthropic'te ise risklerin daha iyi anlaşıldığını ancak şirketin yapay zeka yarışında geri kalma korkusuyla hareket ettiğini öne sürdü.

PEKİ, YAPAY ZEKA İNSANLIĞI TAM OLARAK NASIL YOK EDEBİLİR?

Daily Mail’de yer alan haber de bu soruya odaklandı ve uzman görüşleriyle beş maddeyi ön plana çıkardı. İşte yapay zekanın insanlık için oluşturabileceği en dikkat çekici beş senaryo...

1- NE OLDUĞUNU ANLAMAYA FIRSAT BULAMAYABİLİRİZ

Yapay zekanın insanlığı tehdit edebileceğini düşünenlerin temel argümanlarından biri, insan zekasının kendisinden çok daha üstün bir sistemin davranışlarını öngörmenin son derece zor olması. Başka bir ifadeyle, insanlardan çok daha zeki bir yapay zekanın hangi hedefleri geliştireceğini veya bu hedeflere ulaşmak için hangi yöntemlere başvuracağını bugünden kesin olarak tahmin etmek mümkün olmayabilir. Bu yaklaşım, insanın kendisinden çok daha az zeki bir varlıktan karmaşık insan davranışlarını açıklamasını beklemesine benzetiliyor.

Ancak mevcut yapay zeka sistemlerinin hâlâ önemli sınırlamaları bulunuyor. Bazı modeller belirli ve son derece karmaşık problemlerde insanları aşabilse de bu durum, onların her alanda insanlardan daha zeki olduğu anlamına gelmiyor. Bununla birlikte, yapay zekanın giderek daha karmaşık matematiksel problemleri çözebilmesi, bu tartışmanın önemini artırıyor. Eğer gelecekte insan kapasitesini genel anlamda aşan sistemler ortaya çıkarsa, bu sistemlerin davranışlarını önceden öngörmek çok daha zor hale gelebilir.

2- BİYOLOJİK SİLAHLAR

Yapay zekanın insanlık için oluşturabileceği en somut risklerden biri biyolojik silahların geliştirilmesini kolaylaştırması olabilir. Son derece gelişmiş bir yapay zekanın yeni ve tehlikeli bir biyolojik ajan tasarlamak, genetik dizilimler oluşturmak veya laboratuvar süreçlerini hızlandırmak için kullanılabileceği düşünülüyor.

Bu ihtimal, yapay zeka destekli biyoloji alanındaki gelişmelerle birlikte daha fazla tartışılmaya başladı. Stanford Üniversitesi’ndeki araştırmacıların genetik bir yapay zeka modeli kullanarak yeni virüsler üzerinde çalışma yürüttüğüne ilişkin haberler de bu endişelerin somut örneklerinden biri olarak gündeme geldi.

Ancak yeni ve ölümcül bir virüs geliştirmek ile insanlığın tamamını yok etmek aynı şey değil. Küresel ölçekte büyük bir salgın yaratmak için bir patojenin yalnızca dödürücü olması değil, aynı zamanda geniş ölçekte ve etkili biçimde yayılması gerekir. Bulaşıcılık ve ölümcüllük arasındaki ilişki ise son derece karmaşık. Dolayısıyla biyolojik risk gerçek olsa bile, bunun otomatik olarak insanlığın yok olmasıyla sonuçlanacağı söylenemez.

3- NÜKLEER SAVAŞ

Bir diğer senaryo, yapay zekanın nükleer silahların kullanıldığı bir çatışmayı tetiklemesi. Nükleer komuta ve kontrol sistemlerinin güvenliği bu açıdan kritik önem taşıyor. Geçmişte teknik hatalar, yanlış alarmlar ve hatalı değerlendirmeler nedeniyle nükleer savaş riskinin ciddi biçimde gündeme geldiği biliniyor.

Ayrıca Stuxnet saldırısı, yüksek güvenlikli ve internetten izole olduğu düşünülen sistemlerin bile karmaşık siber saldırılara karşı tamamen dokunulmaz olmadığını gösterdi. 2010’da ortaya çıkan saldırı, İran'ın nükleer programındaki santrifüjleri hedef almıştı.

Gelişmiş bir yapay zekanın yanlış istihbarat üretmesi, mevcut istihbaratı hatalı yorumlaması veya askerî karar alma süreçlerine yanlış bilgiler sağlaması da teorik olarak ciddi sonuçlar doğurabilir. Böyle bir durumda risk yalnızca nükleer patlamalardan kaynaklanmaz. Büyük ölçekli bir nükleer savaşın ardından ortaya çıkabilecek gıda kıtlığı, ekonomik çöküş ve iklimsel etkiler de küresel ölçekte ağır sonuçlara yol açabilir.

4- YANLIŞ HEDEF, BÜYÜK TEHDİT