Anthropic çalışanı istifa etti, şirket raporunda yapay zekanın biyolojik silah riskini vurguladı
Quick Look
- Anthropic çalışanı Jacob Coxon, yapay zekanın insanüstü sistemlere dönüşebileceğini söyleyerek istifa etti.
- Şirket daha sonra, modellerinin biyolojik silah geliştirme, propaganda üretimi ve dış politika müdahalelerinde kötüye kullanıldığına dair bir rapor yayınladı.
- Rapor, Çin, Rusya ve Yemen ile ilgili vakaları detaylandırdı ve güvenlik önlemlerini aşma girişimlerini engellediğini belirtti.
AI-generated summary
Why It Matters
Anthropic, yapay zeka güvenliği odaklı bir şirket olarak Claude modelini geliştiriyor. Şirket, modellerinin kötüye kullanımını önlemek için düzenli olarak risk raporları yayınlıyor ve güvenlik önlemleri uyguluyor.
Yapay zeka şirketi Anthropic'te çalışan Jacob Coxon, yapay zekanın gelecekte insanüstü sistemlere dönüşebileceği uyarısıyla şirketten istifa etmesinin ardından şirketten dikkat çeken bir rapor yayınlandı.
Coxon'un açıklamaları gündem olurken yayımlanan raporda, Anthropic'in yapay zeka modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek şekilde kullanıldığı vakaların tespit edildiği ifade edildi.
BİYOLOJİK SİLAH RİSKİ
Anthropic'in yapay zeka modellerinin kötüye kullanımına ilişkin yayımladığı raporda, en ciddi risklerden birinin "biyolojik kötüye kullanım" olduğu vurgulandı. Raporda, gelişmiş yapay zeka modellerinin mevcut patojenleri daha tehlikeli hale getirebilecek veya yeni patojenlerin geliştirilmesine yardımcı olabilecek yeteneklere ulaşabileceği yönündeki endişelere dikkat çekildi.
Şirket, bu yıl Claude dahil yapay zeka modellerini kullanarak biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalar yürüten bilim insanlarının bazı faaliyetlerini engellediğini bildirdi. Anthropic, söz konusu araştırmacıların isimlerini, ülkelerini veya üzerinde çalıştıkları biyolojik ajanları açıklamadı.
"SON DERECE İNCELİKLİ BİR DURUM"
Anthropic'in tehdit istihbaratı başkanı Jacob Klein, biyolojik araştırmaların kötü amaçlı olup olmadığının her zaman açık biçimde anlaşılamadığını söyledi.
Klein, "Çizgi romanlardaki gibi birinin 'Hey, herkesi öldürecek bir biyolojik silah yapmak istiyorum' dediğini görmüyorsunuz. Bu son derece incelikli bir durum." ifadesini kullandı.
Şirket, meşru biyolojik araştırmaların da tehlikeli patojenlerin geliştirilmesine katkı sağlayabileceğine dikkat çekti. Aşı geliştirme gibi çalışmaların faydalı sonuçlar doğurabileceği, ancak aynı tekniklerin patojenleri daha tehlikeli hale getirmek için de kullanılabileceği belirtildi.
ARAŞTIRMACILARIN FAALİYETLERİ ENGELLENDİ
Raporda, desteklenmeyen bir bölgede çalışan bir araştırmacının Claude'u kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için kullandığı aktarıldı. Başka bir vakada ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarlamaya çalıştığı belirtildi.
Anthropic, kullanıcıların erişim kısıtlamalarını aşmaya ve "güvenlik önlemlerimizden kaçınmak için araştırmalarının amacını gizlemeye" çalıştığını tespit ettiğini açıkladı. Şirket, söz konusu faaliyetlerle bağlantılı hesapları yasakladı.
Mayıs ayında yaşanan bir başka vakada ise bir bilim insanının, aylarca süren şiddetli ağrı ve diğer semptomlara yol açabilen chikungunya virüsü üzerinde deney yapmak için Claude'dan fon başvusu hazırlamasına yardım istediği belirtildi.
Anthropic, araştırmanın bir bölümünün askeri bir araştırma enstitüsünde yapılmasının planlandığını tespit ettiği için vakayı endişe verici buldu.
Klein, "Bilmediğimiz şey, bu araştırmanın silah olarak kullanılmak üzere yapılıp yapılmadığıdır. Ancak bir askeri kurumun işlev kazanımı araştırması yapması endişe verici." dedi.
ANTHROPIC'İN RAPORUNDA BAŞKA TEHDİTLER DE YER ALDI
Anthropic'in son sekiz aya ilişkin raporunda, yapay zekanın biyolojik silahların yanı sıra farklı amaçlarla kötüye kullanıldığı vakalara da yer verildi.
Raporda, Çin ve İran hükümetleriyle bağlantılı olduğundan şüphelenilen aktörlerin muhalifleri ve diaspora topluluklarını gözetlemek için yapay zeka modellerinden yararlandığı belirtildi.
Rus devlet medyasının da Claude'u bağımsız habercilik görüntüsü altında çevrim içi propaganda üretmek için kullandığı öne sürüldü. Bu faaliyetler arasında Moldova'daki seçimlerle ilgili uydurma iddiaların yayılması da gösterildi.
Anthropic ayrıca Claude'un ateşli silahlar, füzeler, silahlı insansız hava araçları ve bombalar dahil olmak üzere geleneksel silahların tasarım ve geliştirilmesine yönelik yazılım çalışmalarında kullanıldığı vakalar tespit ettiğini açıkladı. Raporda Çin'den üç, Rusya'dan iki ve Yemen'den bir vaka ayrıntılı olarak anlatıldı.
ANTHROPIC ÇALIŞANINDAN DİKKAT ÇEKEN İSTİFA
Anthropic çalışanı Jacob Coxon'un yapay zekanın geleceğine ilişkin açıklamaları da gündem olmuştu.
Coxon, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak şirketten istifa ettiğini duyurmuştu.
Coxon'un paylaşımı milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.
What to Watch
AI outlook — possibilities, not facts
Anthropic, yapay zeka güvenliği önlemlerini daha da sıkılaştırabilir.
Likely · Within weeks
Biyolojik silah riskiyle ilgili uluslararası tartışmalar artabilir.
Possible · Within months
Open Questions
- Engellenen araştırmacılar hangi ülkelerden?
- Askeri araştırma enstitüsü hangi ülkede?
- Yapay zeka modellerinin mevcut güvenlik önlemleri ne kadar etkili?
