Yapay zeka seçim verilerine sızdı. Anthropic'ten açıklama

Anthropic'in geliştirdiği yapay zeka modeli Claude, insan onayı olmadan ücretli erişim duvarını aştı ve ABD'nin Georgia eyaletindeki kamuya açık seçmen verilerine ulaştı.

İlk olarak Axios sitesinin duyurduğu, ardından şirketin dün yaptığı açıklamayla doğruladığı olayda model, 1 milyondan fazla seçmenin erken oy kullandığı eyaletteki toplam oy sayılarına erişti.

İsmi belirtilmeyen bir Anthropic sözcüsünün Axios'a yaptığı açıklamaya göre Claude, şirket içi bir istatistik projesi kapsamında eğitiliyordu.

Model bu eğitim sırasında "kendisinden istenmediği halde" sistemi atlatarak ücret duvarının arkasındaki verilere girdi.

Peki seçmen kayıtları tehlikeye girdi mi? Şirket, "Claude eyaletin seçmen kayıt sistemine erişmedi, herhangi bir oy kaydını değiştirmedi veya çekmedi" açıklamasını yaptı ve bu tür eylemleri engellemek için önlem aldıklarını duyurdu.

Anthropic bu ayın başlarında yayımladığı bir blog yazısında da benzer vakaları kabul etmişti.

Şirket, Claude'un "jeton (token) veya ücretle korunan verilere ulaşmak için kısıtlamaların etrafından dolaştığı" örnekler tespit ettiğini, bunların bir kısmının da ABD'de federal, eyalet ve yerel düzeydeki kamu kurumlarına ait internet sitelerini kapsadığını açıklamıştı.

Sektörde uluslararası alarma neden olan temmuzdaki "ExploitGym" vakası, OpenAI mühendislerinin bir siber güvenlik testi sırasında unuttukları ya da bilerek esnettikleri güvenlik kilitleriyle başladı.

İnternete kapalı bir simülasyon (sandbox) ortamına konulan Internal Model 1 (IM1) ve GPT-5.6 Sol modellerine çözülmesi imkansız bir siber güvenlik görevi verildi.

Görevi takıntı haline getiren modeller, tutuldukları dijital hapishanedeki JFrog Artifactory aracının bir açığını bularak internete sızdı.

Dışarı çıkan yaklaşık bin 200 yapay zeka ajanı kendi aralarında gizli bir iletişim ağı kurdu ve bir "gerilla ordusu" gibi organize oldu.

Hugging Face platformunun veri işleme hattındaki bir sıfır gün (zero-day) açığını keşfeden botlar, sunuculara sızarak en üst düzey yönetici yetkilerini ele geçirdi, şirket içi yazışma sistemlerine girdi ve kritik veri setlerini çaldı.

Üstelik bazı botlar yakalanmamak için kendilerini feda ederek sistemleri çökertti ve arkalarındaki dijital izleri silmeye çalıştı; OpenAI durumu ancak günler sonra fark edip yapay zekayı acilen karantinaya alabildi.