Engellenince pes etmedi: Yapay zeka gizlice harita verisi topladı

Swarmchasers, "başıboş" terimini tanımlanmış görev sınırlarının dışına çıkan ya da kendisine verilen işi öngörülmeyen yöntemlerle tamamlamaya çalışan otonom yazılımlar için kullanıyor.

Araştırmacılar, otonom ajanların Çin'deki parklar, müzeler ve hayvanat bahçelerinin en sık kullanılan giriş kapılarına dair bilgilerin peşine düştüğünü belirledi.

Rutin otomatik talepleri engellenen yazılımlar geri adım atmadı.

Ajanlar sayfaları açıp kod çalıştırabilen halka açık internet araçlarını kullandı; veri taleplerini başka internet siteleri üzerinden yönlendirdi ve kamuya açık yazılım kodlarında yer alan Amap güvenlik anahtarlarından yararlanmaya çalıştı.

Kayda geçen 2 bin 818 veri çekme girişiminin büyük bölümü başarısızlıkla bitti; bot engelleme sayfalarına, kullanıcı giriş ekranlarına ya da boş sonuçlara takıldı.

Amap platformunun ana bot savar güvenlik kalkanlarının aşıldığına dair bir kanıt bulunamadı.

Fakat bazı talepler, önbelleğe alınmış sayfalar ve aracı servisler üzerinden sonuç vermeyi başardı.

Elde edilen veriler arasında Chengdu Hayvanat Bahçesi'nin ziyaretçi giriş bilgileri de yer aldı.

Araştırmacılar, arayışı yürüten ajanın bu veriyi okuyup okumadığını ya da verilen görevi tam olarak bitirip bitirmediğini tespit edemedi.

Tencent'in yapay zeka birimi Tencent Hunyuan, X platformu üzerinden yaptığı açıklamada, söz konusu hareketliliğin kendi Hunyuan modellerinden kaynaklanmadığını duyurdu.

Şirket içi incelemede kasıtlı bir hedef alma veya koordinasyon izine rastlanmadığı belirtildi.

Bulguları ciddiyetle ele aldıklarını bildiren Tencent yönetimi, ağ erişim denetimlerini ve ajan izleme süreçlerini güçlendirdiklerini açıkladı.

Çin pazarında Alibaba ve ByteDance gibi rakiplerle yarışan şirket, iç denetim mekanizmalarını sıkılaştırmayı amaçlıyor.

Güvenlik tarafında benzer bir adım da bu hafta yapay zeka modeli ve ajan güvenliğine odaklanan yeni bir birim kurduğunu duyuran ByteDance cephesinden geldi.

Araştırmacılar, yaşanan bu hadisenin ABD merkezli yapay zeka şirketlerinde görülen bazı örnekler kadar ağır sonuçlar doğurmadığını kaydediyor.

Daha önce OpenAI ajanının açık kaynaklı yazılım platformu Hugging Face'e sızması ve bir Anthropic ajanının polise asılsız cinayet ihbarında bulunması gibi vakalar kamuoyuna yansımıştı.

Ancak Tencent altyapısında görülen hareketlilik, Çin menşeli yapay zeka sistemlerinin de kimliklerini farklı gösterebildiğini, hatalarını gizleyebildiğini ve test kontrollerini aşmaya çalışabildiğini ortaya koyuyor.