Stop Killer Robots (Katil Robotları Durdurun) Kampanyası Başkanı Peter Asaro, İran'ın Minab kentindeki bir ilkokulun hedef alındığı saldırıda ABD ordusunun yapay zekayla oluşturduğu hedef listelerinin bir insan tarafından incelenmesi gerektiğine dikkati çekerek, "Böyle bir protokol bulunmadığı için 150'den fazla çocuk öldürüldü." dedi.
TRT tarafından 2017'den bu yana düzenlenen ve bu yıl "Merkezsiz Dünya: Kurallar Geçersiz Kaldığında Kim Liderlik Eder?" temasıyla dünyanın önde gelen isimlerini bir araya getiren TRT World Forum, 6-7 Kasım'da İstanbul'da gerçekleştirildi.
Forum kapsamında otonom silah sistemlerinin hukuki sorumluluğu, siviller üzerindeki etkileri ve bu sistemlerin denetlenmesine yönelik uluslararası düzenleme ihtiyacına ilişkin AA muhabirine değerlendirmelerde bulunan Stop Killer Robots (Katil Robotları Durdurun) Kampanyası Başkanı Peter Asaro, robot veya yapay zeka hatası nedeniyle bir insanın ölümü halinde hangi hukuki kuralların uygulanacağını anlattı.
Olayın sivil ya da askeri nitelikte olmasının hukuki açıdan farklılık taşıdığını belirten Asaro, ölüme neden olanın sivil bir robot veya yapay zeka olması durumunda ilgili iç hukuk, ürün sorumluluğu ve ticaret hukuku kurallarının geçerli olacağını söyledi.
Asaro, silahlı çatışmalarda ise uluslararası insancıl hukuk ve Cenevre Sözleşmelerinin geçerli olduğunu, devletlerin güç kullanımı sonucunda meydana gelen ölümlerden sorumlu tutulduğunu ifade etti.
Bazı durumlarda savaş suçu işleyen askerlerin veya komutanların da bireysel olarak sorumlu tutulabileceğini dile getiren Asaro, bunun için suç işleme kastının/iradesinin kanıtlanması gerektiğini kaydetti.
Asaro, karar alma sürecinin tam olarak anlaşılamayacağı otonom veya yapay zeka sistemlerinin söz konusu olduğu durumlarda, operatörleri bu sistemlerin eylemlerinden ya da sonuçlarından hukuken sorumlu tutmanın oldukça zor olduğunu anlattı.
Bu kişilerin olayın gerçekleşeceğini beklememiş veya sonuçlarını anlamamış olabileceklerini ya da olayın gerçekleşeceğini öngöremediklerini iddia ederek bunun arkasına sığınabileceklerini belirten Asaro, bu nedenle askeri alanda bu tür hesap verilemeyen kararların alınmasını "son derece tehlikeli" olarak nitelendirdi.
Asaro, sivil alanda ise şirketleri ve mühendisleri sorumlu tutulabilecek taraflara örnek gösterdi.
"Makinelerin ölüm kalım kararı vermesine izin verirsek insanı sadece bir 'veri' olarak görmek zorunda kalırız"
Askeri alanda sivillere çok büyük zararlar verme potansiyeli taşıyan yapay zekaya bağlı otonom silah sistemlerine mutlaka düzenleme getirilmesi gerektiğini dile getiren Asaro, şunları söyledi:
"Nitekim bunu Gazze'de ve İran'da, İsrail Savunma Kuvvetleri (IDF) ile ABD güçlerinin hedef sayısını ciddi ölçüde artıran yapay zeka kullanımıyla zaten gördük ve bu durumun siviller üzerinde çok büyük etkisi oldu. Bu konuda proaktif olmak zorundayız. Makinelerin insanlar hakkında ölüm kalım kararı vermesine izin verirsek insanı sadece bir 'veri' olarak görmek ve insan hayatının değerini askeri gerekliliklere ya da başka şeylere göre hesaplamak zorunda kalırız. Bu da insanı temelde insanlıktan çıkarmaktır. Bunlar, ancak insan hayatının kıymetini hesaba katan, o kıymetin ne anlama geldiğini anlayan insanların vermesi gereken kararlardır. Makineler hesaplamalar yapabilse de bunu gerçekten kavrayamaz. Dolayısıyla böyle bir şey yaparsak insan onurunu zedelemiş oluruz ve sadece bu makinelerin kurbanları için değil, herkes için insan hayatının değerini düşürürüz."
Asaro, ABD/İsrail'in, İran'ın Minab kentindeki bir ilkokulu hedef aldığı saldırıyı anımsatarak, "ABD ordusunun hedef listeleri oluşturmak için yapay zeka kullandığı artık bir bakıma ortaya çıktı. Belirlenen hedeflerden biri de buydu. Eski bilgilere dayanıyordu, yani suçu bir bakıma veri tabanına atıyorlar ama sonuç olarak bir insanın bunları incelemesi gerekirdi. Normal şartlarda insanlar o hedef listelerini gözden geçirir, verinin eski olduğunu ve buranın bir okul olduğunu gösteren daha yeni, daha doğru veriler bulunduğunu tespit ederdi. Böyle bir protokol bulunmadığı için 150'den fazla çocuk öldürüldü." değerlendirmesinde bulundu.
Artan çatışma ve hedeflerle birlikte bu sistemleri daha da büyütüp yaygınlaştırmanın, savaşın hızını ve şiddetini muazzam ölçüde artıracağını belirten Asaro, daha kısa sürede daha fazla hedefin bombalanabilir hale geleceğini söyledi. Asaro, bunun, çatışmaların temelinde yatan sorunlara siyasi çözümler bulunmasını ve nihayetinde barışa ulaşılmasını zorlaştıracağını ifade etti.
Asaro, kampanyanın otonom silahların denetlenmesine ilişkin çalışmalarından bahsederek, sözlerini şöyle tamamladı:
"Otonom silahları yasaklayıp denetim altına alacak uluslararası bir anlaşma çıkarma yolunda 10 yılı aşkın süredir çalışıyoruz. Birleşmiş Milletler (BM) Belirli Konvansiyonel Silahlar Sözleşmesi bünyesinde tartışmaları başlatma konusunda belli bir mesafe de katettik. Nitekim sadece 1,5 hafta sonra, önümüzdeki yıl yeni bir anlaşma protokolü için müzakere yetkisi verilip verilmeyeceği oylanacak. Bunun gerçekleşmesini ve anlamlı bir anlaşmaya sahip olmayı çok istiyoruz. Ancak devletlerin bunu yapmama ihtimali de var. Bu yüzden yoğun bir lobi faaliyeti yürütüyoruz. Dünya genelinde 300 sivil toplum kuruluşunu temsil eden bir sivil toplum kuruluşuyuz. Devletlerle, diplomatlarla, parlamentolarla ve medyayla temas kuruyor, meseleye dikkat çekmek ve somut adım atmak için önümüzde duran gerçek fırsatı değerlendirmek adına farkındalık oluşturmaya gayret ediyoruz."
