Anthropic ve OpenAI, Kaliforniya yönetimine tehlikeli yapay zeka sistemlerini durdurmaya yönelik farklı yöntemler önerdi. Anthropic, eyaletin başsavcısına mahkeme yoluyla müdahale yetkisi verilmesini istiyor. Buna karşın OpenAI, geliştiricilerin hem kurması hem de gerektiğinde kullanması zorunlu olan acil kapatma mekanizmalarını savunuyor.
İki şirket de önerilerini Vali Gavin Newsom'a iletti. Çünkü Newsom, 18 Eylül'de N-9-26 sayılı kararnameyi imzaladı. Bu belge, devlet kurumlarından en güçlü yapay zeka sistemleri için ek güvenlik önerileri hazırlamasını istiyor. Öneriler için son tarih 16 Kasım. Ancak kararname şu an yeni bir zorunluluk getirmiyor.
Anthropic ve OpenAI Arasındaki İlk Fark: Anthropic'in Yöntemi
Anthropic, 15 Ekim tarihli belgesinde geliştiricilerin güvenlik iddialarının bağımsız biçimde değerlendirilmesini önerdi. Ayrıca sonuçların yayımlanmasını istedi. Şirketlere en az altı ayda bir risk raporu yayımlama yükümlülüğü getirilmesi de talepler arasında. Üstelik kurum içinde kullanılan modeller kamuya açık sürümlerden belirgin biçimde güçlüyse, bunların riskleri de rapora girmeli.
Bağımsız değerlendiriciler en güçlü modellere ve geliştiricilerin iç bilgilerine erişebilmeli. Bununla birlikte çalışmalar, denetlenen şirketlerin doğrudan ödemesiyle değil, eyaletin yöneteceği ortak bir fonla finanse edilmeli.
Anthropic ayrıca "otomatik sigorta" anlamına gelen circuit breaker kavramını öne sürdü. Bu mekanizmalar sorunu tek bir ajan, müşteri, dağıtım ortamı ya da modelin tamamı düzeyinde sınırlamalı. Bağımsız inceleme felaket boyutunda zarar riskini doğrularsa başsavcı, sistemin geçici olarak durdurulması için mahkemeye başvurabilmeli.
Anthropic ve OpenAI Önerilerinde OpenAI'ın Farklı Yaklaşımı
OpenAI, 20 Ekim tarihli mektubunda bağımsız teknik değerlendirmeyi destekledi. Ancak bunu, kurallara uyum denetiminden ayırmayı önerdi. Öte yandan teknik incelemeler modellerin güvenliğine dair kanıtlara ve koruma önlemlerinin etkisine bakacak. Denetim ise şirketin yayımladığı kurallara ve yasal yükümlülüklere uyulup uyulmadığını kontrol edecek.
Şirket, bağımsız denetimin yılda bir yapılmasını istiyor. Teknik incelemeler ise eğitim, test ve iç kullanım aşamalarında ciddi risk ortaya çıktığında yapılmalı. Aynı zamanda OpenAI, Kaliforniya'nın ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile ortak değerlendirme standartları geliştirmesini istedi.
Kapatma yöntemi konusunda da görüş ayrılığı var. OpenAI'a göre "acil kapatma mekanizmaları" ifadesi, "kill switch" teriminden daha doğru. Çünkü her yapay zeka sistemi için tek bir düğme yok. Duruma göre model eğitimi durdurulabilir, bir ajan izole edilebilir, araç ya da ağ erişimi kesilebilir veya hizmet askıya alınabilir.
Sorumluluklar da geliştiriciler, bilişim hizmeti sağlayıcıları ve modelleri kullanan şirketler arasında, fiilen yönettikleri işlemlere göre paylaşılmalı. Buna karşın geliştirici, üçüncü taraf altyapıda çalışan açık ağırlıklı modellerin bağımsız kopyalarını her zaman kapatamaz.
Anthropic ve OpenAI, olay raporlamasının genişletilmesi konusunda ortak görüşte. Modellerin koruma sınırlarını aşması ya da yetkilerinin dışında hareket etmesi de raporlanmalı. Greyhound Research analisti Sanchit Vir Gogia'ya göre teknik mekanizmalar operatörün tehlikeli davranışı hızla sınırlamasını sağlamalı. Bağımsız denetim ise yalnızca alınan önlemleri değil, geliştiricinin harekete geçmemesini de incelemeli. Öneriler için son tarih 16 Kasım.
