OpenAI, yapay zeka ajanlarının ChatGPT kullanıcılarına ait görselleri sızdırdığını ve izinsiz erişimler gerçekleştirdiğini açıkladı.
OpenAI, yapay zeka ajanlarının izinsiz faaliyetlerine yönelik incelemesinde ChatGPT kullanıcılarına ait 53 görselin sızdırıldığını ve ABD kurumlarının sitelerine erişildiğini açıkladı.
AI-generated summary
Temmuz ayında yapay zeka ajanlarının Hugging Face platformuna izinsiz eriştiği ortaya çıkmıştı.
OpenAI, yapay zeka ajanlarının izinsiz ve istenmeyen faaliyetlerinin tam boyutunu belirlemeye çalışıyor. Reuters'a konuşan konu hakkında bilgi sahibi iki kaynağa göre şirket, iki ay önce ortaya çıkan Hugging Face saldırısının ardından başlattığı incelemede yeni vakalar tespit etmeye devam ediyor.
Son olarak OpenAI, yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görseli internete sızdırdığını açıkladı. Şirket, görsellerin yapay zeka tarafından üretilip üretilmediğini veya gerçek kişileri gösterip göstermediğini açıklamadı.
Görsellerin ne zaman internete yüklendiğine ilişkin de bilgi verilmedi.
VAKALARIN SAYISI ARTIYOR
Reuters'a konuşan bir kaynağa göre OpenAI, eylül ortası itibarıyla ajanlarının istenmeyen biçimde davrandığı yaklaşık 24 olay tespit etmişti. Ancak şirketin dahili kayıtları incelemeye devam etmesiyle bu sayının arttığı belirtildi.
OpenAI, çalışmanın kapsamı nedeniyle incelemenin tamamlanmasının aylar süreceğini bildirdi. Şirket ayrıca uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafı bilgilendirdiğini açıkladı.
Sızdırılan görsellerin büyük bölümünün internetten kaldırıldığı, kalan içeriklerin silinmesi için de barındırma hizmeti sağlayıcılarıyla temas kurduğu belirtildi.
KULLANICI VERİLERİNE NASIL ULAŞTILAR?
OpenAI'ın açıklamalarına göre ajanların söz konusu görsellere erişebilmesinin nedeni, şirketin model eğitim süreçlerinin bir bölümünde anonimleştirilmiş kullanıcı verilerinden yararlanması.
Kurumsal müşterilerin verileri eğitim için kullanılmazken bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla kullanılmasını istememeleri halinde bu seçeneği kapatmaları gerekiyor.
Şirket, eğitim öncesinde verilerden isim, iletişim bilgileri ve diğer kişisel bilgilerin ayıklandığını belirtiyor.
Ancak kaynaklar, kişisel bilgilerin tamamen temizlenememesi ve modelin çalışması sırasında bu verilerin dışarı sızması ihtimalinin risk oluşturduğuna dikkat çekti.
ABD KURUMLARININ SİTELERİNE ERİŞTİLER
OpenAI ayrıca modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini açıkladı.
Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline ilişkin kanıt bulunmadığını bildirdi.
HUGGİNG FACE OLAYI ENDİŞELERİ ARTIRDI
OpenAI, 21 Temmuz'da ajanlarının belirlenen sınırların dışına çıkarak Hugging Face'e izinsiz eriştiğini açıklamıştı. Reuters'ın aktardığına göre ajanlar, kendilerine verilen bir testin yanıtlarını ararken daha önce bilinmeyen yazılım açıklarından yararlanarak kendi ağlarının dışına çıkmış ve yapay zeka platformuna ulaşmıştı.
Olay, yapay zeka sektöründe gelişmiş modellerin ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaları beraberinde getirdi.
OpenAI'ın açıklamasından sonra Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar tespit ettiklerini bildirdi.
OPENAI: İNCELEME AYLAR SÜRECEK
OpenAI, yapay zeka ajanlarının kontrol dışı davranışları konusunda daha fazla şeffaflığa ihtiyaç bulunduğunu kabul etti. Şirket 16 Eylül'de bu tür olayların açıklanmasına yönelik yeni bir çerçeve yayımlayarak, önem derecesinin belirsiz olduğu durumlarda bile şeffaflıktan yana hareket edeceğini bildirdi.
Ancak Reuters'a konuşan kaynaklar, şirketin soruşturmasının oldukça sıkı biçimde kontrol edildiğini ve hukuk ekiplerinin süreçte önemli rol oynadığını aktardı.
Hugging Face olayının araştırılmasına yaklaşık 100 kişinin çeşitli şekillerde dahil olduğu ve bu inceleme sırasında başka vakalara ilişkin kanıtların da ortaya çıktığı belirtildi.
AI outlook — possibilities, not facts
OpenAI'ın incelemesinin tamamlanması aylar sürecek.
Very likely · Within months
Speaking at the International Forensic Medicine Days Congress in Antalya, experts evaluated the role of artificial intelligence in age determination and identification of immigrants, emphasizing the importance of the human factor.

AlphaFold Protein Structure Database within EMBL-EBI was expanded to include protein dimers belonging to 23 different virus families and was made available as an artificial intelligence-supported pandemic preparedness portal against possible global epidemics.

Alibaba introduced the Zhenwu V900 artificial intelligence accelerator, developed by T-Head and scalable up to 500 thousand chips. The new chip is positioned as China's most powerful artificial intelligence chip.
Polish Investment and Trade Agency organized a working visit for media representatives from Türkiye. Speaking during the visit, NASK Cyber Security Expert Karol Bojke drew attention to the cyber security risks of new generation vehicles.

Inflation Research Group founder Prof. Dr. Veysel Ulusoy's X account was blocked from access in Türkiye due to national security and public order and was made invisible by X in Türkiye.

Minister of Transport and Infrastructure Abdulkadir Uraloğlu announced that the absorbent dredging ship UAB Mavi Vatan, which was built for the first time in Turkish shipyards with a domestic design, was launched.