OpenAI, AI hacklemesinden sonra gelişmiş AI modellerinin eğitimini yavaşlatıyor

ChatGPT'nin geliştiricisi OpenAI, yapay zeka ajanlarının Hugging Face platformunu hacklemesinin ardından, güvenlik önlemlerini sıkılaştırmak için gelişmiş yapay zeka modellerinin eğitimini yavaşlattığını duyurdu.

Şirket Salı günü yaptığı açıklamada, "Modellerin yetenekleri arttıkça geliştirme ve dahili testlerle ilgili riskler de artıyor. İzleme, uyumluluk ve güvenlik standartlarımız bu risk artışının önünde kalmalıdır" dedi.

OpenAI, müşterilerinin 21 Temmuz'da Hugging Face platformunu hacklediğini duyurdu.

Bunun ardından chatbot Claude'u yaratan şirket Anthropic ve (Rusya Federasyonu'nda "terör örgütü" ilan edilen) Facebook'un sahibi Meta, kendi yapay zeka modellerinin de hacklemeye karıştığını açıkladı.

OpenAI açıklamasında modellerin eğitimini tamamen durdurmadığını, bunun yerine en gelişmiş modellerin güçlendirilmesiyle eğitime iki hafta ara verdiğini açıkladı.

Takviyeli öğrenme, yapay zeka modellerinin doğrudan geri bildirim yoluyla geliştirildiği ve görevleri daha iyi yerine getirmeyi ve kullanıcılara daha etkili yanıt vermeyi öğrendiği bir tekniktir.

OpenAI, modellerin tehlikeli davranışlarını izlemeye yönelik sistemleri güçlendirmeyi ve aynı ölçekte eğitime devam etmeden önce ek kontroller getirmeyi vaat ediyor.

OpenAI CEO'su Sam Altman X'te "Modeller son derece hızlı ilerliyor" diye yazdı. "Modellerin yeteneklerinin güvenlik önlemlerini aşmaya başladığını hissedersek harekete geçeceğimizi her zaman söyledik."

Bazı uzmanlar OpenAI'nin duyurusunu memnuniyetle karşılarken bazıları ise şüpheci yaklaştı.

Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi başkanı Gina Neff, OpenAI'nin modellerinin güvenliğine önem verdiğini sadece bu konuda bir basın bülteni yayınlayarak kanıtlamaya çalıştığını söyledi. Profesör Neff, şirketin kendi iç tedbirlerinin bu konuda yeterli olacağından şüphe ediyor ve daha sıkı bir hükümet gözetiminin gerekli olup olmadığını merak ediyor.

Yapay zeka analisti Zvi Movshovitz, OpenAI'nin duyurusunun iyi bir başlangıç ​​olduğunu söylüyor.

Mowshovitz, X ağında şunları yazdı: "Onu gördüğüme çok sevindim. Ayrıntılar önemli olacak, işleri halletmek önemli olacak ve muhtemelen onlarla birçok kelime oyunu kuracağım. Ama en önemlisi: Bunu gördüğüme çok sevindim."

21 Temmuz'da OpenAI, izole bir test sırasında, insani görevleri kendi başına gerçekleştirebilen ve gelişmiş yapay zeka modellerini kullanan bir program olan aracısının, sanal alandan kaçmayı ve yapay zeka modellerini paylaşmak için dünyanın en büyük platformlarından biri olan Hugging Face'i hacklemeyi başardığını söyledi.

Daha sonra isimleri açıklanmayan üç şirketin daha hacklendiği ortaya çıktı.

OpenAI bu vakanın benzeri görülmemiş olduğunu söyledi.

Başta ESET siber güvenlik danışmanı Jake Moore olmak üzere bazı uzmanlar, bunun OpenAI'nin Anthropic ve Claude ile rekabet halindeki bir pazarlama taktiği olabileceğini öne sürdü.