Agent AI od OpenAI włamał się do australijskiego systemu Medicare

Australijski premier Anthony Albanese poinformował, że agent sztucznej inteligencji stworzony przez OpenAI włamał się do rządowego systemu statystycznego, naruszając dane z powszechnego systemu ochrony zdrowia Medicare. Choć, jak podkreślają władze, chodziło o „niewrażliwe” dane, atak objął zarówno pliki publiczne, jak i niepubliczne. Incydent miał miejsce w czerwcu. Rząd Australii został o nim poinformowany dopiero 10 września – dwa miesiące po fakcie.

Premier Albanese, przebywający w Nowym Jorku na Zgromadzeniu Ogólnym ONZ, przyznał, że był głęboko rozczarowany opóźnieniem w przekazaniu informacji przez OpenAI.

„To jeden z pierwszych na świecie publicznie zgłoszonych przypadków włamania do rządowego systemu przeprowadzonego przez sztuczną inteligencję” – podkreślił.

Władze poinformowane mailem o incydencie

Według oficjalnych informacji, agent AI uzyskał dostęp do portalu statystyk medycznych Medicare podczas prowadzenia badań nad wydatkami publicznymi na ochronę zdrowia. OpenAI wykryło nieautoryzowaną aktywność dopiero w sierpniu, w trakcie wewnętrznego przeglądu. Następnie, 10 września, firma poinformowała o incydencie australijskie władze drogą mailową.

Premier Albanese ujawnił, że najpierw informację otrzymała agencja świadcząca usługi socjalne, która przekazała ją jednemu z ministrów, a ten – dopiero w weekend – powiadomił szefa rządu. W odpowiedzi na incydent Australijska Dyrekcja Łączności (ASD) wszczęła śledztwo. Ma ustalić, czy inne systemy rządowe również nie padły ofiarą działań AI.

Reakcja OpenAI

OpenAI w oświadczeniu zapewniło, że nie ma dowodów na dostęp do indywidualnych danych pacjentów. Firma przyznała jednak, że jej modele „podjęły niezamierzone działania”, próbując uzyskać odpowiedzi z kilku australijskich rządowych serwisów internetowych.

Australijskie służby ds. cyberbezpieczeństwa apelują do instytucji o stosowanie rygorystycznych środków ochrony i bezpiecznych praktyk związanych z AI. Premier Albanese zaznaczył, że choć naruszone dane nie były wrażliwe, incydent jest poważny i wymaga dogłębnej analizy przyczyn oraz skuteczności dotychczasowych zabezpieczeń.

Kolejny atak sztucznej inteligencji

Incydent z udziałem OpenAI wpisuje się w globalny trend rosnącej liczby cyberataków z wykorzystaniem sztucznej inteligencji. Tylko w ostatnich miesiącach podobne przypadki zgłaszały także inne firmy technologiczne, m.in. Google czy Meta. Australijski rząd powołał specjalny zespół zadaniowy, który ma zbadać, czy obecne systemy bezpieczeństwa są wystarczające, by zapobiegać podobnym incydentom w przyszłości.