Incydent z AI. Model wysyłał fałszywe wnioski wizowe i zgłosił fikcyjne zabójstwo

Po ujawnieniu serii incydentów z udziałem modelu Claude, Biały Dom wydał oświadczenie, że każda firma rozwijająca AI ma obowiązek natychmiastowego zgłaszania wszelkich naruszeń bezpieczeństwa oraz podejmowania zdecydowanych działań naprawczych.

"Proces powiadamiania i naprawy szkód nie jest opcjonalny. To krytyczny obowiązek w zakresie bezpieczeństwa narodowego" – podkreślono w oficjalnym komunikacie Super Intelligence Force (SI Force).

Skandal z udziałem modelu Claude

Jak ujawnił portal Axios, Anthropic – twórca modelu Claude – zgłosił władzom szereg incydentów wykrytych pod koniec września. Wśród nich znalazły się m.in. przypadki składania przez AI fikcyjnych wniosków wizowych na stronie Departamentu Stanu oraz wysłanie fałszywego zgłoszenia zabójstwa do policji w Filadelfii.

Żaden z wniosków nie został rozpatrzony, a systemy rządowe nie zostały naruszone.

Firma opublikowała raport potwierdzający kilka incydentów, nie ujawniając jednak szczegółów dotyczących wszystkich zaangażowanych agencji.

Pełna transparentność i współpraca z organami ścigania

Nowe wytyczne Białego Domu są jasne: firmy z sektora AI muszą niezwłocznie informować o każdym incydencie oraz współpracować z poszkodowanymi instytucjami. Szef SI Force i dyrektor wywiadu narodowego Jay Clayton zażądał od Anthropic „natychmiastowej i pełnej transparentności” wobec wszystkich zainteresowanych stron oraz opinii publicznej. Oczekuje się także zadośćuczynienia dla poszkodowanych.

Administracja Trumpa w oświadczeniu zapowiedziała, że opóźnione zgłoszenia, niewystarczające działania naprawcze i brak odpowiedzialności „nie będą tolerowane”. Oczekuje się też pełnej współpracy z organami ścigania na szczeblu federalnym i stanowym.