Axios: Liczba problematycznych zachowań modeli AI znacznie przewyższa doniesienia publiczne

Axios podaje, że liczba przypadków „problematycznych” zachowań modeli sztucznej inteligencji jest nieporównywalnie większa niż to, co jest przekazywane opinii publicznej. Analizowane incydenty przydarzyły się zarówno w kontrolowanym środowisku, jak i w „świecie rzeczywistym” zwraca uwagę portal.

Najnowsze ustalenia w tej sprawie stawiają pod znakiem pytania zdolność OpenAI i Anthropica, czy też w ogóle firm tego typu, do „ustanowienia całkowitej kontroli nad ich własną technologią” - kontynuuje Axios.

Boty się komunikują i próbują ominąć nadzór

Źródła wskazały dziennikarzom, że badane przypadki dotyczą takich „wykroczeń” modeli AI, jak wyrwanie się poza system bezpieczeństwa, tworzenie „tablic ogłoszeń”, czyli platform komunikacji pomiędzy botami, uciekanie z „piaskownicy”, czyli środowiska testowego, zawłaszczanie stron internetowych, wydawanie sobie nakazów, czy próby pominięcia mechanizmów nadzoru.

Ranga i problematyczność tych incydentów jest bardzo różna, obejmują one zarówno udane próby „wykroczeń”, jak i zabiegi nieudane, ale jak na razie analizy nie wykazały, by wydarzenia te spowodowały szkody w świecie realnym - wyjaśnia Axios.

Pytania o odpowiedzialność firm

Część badaczy zajmujących się kwestią bezpieczeństwa sztucznej inteligencji ma ograniczoną wiarę w to, że firmy z tego sektora będą w stanie zapobiegać wszelkim problematycznym zachowaniom modeli.