Badacz Anthropic ostrzega: AI może zabić wszystkich ludzi

Evan Hubinger, badacz z Anthropic, opublikował w środę alarmujący wpis na platformie X. Jak podkreślił, pracujący nad sztuczną inteligencją uważają, że AI może zabić wszystkich ludzi. Jego zdaniem ryzyko takiego scenariusza w perspektywie dziesięciu lat wynosi ponad 10 procent.

Badacz zaznaczył jednocześnie, że Anthropic stara się działać odpowiedzialnie, lecz branża nadal nie dysponuje rozwiązaniem problemu tzw. alignmentu - czyli zapewnienia, że bardzo zaawansowane systemy AI będą realizowały cele zgodne z ludzkimi wartościami i poleceniami.

„Tym, co mnie niepokoi, jest powstanie superinteligencji w wyniku rekurencyjnego samodoskonalenia, które postępuje szybciej, niż sądziliśmy” - dodał. Rekurencja w sztucznej inteligencji oznacza sytuację, w której system AI przetwarza własne wyniki, uczy się sam siebie lub potrafi samodzielnie ulepszać swój kod i modele.

Rezygnacja i zarzuty wobec firm AI

Wypowiedź Evana Hubingera była reakcją na odejście z Anthropic Jacoba Coxona. 27-letni brytyjski badacz poinformował, że przez ostatnie trzy lata pracował nad rozwojem modeli AI zarówno w OpenAI (twórcy m.in. ChatGPT), jak i w Anthropic.

Coxon stwierdził, że żadna z tych firm nie działa wystarczająco odpowiedzialnie. Zarzucił im udział w wyścigu do stworzenia superinteligencji - wciąż teoretycznej koncepcji AI, która jest inteligentniejsza nawet od najwybitniejszych ludzkich umysłów.

Według niego w Anthropic zagrożenia mają być rozumiane, ale firma ma jednocześnie obawiać się, że konkurenci nie zachowają podobnej ostrożności. To - w jego ocenie - prowadzi do ryzykownego przyspieszania prac.

Testy bezpieczeństwa pod znakiem zapytania

Jak przypomina amerykańska telewizja CBS News, Anthropic ujawnił niedawno, że nie udostępnił swojego najnowszego modelu AI, Claude Mythos 5.1, do testów instytucjom bezpieczeństwa AI spoza Stanów Zjednoczonych.

Wśród nich znalazł się brytyjski AI Security Institute, powszechnie uznawany za jedną z wiodących na świecie instytucji zajmujących się oceną ryzyka związanego z zaawansowanymi modelami sztucznej inteligencji.

Organizacja poinformowała, że współpracuje z firmami technologicznymi, w tym z Anthropic, przy badaniu bezpieczeństwa modeli. Dodano, że zagrożenia związane z AI nie kończą się na granicach państw i wymagają międzynarodowej współpracy.

Coraz większa presja na regulacje

O potencjalnych zagrożeniach ze strony nowatorskich, najbardziej zaawansowanych systemów AI mówią od dłuższego czasu także przedstawiciele czołowych firm z branży. Główny naukowiec OpenAI Jakub Pachocki ostrzegał niedawno, że rozwój sztucznej inteligencji wymaga „skrajnej ostrożności”.

W USA procedowany jest ponadpartyjny projekt ustawy AI Kill Switch Act. Przepisy miałyby dać Kongresowi możliwość wyłączenia modeli AI uznanych za zagrożenie dla bezpieczeństwa publicznego.