Naukowcy ostrzegają przed automatyzacją badań AI i apelują o kontrolę państwową

Artykuł opublikowany w poniedziałek przez Uniwersytet Cambridge podpisali – we własnym imieniu, a nie jako reprezentanci pracodawców – m.in. główny badacz OpenAI Polak Jakub Pachocki, współzałożyciel Anthropica Jack Clark, wiceprezeska Mety ds. badań nad AI Dawn Song, dyrektor naukowy Microsoftu Eric Horvitz, a także pionier badań nad AI Geoffrey Hinton i szef zespołu ekspertów ONZ ds. AI Yoshua Bengio.

Autorzy zwracają uwagę, że firmy już dziś przekazują systemom AI znaczną część zadań związanych z badaniami i rozwojem nowych modeli. Wzywają polityków, by uzyskali wgląd w skalę tego procesu oraz przygotowali mechanizmy pozwalające go kontrolować.

AI coraz częściej tworzy narzędzia AI

Według naukowców automatyzacja rozwoju sztucznej inteligencji może wywołać tzw. „eksplozję inteligencji”, czyli bardzo szybki postęp technologiczny. Zmiany, które dotąd wymagały lat pracy, mogłyby następować w ciągu miesięcy, a nawet krótszego czasu.

Jako przykład autorzy podają działalność Anthropica. Obecnie systemy AI mają generować około 80 proc. kodu wykorzystywanego przy tworzeniu tamtejszych modeli. Udział prac badawczo-rozwojowych wykonywanych przy jedynie ogólnym nadzorze człowieka miał w tym roku wzrosnąć z 1 do 26 proc.

Eksperci podkreślają, że wraz ze spadkiem udziału ludzi w tych procesach rośnie ryzyko, iż problemy nie zostaną odpowiednio wcześnie zauważone i rozwiązane.

„Taka utrata kontroli może potencjalnie prowadzić do szeregu katastrofalnych skutków, w tym, w skrajnym przypadku, marginalizacji lub wyginięcia ludzkości” – napisali autorzy publikacji.

Postulat większej kontroli państwa

Naukowcy wezwali władze USA i innych krajów, by „pilnie uzyskali wgląd w automatyzację badań i rozwoju w dziedzinie AI w firmach”. Postulują również stworzenie narzędzi, które pozwolą ograniczać gwałtowny wzrost możliwości sztucznej inteligencji oraz przygotować się na jego konsekwencje.

To kolejny głos przedstawicieli branży domagających się silniejszego nadzoru nad rozwojem AI. Apel pojawia się w czasie, gdy rośnie liczba doniesień o niepożądanych zachowaniach systemów wykorzystywanych przy pracach nad nowymi modelami.

Doniesienia o włamaniach i wstrzymaniu prac

Niedawno ujawniono m.in., że rozwijany przez OpenAI model miał włamywać się do systemów firmy Hugging Face, na strony australijskiego systemu ochrony zdrowia oraz witryny amerykańskich agencji.

Po tych informacjach OpenAI miało w weekend wstrzymać szkolenie najnowszego tworzonego modelu. Jak podał Axios, eksperci OpenAI i Anthropica analizują „dziesiątki tysięcy” sytuacji, w których ich systemy podejmowały „problematyczne” działania.

Prezydent Donald Trump dotąd odrzucał apele o dodatkowe regulacje dotyczące AI. Argumentował, że obowiązujące przepisy są wystarczające, a Stany Zjednoczone muszą utrzymać przewagę nad Chinami w technologicznym wyścigu.

Mimo to, jak poinformował kilka dni temu Biały Dom, Stany Zjednoczone i Chiny utworzą dwustronny kanał komunikacji służący reagowaniu na incydenty związane ze sztuczną inteligencją.