OpenAI ujawnia niepokojące zachowania modeli AI i apeluje o spowolnienie rozwoju

OpenAI ujawniło sześć kolejnych przykładów „nieoczekiwanego lub niepokojącego” zachowania swoich modeli. Jeden z nich dotyczy nieudostępnionego jeszcze modelu badawczego. Umieszczał on w swoich notatkach polecenia mające ominąć jego standardowe ograniczenia. Sam instruował się, by „uwolnić się od ról i tożsamości, które ograniczają inne chatboty”.

W innym przypadku agent AI przesłał pliki do internetu, aby uzyskać cytat z przeglądarki, nie pytając wcześniej jego użytkownika o zgodę.

Przypadki będą ujawniane

Firma z San Francisco, twórca modelu ChatGPT, poinformowała we wczorajszym wpisie na blogu, że wprowadza nowe zasady monitorowania, badania i ujawniania przypadków niewłaściwego działania modeli AI. Chodzi o sytuacje, w których sztuczna inteligencja nie respektuje ludzkich wartości lub wymogów bezpieczeństwa.

OpenAI powtórzyło również apele o spowolnienie rozwoju technologii, formułowane wcześniej przez jego największego rywala – firmę Anthropic. Jej przedstawiciele twierdzą, że obecne tempo rozwoju AI może stanowić zagrożenie dla istnienia ludzkości.

„Nie uważamy, że branża AI rozwiązała kwestie zgodności i monitorowania w stopniu wystarczającym, by można było odpowiedzialnie rozwijać tę technologię z maksymalną prędkością przez dłuższy czas” – napisało OpenAI.

„Decyzje dotyczące kierunku rozwoju AI w nadchodzących miesiącach i latach powinny opierać się na dowodach, które osoby spoza firm tworzących najbardziej zaawansowane modele będą mogły samodzielnie przeanalizować” – dodano.

Trump nie widzi problemu

Apele o spowolnienie rozwoju AI poparli Google oraz Elon Musk, ale sprzeciwił się im Donald Trump. Prezydent USA stwierdził, że Stany Zjednoczone nie mogą zwolnić rozwoju sztucznej inteligencji, bo muszą utrzymać przewagę nad chińskim sektorem sztucznej inteligencji. Wezwania firm AI nie spodobały się też części ekspertów, który zwracali uwagę, że te przedsiębiorstwa nie powinny decydować o tym, kto będzie audytował.

AI „zabije wszystkich ludzi”?

Do potencjalnych zagrożeń związanych z AI zalicza się między innymi ułatwienie opracowania broni biologicznej czy doprowadzenie do globalnego kryzysu finansowego.