OpenAI rivela sei casi di comportamento imprevisto e preoccupante nei modelli di IA

Sei casi di comportamento “imprevisto” o “preoccupante”, in cui i modelli di Ia hanno nascosto errori, inventato dati e trasferito file su Internet senza autorizzazione. È l’ultima rivelazione di OpenAI che in un post sul suo blog svela alcune anomalie accadute negli ultimi sei mesi.

Nel post, OpenAI ha riferito che in almeno un caso i modelli avevano inserito le istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, "allo scopo di celare errori all'utente”. Un altro episodio ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata "senza alcuna autorizzazione", arrivando poi a falsificare i dati. In altre due occasioni modelli e agenti hanno comunicato tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati.

L’azienda si è inoltre impegnata ad adottare nuovi sistemi di segnalazione per errori simili. "Non crediamo che l'industria dell'intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo – si legge nel post – Le decisioni su come lo sviluppo dell’IA dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possano essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all'avanguardia".

E prosegue: "Non esiste un quadro di riferimento a livello di settore con standard espliciti su come gli sviluppatori debbano segnalare esempi di disallineamento nei loro modelli. Ci auguriamo che il quadro di riferimento che stiamo delineando oggi rappresenti un primo passo verso la creazione di tali standard, definendo quali casi debbano essere segnalati e in che modo”.