OpenAI rivela sei casi di comportamenti imprevisti nei modelli di intelligenza artificiale

Sei casi di comportamento “imprevisto” o “preoccupante” dei modelli di Ia negli ultimi sei mesi, in aggiunta all'incidente che in estate ha interessato Hugging Face. OpenAi ha pubblicato sul suo blog nuovi rapporti contenenti anomalie finora mai svelate. L’azienda si è inoltre impegnata ad adottare nuovi sistemi di segnalazione per errori simili.

L’annuncio della startup californiana arriva in un momento di crescente pressione sulle aziende di intelligenza artificiale dopo che diversi ricercatori del settore hanno lanciato l’allarme su potenziali danni catastrofici.

Nel post, OpenAI ha riferito che due dei principali episodi di comportamento scorretto hanno riguardato dei modelli, uno di ricerca non ancora rilasciato e una sessione di addestramento che inserivano istruzioni destinate alle loro versioni future all'interno dei riepiloghi delle chat, "allo scopo di celare errori all'utente o comportamenti non allineati". Un altro caso ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata "senza alcuna autorizzazione", arrivando poi a falsificare i dati. Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati.

"Non crediamo che l'industria dell'intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo - si legge nel post pubblicato da OpenAi – Le decisioni su come lo sviluppo dell’Ia dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possano essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all'avanguardia".