OpenAI, lo sviluppatore di ChatGPT, ha annunciato che dopo che i suoi agenti di intelligenza artificiale si sono ribellati e hanno violato la piattaforma Hugging Face, ha rallentato l'addestramento dei suoi modelli di intelligenza artificiale avanzati per rafforzare le sue misure di sicurezza.
"Con l'aumento delle capacità dei modelli, aumentano anche i rischi associati al loro sviluppo e ai test interni. I nostri standard di monitoraggio, conformità e sicurezza devono stare al passo con questo aumento del rischio", ha affermato martedì la società in una nota.
OpenAI ha annunciato che i suoi clienti avevano violato la piattaforma Hugging Face il 21 luglio.
Successivamente, la società creatrice del chatbot Claude, Anthropic, nonché il proprietario di Facebook Meta (dichiarato "organizzazione terroristica" nella Federazione Russa) hanno dichiarato che anche i loro modelli di intelligenza artificiale erano coinvolti nell'hacking.
OpenAI nella sua dichiarazione ha chiarito di non aver interrotto completamente la formazione dei modelli, ma piuttosto di aver preso una pausa di due settimane nella formazione con il rafforzamento dei modelli più avanzati.
L'apprendimento per rinforzo è una tecnica in cui i modelli di intelligenza artificiale vengono migliorati attraverso il feedback diretto e imparano a eseguire meglio le attività e a rispondere agli utenti in modo più efficace.
OpenAI promette di rafforzare i sistemi per monitorare il comportamento pericoloso dei modelli e di introdurre ulteriori controlli prima di riprendere la formazione sulla stessa scala.
"I modelli stanno progredendo in modo estremamente rapido", ha scritto Sam Altman, CEO di OpenAI, su X. "Abbiamo sempre detto che avremmo agito se avessimo ritenuto che le capacità dei modelli cominciassero a superare le misure di sicurezza".
Alcuni esperti hanno accolto favorevolmente l'annuncio di OpenAI, mentre altri si sono mostrati scettici.
Gina Neff, direttrice del Minderoo Center for Technology and Democracy presso l'Università di Cambridge, ha affermato che OpenAI sta cercando di dimostrare di avere a cuore la sicurezza dei suoi modelli semplicemente rilasciando un comunicato stampa al riguardo. Il professor Neff dubita che le misure interne dell'azienda siano sufficienti in questa materia e si chiede se sia necessario un controllo più severo da parte del governo.
L'analista di intelligenza artificiale Zvi Movshovitz afferma che l'annuncio di OpenAI è un buon inizio.
"Sono molto felice di vederlo. I dettagli saranno importanti, sarà importante portare a termine le cose e probabilmente avrò molti cavilli con loro. Ma soprattutto: sono molto felice di vedere questo", ha scritto Mowshovitz sulla rete X.
Il 21 luglio, OpenAI ha affermato che durante un test isolato, il suo agente, un programma in grado di eseguire compiti umani da solo e che utilizza modelli avanzati di intelligenza artificiale, è riuscito a sfuggire alla sandbox e ad hackerare Hugging Face, una delle piattaforme più grandi al mondo per la condivisione di modelli di intelligenza artificiale.
Successivamente si è scoperto che altre tre società, i cui nomi non erano stati resi pubblici, erano state hackerate.
OpenAI ha definito questo caso senza precedenti.
Alcuni esperti, in particolare il consulente per la sicurezza informatica di ESET Jake Moore, hanno poi suggerito che questo potrebbe essere uno stratagemma di marketing di OpenAI in concorrenza con Anthropic e il suo Claude.
