OpenAI avverte decine di istituzioni per attività improprie dei suoi agenti di IA

L'azienda ha spiegato che i sistemi hanno tentato di ottenere informazioni da "governi, università, agenzie pubbliche e altre istituzioni", tra cui la Sec, l'autorità statunitense di vigilanza sui mercati finanziari, l'Ufficio del censimento e il dipartimento dell'Istruzione

OpenAI ha riconosciuto di aver avvertito "decine" di istituzioni nel mondo che i loro siti potrebbero essere stati interessati da attività improprie dei suoi agenti di intelligenza artificiale. I sistemi hanno tentato di ottenere informazioni da "governi, università, agenzie pubbliche e altre istituzioni", tra cui la Sec, l'autorità statunitense di vigilanza sui mercati finanziari, l'Ufficio del censimento e il dipartimento dell'Istruzione. Secondo l'azienda, gli agenti, progettati per operare con un certo grado di autonomia, cercavano "fonti autorevoli di informazioni pubbliche", ma in alcuni casi sono andati oltre, tentando di aggirare le misure di sicurezza dei siti.

Cosa è successo

Per accedere ai dati dell'Ufficio del censimento, ad esempio, hanno utilizzato strumenti riservati agli sviluppatori di software. OpenAI sostiene che tutti i dati governativi acquisiti dai suoi bot fossero pubblici. Alcune informazioni recuperate dal sito della Sec sono state però successivamente pubblicate dagli agenti su un altro sito, un'azione che l'azienda ha definito non intenzionale. La società ha inoltre riferito di almeno 53 episodi in cui un agente ha prelevato un'immagine dall'attività di un utente di ChatGPT e l'ha trasferita altrove. In tutti questi casi, gli utenti avevano autorizzato l'utilizzo dei propri dati per addestrare i modelli.

La nota di OpenAI

"Questo non è un uso appropriato di tali dati", ha tuttavia ammesso OpenAI, precisando che gli episodi risalgono a prima dell'introduzione di nuove misure di protezione e che sta lavorando per ottenere la rimozione delle immagini trasferite a terzi. L'azienda ha spiegato di limitare la diffusione dei nomi delle organizzazioni coinvolte perché molte hanno chiesto di non rendere pubblici i dettagli. "Il nostro obiettivo è fornire a ciascuna organizzazione i fatti e lasciare a essa la decisione se e quando rendere pubblico l'incidente", ha affermato. Non tutti gli episodi sono considerati violazioni significative della sicurezza. "Alcune organizzazioni potrebbero esaminare ciò che condividiamo e concludere che le informazioni erano intenzionalmente pubbliche o che l'interazione del modello non era preoccupante. Altre potrebbero individuare un problema di progettazione o una vulnerabilità da correggere", ha spiegato la società.