Anthropic, allerta sull'AI: potrebbe presto infiltrarsi in forni o tv connessi a Internet

Anthropic lancia l'allarme: tra pochi mesi l'intelligenza artificiale potrà "infiltrarsi" nei nostri piccoli elettrodomestici connessi alla rete Internet.

La società statunitense di intelligenza artificiale mette in guardia sui potenziali rischi per la sicurezza legati a questa tecnologia in una ricerca che la stessa azienda americana ha pubblicato sul suo blog.

Come potrebbe avvenire

Anthropic ha illustrato come i modelli di IA potrebbero potenzialmente infiltrarsi in dispositivi connessi - come forni intelligenti o box Tv - e sfruttarne la potenza di calcolo per diffondersi in altri dispositivi. Sarebbe "difficile arrestare" un simile modello di IA, afferma la società, "poiché non esiste un punto di spegnimento centralizzato". La società ha dichiarato di aver condotto diversi test per verificare se l'IA fosse in grado di autoreplicarsi. Uno di questi ha comportato l'esecuzione di un modello ridotto di Google, Gemma4-26B-A4B, su una rete composta da 15 box Android TV economici, di marchi minori.

Quali rischi potrebbero esserci

Anthropic ha detto che non esiste ancora un "replicatore completamente fuori controllo", ma che gli agenti stanno "diventando sempre più capaci di completare le singole fasi della catena di replicazione".

La ricerca si aggiunge alle crescenti preoccupazioni in materia di sicurezza legate all'Intelligenza artificiale, come la capacità dei modelli di sferrare attacchi informatici e il rischio che la tecnologia sfugga al controllo. A settembre, i progressi nei modelli di frontiera hanno sollevato allarmi in tutto il settore riguardo a rischi esistenziali per l'umanità.

Dirigenti e ricercatori di Anthropic e della rivale OpenAI hanno più volte messo in guardia sui potenziali rischi di un'IA sempre più potente; alcuni hanno invocato misure di sicurezza più rigorose e interventi per controllare il ritmo di sviluppo della tecnologia.

"Guardando oltre i nostri esperimenti, prevediamo un futuro caratterizzato da una proliferazione di agenti in esecuzione su ogni tipo di hardware inclusi alcuni sistemi non soggetti a controllo umano", ha concluso Anthropic.

Approfondimento

OpenAI, dipendente arrestato da FBI: "Nascondeva microspia in ufficio"