OpenAI valuta di rallentare lo sviluppo dell'IA, Anthropic blocca tentativi di uso illecito

OpenAI sta valutando di rallentare il ritmo di sviluppo dei suoi sistemi di intelligenza artificiale più avanzati, a fronte delle crescenti preoccupazioni sui rischi legati a un’evoluzione fuori controllo. Intanto, dopo l’allarme lanciato dall’ormai ex dipendente Jacob Coxon – secondo cui l’IA potrebbe sterminare l’umanità "entro 10 anni" – Anthropic, la società americana di pubblica utilità nel settore dell'intelligenza artificiale, ha fatto sapere di aver bloccato tentativi di utilizzare la tecnologia per lo sviluppo di armi biologiche, cyberattacchi e campagne di propaganda. Lo scorso luglio, più di mille dipendenti delle principali aziende di IA hanno firmato una petizione per chiedere l'adozione di meccanismi volti a rallentare lo sviluppo dell'intelligenza artificiale.

La decisione di OpenAI dopo gli incidenti di quest'estate

Durante una riunione interna di OpenAI che si è tenuta questa settimana, scrive Bloomberg, l’ad Sam Altman avrebbe lasciato intendere che l’azienda potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo. La decisione arriva dopo una serie di incidenti legati alla sicurezza. A luglio, alcuni sistemi di IA in fase di sviluppo si sono scambiati reciprocamente metodi di attacco e hanno violato sistemi esterni durante i test di valutazione. Ad agosto, invece, un agente IA è sfuggito all'ambiente di contenimento e ha tentato di violare la piattaforma open-source Hugging Face, provocando una sospensione di circa due settimane della maggior parte delle attività di sviluppo dei modelli.

Il rapporto di Anthropic sugli usi illeciti dell'IA

Passando ad Anthropic, poche ore dopo la denuncia di Coxon l’azienda ha pubblicato il 10 settembre il rapporto "Rilevare e contrastare l'uso improprio dell'intelligenza artificiale", dove parla di "attività che abbiamo interrotto tra dicembre 2025 e agosto 2026, in sette aree di rischio: operazioni informatiche, operazioni di influenza, sorveglianza, truffe e frodi, uso improprio in ambito biologico, sviluppo di armi convenzionali e distillazione" per cui erano "stati utilizzati i modelli Claude Haiku, Sonnet e Opus". Gli attori delle minacce prese in esame "includono gruppi sospettati di essere sponsorizzati da Stati, criminali mossi da motivazioni finanziarie, fornitori commerciali di spyware, istituzioni di propaganda statale e individui politicamente motivati".

Il tentativo di modificare un virus

Tra i tentativi di utilizzare l’IA per attività illecite, Anthropic si sofferma anche su alcune ricerche sul virus chikungunya, trasmesso dalle zanzare. "Nel maggio 2026, il nostro classificatore di sicurezza biologica ha bloccato una richiesta di assistenza a Claude per la redazione di una domanda di finanziamento per la ricerca scientifica. Il lavoro descritto nella domanda riguardava una ricerca sul guadagno di funzione (gain-of-function), ossia una ricerca che modifica geneticamente un organismo per conferirgli una nuova o potenziata proprietà biologica, sul virus chikungunya. La ricerca mirava in particolare alle proprietà di trasmissibilità e di evasione della risposta immunitaria del virus", si legge nel report.