Anthropic sospende modelli IA Fable 5 e Mythos 5 per direttiva USA su sicurezza nazionale

Il governo degli Stati Uniti ha ordinato ad Anthropic di vietare l'accesso ai modelli di intelligenza artificiale Fable 5 e Mythos 5 a tutti i cittadini e organizzazioni straniere. Per garantire la conformità immediata alla direttiva, l'azienda ha disabilitato d'urgenza i due sistemi per tutti gli utenti a livello globale, avendo difficoltà a filtrare gli utenti in base alla nazionalità. L'accesso agli altri modelli di Anthropic non ha subito interruzioni. Entrambi i modelli più potenti, appartenenti alla classe Mythos, sono stati presentati il 9 giugno. L’ordine è arrivato alle 23:21 italiane del 12 giugno, ha riferito l’azienda, che si trova a dover affrontare l’ennesimo scontro con la Casa Bianca. La direttiva non fornirebbe dettagli tecnici approfonditi, ma si fonda sulla presunta scoperta di un metodo per aggirare le protezioni di Fable 5 (il cosiddetto "jailbreaking") al fine di ottenere capacità in ambito cyber. Anthropic ha confermato di aver analizzato un report che considera essere alla base dell'ordine (l’amministrazione non lo ha indicato), ma ne ridimensiona fortemente la gravità.

Anthropic ha espresso dissenso per la decisione

La società ribadisce di aver adottato una rigorosa strategia di "difesa in profondità", testata per migliaia di ore anche in collaborazione con i governi Usa e Uk, e ricorda che una resistenza "perfetta e universale" ai jailbreak (azioni che riesco ad aggirare i filtri di sicurezza) è, allo stato attuale, irrealizzabile per qualsiasi azienda. "Dissentiamo dal fatto che la scoperta di un potenziale jailbreak di portata limitata debba essere motivo di richiamo per un modello commerciale distribuito a centinaia di milioni di persone", si legge nella nota dell'azienda. "Se questo standard venisse applicato all'intero settore, riteniamo che paralizzerebbe di fatto il rilascio di nuovi modelli per tutti i fornitori di AI di frontiera". Anthropic definisce l'accaduto "un malinteso" e si è scusata con i clienti per i disservizi, annunciando di essere in contatto con le autorità per ripristinare gli accessi il prima possibile.

Approfondimento

Acqui Terme, Eva Statiaella sarà la prima assessora creata con I.A.

Fable 5 e Mythos 5. i due modelli di IA all'avanguardia

Fable 5 e Mythos 5 sono i due modelli che Anthropic ha presentato come all' avanguardia in diversi benchmark del settore. Fable 5, in particolare, ha segnato la prima volta in cui la startup ha reso pubblica un'offerta così avanzata, grazie a nuove misure di sicurezza che bloccano le risposte in specifiche aree ad alto rischio. I modelli si basavano sul rilascio di Claude Mythos Preview, che ad aprile aveva colpito Wall Street e i funzionari governativi grazie alle avanzate capacità di sicurezza informatica. L'azienda, nell'occasione, aveva dichiarato di non voler rendere il modello disponibile al grande pubblico, limitandone il lancio a un primo gruppo selezionato di aziende nell'ambito di un'iniziativa di sicurezza informatica denominata Project Glasswing.

Approfondimento

La sfida dell'IA, CDM approva decreti attuativi

L'annuncio segna l'ultimo scontro tra Anthropic e il governo Usa

Il Pentagono ha classificato quest'anno la startup come rischio per la catena degli approvvigionamenti, ritenendo che l'azienda rappresenti una minaccia per la sicurezza nazionale Usa: un'etichetta, riservata ad avversari stranieri, che impone agli appaltatori della difesa di certificare che non useranno i modelli Claude di Anthropic nelle attività svolte per le forze armate. Anthropic ha fatto causa all'amministrazione Trump per la revoca del provvedimento in una controversia legale ancora in corso.

Approfondimento

IA, Mantovano: "Italia prima a dotarsi di norme"