Amodei avverte: sviluppo esponenziale dell'IA richiede misure di sicurezza urgenti

La tecnologia dell'intelligenza artificiale si sta sviluppando a un ritmo "esponenziale", ha dichiarato a Cbs il ceo di Anthropic, definendo la situazione un "segnale d'allarme" per il settore che richiede serie misure di sicurezza

L'intelligenza artificiale si sta sviluppando a un ritmo "esponenziale": Dario Amodei, a capo di Anthropic, definendo la situazione un "segnale d'allarme" per il settore che richiede una serie misure di sicurezza perché, come già anticipato, senza un rallentamento, nel giro di 6-12 mesi, l'IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell'intero Internet. "Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido", ha ammesso Amodei in un'intervista a Cbs News, che andrà in onda a 'Cbs News Sunday Morning' e di cui è stata diffusa un'anticipazione.

Amodei: "Sviluppo accelera, dobbiamo rallentare"

Amodei ha descritto lo sviluppo dell'IA come una progressione del tipo "uno, poi due, poi quattro, poi otto, poi 16, poi 32", affermando che attualmente ci si trova "sulla curva" e che questa "sta iniziando a farsi ripida. Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto", ha proseguito il manager italoamericano, aggiungendo però che si tratta di "un segnale d'allarme: dobbiamo rallentare". Amodei ha notato che la tecnologia necessita di misure di sicurezza in grado di stare al passo "con la velocità con cui la tecnologia stessa evolve".

Leggi anche

OpenAI pronta a rallentare sviluppo. Anthropic frena ricerche su virus

Il sostegno di Musk e Altman

L'intervista è arrivata a poche ore dalla pubblicazione di un post sul blog in cui ha esortato le aziende che si occupano di IA a procedere più lentamente e con maggiore cautela nello sviluppo della tecnologia, sottolineando che la prevenzione dei rischi è fondamentale. La proposta ha trovato subito il sostegno di Elon Musk (SpaceX) e Sam Altman (OpenAI). Amodei ha tracciato un piano in tre punti con l'obiettivo, ha preicato, di "gestire il ritmo di avanzamento della frontiera tecnologica". Il primo riguarda i valutatori interni ("embedded evaluators"), il secondo il coordinamento democratico e il terzo il coordinamento globale. Se gestita con attenzione, "l'IA può essere l'ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanità", ha scritto nel post. "Ma, come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi".

Leggi anche

Coxon e gli altri, quelli che evocano lo scenario Terminator per l'IA