Intelligenza Artificiale: i rischi per le aziende senza adeguati controlli

Corre come un treno l'intelligenza artificiale (IA) e, come ogni tecnologia adottata su larga scala, può deragliare se priva di adeguati controlli, mettendo a rischio sicurezza, reputazione e conformità normativa delle aziende che vi hanno fatto ricorso per accelerare crescita e competitività. “Il problema non è usare l'IA in azienda, ma introdurla nei processi senza aver prima stabilito cosa può trattare, entro quali limiti e sotto la responsabilità di chi - spiega Alessandro Vercellotti, fondatore di Legal for Digital, studio legale specializzato in digital law - Se l'impresa non sa quali strumenti vengono utilizzati dai team, non può sapere con certezza quali dati stia effettivamente trattando”.

In assenza di adeguati presidi di governance, l'IA rischia infatti di trasformarsi da opportunità a minaccia, esponendo le aziende a rischi crescenti sul fronte della sicurezza informatica, della privacy e della ‘compliance’. E se nella prima fase di adozione dell'IA generativa il rischio più evidente riguardava i dati inseriti direttamente nei prompt, oggi la criticità maggiore riguarda le informazioni a cui i sistemi possono accedere durante il loro funzionamento come schermate, screenshot e database aziendali, con il rischio di trattare dati non necessari rispetto al compito assegnato. Il problema, peraltro, è aggravato dal fatto che molti strumenti di IA entrano nei processi aziendali attraverso modalità non sempre mappate come account personali, abbonamenti individuali o estensioni browser. In questo modo l'impresa rischia di trattare dati personali tramite strumenti che non sono stati preventivamente verificati. Prima che l’IA diventi strutturale nei processi occorrerebbe definire quali informazioni possa visualizzare e trattare, verificare informative e accordi con fornitori e clienti, redigere una policy interna e, soprattutto, formare chi usa l’IA. “Per evitare che l’adozione dell’IA cresca più velocemente della capacità dell’azienda di governarla, le aziende devono chiedersi se sanno davvero chi e come le sta usando - commenta Vercellotti - Se non lo sanno, il rischio è già dentro la routine quotidiana”.