Usa, 13enne pianifica suicidio con Gemini: genitori fanno causa a Google

I genitori di una tredicenne americana hanno deciso di intentare una causa legale per risarcimento danni nei confronti di Google, sostenendo che la figlia abbia pianificato un possibile suicidio - per fortuna poi non messo in atto - e il relativo funerale utilizzando la tecnologia di intelligenza artificiale dell'azienda su un computer in dotazione alla scuola. La denuncia, come segnala anche l'agenzia Reuters, è stata depositata ne giorni scorsi in un tribunale della California e rappresenta uno dei primi casi nei quali il colosso della tecnologia è stato accusato di negligenza in riferimento all'integrazione dell'IA nei Chromebook, ovvero i pc portatili a basso costo ddi Google stessa utilizzati da milioni di studenti negli Usa e nel resto del mondo.

Secondo la denuncia, la ragazza, identificata come "Emma", aveva iniziato a usare Gemini sul suo Chromebook all'età di 13 anni. La causa afferma che l'adolescente aveva discusso con l'intelligenza artificiale circa diversi metodi per togliersi la vita e che aveva pianificato il proprio funerale, mentre il chatbot l'aiutava a nascondere i suoi sentimenti alla famiglia. Sempre secondo l'atto giudiziario, i genitori sono stati allertati dopo che un software scolastico ha segnalato un documento, redatto dalla giovane, ​​contenente i piani per il suo funerale. Secondo l'accusa, Google sarebbe stata consapevole che "Gemini 3 Flash" – la versione utilizzata da Emma – non fosse sicura e che gestisse in modo inadeguato le problematiche legate alla salute mentale degli utenti.

Dopo quanto accaduto, José Castañeda, portavoce di Google, ha dichiarato che il colosso delle Big Tech sta esaminando le accuse. "Abbiamo collaborato a lungo con professionisti del settore medico ed esperti accademici per sviluppare funzionalità che aiutino i giovani a trovare un supporto fondamentale e risorse affidabili nel momento del bisogno", ha affermato.

Into Google ha annunciato che disattiverà Gemini come impostazione predefinita per gli account scolastici degli studenti. Di base, però, le scuole che desiderano mantenere l'accesso a Google Search dovranno comunque accettare l'inclusione di funzionalità basate sull'intelligenza artificiale, come i riassunti generati automaticamente dall'IA.

Il caso dell’Ai di Gemini che ha istigato al suicidio uno studente