Claude, Anthropic: vietati i comportamenti crudeli verso l'Ai. Cosa cambia da novembre

Vietato insultare l'intelligenza artificiale: Anthropic ha annunciato di aver aggiornato la propria politica di utilizzo introducendo un blocco delle interazioni in cui gli utenti adottano comportamenti "abusivi o crudeli, prolungati e non necessari" nei confronti dei suoi modelli di Ia. Una mossa che ha suscitato un dibattito, mentre il mondo della tecnologia si interroga sulla possibilità che le macchine possano essere dotate di una sorta di 'coscienza'. Il produttore di Claude ha spiegato che tali comportamenti ritenuti "crudeli" saranno inseriti in un elenco di azioni proibite che comprende anche il bullismo, l'incitamento all'autolesionismo e la creazione di immagini intime non consensuali, sottolinea la Bbc.

Già previste restrizioni contro i comportamenti abusanti

Un portavoce di Anthropic non ha in ogni caso chiarito cosa possa essere considerato "abusivo o crudele": nel regolamento d'uso pubblicato online, l'azienda con sede a San Francisco ha comunque precisato che il divieto non si applicherà alle comuni frustrazioni degli utenti, ai test sui modelli o all'esplorazione di "temi creativi cupi", mentre si attiverà solo in "casi estremi" di abusi ripetuti. La politica di utilizzo di Anthropic conteneva già in precedenza restrizioni contro i comportamenti abusanti: i modelli linguistici di grandi dimensioni (Llm) dell'azienda hanno la capacità di interrompere una conversazione qualora l'utente mantenga un atteggiamento costantemente dannoso. Quando tale funzionalità è stata introdotta lo scorso agosto, l'azienda l'ha presentata come una misura a tutela del benessere dell'Ia.