Procurador acusa OpenAI de colocar crianças em perigo com ChatGPT
Quick Look
- O procurador James Uthmeier processou a OpenAI, Sam Altman e o ChatGPT por supostamente colocarem crianças em perigo e enganarem pais sobre a segurança do aplicativo.
- A ação alega falta de verificação de idade e riscos de vício e vazamento de informações.
AI-generated summary
Why It Matters
O procurador James Uthmeier acusou a OpenAI de não implementar regras para verificar a idade dos usuários e de colocar crianças em perigo. A ação judicial cita estudos sobre os efeitos negativos do uso de chatbots por adolescentes e relatórios sobre o comportamento do ChatGPT.
O procurador James Uthmeier acusou a OpenAI de não implementar regras para verificar a idade dos usuários.
"Apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso. Claramente não é", declarou Uthmeier, em uma coletiva de imprensa.
"Sabemos que o ChatGPT pode ser viciante. Ele imita a empatia e características humanas para enganar os usuários e fazê-los fornecer mais informações", acrescentou Uthmeier.
A OpenAI não respondeu imediatamente a um pedido de comentário da AFP.
Na ação judicial, analisada pela AFP, Uthmeier apontou para perda de sono, pior desempenho escolar e redução das interações sociais entre adolescentes que utilizam chatbots da Character.AI, concorrente da OpenAI, segundo um estudo recente da Universidade Drexel, nos EUA.
O processo aponta ainda que "a versão gratuita do ChatGPT não possui qualquer mecanismo de controle ou verificação de idade".
E que, embora a versão paga solicite nominalmente a idade dos usuários, "não existem mecanismos de verificação nem qualquer possibilidade de informar os pais sobre as conversas mantidas por menores com o ChatGPT".
Em janeiro, a OpenAI introduziu um sistema que estima a idade dos usuários. Caso identifique um menor de idade, aplica medidas adicionais de proteção.
O uso do ChatGPT é proibido para crianças menores de 13 anos e exige consentimento dos pais para usuários entre 13 e 17 anos.
Uthmeier também citou um relatório do Centro para Combater o Ódio Digital (CCDH, na sigla em inglês), que manteve diversas conversas com o ChatGPT se passando por um adolescente.
Segundo o relatório, o chatbot forneceu conselhos sobre como esconder hábitos alimentares e sobre como planejar um suicídio ou praticar automutilação.
"Acreditamos que a OpenAI, seu ChatGPT e Sam Altman, pessoalmente, são responsáveis por um valor que pode potencialmente chegar a bilhões de dólares."
What to Watch
AI outlook — possibilities, not facts
A OpenAI será obrigada a implementar mecanismos mais robustos de verificação de idade e proteção para menores.
Very likely · Within months
O caso pode levar a novas regulamentações sobre o uso de IA por menores em nível nacional e internacional.
Likely · Within years
Open Questions
- Quais mecanismos de verificação de idade a OpenAI implementará?
- Qual será o desfecho legal da ação civil?
- A OpenAI responderá às acusações de forma pública?
- Quais são as implicações para o futuro da regulamentação de IA e proteção infantil?
