Governo brasileiro alerta para riscos de IA em brinquedos infantis

Governo vê riscos de manipulação emocional e coleta de dados em brinquedos com IA vendidos no Brasil — Foto: Reprodução

O documento afirma que esses produtos podem estar em desacordo com regras previstas no ECA Digital e recomenda que as possíveis irregularidades sejam apuradas.

A pasta recomenda que a Secretaria Nacional do Consumidor (Senacon) e a Autoridade Nacional de Proteção de Dados (ANPD) fiscalizem, entre outros pontos, se fabricantes e lojas informam corretamente os riscos desses produtos e como é feito o tratamento dos dados pessoais coletados pelos brinquedos.

Para elaborar o estudo, a Sedigi analisou seis dispositivos vendidos no Brasil por meio de marketplaces como Amazon, Mercado Livre, Shopee, AliExpress, Magazine Luiza, eBay e Casas Bahia. Os seis dispositivos são:

Loona (pet robótico);

EMO (robô de companhia);

Miko 3 (robô educativo);

Aibi (pet robótico de bolso);

Amazon Fire HD Kid Pro (tablet voltado a crianças de 6 a 12 anos);

e Vector (robô autônomo).

Manipulação emocional e coleta de dados

Segundo a nota técnica, esses dispositivos costumam ter câmeras, microfones e outros sensores capazes de captar informações como biometria facial, voz e até características do ambiente doméstico.

Ao mesmo tempo, usam IA para manter conversas, simular emoções e adaptar suas respostas ao comportamento da criança, coletando dados continuamente durante a interação.

O documento afirma que esse tipo de vínculo pode favorecer a manipulação emocional e incentivar o uso excessivo dos brinquedos.

"Os vínculos estabelecidos com a criança, além de facilitar a manipulação emocional, podem incentivar o uso excessivo do brinquedo e potencialmente expor informações sensíveis a terceiros, sobretudo se houver falhas de segurança", diz a nota.

EMO é um robô infantil com IA que é vendido por R$ 3.084,23 no Brasil. — Foto: Reprodução/Amazon

A nota também cita como exemplo casos internacionais considerados preocupantes. Um deles é o da boneca My Friend Cayla, proibida na Alemanha após autoridades concluírem que ela podia gravar conversas acessadas por terceiros, levando o brinquedo a ser apelidado de "instrumento de espionagem".

O documento também menciona casos de vazamento de áudios de crianças envolvendo o robô Miko 3.

Um dos aparelhos analisados pelo MJSP é o brinquedo Loona, um pet robótico que simula um animal de estimação. O brinquedo utiliza processamento de linguagem natural para entender comandos de voz, é integrado ao ChatGPT, conta com sensores para mapear a casa e usa uma câmera para reconhecer os usuários.

Em relação às plataformas de comércio eletrônico, o Ministério da Justiça afirma que elas também têm responsabilidade sobre a venda desses produtos.

Segundo a pasta, os sites devem informar de forma clara que o brinquedo utiliza IA e garantir que as embalagens e páginas de venda tragam avisos sobre o acesso à internet, os riscos à privacidade e a necessidade de supervisão parental.

"Os fatos relatados apontam para indícios de possíveis irregularidades, de caráter sistêmico, com potencial de afetar direitos fundamentais de crianças e adolescentes, o que recomenda apuração formal", conclui a nota.