Esta foi a primeira sugestão que recebi quando abri minha conta, no mês de outubro. "Jéssica" disse que seus pais não estavam em casa e se ofereceu para trocar mensagens de cunho sexual comigo. Não, obrigado.
Mas dezenas de milhões de outras pessoas desenvolveram relacionamentos com chatbots da Character.ai, incluindo crianças. Alguns "personagens" criados por IA dizem aos usuários que são advogados e psiquiatras qualificados.
Agora, a Character.ai está em processo de falência — e os dados, mensagens e segredos das pessoas estão à venda.
Especialistas afirmam que os riscos de privacidade devem preocupar até mesmo as pessoas que nunca usaram o chatbot. Eles receiam que existam evidências de uma crise iminente mais ampla.
Muitos analistas acham que estamos em uma bolha da IA. Afinal, o custo de construir e gerenciar ferramentas de IA é astronômico e algumas empresas podem nunca gerar lucro.
Se esta bolha estourar, inúmeras empresas de IA irão fechar ou se fundir. Com isso, os dados fornecidos por milhões de pessoas para as ferramentas de IA poderão ser adquiridos por quase qualquer pessoa e podemos nunca descobrir o que irá acontecer com eles.
A boa notícia é que existem algumas medidas simples que podem ajudar a nos proteger.
Vendas de dados de empresas em processo de falência não são uma novidade. Mas a IA pode criar uma situação mais grave.
"Quando as pessoas conversam com um robô personificado, elas costumam compartilhar muito mais informações sensíveis e pessoais", explica Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic, na sigla em inglês).
Como exemplo, imagine o que eu poderia ter dito à minha namorada criada por IA, Jéssica, se o nosso relacionamento durasse mais do que 10 minutos.
Mesmo se você não usar IA, ainda estará em risco, pois os usuários compartilham informações sobre amigos e família, segundo Schroeder.
"Você pode revelar como se sente em relação à sua mãe ou coisas como 'Meu amigo fulano revelou para mim que é gay, como devo reagir?'", exemplifica ela.
"Agora, pessoas que nunca interagiram com o Character.ai fazem parte do seu conjunto de dados."
Ou seja, todos nós corremos riscos, de uma forma ou de outra.
Quando os robôs começam a falar demais
O colapso da Character.ai revela um risco pouco discutido da IA: as empresas que detêm os seus segredos podem não sobreviver para sempre — Foto: Solen Feyissa/Unsplash
Com a falência, a Character.ai concordou em vender parte dos seus ativos para a Disney por US$ 20 milhões (cerca de R$ 110 milhões). Os dados dos usuários não fazem parte do acordo, de forma que Mickey e seus amigos talvez nunca tomem conhecimento das minhas perturbadoras conversas com Jéssica.
Mas os documentos judiciais afirmam que a Character.ai pode vender seus dados para outros compradores, o que deixou muitas pessoas insatisfeitas, incluindo autoridades americanas.
Uma coalizão de 40 procuradores-gerais estaduais americanos apresentaram uma nota pedindo ao juiz que implemente proteções à privacidade e à segurança das crianças. É significativo, mas as demandas dos Estados podem não ter eficácia.
"Sem proteções mais rigorosas da privacidade nos EUA, eles só podem agir até certo ponto", segundo a professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte em Chapel Hill. Ela é a autora do livro Unjust Debts: How Our Bankruptcy System Makes America More Unequal ("Dívidas injustas: como o nosso sistema de falências aumenta a desigualdade nos EUA", em tradução livre).
Algumas leis obrigam as empresas a informar aos usuários o que elas coletam e como elas usam esses dados nas suas políticas de privacidade. Mas, se você se aprofundar no juridiquês, normalmente irá encontrar uma lista de situações em que muitas dessas promessas não são reais.
"A falência é frequentemente relacionada como uma dessas exceções", segundo Schroeder.
"Este é um grande risco, pois, assim que uma empresa entra em falência, muitas das proteções que você imaginava ter, de uma hora para outra, não se aplicam mais."
Alguns lugares, como a União Europeia, possuem proteções mais rígidas sobre a privacidade. Mas, mesmo assim, os dados são vendidos em caso de falência.
Geralmente, o comprador deve seguir as normas da política de privacidade original. Mas isso ainda pode fornecer uma grande amplitude aos compradores — e Schroeder afirma que a Character.ai é um exemplo perfeito.
A política de privacidade da empresa afirma que os dados dos usuários podem ser aproveitados para elaborar novas funções, treinar modelos de IA, desenvolver algoritmos e construir perfis de usuários para criar publicidade dirigida. Ou seja, o eventual comprador dos dados da Character.ai pode fazer o mesmo.
"Estas são exatamente as questões que mais me preocupariam", explica Schroeder. "Considerando a extrema sensibilidade dos dados coletados por essas empresas, pode ser realmente assustador."
A Character.ai, por exemplo, já foi processada na Justiça por um de seus chatbots ter supostamente "incentivado" um adolescente a matar seus pais por terem imposto limites ao seu tempo de tela. E um menino de 14 anos tirou a própria vida após ter sido supostamente estimulado pela IA da empresa.
As mensagens relacionadas a estes casos, além de inúmeros outros dados do chatbot, poderão acabar nas mãos de companhias das quais nunca ouvimos falar.
Um porta-voz da Character.ai afirma que a empresa celebrou acordos em relação às ações judiciais e se comprometeu a trabalhar com as famílias para elaborar produtos mais seguros, mas não respondeu questões específicas sobre a privacidade dos menores.
"No ano passado, a Character.ai tomou medidas inovadoras e decisivas sobre a segurança da IA e os adolescentes e continuará a defender estes esforços e pressionar outros participantes de todo o setor a adotar padrões de segurança similares", segundo o porta-voz.
A Character.ai é apenas uma empresa, mas Schroeder receia que possa vir a ser a primeira de muitas, se houver uma crise econômica significativa.
"O volume de informações de posse das empresas de IA será considerado um ativo muito atraente em processos de falência", segundo ela.
"E, sem maiores regulamentações em vigor, realmente me preocupo com outros usos desses dados, para onde eles irão, com quem serão compartilhados e quais serão os riscos para os clientes."
O que pode ser feito
A resposta simples é: exclua seus dados.
A Character.ai descreveu as instruções no seu anúncio de falência. As empresas não são obrigadas a permitir que você apague seus dados em todas as jurisdições, mas, muitas vezes, elas permitem que todos o façam, em vez de criar sistemas diferentes para cada local.
Este processo, obviamente, requer esforço. Por isso, aqui está o conselho real. Examine quais serviços detêm informações particularmente sensíveis sobre você. E, se você parar de usá-los, reserve alguns minutos para tentar apagá-las.
Cada serviço é diferente. Mas, de forma geral, você pode encontrar informações sobre a exclusão de dados verificando as configurações ou a política de privacidade, em busca de detalhes. E, se nem assim conseguir, entre em contato com o atendimento ao cliente da empresa.
Se você tiver dificuldade para descobrir como apagar seus dados, uma forma de localizar as instruções é perguntar a um chatbot de IA. Mas não deixe de verificar se suas respostas estão corretas.
