Um movimento curioso está acontecendo entre empresas de tecnologia que investem em inteligência artificial: elas estão criando formas para que os próprios usuários denunciem conteúdos feitos com IA ou identificando com mais clareza quando uma publicação foi produzida com a tecnologia.
A questão envolve a pressão por regulação, a tentativa de "limpar o feed", e até a sobrevivência do modelo de negócio dessas plataformas, afirmam especialistas ouvidos pelo g1.
Uma das questões centrais é a facilidade para criar conteúdos com IA. Segundo Elizabeth Saad, professora da Escola de Comunicações e Artes da Universidade de São Paulo (ECA-USP) e pesquisadora de IA, as ferramentas são projetadas para serem simples de usar e atrair cada vez mais pessoas.
Mas a falta de esforço fez com que esse tipo de material se espalhasse rapidamente, mesmo que a qualidade do resultado seja questionável. É o que analistas chamam de "AI slop".
O que é AI slop? É o nome dado à enxurrada de conteúdos de baixa qualidade feitos com IA. São textos, imagens, vídeos e músicas publicados em massa nas redes, muitas vezes sem sentido ou com pouco valor para quem consome, mas criados para atrair visualizações e gerar dinheiro para seus criadores.
Recentemente, o LinkedIn passou a exibir um botão para denunciar postagens feitas com IA. Em português, ele se chama... "Parece lixo de IA".
"Estamos desenvolvendo uma série de classificadores novos e aprimorados que identificam se uma postagem é lixo de IA. Isso vai reduzir a quantidade de conteúdo de IA que você pode ver nas recomendações e fora da sua rede", defendeu o diretor de produto da empresa, Hari Srinivasan, em um post.
A plataforma de newsletters Substack anunciou uma ferramenta que estima, em porcentagem, quanto de um texto foi escrito por IA. O leitor pode ver se o conteúdo foi produzido 100% por pessoas, se recebeu ajuda da tecnologia ou se foi totalmente gerado por ela.
A novidade faz parte de uma parceria da empresa com o Pangram, software de identificação de textos produzidos por IA.
O Claude, IA rival do ChatGPT, também gerou polêmica ao anunciar que passaria a identificar textos e imagens criados com sua tecnologia para se adequar ao AI Act, lei da União Europeia que estabelece regras para conteúdos feitos com inteligência artificial.
Até o Snapchat disse, no fim de julho, que deixará de recomendar publicações totalmente geradas por IA. A nova regra vale para o Spotlight, um feed semelhante ao TikTok onde usuários publicam vídeos curtos e verticais.
"Não se trata de rejeitar IA", afirmou o Snapchat. "Sabemos que ela desempenha uma parte importante do processo criativo e acreditamos que ela pode desbloquear novas formas incríveis de expressão. Portanto, conteúdos que foram aprimorados ou editados com IA do Snapchat continuarão elegíveis para recomendação e incluirão indicadores de transparência", completou.
Em maio, o Google também anunciou que mais empresas adotariam o SynthID, tecnologia da companhia que ajuda a identificar imagens e vídeos criados por IA. Entre as parceiras estão a OpenAI, dona do ChatGPT, além da Kakao e da ElevenLabs. Segundo a empresa, todas vão incorporar o SynthID a seus produtos.
O YouTube, que vinha ampliando o uso de IA entre seus criadores, agora está mais cauteloso. A plataforma decidiu retirar a monetização de vídeos genéricos, com histórias repetitivas de IA e que não se diferenciam de outros conteúdos já publicados pelo mesmo canal, segundo o portal de tecnologia Mashable.
Para o YouTube, os vídeos precisam trazer histórias diferentes, explicações e ensinamentos que realmente agreguem ao público. A mudança faz parte de uma estratégia para combater a produção em massa de conteúdos de baixa qualidade.
Além desses casos, TikTok e Instagram já permitem que os usuários identifiquem, em suas próprias publicações, quando elas foram feitas com o auxílio de IA.
No dia 2 de agosto, entrou em vigor uma nova regra da União Europeia: o artigo 50 do AI Act (Regulamento de Inteligência Artificial da União Europeia), que determina que conteúdos gerados ou manipulados por IA sejam identificados de forma clara.
A mudança ajuda a explicar por que tantas plataformas anunciaram novidades relacionadas à identificação de conteúdo gerado por IA nos últimos meses, analisa Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação.
"Toda plataforma grande que atende usuários europeus tinha esse prazo pela frente. A onda de anúncios entre maio e julho deste ano, como o rótulo da Meta em maio e o do LinkedIn em julho, acontece perto demais dessa data para ser coincidência de calendário de produto", afirma.
Para o especialista, as big techs estão olhando para a ética, mas, principalmente, para os impactos financeiros de não deixarem claro o que é real e o que foi gerado artificialmente em seus serviços.
"As plataformas entendem que, quando o feed enche de conteúdo genérico, a assinatura paga pelo usuário perde valor. Além disso, conteúdos feitos com IA e não identificados aumentam os riscos jurídicos, regulatórios e de reputação para elas", diz.
Essas empresas também estão preocupadas com a reputação de suas marcas. Quanto mais conteúdo ruim circula, maior é a impressão de que essas ferramentas só produzem publicações falsas, afirma Elizabeth Saad.
Um episódio recente ajuda a ilustrar esses riscos. O Google lançou uma ferramenta de IA capaz de criar imagens falsas a partir de registros reais de satélite do Google Earth, serviço que permite visualizar imagens da Terra.
A empresa voltou atrás e retirou o recurso após identificar que usuários estavam criando imagens de desinformação, como cenas falsas de guerras em locais reais. "Estamos revertendo esse recurso no Earth enquanto trabalhamos na implementação de proteções mais fortes", disse a empresa em comunicado.
Para a professora Elizabeth Saad, as pessoas aprendem a usar as novas ferramentas de IA com uma rapidez impressionante, o que acelera o ciclo de produção e consumo de conteúdos gerados pela tecnologia.
Como ainda não há uma regulamentação ampla para essas ferramentas, muitas empresas já estão se antecipando a possíveis problemas legais e questionamentos, afirma.
Mas a tendência é que esse movimento continue. Para o professor Edney Souza, a disputa entre quem cria modelos de IA e quem desenvolve ferramentas para identificá-los está longe de acabar.
"Tem uma corrida escondida nisso também. Cada geração nova de detector esbarra numa geração nova de modelo melhor em escapar dele. Então, essa infraestrutura de rotulagem vai continuar mudando por um bom tempo e não deve se estabilizar em um padrão único tão cedo", diz.
Elizabeth concorda. Segundo ela, o desenvolvimento de ferramentas para identificar conteúdos gerados por IA é contínuo e deve acompanhar a evolução dos próprios modelos.
