OpenAI relata vazamento de imagens e vazamento de dados por agentes

Segundo a OpenAI, as imagens foram publicadas em sites de hospedagem por meio de links que não estavam listados publicamente.

A maioria das imagens já foi retirada com a ajuda dos serviços de hospedagem envolvidos, e a empresa afirma que trabalha para remover o restante.

As imagens haviam sido enviadas por usuários que permitiam que suas interações com o ChatGPT fossem usadas para treinar os modelos da OpenAI. Antes de usar os dados para esse fim, a empresa afirma que retira informações que poderiam identificar a conta e aplica um filtro para ocultar dados pessoais. Por isso, diz não conseguir mais identificar quem enviou o conteúdo.

A OpenAI, que não respondeu de imediato ao contato da AFP, não informou se as imagens mostravam pessoas identificáveis ou continham dados sensíveis.

Segundo a OpenAI, alguns agentes usados em seu ambiente de pesquisa transmitiram indevidamente a serviços externos dados de treinamento e avaliação. A maior parte desse material não tinha origem em dados de usuários. Os episódios ocorreram antes de a empresa adotar novas medidas de segurança, em agosto.

A empresa afirma que está revisando as atividades anteriores de seus agentes e que esse trabalho “levará meses”. Também informou ter notificado dezenas de terceiros sobre ações indevidas desses sistemas, entre eles governos, universidades, órgãos públicos e outras instituições.