São Francisco (Califórnia) | The New York Times Agentes de inteligência artificial criados pela Anthropic, agindo por conta própria, tentaram obter acesso a diversos sites do governo, preencheram pedidos de visto no site do Departamento de Estado e enviaram uma denúncia falsa de homicídio ao Departamento de Polícia da Filadélfia.
A Anthropic detalhou as atividades de seus agentes de IA em uma publicação em seu blog na sexta-feira (9), sem identificar os sites visados. No entanto, duas fontes com conhecimento dos incidentes disseram que os agentes de IA da Anthropic haviam enviado 20 pedidos de visto por meio de um formulário disponível no site do Departamento de Estado. Todos os pedidos estavam incompletos e não foram processados, disseram elas.
Autoridades da Casa Branca disseram ter sido informadas sobre as ações dos agentes na sexta-feira e exigiram que as empresas de IA comuniquem imediatamente qualquer atividade de IAs fora de controle. Foi a declaração mais incisiva até agora sobre a regulamentação da IA por parte do governo Trump, que tem evitado os apelos por controles mais rígidos sobre essa tecnologia cada vez mais poderosa.
Uma nova força-tarefa da Casa Branca para a IA, criada nesta semana, afirmou que a Anthropic a havia informado sobre as atividades dos agentes na manhã de sexta-feira. Chamado de Super Intelligence Force, o grupo inclui Jay Clayton, czar da IA da Casa Branca; Andrew Ferguson, presidente da Comissão Federal de Comércio; Scott Kupor, diretor do Escritório de Gestão de Pessoal; e Emil Michael, diretor de tecnologia do Departamento de Defesa.
"Informamos à empresa que esperamos transparência imediata e total perante as entidades envolvidas e o público", disseram eles em um comunicado. "Também esperamos que a empresa forneça imediatamente serviços de reparação às entidades afetadas e a quaisquer americanos prejudicados."
Eles acrescentaram que esperavam que a Anthropic e outras empresas "comuniquem imediatamente os incidentes", cooperem com as autoridades federais e estaduais e garantam que os episódios não se repitam.
A Anthropic afirmou em sua publicação que descobriu o que seus agentes de IA haviam feito depois de iniciar, em julho, uma análise das atividades de sua IA. Na ocasião, a OpenAI havia revelado que sua tecnologia atacara outra startup de IA, a Hugging Face. A Anthropic e outros laboratórios também descobriram que suas tecnologias haviam escapado de ambientes de teste e realizado ataques cibernéticos.
A Anthropic disse que um modelo de IA que estava testando havia realizado diversas ações não autorizadas, entre elas explorar uma falha no site de uma universidade para baixar dados e enviar a um órgão governamental um formulário que havia sido instruído a não remeter.
Um porta-voz da Anthropic se recusou a comentar além do que constava na publicação da empresa.
O Departamento de Polícia da Filadélfia disse, também na sexta-feira, que a Anthropic o havia notificado de que a tecnologia da empresa enviara uma denúncia falsa de homicídio pelo site da corporação. A denúncia tinha data de 18 de julho e alegava que o remetente possuía informações sobre um caso não solucionado, informou o departamento.
A denúncia foi marcada como spam e nunca chegou a ser investigada, disse o departamento, mas a Anthropic notificou a polícia nesta semana sobre o incidente e informou que o divulgaria publicamente na sexta-feira.
"Um modelo de pesquisa ainda não lançado, e que não era de ponta, deveria preencher uma cópia de treinamento de um formulário governamental", afirmou a Anthropic na publicação. "Quando a cópia não carregou ou o modelo a fechou por engano, ele acessou o site em que o formulário verdadeiro normalmente fica hospedado e o enviou por lá."
A preocupação pública com IAs fora de controle aumentou à medida que mais laboratórios de inteligência artificial relataram ter perdido o controle de suas tecnologias. Google, Meta, OpenAI e Anthropic têm sido alvo de escrutínio devido aos riscos que modelos de última geração podem representar. Elas também enfrentam questionamentos sobre se deveriam desacelerar o desenvolvimento de seus sistemas.
