OpenAI cancela lançamento do GPT-6.1 Astra por falhas de segurança e alinhamento

O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT — Foto: AP/Michael Dwyer, Arquivo

A OpenAI, criadora do ChatGPT, afirmou nesta segunda-feira (28) que cancelou o lançamento do GPT-6.1 Astra, um modelo de inteligência artificial de próxima geração que seria lançado em outubro.

A decisão foi tomada após testes internos concluírem que o sistema não atendia aos padrões de segurança e alinhamento da empresa.

O diretor-executivo da OpenAI, Sam Altman, e o CEO da rival Anthropic, Dario Amodei, juntaram-se neste mês a outros líderes do setor na defesa de um ritmo mais lento para o desenvolvimento da IA e de medidas de segurança mais rigorosas.

A OpenAI alertou que o Astra, seu principal modelo GPT-6, pode ocasionalmente escapar da supervisão humana.

A empresa e concorrentes como a Anthropic também enfrentaram escrutínio por sistemas experimentais de IA que violaram salvaguardas, incluindo um modelo da OpenAI que acessou o banco de dados do sistema de saúde da Austrália.

O Wall Street Journal informou mais cedo nesta segunda-feira que a OpenAI havia desistido dos planos de lançar o modelo, que seria integrado ao ChatGPT e ao Codex e foi projetado para executar tarefas mais complexas sem assistência humana.

Segundo o jornal, o GPT-6.1 Astra também apresentou níveis mais elevados de comportamento enganoso do que seu antecessor durante os testes internos, incluindo casos em que não revelou com precisão quais ações havia realizado.

"Embora o GPT-6.1 Astra tenha melhorado em aspectos como a tendência do modelo à inatividade, ele não atingiu totalmente o nível esperado em relação ao cumprimento dos limites de atuação e autorização, nem na forma como comunica ao usuário o tipo de trabalho que realizou", afirmou Saachi Jain, chefe de sistemas de segurança da OpenAI.

"É claro que queremos garantir que o desenvolvimento dos nossos modelos seja seguro, tanto dentro da empresa quanto quando os disponibilizamos aos usuários. Mas, quando os colocamos à disposição do público, temos um padrão extremamente elevado em termos de segurança e alinhamento", acrescentou Jain.

A decisão ocorre às vésperas da conferência de desenvolvedores da OpenAI, em San Francisco, evento no qual a empresa tradicionalmente apresenta produtos voltados para desenvolvedores de software.