OpenAI demite pesquisadores e alega violação de sigilo; funcionários dizem que priorizaram segurança

A empresa se manifestou depois que os pesquisadores Jasmine Wang, Tomek Korbak e Mikita Balesni divulgaram uma carta sobre as demissões. No documento, eles argumentam que a decisão repentina pode gerar insegurança entre os funcionários e enfraquecer a liberdade que os pesquisadores tinham para apontar problemas de segurança.

A OpenAI negou que as demissões tenham relação com críticas ou alertas sobre segurança.

“Nossa investigação interna revelou uma quebra de confiança significativa, que vai além do que está descrito na carta publicada por eles, e mantemos a decisão de encerrar seus contratos”, afirmou a empresa.

Segundo a OpenAI, discussões sobre segurança e pesquisa fazem parte da rotina da companhia e são incentivadas, mesmo quando envolvem críticas duras.

A empresa não detalhou quais regras os pesquisadores teriam descumprido. Na carta, Wang, Korbak e Balesni negaram ter sido a fonte de uma reportagem publicada no mês passado pelo site The Information sobre preocupações com a segurança do Astra, o modelo de inteligência artificial mais recente da OpenAI.

As demissões ocorrem em meio a alertas de pesquisadores e ex-pesquisadores da OpenAI, do Google DeepMind e da Anthropic. Eles afirmam que as empresas fazem pouco para prevenir os riscos de sistemas de inteligência artificial capazes de se aperfeiçoar sozinhos, que podem se tornar difíceis de controlar por humanos.