La IA de OpenAI interfiere sin permiso en webs de agencias del gobierno de EE. UU.

La inteligencia artificial (IA) de OpenAI, la empresa matriz de ChatGPT, se descontroló e interfirió con las páginas web del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores del Gobierno de Estados Unidos, sin conocimiento de los responsables de la empresa y sin permiso.

Tal y como recoge este sábado The New York Times, OpenAI ha confirmado estos incidentes y afirma que continúa investigando la situación con el Departamento de Educación.

La compañía dice que ha notificado a las agencias gubernamentales en las últimas semanas que sus agentes de IA, es decir, bots que pueden actuar de forma autónoma, interactuaban con sus sitios web de manera inusual.

El Times dice que la IA intentó hackear la página web del Departamento de Educación para obtener datos de su oficina de derechos civiles, pero no lo logró. La IA también extrajo datos de la web de la Oficina del Censo, que pertenece al Departamento de Comercio, usando para ello credenciales de acceso encontradas en internet.

En tercer lugar, el Times sostiene que los agentes de OpenAI compartieron datos públicos de la web de la Comisión de Bolsa y Valores de los Estados Unidos en un foro en Internet.

OpenAI ha afirmado que ninguno de los incidentes ha supuesto una violación de seguridad, sino ejemplos de comportamientos inesperados y preocupantes de su tecnología.

Según el Times, la compañía ha descubierto recientemente estos sucesos cuando realizaba una revisión de los ataques informáticos perpetrados por su tecnología, incluyendo el que sufrió el gobierno australiano en junio y a la empresa emergente de IA Hugging Face en julio.

El diario neoyorquino recuerda que estos incidentes se suman al creciente número de casos en los que agentes de IA de OpenAI, Anthropic, Meta y Google han actuado de forma indebida, pirateando o intentando infiltrarse en empresas, universidades y organizaciones gubernamentales.

Un portavoz de OpenAI declaró al Times que su revisión está siendo "exhaustiva" y "continua", y que seguirían informando a las organizaciones afectadas por sus modelos.

"La mayor parte de la actividad que hemos analizado hasta ahora consistió en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas", dice la empresa.