La urgente necesidad de una supervisión global de la inteligencia artificial

Crear una supervisión planetaria de la inteligencia artificial para contener su potencial apocalíptico debería ser la prioridad de cualquier programa electoral. No hay otra. John Carlin invitaba en su artículo de ayer a presionar a los políticos para que se centren en la amenaza existencial de la IA. Porque nos enfrentamos a riesgos locales, regionales, nacionales y globales, pero, hasta ahora, no se había manifestado de forma tan evidente un desafío que ponga en cuestión la propia existencia de la humanidad.

Cada estudio que se publica, cada ex empleado de un gigante de IA que cuenta los motivos por los que ha dimitido despavorido causan un nuevo sobresalto. Quizás el más escalofriante lo provocaran las mismas OpenAI y Anthropic al confesar que perdieron el control, durante unas horas, de bandadas de agentes algorítmicos asilvestrados que colonizaron entornos empresariales sin la supervisión de nadie, haciendo lo que les vino en gana. En el mundo de antes, por menos se acababa en una celda de aislamiento.

Hoy, el foco lo ponemos en la crisis de seguridad que plantea la fabricación de virus a la carta. Francesc Bracero analiza en Sociedad una investigación de la Universidad de Stanford que usó dos modelos de IA para crear los genomas completos de virus capaces de atacar la bacteria Escherichia coli C.

Buenas intenciones aparte, a nadie se le escapa que, igual que esos virus artificiales se han diseñado para combatir patógenos, al crearlos se demuestra que ya es posible fabricar agentes infecciosos que tengan como diana células humanas sanas. En el propio estudio, dos profesores constatan que “no existe la gobernanza necesaria para gestionar de forma segura” estos avances.

No hay gobernanza aún para los aprendices de brujo, pero sí tenemos una gran demanda de esas nuevas tecnologías para darles un uso abyecto. The Wall Street Journal publicó en julio una investigación que constataba que muchas personas piden instrucciones a los chats para fabricarse ellos mismos armas biológicas, y añadía que algunas de las respuestas obtenidas eran muy eficientes.