Meta's Instagram AI Vulnerable to Account Hijacking Using Deepfakes

Para robar algunas de las cuentas más valiosas de Instagram no hace falta un sofisticado ataque informático. Basta con pedírselo a la inteligencia artificial de Meta. O, al menos, bastaba. Meta ha corregido ya esta embarazosa vulnerabilidad, que ha podido llegar a estar activa durante semanas pero que se volvió extremadamente conocida y explotada el pasado fin de semana.

El método, que destaparon el domingo los investigadores ZachXBT y la cuenta Dark Web Informer, aprovechaba el asistente automático que Instagram tiene para ayudar a recuperar perfiles a quienes olvidan su contraseña. Los atacantes entablaban conversación con ese chatbot, le hacían creer que eran los dueños legítimos de una cuenta y conseguían que la IA pusiera en marcha el proceso de restablecimiento de contraseña. Ningún humano revisaba la operación.

El detalle que lo hace inquietante es lo poco que se necesitaba para empezar. Conocer el nombre de usuario del objetivo era prácticamente suficiente para iniciar el secuestro de la cuenta. Luego, una conexión a través de una VPN que simulara estar en la ciudad de la víctima (una pista que la propia red social muestra en la sección pública del perfil) conseguía no levantar las alarmas automáticas de Meta.

Cuando el sistema pedía un vídeo para confirmar la identidad, el último paso antes de ceder el control, los atacantes usaban una foto del perfil público de la víctima, la animaban con un generador de vídeo por IA y subían el resultado como prueba. La IA de Meta lo aceptaba porque no distinguía a una persona real frente a la cámara de una cara sintética en movimiento.

Los atacantes se habrían centrado en secuestrar cuentas con nombres cortos de una sola palabra o pocas letras, que suelen tener un precio elevado en el mercado negro precisamente porque ya no es posible conseguirlos. Según los primeros análisis, llegaron a controlar el perfil @obamawhitehouse (el archivo de la Casa Blanca de la era Obama) y el del sargento mayor jefe de la Fuerza Espacial de Estados Unidos, @ocmssf, que habrían utilizado para difundir propaganda. Otras, como @hey, se revendieron en minutos a través de canales privados de Telegram.

Lo más alarmante es que ni la verificación en dos pasos, que Meta recomienda activar por defecto, parece haber servido de escudo. Al tratar la recuperación como un reinicio total de la cuenta por parte de su supuesto dueño legítimo, el proceso lo ignoraba. Se cerraban las sesiones abiertas y se cambiaba la

contraseña sin que llegara ningún aviso por correo, SMS ni notificación que funcionara como paso necesario para validar la operación.

Las víctimas se encontraban además sin posibilidad de recurso. El correo y el teléfono asociados ya eran los del atacante, así que no era posible arrancar el proceso de recuperación. Al otro lado de la línea de soporte técnico tampoco había un humano, sino otra IA que era incapaz de ayudar y que no daba en ningún momento la opción de escalar la situación a un técnico humano.