IA revoluciona la ciberseguridad: ESET CEO advierte sobre nuevas amenazas y defensas

La conferencia sobre ciberseguridad de Berlín estuvo protagonizada por la IA, como lo estarán los futuros actos de este tipo. Richard Marko es el director ejecutivo (CEO) de ESET, una reconocida empresa de ciberseguridad fundada en Eslovaquia en los años noventa del siglo pasado. Es la más antigua del mundo.

¿Cuál es su visión de la amenaza de la IA?

Nos encontramos ante una nueva situación en la que, con las capacidades de IA, es más fácil utilizarla para atacar que para defenderse. De repente, disponemos de herramientas capaces de ayudar a los atacantes a diseñar su malware de forma más rápida y eficiente, o incluso a crear sistemas autónomos que, básicamente, cuando se fijan algún tipo de objetivo, son capaces de probar diferentes estrategias y adaptarse.

Usted ha calificado el momento de una nueva era.

Nuevas herramientas, nuevos mecanismos para hacer frente a los posibles obstáculos en el camino, y eso es algo que consideramos especialmente alarmante y que requiere un nuevo enfoque de la ciberseguridad. Y por eso lo denomino una nueva era de la ciberseguridad basada en la IA.

¿Qué podemos hacer?

Tendremos que emplear la IA en la ciberdefensa, como hemos estado haciendo durante las últimas dos o tres décadas, pero tenemos que hacerlo de una forma moderna.

¿Cómo se hace eso?

Necesitamos modelos de IA entrenados específicamente con datos de ciberseguridad y optimizados para su uso en este ámbito. Creemos que la respuesta a debe ser una sofisticación a nivel de las defensas, también mediante el uso de la IA, pero, en lugar de depender de los modelos proporcionados por las grandes empresas tecnológicas, estamos invirtiendo en nuestros propios modelos fundacionales.

¿Qué está pasando con los agentes de IA?

Nuestra última investigación muestra que las llamadas habilidades de IA que utilizan sistemas como OpenClaw son simplemente algunas descripciones de lo que el agente de IA debería hacer en lenguaje natural, como “haz esto, haz aquello”. En muchos casos, esto puede ser muy útil. Puede facilitarte la vida al responder automáticamente algunos de tus correos electrónicos, organizar tu calendario y ese tipo de cosas. Así que es una herramienta muy potente.

Para atacar y defender...

Precisamente por eso, también puede utilizarse con fines maliciosos. Ahora necesitamos tecnologías capaces de reconocer e interceptar este tipo de habilidades. Básicamente es solo una nueva forma de malware inesperado y muy singular, porque es solo texto, es solo una descripción que cualquiera puede leer. Y se puede escribir en cualquier idioma, así que se puede escribir en chino, y puede que sea difícil para un investigador entender lo que dice, por supuesto.

¿Qué se puede hacer ante modelos como Mythos, de Anthropic, que encuentra fallos desconocidos en sistemas operativos y navegadores?

No tenemos acceso a él, así que no lo hemos probado. Por lo tanto, solo podemos tener algunas opiniones. Suponemos que es como una versión más nueva de los modelos que hemos visto en el pasado. Es útil tener modelos capaces de identificar vulnerabilidades. Por desgracia, los modelos no proporcionan una solución a eso. Muestran el problema, pero no dan la solución.

Parece una especie de campaña de marketing.

Estoy de acuerdo, y eso pone de manifiesto otra cosa, como que el acceso se concedió a un grupo selecto de empresas y organizaciones. Creo que todas ellas, al menos en un principio, eran estadounidenses. Así que, en la situación geopolítica que tenemos ahora mismo, eso vuelve a plantear preguntas como qué significa esto, y luego para proveedores como ESET, que son internacionales pero proceden de Europa, nos da aún más razones para centrarnos en nuestra soberanía, en ejecutar nuestros propios modelos, que no dependan de lo que hacen las grandes empresas tecnológicas.

¿Existen algunas razones para que seamos optimistas?

Yo no diría que hay motivos para ser optimistas, pero, al mismo tiempo, no quiero dar la sensación de que esto está perdido, como si estuviéramos condenados. En ESET hemos pasado por muchos altibajos, muchos cambios de paradigma a lo largo de la historia, así que simplemente mi experiencia es que siempre encontramos la manera de lidiar con una nueva situación, como este último avance con estos sistemas de IA automatizados que podrían ser potencialmente maliciosos.

¿Cuáles son las capacidades reales de defenderse?

Por el momento veo que podemos tenerlo bajo control, que nuestros sistemas son capaces de responder. Somos capaces de reconocer habilidades maliciosas o sospechosas y pudimos adaptar nuestros sistemas existentes rápidamente, en cuestión de semanas.

¿Deberíamos verlo como una oportunidad entonces?

Las nuevas oportunidades que trae la nueva IA autónoma, en lugar de preocuparnos, deberíamos emocionarnos por ello. Como si decimos: “¡Vaya, eso es increíble!”. Ojalá, quizá algún día la IA haga cosas que nosotros no queremos hacer, en lugar de plantearnos la pregunta: “¿Estamos controlándola de alguna manera que no nos haga daño, verdad?”