Román Orús: "La IA es una tecnología estratégica, geopolíticamente hablando"

Empecemos por el principio. Para quien no le conozca, usted es físico, trabaja en computación cuántica, es empresario y ahora forma parte de un panel de la ONU sobre IA. ¿Cómo se presenta?

Yo soy Román Orús. Soy científico, soy físico, soy profesor Ikerbasque en el Donostia International Physics Center (DIPC) y soy cofundador y director científico de Multiverse Computing. Ahora, además, soy uno de los 40 integrantes del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas.

¿Qué pesa más en su mirada sobre la IA: el científico, el emprendedor o el ciudadano preocupado por el impacto de esta tecnología?

Un poco de todo. El panel es esencialmente científico. Todos los que estamos ahí somos científicos. Es muy heterogéneo: hay tres o cuatro físicos, hay mucha gente que viene de machine learning y de informática, hay matemáticos, filósofos e incluso una periodista. En mi caso particular, yo creo que pesa mucho mi parte científica, la conexión con otras tecnologías como puede ser la computación cuántica y luego la visión global que tengo de la IA también desde el lado industrial. Yo soy científico, pero no soy un científico al uso, en el sentido de que también soy emprendedor y ahora estamos haciendo muchos temas de inteligencia artificial conectada con cuántica. Yo creo que eso también pesa mucho.

Ha comparado la inteligencia artificial con el proyecto Manhattan. ¿Qué es exactamente lo que deberíamos temer: la tecnología, quién la controla o la velocidad a la que se está desplegando?

La IA es una tecnología estratégica, geopolíticamente hablando. Es una nueva revolución industrial lo que estamos viviendo, igual que en el siglo XIX, pero en otro ámbito. Ese es el motivo por el que la considero el ‘nuevo proyecto Manhattan’: del mismo modo que la energía atómica e incluso la bomba atómica, la IA es una tecnología muy potente, muy poderosa. Hoy en día la guerra no va de lanzar bombas, va de información. Y, por tanto, la IA es una tecnología estratégica ya que, como otras tecnologías —como puede ser la computación cuántica—, las regiones que la desarrollen van a tener una ventaja estratégica respecto a las que no la desarrollen. Es una herramienta fundamental.

¿Por este motivo se crea el panel de la ONU?

Este es uno de los motivos que preocupa a la ONU. Es una tecnología que se está desarrollando muy deprisa. Yo creo que decir que va exponencialmente rápido es quedarse corto. Las cosas cambian de una semana para otra. Todo sucede muy rápido. Estamos viendo una transición tecnológica sin precedentes. Nadie podía esperarse esto. Debido a la velocidad del cambio y al impacto tan profundo que tiene en todos los niveles de la sociedad, no solamente en el tecnológico, sino también en el social, en la posible desigualdad económica, la brecha social, qué va a pasar con el trabajo... hay que sentarse y pensar hacia dónde va todo esto, cómo va a ser la gobernanza, cómo se va a regular, etcétera.

Pensar es un primer paso, pero ¿se puede gobernar?

Entre otras cosas, esta es una tecnología que está mayormente en manos de empresas privadas. No son iniciativas gubernamentales. Hay un motivo para esto: para desarrollar estos modelos hace falta mucho capital y este capital lo tienen las empresas privadas, no los gobiernos. Creo que hay que regular la IA, pero hay que regularla bien. No hay que frenar la adopción y el desarrollo, todo lo contrario. Lo que hay que hacer es una regulación que fomente la adopción y fomente más el desarrollo. Es como ponerle cinturones de seguridad a los coches: si tú tuvieras coches sin cinturones de seguridad, no podrías circular de forma segura por la autopista. Pues eso es lo que queremos. Como decía aquel antiguo anuncio, ‘la potencia sin control no sirve de nada’.

Esto es como decir que ‘no se puede dejar suelta a la IA’, ¿qué significa eso en la práctica? ¿Y cómo regulamos sin constreñir?

Es un reto. Eso ya les corresponde a los gobiernos y a los políticos, no a los científicos. Ya me gustaría a mí saber cómo se puede hacer esto bien. Hay propuestas encima de la mesa, pero lo que está claro es que no se puede dejar sin más, porque entonces es una selva sin control. Ahora estamos viendo que la IA ofrece oportunidades, por supuesto, pero también riesgos. Hay que tener mucho cuidado porque, si se lleva bien y se encarrila por el camino correcto, vamos a tener un desarrollo tecnológico y social espectacular durante los próximos años. La verdad es que es un privilegio estar vivo en esta fase de la humanidad para poder verlo. Pero, si no lo hacemos bien, va a pasar todo lo contrario: vamos a descarrilar de forma catastrófica.

¿Cuáles son esos riesgos?

Ya estamos viendo que la IA también tiene sus peligros. Estamos viendo, por ejemplo, la creación de contenido falso a escala, que, además, en combinación con las redes sociales, es un arma de doble filo. Se puede moldear la opinión de la sociedad de países enteros en función de intereses privados o de personas concretas. También afecta a la ciberseguridad. Por ejemplo, el último modelo de Anthropic, Mythos, no se ha hecho público porque se han dado cuenta de que es demasiado potente y si cae en las manos equivocadas puede tener consecuencias desastrosas.

¿Hay algún riesgo de la inteligencia artificial que se esté infravalorando?

La creación de contenido falso. El otro día leía que, en Instagram, entre el 5 % y el 20 % del contenido está completamente desarrollado por inteligencia artificial. Es fake. No es que lo hayan retocado: es que es enteramente falso. En TikTok es mucho peor, todavía hay más. Y eso lleva a la desinformación. Es un problema grave.

¿Podemos fiarlo todo a la IA?

Hay que tener la mentalidad abierta, pero también hay que tener mucho espíritu crítico. No te puedes creer todo lo que te dice la inteligencia artificial. La IA tiene errores. Hay que saber entender cuándo se equivoca. El hecho de que tengamos una máquina que da respuesta a todo aparentemente, no significa que todo lo que diga sea factualmente correcto. Ahí es donde entra la labor del ser humano de discernir: esto está bien y esto parece que no. Entonces, la gente va a tener que desarrollar un poco más, o poner más en práctica, lo que viene a ser el espíritu crítico, para no creerte todo lo que te dice un modelo de IA a priori.

Entonces, ¿la inteligencia artificial nos va a hacer más inteligentes?

O más tontos, depende de a quién preguntes [ríe]. Mira, te voy a decir una cosa: ¿sabes por qué Sócrates no escribió ningún libro? Todo lo escribió Platón y sus discípulos. Sócrates no escribía ningún libro porque temía que los libros iban a acabar con la inteligencia humana. Él lo memorizaba todo y, claro, escribirlo en un libro era un horror. Estaba completamente en contra de esa tecnología brujesca que había aparecido, que era escribir un libro. Aquí es algo parecido. Ahora tenemos máquinas que piensan por nosotros. ¿Nos va a hacer más inteligentes o más tontos? No lo sé. Yo creo que nos va a hacer diferentes. Esto es como una máquina de calcular, pero con esteroides. En lugar de tener que hacer todos los cálculos de memoria, te los hace la calculadora. Con la IA, en lugar de tener que escribir un reporte súper largo o estar dos semanas preparando una presentación, la tienes en cinco minutos y tú te puedes dedicar más a lo que importa. Quiero creer que por lo menos parte de la sociedad va a evolucionar hacia ser más inteligente.

Se habla mucho de los cambios en lo laboral, ¿qué hay de la educación?

La forma que tenemos de aprender y de estudiar también cambiará. Ahora mismo, el que no aprende es porque no quiere. En ese sentido, yo lo veo positivo. Pero, como decía antes, hay que fomentar mucho el espíritu crítico, porque no puede ser que todo lo piense la IA y yo me dedique a no hacer nada.

Volvamos a su trabajo en la ONU. Este panel se crea para orientar la gobernanza global de la IA, pero las grandes decisiones tecnológicas las están tomando empresas privadas y unos pocos países. ¿Qué puede hacer realmente un panel científico internacional frente al poder de OpenAI, Google, Meta, Anthropic, Microsoft o los gobiernos de EE. UU. y China?

Lo primero que hay que decir es que este panel tiene que existir, porque alguien tiene que advertir de lo que está pasando. La ONU es un mecanismo de alerta temprana y nosotros somos la bisagra entre el mundo científico, que está viendo exactamente qué es lo que pasa, sin hype y sin ningún filtro, y el plano político, que es más el de la gobernanza. Naciones Unidas ha creado el panel y otro organismo que llaman el Diálogo Global sobre la Gobernanza de la IA. Ellos van a coger los informes que hagamos nosotros para hacer política y regulación. Después les tocará a los gobiernos de turno decidir hasta qué punto lo aceptan o no, o si lo implementan o no. No son organismos que puedan imponer cosas a los gobiernos, pero se tiene que hacer. Es como los acuerdos sobre energía atómica: hay países que los suscriben y otros países que no. Aquí sucederá lo mismo, pero quiero entender que mayormente lo harán.

¿Calará en Silicon Valley?

Las empresas de Silicon Valley es probable que vean el informe y digan: “¿Y a mí qué?”. Pero sí que es cierto que las empresas están sujetas a regulaciones de los gobiernos en donde actúan. Cada vez es más tangible que el poder se está acumulando, más que en los gobiernos, en una especie de tecnocracia en la que hay agentes —las grandes corporaciones tecnológicas— que están acumulando muchísimo poder porque tienen mucha capacidad de desarrollo, de influencia, etcétera. A mí me da la sensación de que esto es una evolución del capitalismo. Habrá que ver hacia dónde va.

¿La sociedad es suficientemente consciente de esto?

No lo sé. La gente igual se tendría que plantear quién manda más: la presidenta de Europa o Elon Musk. No se trata aquí de mandar o no, se trata de cuánto poder tienes. Elon Musk, por supuesto, con las empresas que tiene, tiene una capacidad de empuje descomunal que probablemente la presidenta de Europa no tenga. A una la hemos elegido democráticamente y el otro es un empresario que ha montado un imperio, que también tiene su mérito. No me estoy metiendo con Elon Musk. No sé hasta qué punto la sociedad es del todo consciente de esto, pero yo creo que en parte sí, porque claramente están estas grandes corporaciones tecnológicas que están acumulando mucho poder. Una posible solución —yo no digo limitarlo, porque eso sería ir en contra del libre comercio— es intentar fomentar que surjan más, para que exista más competencia. Si solo hay una, dos o tres grandes empresas tecnológicas, obviamente todo este potencial tecnológico está muy concentrado. Pero, si surgen más y los gobiernos apoyan para que surjan más, estará más distribuido.

¿Es eso lo que ocurre en la industria de la IA?

Sí. Los grandes actores en IA son empresas norteamericanas y chinas. En Europa, ahora mismo, la cosa está más rezagada. No obstante, se están apoyando muchas iniciativas europeas para que surjan campeones europeos y ponerse a un nivel competitivo. También están saliendo más empresas en Estados Unidos. Tiene que existir competencia, que haya más, para que se reparta un poco más y no haya tanta concentración de poder.

¿Y qué podemos hacer desde Europa y, en última instancia, desde España, para entrar más en ese juego?

Europa y España lo que tienen que hacer es apoyar las iniciativas que surjan, regarlas, por así decir, para que crezcan y puedan empezar a competir con las grandes empresas. Es difícil competir con un monstruo como OpenAI, que cierra rondas de muchos billones de dólares, pero en algún instante hay que empezar y también hay que creérselo. Tiene que ser una estrategia de país, de continente, porque es una tecnología geoestratégica. Hay que apoyar a los campeones locales y a la gente que tiene potencial y capacidades para poder crear este tipo de modelos, estas iniciativas. Crear modelos de IA es muy caro porque conlleva un gasto energético muy grande. Esa es otra discusión: yo, como científico, creo que estos modelos no son más que la punta del iceberg y que, aunque parezca que son muy capaces y muy potentes, no hemos empezado a ver más que lo primero que se puede hacer, porque ahora son excepcionalmente ineficientes. Creo que se pueden hacer muchísimo mejor.

¿Apoyar a campeones locales es solo una responsabilidad gubernamental?

No, tienen que estar apoyados también por el capital privado. Eso es fundamental. La financiación pública de los gobiernos tiene que servir para disminuir el riesgo, para apalancar financiación de capital riesgo, que es lo que hace crecer a las empresas muy rápido. Así es como han nacido todas las grandes tecnológicas en Estados Unidos y así es como tienen que salir también en Europa. No hay otro mecanismo que pueda funcionar. Tiene que entrar capital privado. Si no entra capital privado, es imposible crecer a la velocidad que esto requiere.

Este panorama que dibuja me recuerda a lo que ha ocurrido en el espacio: el New Space aboga por romper con el estilo de las megacompañías haciendo todo y buscar soluciones pequeñas a problemas concretos en empresas emergentes. ¿Sería lo mismo?

Sí, completamente. El sector de la IA es enorme. No son solamente los supermodelos tipo ChatGPT o Claude. Es todo un ecosistema. En un lado del espectro están los modelos megagrandes, que saben de todo. Pero, en el otro lado, están los nanomodelos, los modelos muy pequeñitos. Esos son los que van a estar integrados en los dispositivos: en el teléfono, en el reloj, en el coche, en un dron, en un robot... haciendo así que tengamos IA en todas partes, hasta en la tostadora. Esos modelos locales (que no se van a tener que conectar a la nube) son modelos pequeños que hacen tareas específicas, no tienen por qué saber de todo. Si tienes un modelo de IA en tu nevera, por ejemplo, no hace falta que tu nevera sepa de la teoría de la relatividad. Tu nevera tiene que saber de cosas que debería saber una nevera: de qué te falta dentro, de por qué se te han puesto malos los huevos o de la temperatura adecuada para conservar alimentos.

Entrenar y operar grandes modelos cuesta cada vez más energía y dinero, ¿la IA puede convertirse en una tecnología insostenible si seguimos apostando por esos megamodelos? ¿Serían esos modelos pequeños una manera de solucionar ese problema?

Completamente. Esto es una reflexión como físico: los modelos, tal y como los estamos desarrollando ahora, son extremadamente ineficientes. Consumen energía de forma espectacular. Entrenar GPT-4, dos versiones antes del que tenemos ahora, le costó a OpenAI más de 100 millones de dólares en factura de la luz. Hoy en día eso ya nos parece poco, porque creo que GPT-5 le costó 1.000 millones en factura de la luz. Es una barbaridad. Tú ves la naturaleza y dices, qué mal lo estamos haciendo, porque la inteligencia biológica funciona mucho mejor. A un niño no le tienes que poner una central nuclear al lado para qu