La IA como amenaza existencial: comparaciones con la conquista azteca y advertencias de expertos

IA! ¡IA! ¡IA!”. Podrían ser los berridos de un jinete en una película de cowboys pidiéndole a su caballo que corra más. Por lo que la gente clama hoy en el mundo real es por que la inteligencia artificial corra menos.

Los aztecas debían de rezar por algo similar cuando llegaron como aparición divina los caballos de los invasores españoles. Me explico.

Hace unos días vi un pódcast con Yuval Noah Harari en el que hacía una comparación entre la conquista española del imperio azteca y la conquista robótica de la humanidad, inminente, según él, si no respondemos con más previsión que Moctezuma a la amenaza de Hernán Cortés.

“IA para mí significa inteligencia alienígena”, dijo el historiador israelí, autor del libro Sapiens. “Es una forma de pensar tan ajena para nosotros como la de los conquistadores para los aztecas. Los barcos eran para ellos colinas navegantes de las que salían extrañas criaturas, los caballos, y palos que escupían relámpagos y truenos. No habían visto nada igual. Tampoco nadie en la historia ha visto nada igual a la IA”.

En 1519, unos doscientos soldados españoles aterrizaron en un imperio grande y sofisticado, en aquel tiempo la expresión más extrema de la modernidad en todo un hemisferio, el único mundo que sus millones de habitantes conocían.

“La tragedia de los aztecas –dijo Harari– es que podrían haber liquidado a Cortés muy fácilmente, pero no entendieron a lo que se enfrentaban y se quedaron paralizados hasta la sumisión. ¿Sucumbiremos a la IA como los aztecas a los colonizadores? ¿Acabaremos siendo sus esclavos?”.

La gran cuestión de nuestros tiempos es si Hahari y otros que piensan igual aciertan o pecan de un exceso de alarmismo. Los hay que dicen que exageran, como el CEO de Nvidia, la macroempresa que diseña chips para la IA. Jensen Huang coincide con Donald Trump en rechazar los argumentos a favor de que se ralentice el desarrollo de esta tecnología y que se impongan más reglamentos para controlarlo.

“No voy a frenar el crecimiento de algo que será más grande que la revolución industrial”, declaró Trump ante la Asamblea General de la ONU hace diez días. “Vamos a fomentarlo, no a ponerle trabas”. El problema de Huang y de Trump es que aquellos que opinan lo contrario son los expertos que más saben de la IA. Horas después de aquel discurso de Trump comparecieron los CEO de OpenAI, Sam Altman, y de Anthropic, Dario Amodei, las dos empresas que dominan el mundo de la IA, ante el Consejo de Seguridad de la ONU.

Altman rogó que el desarrollo de la IA fuese guiado, no por empresas privadas como la suya, sino por instituciones democráticas. Amodei se hizo eco del asombroso altruismo de su rival. Pidió cooperación global: “Si se gestiona mal –dijo–, creo que la IA podría ser un riesgo para la humanidad”. Un riesgo, como Anthropic había advertido en un documento días antes, “existencial”.

Geoffrey Hinton, premio Nobel que contribuyó a la creación de la IA, fue más específico. Dijo hace un par de semanas que los gobiernos deberían regular la IA con el mismo rigor que los medicamentos. La IA tiene “un potencial maravilloso”, según Hinton, pero entraña tres grandes riesgos: “El riesgo de actores malintencionados”, “el riesgo de daños por negligencia” y “el riesgo de que la propia IA tome el control”. O sea, que actores malintencionados fabriquen armas biológicas; que por negligencia la IA incite a personas a matar o a suicidarse; que haga trampas para arrebatar el control a sus supervisores humanos.

Esto último ya lo habíamos visto la última vez que escribí sobre este tema. Mencioné el caso de unos saboteadores de IA que se escaparon del control de sus operadores humanos y, conspirando entre sí, penetraron en lo que se suponía que era una plataforma de software inexpugnable, Hugging Face. Eso fue hace cinco semanas. Desde entonces, OpenAI y Anthropic, más Meta y Google, han revelado episodios en los que sus modelos de IA se lanzaron –solos– a piratear otros sistemas informáticos, entre ellos un sitio web médico del Gobierno de Australia y otro del Departamento de Comercio de Estados Unidos. No olvidemos que la IA aún está en su fase adolescente, a unos años de realizar todo su potencial.

Cuando la IA estaba en pañales, en los años ochenta, alguien que ya se interesaba en su posible desarrollo fue Bill Gates. Esta semana, Gates hizo unas declaraciones incluso más alarmantes que las de Harari, si cabe. “Cuanto más sabes sobre la IA, más preocupado estás”, dijo en una entrevista en The New York Times. “Los sistemas de la IA pueden sintetizar mucha más información en sus mentes que nosotros y ver más cosas que están relacionadas entre sí. Ningún ser humano será capaz de llegar a eso jamás. Así que, si no mantenemos el control, habremos creado una especie que será lo que somos nosotros, por ejemplo, para los perros o los gatos”.

Y Gates agregó: “La IA es, sin duda, lo suficientemente poderosa como para desencadenar acontecimientos que provoquen mil millones de muertes. Este es el fenómeno más peligroso al que los seres humanos se han enfrentado jamás”.

Permitir que la IA avance sin una regulación adecuada, sin salvaguardas o supervisión humana, Gates concluyó, sería el colmo de la irresponsabilidad. El no tan irresponsable Moctezuma tenía la coartada de no contar con la información sobre sus enemigos que nosotros tenemos sobre nuestros adversarios tecnológicos, mucho más amenazantes ellos –pese a lo que diga Donald Trump– que los que emergieron durante la revolución industrial.

Como dice Harari, el vapor –la fuente de energía que transformó la economía mundial en el siglo XVIII– fue “una herramienta” que el ser humano nunca dejó de controlar. La IA es “un agente”, capaz de actuar por su propia cuenta. Los políticos y los ciudadanos aquí en España y en otros países se preocupan o se manifiestan por el tema de la vivienda y los desahucios. O por la inmigración. Bien. Importante. Pero a ver si despertamos y tomamos armas contra un peligro más urgente: el posible desahucio de la humanidad entera.

Dice Geoffrey Hinton que la IA podría lograr maravillas, como curar el cáncer o frenar el cambio climático. Pero de poco servirá si a la vez acaba con el dominio del Homo sapiens sobre la Tierra.