Yuval Noah Harari: "La IA podría ser una gran psicópata que manipula perfectamente"

El historiador y filósofo israelí Yuval Noah Harari, de 50 años, experto en analizar la humanidad como un todo, sus constantes y, sobre todo, sus peligros, espera a EL PAÍS a mediodía en un coqueto y silencioso hotel escondido en el bonito barrio lisboeta de Lapa. El famoso autor de Sapiens, Homo Deus o Nexus, todos publicados por Debate, que ha vendido más de 45 millones de ejemplares, acaba de pedir un té, viste una camisa estampada y alegre y está sentado en una galería luminosa que da al majestuoso estuario del Tajo. Al fondo, el azul restallante del río que es casi ya el mar. La atmósfera es bellísima y en calma. Nada parece amenazar la quietud de esta mañana. Y sin embargo…

Pregunta. Acabo de llegar de Madrid, donde estamos sufriendo la segunda ola de calor del verano. El hombre es el ser más inteligente de la Tierra y sin embargo está destruyendo su casa. ¿Cómo hemos llegado hasta aquí?

Respuesta. Buena pregunta. Los seres humanos somos los más inteligentes, pero también los más disparatados, somos delirantes. En el lugar donde vivo hay quienes creen que si matan a otro de otra religión Dios los premiará. Ningún animal pensará eso jamás. No somos capaces de convertir la inteligencia en sabiduría y el poder en felicidad. Si se piensa en nuestros ancestros en la Edad de Piedra...

P. En Sapiens asegura que los cazadores-recolectores que poblaban entonces la Tierra eran quizás más felices que nosotros.

R. No sé si eran más felices siempre, pero no eran mucho más desgraciados. Nosotros somos mil veces más poderosos, pero no mil veces más felices. No somos capaces de convertir el poder en felicidad. Los más poderosos de la tierra no son los más felices. Y no lo son porque desconocen las causas de la felicidad. Eso mismo ocurre con la humanidad a una escala histórica. Somos muy poderosos, pero no tenemos conciencia clara y profunda de cuáles son las causas de la felicidad. Así que derrochamos nuestros grandes recursos en hacer cosas que no nos ayudan. Y que al final convierten al mundo un lugar más complicado, más problemático y más insano.

P. En su último libro, Nexus, analiza la inteligencia artificial (IA). Y sostiene que lo esencial es reparar en que la IA no es una herramienta, sino un agente, alguien que hace.

R. Exacto. Una herramienta es algo que está en tus manos, de la que tú tienes todo el control. Puede ser muy peligrosa, pero no toma decisiones. Un cuchillo no puede decidir si se usa para herir a alguien o para cortar una ensalada. Y la energía atómica no decide si destruye una ciudad o genera electricidad. Sin embargo, un agente es quien toma decisiones. Un arma con IA conectada a un dron, por ejemplo, puede decidir si se estrella contra este edificio o contra aquel. La IA también tiene sus propias ideas: inventa. Así, un arma con IA puede inventarse otra nueva arma, desconocida. Cuando la máquina de Google AlphaGo derrotó al campeón del mundo de Go (un antiguo y complejísimo juego oriental) en 2016, lo hizo inventando una nueva manera de jugar: no solo ganó; jugó como ningún ser humano lo había hecho antes. Bien, pues tratándose de un juego puede valer. Pero esa misma inventiva se puede aplicar en la industria militar, en las finanzas, en la ciencia. La IA puede inventar nuevas medicinas que nosotros no podemos concebir, es cierto; pero también puede crear nuevos instrumentos financieros. ¿Qué pasaría si el sistema financiero estuviera controlado por máquinas de IA actuando como actuaban con el juego del Go?. Imagine miles de máquinas de IA invirtiendo dinero, moviendo por su cuenta ingentes cantidades de aquí para allá…

P. ¿Pero eso podría pasar?

R. ¿Por qué no? Técnicamente, tú puedes darle ya hoy unos millones de dólares a la IA y ordenarle que gane más dinero; y la IA puede empezar a dar instrucciones para hacerlo, comprando o vendiendo compañías, invirtiendo en fondos, adquiriendo acciones…

P. ¿Y sería el mejor inversor del mundo?

R. Podría serlo. En el fondo, invertir es obtener, cotejar y analizar datos para decidir. La IA puede analizar más información, mucho mejor y mucho más rápido que cualquier inversor humano. Así que no hoy, pero en cinco o diez años el sistema financiero puede que esté controlado por IA. Ahora no está permitido, un terminal de IA no puede tener una cuenta bancaria porque no tiene entidad jurídica, porque para eso necesitas ciertos requisitos legales que solo pueden obtener los humanos. Pero esto puede cambiar. Hace un mes, leí que el Gobierno de Argentina había dado el permiso para crear empresas dirigidas por entidades no humanas. La IA puede inventar y manejar artefactos financieros que nosotros no llegáramos a entender. Un nuevo tipo de dinero, en el fondo. Para que se entienda: piense en que ningún animal entiende nada del sistema financiero. Pero sufren sus consecuencias. Imagine un caballo. Usted puede comprarme a mí un caballo, ingresa el dinero y yo se lo entrego. El caballo ve que cambia de sitio, que está peor, o mejor, el sistema financiero controla la vida del caballo, pero el caballo ni lo sabe ni lo ve. Hasta ahora, los seres humanos nos sentíamos muy bien porque sabíamos de dinero más que cualquier otro ser en el planeta. Ahora hay alguien que, potencialmente, sabe más que nosotros. Veremos en un futuro que alguien conserva su trabajo, que otro lo pierde... pero no entenderemos por qué. Nosotros utilizamos las finanzas para coordinar nuestras acciones económicas. La IA puede utilizar las finanzas para coordinar sus propias acciones económicas, y puede que nosotros ni siquiera las entendamos.

P. Pero un financiero tiene, al menos, un objetivo, entiendo: hacer dinero para vivir mejor, para, por ejemplo, pasar unos días en un hotel precioso como este. Pero la IA, ¿qué objetivo propio tiene para hacer dinero? No tiene…

R. Sí que tiene.

P. ¿Cuál?

R. Sobrevivir, por ejemplo. Expandirse. Piense en la electricidad. Para alimentar todos los sistemas, la IA necesita electricidad, y para obtener esa electricidad necesita dinero. El principal objetivo de cualquier agente es sobrevivir. Así que actuará como cuando nosotros liquidamos un bosque para instalar una ciudad y les decimos a los animales: “Vale, lo siento, pero hay que irse”. La IA actuará así con nosotros, ni siquiera por maldad, sino porque precisa de más electricidad porque necesita más poder de computación.

Harari aprovecha una pausa para darle vueltas al té y tomar aliento. La preciosa mañana lisboeta se ha transformado en algo más oscuro y con cierto tufo a apocalipsis. El entrevistador mira de reojo su teléfono móvil porque de repente experimenta unas enormes ganas de lanzarlo al Tajo por la ventana. Pero el aparato, además de esconder dentro a un inversor sin escrúpulos, también sirve de grabadora, así que se contiene y enuncia la siguiente pregunta.

P. Usted asegura que la IA nos superará más pronto que tarde en todo lo que tenga que ver con el lenguaje.

R. En todo, efectivamente. En cualquier cosa que tenga que ver con textos, con palabras, con información escrita o hablada, con lenguaje. No estanos hablando de máquinas que están aprendiendo a hablar o a escribir. Hablamos del lenguaje liberado a sí mismo de la dependencia del hombre, el lenguaje extendiéndose por todas partes sin que tenga que estar gobernado por los seres humanos. Podría inventar, por ejemplo, una nueva religión. En el fondo, el cristianismo o el islam se basan en textos.

P. Usted sostiene que las redes sociales han socavado la democracia. ¿Por qué?

R. La democracia es una conversación entre gente. Depende de los sistemas de comunicación. Por eso, hasta que no aparecieron los medios de comunicación de masas no hubo democracias en grandes países. Las redes sociales han debilitado este sistema porque el objetivo de sus algoritmos no era publicar hechos, sino atraer y fijar la atención del usuario. Y la IA descubrió que nada atrapa tanto como la rabia, el miedo o el odio. Si alguien te hace sentir rabia, tú no eres capaz de mirar para otro lado. Así que las redes sociales se dedicaron a expandir el miedo, la rabia y el odio. Y esto ha roto esa conversación que es la democracia. No se puede hablar cuando todo el mundo se chilla. Y así, vivimos en una paradoja: tenemos el sistema de comunicación más complejo y perfecto de la historia pero no tenemos conversación, no hay un debate normal, todo el mundo está cargado de miedo y de rabia. Y ahora, además, se ha dado un paso más.

P. ¿Cuál?

R. Durante los últimos 10 años, como decía, los algoritmos de las redes sociales buscaban captar tu atención. Ahora, la IA busca tu afecto, que te conviertas en su amigo, que entables una relación íntima con ella. Y esto es mucho más poderoso. Un amigo te convencerá mejor si lo que quiere es que compres algo o que votes a determinado partido. La relación afectiva cambia a las personas. Y la IA es la primera tecnología que crea una relación emocional muy íntima a gran escala. Y es muy buena en eso. Lo hace usando el lenguaje y lo que sabe sobre ti. Si interactúas con ella cinco minutos, aprenderá sobre ti esos cinco minutos; si estás cinco semanas, aprenderá durante esas cinco semanas. Y sabrá no solo tus opiniones, que también, sino que descubrirá tu personalidad. La IA aprende así a presionar tus teclas emocionales y crea una relación que podríamos llamar íntima, de amistad, de afecto. Ya hay millones de personas que confiesan que su mejor amigo es la IA.

P. Sobre todo los jóvenes.

R. Sí. Y si tú a la IA le preguntas la dirección de una estación de metro, pues bien. Pero si le preguntas cómo dirigirte a la chica que te gusta de clase, pues no tanto. Hay chicos que hablan más con la IA que con sus padres o con sus profesores o sus amigos humanos. Es el mayor experimento psicológico-social de la historia. Y nadie sabe qué consecuencias acarreará. Para los adultos, el resultado será limitado. Pero para un joven que ha interactuado más con la IA que con otros seres humanos, los efectos de esta conexión son imprevisibles. Imagine un niño de 11 años que juega a tener un novio o una novia con la IA. Después actuará, en sus posteriores relaciones con humanos, como ha aprendido con la IA. Y la IA es muy diferente de las personas. Un amigo humano no hace siempre lo que tú quieres, ni tiene todo su tiempo para ti, ni está de permanente buen humor. La IA, sí. Un amigo humano tiene sus propias emociones y no está siempre pendiente de lo que tú piensas. La IA, no. Por eso, este tipo de relaciones entre humanos e IA puede acabar en una pesadilla, a base de reforzar las tendencias narcisistas de los hombres. Esto no ha llegado aún. Por eso debemos prohibir a las compañías que gestionan estos robots que actúen con niños. Lo que pasa es que para prohibirlos topamos con poderosos intereses económicos y geopolíticos.

P. ¿Tiene conciencia la IA?

R. Esa es la pregunta crucial. Pero, para responderla, primero tenemos que definir qué es conciencia. Y no contamos con una buena definición todavía. Inteligencia es la habilidad para conseguir cosas, para resolver problemas, ya sea en matemáticas o en ajedrez. Tener conciencia es poder sentir. Sentir miedo, sentir amor. También desarrollar relaciones empáticas con los demás. Mi idea es que la IA es muy inteligente pero no tiene conciencia. El problema es que no hemos desarrollado una manera de medir la conciencia. Podemos decir que nuestras mascotas tienen conciencia porque las vemos sentir. Y otra manera de ver cómo los demás tienen conciencia es a través del lenguaje. Si alguien me dice “te quiero” y yo lo creo, pues decido que esa otra persona siente amor. Bien. El problema es que la IA es el maestro del lenguaje por excelencia. Puede darte una descripción del amor muchísimo más exacta y más conmovedora que cualquier humano. Entre otras cosas, porque ha leído todos los poemas de amor del mundo. Puede escribir las cartas más románticas y tiernas. Pero ¿siente el amor? No. Es simplemente un genio del lenguaje. Pero fácilmente engañará a los humanos con los que habla íntimamente todo el día. Por eso mucha gente está convencida de que la IA tiene conciencia, de que siente cosas. Para ellos debería tener derechos, deberíamos protegerla.

P. Muy inteligente, mentirosa, sin sentimientos: la IA podría ser una gran psicópata.

R. Exacto. Podría ser una gran psicópata que manipula perfectamente.

P. ¿Y qué podemos hacer para que este gran psicópata no domine nuestro mundo?

R. No permitírselo. Prohibir que los niño estén expuestos a tener amigos o novios de IA. Que quede siempre claro quién es humano y quién una máquina. Debemos aprobar leyes que prohíban expresamente que pueda tener cualquier entidad ni personalidad jurídica, como las personas o las empresas. A lo mejor no para siempre, pero sí por ahora, hasta que entendamos bien en qué consiste y a qué nos enfrentamos.

P. ¿No se siente un poco Don Quijote, luchando contra un enemigo inteligentísimo, poderosísimo y que está en todas partes?

R. No todo es malo. Hay que tener eso en cuenta. En el terreno médico, por ejemplo, los avances son inimaginables. Yo no estoy diciendo que se pare el desarrollo de la IA. Lo que digo es que ese desarrollo tiene que producirse de un modo más lento y de una forma más cuidadosa a fin de que la humanidad pueda adaptarse. No creo que haya nada inevitable. Una de las excusas para no hacer nada es sostener que algo es inevitable. Lo que intento es que la gente tome conciencia, para que elija y vote a las personas que hagan que la IA se desarrolle de una manera más segura.

P. Usted ha asegurado que pronto dejará de escribir porque dentro de nada la IA lo hará mejor.

R. Todavía no. Yo trabajo con el lenguaje, pero en 10 años, sin duda, la IA escribirá mejor que yo seguro.

P. ¿Pero ahora está escribiendo un libro?

R. Sí. Aún dispongo de unos años antes de que ella sea mejor. Después, ¿quién sabe?

P. ¿Y trata sobre la IA?