Advertencias sobre el uso descontrolado de la IA y sus riesgos para la humanidad

Hace ya tiempo que los expertos en tecnología lanzaron la advertencia de que el uso de la IA estaba totalmente descontrolado y que ello tendrá consecuencias negativas para la propia humanidad. Cada vez se escuchan más voces que piden una moratoria en el desarrollo de la IA, pero claman en el desierto. Y es que hay demasiados intereses económicos que hacen imposible que se pare esta carrera. Hoy mismo publicamos en la sección de Economía que las grandes tecnológicas han triplicado sus beneficios en el primer semestre de este año gracias al impulso de la IA.

Y estas mismas compañías admiten, sin pestañear, que sus propios modelos de IA han ejecutado ataques de seguridad y acciones de piratería contra empresas, de forma autónoma y sin ningún control o intervención humana. El caso más flagrante ha sido el reciente ataque sufrido por la compañía Hugging Face, una plataforma de herramientas de IA, que fue pirateada por un millar de operadores de inteligencia artificial que se coordinaron entre sí para llevarlo a cabo. Suena a literatura de ciencia ficción, pero es la pura realidad. En este sentido, les recomiendo que lean hoy el artículo que nos escribe Ramón López de Mántaras, director del Instituto de Investigación en Inteligencia Artificial, que nos alerta sobre este preocupante e insensato callejón sin salida al que nos están llevando estas compañías. Sam Altman, presidente de OpenAI, la empresa a la que se le escaparon sus IA rebeldes, admitió que la situación le preocupaba “profundamente” y en un pódcast señaló que este fallo de seguridad le había “revuelto las tripas”. Pero ahí siguen. Su competencia en este sector, Anthropic, ya protagonizó un incidente similar.

Es evidente que la IA ofrece amplias ventajas que pueden contribuir a mejorar el bienestar general. Este fenómeno ya es imparable. De lo que se trata es algo tan simple como que su desarrollo sea controlado por los humanos. Y que su uso no se generalice de forma tan simple como sucede hoy. En este sentido, la Generalitat de Catalunya ha elaborado un documento para controlar mejor el uso de la IA en las escuelas y que no afecte negativamente a la formación de los alumnos. Realmente queda mucho por hacer y parece que siempre vamos tarde.