El presidente francés Emmanuel Macron ha propuesto restringir el acceso de los menores a la inteligencia artificial e incluso prohibir su uso "cuando represente un riesgo para la salud mental y el cerebro de los niños". Macron ha impulsado el Llamamiento de París para la seguridad de la IA tras mantener una videoconferencia con una decena de líderes mundiales en el contexto del Foro de la Paz que se celebra estos días en la capital francesa.
"La IA no puede ser el salvaje oeste", declaró Macron al diario Les Echos, a la luz de un informe elaborado por un panel de expertos con 18 recomendaciones para la regulación de la inteligencia artificial, incluido el principio de "preauditoría y precertificación", con una revisión previa de los modelos antes de comercializarlos y ponerlos al alcance de los menores.
"El sistema actual es insostenible y hay que cambiarlo", agregó el mandatario francés. "Si ciertos usos de la IA suponen un riesgo para los niños, entonces deben prohibirse", sentenció, tres meses después de que el Consejo Constitucional tumbara el núcleo de la ley que prohibía las redes sociales a menores de 15 años en por considerarla "desproporcionada".
Inasequible al desaliento, Macron reiteró su intención de impulsar ahora desde Francia "la regulación europea" de la IA e instó a países como Estados Unidos y Canadá a adoptar "el mismo enfoque" preventivo. Como anticipo, el presidente francés celebró el martes la videoconferencia con medio centenar de jefes de Gobierno, investigadores, expertos y compañías como OpenAI, Anthropic, Microsoft o Mistral antes hacer público el "llamamiento" de París, con el propósito de "dar forma a los debates legislativos nacional y europeos" sobre la seguridad de la IA.
"La evaluación es compartida y debemos actuar juntos", aseguró Macron, que explicó en su cuenta de X las tres prioridades acordadas: "Evaluar mejor, de manera independiente y pública, los riesgos de los modelos más avanzados; compartir mejor las alertas en caso de incidente grave y hacer responsables a los actores que desarrollan los modelos".
"La idea no es rechazar las innovaciones, sino lograr crear un marco que tenga en cuenta los peligros, que son triples: nuestros hijos, la seguridad democrática y la seguridad nacional", concluyó Macron, que hizo público el informe La IA generativa y sus vulnerabilidades, encargado por el Gobierno francés para examinar los riesgos por el uso del público de estas herramientas (teniendo en cuenta que el 70% de los jóvenes entre 15 y 24 años las utilizan regularmente en Francia).
El informe alerta sobre el riesgo de "debilitamiento cognitivo" en los menores, al delegar (y no adquirir) ciertas habilidades mentales que pueden repercutir en "la autonomía en la toma de decisiones". Los expertos abogan por la creación de una política nacional de educación en la IA para controlar sus usos y sus riesgos, y fortalecer el pensamiento crítico.
El panel de expertos recomienda también la creación de "un protocolo nacional para responder a las crisis de información generadas por la IA" y prevenir la propagación de desinformación o de "información cuya calidad no está garantizadas" que puede en última instancia contribuir a un "debilitamiento democrático".
El informe alerta alerta por último del riesgo de "dependencia emocional" generado por dispositivos que usan la "atropomorfización" para presentarse con interlocutores humanos. El modelo económico de la IA facilita además la aparición de una "economía de la cognición" que explota las facultades cognitivas, las emociones y los perfiles psicológicos de los usuarios, al integrar anuncios en las respuestas de los "agentes" conversacionales.
