UE invitada a probar la IA 'peligrosa' de Anthropic, Claude Mythos

El Gobierno español ha sido invitado por la compañía Anthropic, como el resto de países de la Unión Europea, a que accedan a su modelo de inteligencia artificial Claude Mythos, que por primera vez será testado fuera de las fronteras de Estados Unidos y el Reino Unido.

Esta IA ha sido considerada como una herramienta muy peligrosa, porque en sus primeras pruebas identificó cientos de fallos de seguridad importantes en todos los sistemas operativos de ordenador y móviles, por lo que Anthropic decidió a mediados del pasado mes de abril crear un grupo cerrado de empresas como Apple, Google, Microsoft, Nvidia y Amazon, entre otras, en el llamado Proyecto Glasswing, que es al que hora accederán los países europeos.

La agencia de ciberseguridad de la UE, Enisa, mantiene conversaciones ahora con Anthropic para establecer el acceso a este modelo restringido. En este momento se están acordando esas condiciones. Representantes de la Comisión Europea visitaron San Francisco la semana pasada para negociar su entrada en el Proyecto Glasswing, una coalición industrial formada principalmente por empresas estadounidenses que llevan utilizándolo desde principios de abril para detectar y corregir vulnerabilidades de seguridad en sus sistemas.

El lunes, el portavoz de la Comisión Europea, Thomas Regnier, confirmó que la Comisión “mantuvo varias reuniones productivas con Anthropic”. “Acogemos con satisfacción los últimos avances sobre un posible acceso futuro”, comentó el lunes el portavoz, que enmarcó el acuerdo “en la sólida cooperación bilateral y el compromiso de la Comisión con Anthropic”. “Este último avance es de suma importancia para obtener una visión clara de los riesgos potenciales”, añadió.

El director ejecutivo de Anthropic, Dario Amodei, declaró en abril estar entusiasmado con el hecho de que Estados Unidos y sus países aliados puedan utilizar Mythos “para defender Ucrania, para defender Taiwán, para defender las democracias que están bajo ataque”. “Pero no quiero -advirtió- que se vuelvan contra nuestro propio pueblo ni que se utilicen con fines antidemocráticos, ya sea por parte de autocracias o de nuestros propios gobiernos”.

La expansión del Proyecto Glasswing alcanzará aproximadamente unas 150 nuevas organizaciones en más de 15 países, entre las que se encuentra España. Hasta la semana pasada, el modelo de Anthropic había descubierto alrededor de 10.000 vulnerabilidades en su primer mes de prueba. La IA ha multiplicado por diez la tasa de detección de errores de las 50 compañías que han tenido hasta ahora acceso a utilizarlo, mucho más de lo que consiguen de promedio con evaluadores humanos.

Sectores económicos en todo el mundo han expresado su preocupación por la falta de acceso a Mythos, en especial en el sector de la banca. La apertura a los gobiernos de la UE es un primer paso para asegurar vulnerabilidades de ciberseguridad que en estos momentos son desconocidas