La marca de agua de Anthropic y el fantasma de los nuevos 'pinchadores de brujas'

Durante las ordalías que sacudieron Europa en la Edad Moderna nació un oficio peculiar y decisivo a la hora de que los jueces enviaran a la hoguera enormes cantidades de carne humana. Los llamados pinchadores de brujas aseguraban ejercer una práctica completamente científica, fruto del estudio y la experiencia, basada en la asunción de que el Maligno dejaba en la piel de los suyos una marca invisible e insensible al dolor: el stigma diaboli. El historiador Julio Caro Baroja describe así en Las brujas y su mundo la actividad a principios del siglo XVII, coetánea de los sucesos de Zugarramurdi, de uno de estos witchfinder, como serían conocidos en Inglaterra. En concreto, de un anónimo cirujano de Bayona: "Llegó a ser muy práctico en la observación de las marcas de los brujos, en la que el juez creía ciegamente. Vendaba los ojos a las brujas que había de examinar y las pinchaba con una aguja. Cuando llegaba a encontrar un punto insensible, la prueba estaba hecha".

La ansiedad generalizada a cuenta del anuncio de que Anthropic introducirá una marca de agua invisible y persistente en el texto generado por su modelo de IA Claude, que ya muchos han denunciado como una nueva caza de brujas, se ha extendido esta semana por las redes y también arrastra su propio stigma diaboli y sus respectivos pinchadores de brujas. En este caso, la marca es real, pero el problema sigue siendo el mismo, como en el caso del crédulo magistrado Pierre de Lancre: la fe en lo que tal señal pueda demostrar.

La carrera armamentística que está devastando la escritura humana arrancó el 30 de noviembre de 2022 cuando, acosada por graves presiones económicas, la OpenAI de Sam Altman decidió lanzar al mercado ChatGPT, un producto en el que no confiaba demasiado y que antes Google había barajado y arrinconado. El impacto fue temible. De pronto, una máquina era capaz de escribir sola, tal vez peor que los profesionales del oficio, pero indudablemente mejor que la mayoría. ¿A cuenta de qué seguir esforzándose en algo tan exigente como poco agradecido?

Primero cayeron los mails en manos de la IA generativa. Después las redes sociales como Linkedin, donde los escasos humanos yerran como sombras entre millones de grafómanos robots. Y más tarde todo lo demás: marketing, trabajos universitarios, prensa, libros, ¡literatura! Los escándalos brotan por todas partes, relatos ganadores de prestigiosos premios como el de Jamir Nazir en Granta llenan de oprobio el prestigioso galardón al descubrirse podridos de IA, novelas compradas en EEUU con anticipos millonarios como Shy Girl, de Mia Ballard, son sorpresivamente retiradas al emanar el hedor de la escritura robótica y hasta un ensayo de Steven Rosenbaum sobre la necesidad de defender la verdad en los tiempos de la IA es hundido en la miseria al descubrirse plagado de mentiras alucinadas por IA.

Los pinchadores de brujas que persiguen aquí la marca diabólica de la escritura artificial son los célebres detectores. La primera generación, la de los GPTZero, Originality.ai, Turnitin AI o Copyleaks que se vendieron a editoriales y universidades como peritos digitales a la caza del fraude, metían la pata constantemente y podían acusar a Homero y Cervantes de urdir sus obras inmortales gracias al aprendizaje automático.

El destrozo dejó cifras. En 2023, un estudio de Stanford comprobó que siete detectores de uso corriente señalaban la autoría robótica del 61% de los textos escritos en inglés por hablantes no nativos. Un año después, Brian Porter y Edouard Machery reunieron en Nature Scientific Reports a 1.634 lectores que, puestos a separar poemas de IA de poemas canónicos, acertaron el 46,6%, menos que una moneda al aire, y además rebajaron la nota de cualquier verso en cuanto se les decía que era artificial. La etiqueta condenaba sola. Ya lo dejó escrito Caro Baroja al resumir la Cautio Criminalis con la que el jesuita Friedrich Spee, confesor de condenadas a la hoguera, denunció en 1631 aquella otra cacería: "Los encargados de esta justicia extraordinaria tienen que descubrir reos y delitos para justificar su labor".

Ahora Pangram brinda una detección casi milagrosa que apenas da falsos positivos, aunque puede trucarse con un poco de trabajo para lograr falsos negativos. Dicho esto, no es 100% exacta. Aunque plataformas como Substack acaban de incluirlo, no sin resistencias, difícilmente valdrían para mandar a un doctorando a la hoguera.

Y, de pronto, toda una generación de escritores que no escriben y que se sentían seguros como perezosos directores de orquesta de sus escribientes artificiales, entran en pánico cuando Anthropic anuncia que todos sus modelos de IA lanzados desde el 2 de agosto llevarán incorporada una marca de agua invisible y persistente con un procedimiento técnico pasmoso: una sutil variación estadística del texto generado que resistirá al cortapega y a una edición no muy tenaz. Solo una reescritura completa destruirá la marca y, para eso, ¿notaría mejor escribirlo tú directamente?

La justificación de Anthropic para cabrear a sus clientes con tan impopular medida es que debe cumplir la Ley 2024/1689 de la Unión Europea, en vigor precisamente desde el 2 de agosto y que exige identificar el contenido sintético. Y también, en fin, que el resto de competidores va a pasar por el aro. Algunos, como OpenAI, Google, Meta, Microsoft y Mistral, ya firmaron el Código de Buenas Prácticas de la UE sobre transparencia del contenido generado por IA. El único gran laboratorio occidental que no lo ha hecho es la xAI de Elon Musk, la creadora de Grok, el primito macarra de la IA (Arcadi Espada dixit).

En foros y mentideros digitales cunde también una sospecha. ¿Es posible que lo de la marca de agua que Claude va a introducir en los textos que genera, y que ha vuelto loco a todo el mundo, no tenga que ver con la ley europea como dicen, sino que sea una prevención contra ataques de destilación, con los que un modelo le roba a otro su alma, de lo que se acusa a las IA chinas?

Pero es que, además, todo esto de marcar la escritura es un follón. Por un lado, el artículo 50 tiene dos niveles: el del laboratorio que marca (50.2) y el de quien publica y divulga (50.4). Este segundo piso exime justo a quien revisa y firma con responsabilidad editorial... pero la marca anunciada se imprime injustamente igual. Se puede imprimir, por ejemplo, cuando usas la IA como correctora de estilo de un texto plenamente tuyo, algo que hoy es prácticamente obligatorio para cualquier profesional.

¿Qué procedimiento merece realmente ser marcado? ¿Supone todo esto un arreglo real del problema de la confianza, el clásico efecto Bruselas en acción o la escenificación de un impostado teatro de la seguridad? ¿Acabaremos con la caza de brujas y la era de las acusaciones falsas o quedará consagrado un mundo de dos niveles donde solo los laboratorios pueden verificar qué es humano? Hablamos con dos de los analistas independientes de IA más brillantes y seguidos de las redes: Andriy Burkov y Andrew S. Curran.

Según Curran, "la marca de agua puesta por el propio laboratorio es una señal de procedencia mucho mejor que intentar inferir el uso de IA por el estilo de alguien o fiarse de un detector de terceros. El problema es que la ausencia de marca tampoco prueba nada: puedes generar algo, editarlo, parafrasearlo en parte, traducirlo a otro idioma y de vuelta; hay muchas maneras de enturbiar el agua. El problema principal no es técnico. Es social. Ningún detector va a hacer que la gente deje de sospechar que hay IA en todo y la ve en cada sombra. Y cada vez van a tener más razón: a partir de ahora, casi todo el trabajo creativo llevará al menos algo de IA".

Burkov por su parte, advierte que "esta marca de agua solo puede leerse con fiabilidad en textos muy largos. Se basa en medir distribuciones de palabras y de n-gramas, así que en una frase o un párrafo no funciona. En un artículo de prensa devolverá una puntuación que no puede usarse con fiabilidad para detectar contenido generado por IA. Además, una simple paráfrasis con otro modelo bastará para reducir aún más esa fiabilidad. En resumen: si la puntuación de presencia de la marca va de 1 a 100, en la práctica nunca llegará a 100, lo que la hace inútil, por ejemplo, en un tribunal".

Abres Claude o ChatGPT, le arrojas una montaña de datos, prompteas directrices, líneas y probablemente qué conclusiones deseas obtener. Enter. Después firmas sin remordimientos el resultado generado. Ay, pero ahora ese resultado incluye una marca de agua de la empresa que te vende el modelo. ¿Eso significa que ya no es tuyo? "La marca de agua no dice de quién es el texto", aclara Burkov. "Si un LLM generó un texto para ti a petición tuya y tú pones tu firma debajo, el copyright es tuyo, no de Anthropic. Tu copyright solo podría impugnarse si alguien viera que ese texto es una copia casi idéntica de otro, y eso la marca de agua no lo muestra".

Curran tampoco duda y augura, de hecho, un futuro mixto, en el que lo aportado por el humano y la máquina se fundirán en un todo indistinguible: "El humano es el autor. Si yo escribo un artículo o un relato y le pido a una IA que lo edite o lo pula, eso no transfiere la autoría a la IA, igual que no se la transferiría recibir exactamente la misma ayuda de un editor humano. No creo que al final seamos capaces de desenredar todo esto, y a medida que la gente crezca acostumbrada a que la IA forme parte del proceso creativo, el texto, la música, el cine y el arte se entenderán cada vez más como colaboraciones entre humanos e IA".

Por todo esto ambos analistas coinciden en que "nada acabará de verdad con las acusaciones falsas, salvo el paso del tiempo y la aceptación de que la IA forma parte del proceso creativo, y de que es una herramienta importante para ayudar a la gente a materializar su visión", como dice Curran, aunque Burkov teme que, a corto plazo, las marcas de agua pueden agravar el problema: "Antes uno podía decir: 'Este detector de IA hecho por una startup sin nombre no es fiable', y funcionaba. Ahora es la empresa que produjo el texto la que dice: 'Aquí veo mi marca de agua', y eso puede tomarse como una verdad indiscutible por parte de gente que no entiende que no es una prueba binaria, es una puntuación".

La derivada más inquietante lleva la firma de un viejo idealista de la red. Jimmy Wales, fundador de Wikipedia, advirtió esta semana en X de que, con un texto suficientemente largo, la marca podría identificar algo más que al modelo: también a la persona que le encargó escribirlo. Wales anticipa ya el siguiente movimiento de la partida, una estampida hacia los modelos de pesos libres, dominados hoy por China, que corren en local, sin sello ni registro.

"Todo artista tiene partes del oficio en las que flojea", concluye Curran, "como el diálogo, la estructura, la composición o cualquier otra. La IA apuntalará cada vez más esas debilidades y dejará a cada uno concentrarse en lo que mejor hace. Una marca de agua puede mostrar que una IA intervino, pero no puede establecer que un humano no ideara la obra. Y con el tiempo sospecho que esa distinción importará cada vez menos. Al final será una rareza, una curiosidad, que en una obra no haya intervenido ninguna IA".