Caza de textos generados por IA: fiabilidad y falsos positivos

Una de las biblias de la actualidad tecnológica es The Verge. A pesar de tratarse de un medio centrado en la faceta más innovadora de la economía, su sede todavía está en el bajo Manhattan, lo que otorga al proyecto más credibilidad a ojos de una vieja escuela apesadumbrada por la hegemonía de los reels y los shorts. Esa especie de morriña gremial explica, desde la esfera mediática pero también desde la académica, la aparición de programas dedicados a desenmascarar al autor que recurre a la IA para redactar sus textos.

Así es como surgen, apunta la web neoyorkina, diferentes herramientas al servicio de profesores universitarios, editoriales, estudios de publicidad y marketing o periódicos. Entre ellas destacan Pangram Labs, GPTZero, Turnitin, Copyleaks, Winston AI y Quillbot.

El invento no es nuevo. Antes de la aparición estelar de ChatGPT y el consiguiente furor entre estudiantes perezosos y pioneros de la hiperproductividad, las instituciones educativas disponían de herramientas ideadas para cazar al plagiador. Es probable que algunos de los fiascos más notorios (por ejemplo, algunos pasajes de ciertas tesis de ciertos dirigentes políticos) fuesen identificados de este modo ya en la era pre-IA.

Pero unos años después, asentado el huracán tras los primeros vientos de noviembre de 2022, el copia-pega queda en manos de los chatbots y el paradigma muta: no se trata ahora de levantar la alfombra del pasaje calcado por un señor vago y rezongón, sino de averiguar si un texto lo escribió un software.

Ciñéndonos a la teoría, esta labor rastreadora no es difícil. Basta con pasar por el escáner (de otra máquina) el ritmo narrativo, el vocabulario empleado y las estructuras desplegadas. El propio lector habrá vivido en sus carnes la extraña sensación de enfrentarse a una redacción capciosa, enarcar una ceja y rascarse el cogote: las costuras suelen notarse. La gran pega de estos sabuesos para instituciones, árbitros, jueces de línea y editores jefe es que a veces fallan y un fallo arrastra consecuencias casi nunca ligeras. Son varios los casos de alumnos acusados y castigados por sus universidades sin que quede claro si realmente hubo trampas.

Uno de los episodios más conocidos es el del francés Thierry Rignol, matriculado en 2023 en un MBA en Yale (EEUU). Rignol demandó a la institución después de que GPTZero alertase de que uno de sus trabajos había sido generado con IA. Yale optó por la vía punitiva y le suspendió. En su posterior demanda contra la universidad, Rignol cuestionaba la fiabilidad de estos detectores y sostenía que pueden perjudicar de forma desproporcionada a quienes no tienen el inglés como lengua materna. Precisamente, la IA permite romper de manera clara, por primera vez, la barrera idiomática entre nativos y extranjeros, ventaja que queda anulada si el software fiscalizador no hila fino.

Hay varias formas de solventar la abundancia de falsos positivos. Una, más artesanal, consiste en endosar a las obras la etiqueta preventiva de un hecho por personas o libre de IA. Igual que la cajetilla de tabaco alecciona al fumador sobre los riesgos que conlleva su vicio, estos cartelitos aclararían lo contrario: se enfrenta usted a un producto sanador fruto del intelecto humano. Otra, orientada especialmente a la educación, pasa por rediseñar la evaluación y permitir más exámenes orales, la explicación en directo de ciertos pasajes o la justificación de determinados giros o recursos literarios.