Google y los captchas: ¿cómo se usan nuestros datos para entrenar a la IA?

A todos los que navegamos por Internet nos resultan familiares los captchas. Son pequeñas pruebas para demostrar que somos una persona y no un bot. Pueden ser varias imágenes en las que tenemos que pinchar, por ejemplo, en las que aparece un autobús o un tractor; a veces es una pieza de un puzle que hay que colocar en su hueco; otras sencillamente nos piden marcar una casilla que pone “No soy un robot”.

Hay varias empresas que ofrecen un servicio de captchas, que evitan que una página web se llene de tráfico de bots. Pero el principal proveedor de estos acertijos es Google. Y en los últimos meses los focos se han dirigido hacia la compañía por este motivo. Los disparadores fueron un tuit viral y un cambio en las condiciones de Google para los captchas, que la hacía pasar de un rol de controlador de datos al de procesador de datos.

El tuit provocó una avalancha de informaciones en redes sociales y blogs. En ellas se describía cómo Google utilizaba los datos generados por los usuarios para resolver los captchas con el fin de entrenar a su IA. Por ejemplo, seleccionar los autobuses en varias imágenes ayuda a etiquetarlas de forma precisa, con el fin de que el software aprenda cómo es un autobús. Esto sería útil para Waymo, la filial de coches autónomos de Alphabet, que también es la matriz de Google. Pero, ¿hasta qué punto esto es así?

La tesis circula por Internet desde hace años. Y a ello hay que sumar los recelos en privacidad de entidades como el regulador francés de protección de datos (CNIL) o la Oficina para la Supervisión de la Protección de Datos del Estado de Bavaria, en Alemania. La primera aducía que el propósito de los captchas no era solo la seguridad y la segunda sembraba dudas sobre la transparencia en el procesamiento de esta información.

Dado el valor de los datos generados por los captchas, ¿tendría sentido aprovecharlos para entrenar a modelos de IA? “La mayor parte [de captchas] son bases de imágenes que tienen que ver con el tráfico”, apunta Karina Gibert, catedrática de la Universitat Politècnica de Catalunya (UPC), exdirectora y fundadora del centro de investigación Intelligent Data Science and Artificial Intelligence Research Center. “Están altamente vinculadas al reconocimiento de obstáculos, de vehículos y de señales de tráfico en circulación. Esto a nosotros nos conecta mucho con todo lo que necesita ver, entender e interpretar un coche autónomo, que tiene que circular en un entorno donde se encontrará con otros vehículos o con señales de tráfico que debe interpretar”.

El reconocimiento de objetos es uno de los factores esenciales para el desarrollo de coches autónomos. “Cuando despliegas un sistema de conducción autónoma en un entorno real, donde la cámara simplemente puede estar sucia o está lloviendo, tener imágenes donde un humano te ha etiquetado un tractor borroso ayuda al sistema a mejorar su capacidad de detectar tractores”, explica Jordi Nin, investigador del Instituto de Investigación en Inteligencia Artificial. “Lo que hace el sistema es intentar reconocer cuál es el patrón que el humano ha utilizado para etiquetar tractor”. Y es que las personas se pueden equivocar algunas veces, pero al hacer etiquetados de este tipo, se suele enseñar a varios usuarios una imagen. Si muchos indican que aparece un tractor, se da por bueno.

Etiquetar correctamente imágenes borrosas o donde el objeto se percibe mal sirve para manejar con mayor precisión las excepciones. “Tienes que tener una base de datos muy grande con muchas imágenes que tengan semáforos y que aseguren dónde hay semáforo y dónde no lo hay”, comenta Gibert. “Con toda esta base de datos inmensa, pones a entrenar el algoritmo y es capaz de reconocer un semáforo en cualquier posición, desde cualquier ángulo, con nubes, con mucho sol, con lluvia o en la selva”.

El destino de los datos de los captchas

Una de las figuras clave en el nacimiento de los captchas fue el guatemalteco Luis von Ahn, que después sería cofundador de Duolingo. En los 2000 creó el servicio reCAPTCHA, cuyo propósito original era proteger las páginas web mediante pruebas que entonces no podía resolver un programa informático. Así se filtraba a los bots, que ya campaban por Internet. Además, el sistema de captchas tenía otro objetivo: digitalizar libros antiguos. Los acertijos consistían en palabras escritas que, una vez etiquetadas correctamente por los usuarios, ayudaban a un algoritmo a descifrar textos mejor. Eran aún tiempos de ingenuidad digital, con ese fulgor de la experimentación pura y sin cálculos de lucro.

Google adquirió ReCAPTCHA en 2009, expandió el servicio y lo usó para la digitalización de millones de libros y periódicos. Aquella tarea implicaba entrenar algoritmos que leyeran, cada vez con mayor precisión, todo tipo de textos. Durante años la compañía expresó claramente que usaba los captchas para robustecer sus sistemas de inteligencia artificial. En una versión anterior de la página oficial del servicio destacaba el lema “Detén a un bot, construye un bot”. A continuación se podía leer: “Las imágenes etiquetadas por humanos, de alta calidad, se reúnen en conjuntos de datos que pueden utilizarse para entrenar sistemas de machine learning”.

Hace tiempo que esto dejó de ser así, según cuentan desde Google España: “En 2018, el rápido avance de la IA y el cambiante panorama de ciberamenazas marcaron un punto de inflexión. Con el lanzamiento de reCAPTCHA v3, dejamos de utilizar desafíos visuales y ya no usamos las respuestas a los desafíos de reCAPTCHA para el entrenamiento de los modelos”. Hoy, la alusión al entrenamiento de modelos no aparece en la página oficial del servicio y la compañía señala que la recogida de datos solo se produce para la mejora de los captchas.

Sin embargo, persisten algunas dudas. Para empezar, aún hay muchas webs que usan una versión antigua del servicio, que sí servía para entrenar a la IA. Además, reCAPTCHA se divide en dos productos, uno dirigido a empresas, donde las condiciones especifican claramente que los datos recogidos solo se usan para reforzar la seguridad, y otro gratuito. Aquí hay una mayor ambigüedad, pues la versión gratis se regía hasta el pasado mes de abril por la política de privacidad general y los términos de servicio de Google. En algunas páginas web que usan el servicio todavía se puede leer esta mención. Y en las condiciones de privacidad se estipula que los datos de los usuarios podrán usarse para mejorar los servicios de Google o desarrollar otros nuevos. Las puertas se dejan abiertas.

En 2023, un artículo salido de la Universidad de California en Irvine apuntaba que Google estaba usando sus captchas (la versión anterior a la v3) para obtener imágenes etiquetadas y datos de entrenamiento para su IA. Algunas voces se alinean con la tesis de los investigadores firmantes del mencionado paper. “Damos por supuesto que Google los está utilizando para entrenar algoritmos que reconocen elementos en el mundo del tráfico”, señala Karina Gibert.

“Para entrenar un sistema de visión por computador tienes que utilizar algoritmos de aprendizaje supervisado que trabajan sobre bases de datos etiquetadas”, cuenta Gibert. “Para entrenarlos necesitas muchos datos etiquetados. Y con los captchas generas una base de datos etiquetada por humanos de altísima calidad, que crece de forma constante”.

Los especialistas coinciden en que los datos que generarían los captchas son de gran valor. Y Jordi Nin destaca que los datos de entrenamiento de calidad se han convertido en un bien escaso, así como en objeto de deseo: “Google te da sus librerías de entrenamiento de modelos, incluso te da de forma medio gratuita pequeñas instancias para que puedas hacer los entrenamientos, tutoriales y formación. Pero el activo necesario para poder hacer un modelo de la calidad que necesita Google son los datos. Mientras tengan los datos controlados, no les haces competencia”.

El cambio de rol de Google

El 2 de abril Google cambió oficialmente su rol en el servicio de reCAPTCHA. Pasó de controlador de datos a procesador de datos. Al actuar en calidad de procesador, Google ya no puede decidir unilateralmente qué hacer con la información recogida. Tendría que contar con las páginas web a las que ofrece el servicio, que pasan a ser los agentes controladores. Además, la prestación del servicio se regirá por los términos de Google Cloud Platform, más restrictivos en comparación con la política de privacidad y los términos de uso generales.

Gibert pone el acento en otro ámbito. “La implicación más importante es que el controlador de los datos lo distribuyen al usuario”, sostiene. “La página web que incorpora un captcha es la que ahora tiene las competencias de controlador, mientras que Google puede recopilar información y analizarla. Solo han hecho un descargo de que el responsable de un mal uso de los datos sea la persona que pone el captcha en su web”. Parece que las incertidumbres aún no han terminado.