EE. UU. casi aborda un buque chino tras un error de inteligencia artificial

Estados Unidos preparó una operación para interceptar y abordar un buque chino en Oriente Medio después de que un informe elaborado con inteligencia artificial (IA) señalara erróneamente su cargamento como componentes para un programa de armas nucleares, según informó este viernes la cadena CNN.

El incidente ocurrió a comienzos de año, en el contexto de la guerra con Irán, según cuatro fuentes con conocimiento del caso citadas por el medio estadounidense.

Dos de ellas indicaron que militares armados se alistaron para abordar la embarcación, mientras varias aeronaves estadounidenses sobrevolaban la zona.

La operación se suspendió poco antes de ejecutarse, cuando funcionarios estadounidenses revisaron con más detenimiento la información y determinaron que el chatbot que un analista había utilizado identificó de forma incorrecta el material transportado.

Según CNN, la herramienta combinó información de fuentes abiertas con inteligencia clasificada, almacenada por el Gobierno estadounidense, y concluyó erróneamente que la carga estaba vinculada a un programa de armas nucleares. "Las herramientas internas son, en su mayoría, simples copias de las comerciales con un lavado de cara", ha comentado a ese medio un antiguo alto funcionario estadounidense conocedor de los sistemas de inteligencia artificial empleados por los analistas militares y de inteligencia.

La cadena no pudo determinar cuál era la carga real del buque ni si la herramienta era un producto comercial o un sistema desarrollado por el Gobierno de EEUU.

Una de las fuentes calificó el informe de "completamente falso" y afirmó que una eventual intervención contra una embarcación china podría haber provocado una escalada entre Washington y Pekín. "Estuvo a punto de empezar una guerra", apunta la fuente.

El caso se conoce en un momento en que aumenta el uso de herramientas de IA por parte del Ejército y los servicios de inteligencia estadounidenses, así como las críticas hacia esta tecnología.

El fin de semana pasado, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que pidió frenar el ritmo de desarrollo de la industria ante los crecientes riesgos de seguridad de la IA.

El texto se suma a declaraciones en la misma línea de Sam Altman, director ejecutivo de OpenAI, y del multimillonario Elon Musk.